主页 / 社会 > 维权 > 正文

欧盟起草AI监管法规 硅谷巨头纷纷窜访游说

2020-02-25 00:12:01   来源:科技生活在线   评论:0   [收藏]   [评论]
导读:小编按:近日,谷歌母公司Alphabet CEO桑达尔·皮查伊、苹果AI高级副总裁约翰·詹南德雷亚,以及脸书CEO马克·扎克伯格先后抵达布鲁塞尔,一时间这座城市群贤毕至,只因为欧盟要对AI动手了。

  近日,谷歌母公司Alphabet CEO桑达尔·皮查伊、苹果AI高级副总裁约翰·詹南德雷亚,以及脸书CEO马克·扎克伯格先后抵达布鲁塞尔,一时间这座城市群贤毕至,只因为欧盟要对AI动手了。

  他们期望游说欧盟高官在制定AI规则时网开一面。毕竟,欧盟委员会执行副主席玛格丽特·维斯塔格,这位铁娘子此前的隐私、反垄断、税收三板斧暴击,已经重创其锐气。

  所以,这次AI监管时,他们必须据理力争,这不是分蛋糕,而是生死存亡。

  其实,早在1月份,相关“白皮书”的草稿已经流出,称欧盟甚至考虑过3-5年内公共场所禁用人脸识别,以规避技术风险。

  欧盟之严苛,再次令业界哗然,但这背后也许打响的是一场从顶层设计开始的AI战争。

  不同应对策略之下的巨头野心

  对于谷歌来说,此去经年,狂收AI创业公司,先发优势明显。这次入局,谷歌旗帜鲜明支持欧盟AI监管。

  谷歌首席执行官——桑德尔·皮查伊曾在布鲁塞尔智库Bruegel演讲中表示,像谷歌这样价值1万亿美元的互联网巨头,理应在政府制定AI监管政策时需要有发言权。他说,“欧洲工业采用和改造人工智能以满足自身需求的能力,对欧洲大陆的未来至关重要。但类似deepfake这样的换脸技术也能够产生很多的负面效果,从而引发用户的担忧。”

  皮查伊向欧盟委员会建议,采取一种均衡的方法,平衡潜在的危害和带来的社会机会。

  他解释道,“毫无疑问,人工智能需要被监管,我希望欧盟在应对不可避免的紧张和权衡时,不要因为监管扼杀创新,对此,谷歌能够为之提供专业知识、经验和工具”。

  应该说,皮查伊的推销非常及时、精准。

  无独有偶,这次拜访的科技巨头高管中,苹果AI、机器学习战略高级副总裁约翰·詹南德雷亚也赫然在列。后者是去年年底才刚加入苹果12人最高核心团队的。

  苹果虽然参加了此次出行,并没有对外发表相关立场和言论,也许是以老好人的态势来静观其变。

  但这些年,苹果先后也拿下了超过20家AI初创企业,涉及计算机视觉、语音识别、神经网络等。近期,苹果以2亿美元拿下Xnor.ai,体现了其保护数据隐私之外,对设备上的AI系统化的探索。

  所以从苹果近年对AI方面的投入,不难看出,其对欧盟可能实施的新政还是非常担忧。

  与谷歌、苹果略有差异,这次Facebook首席执行官马克·扎克伯格来到布鲁塞尔先是为了灭火,捎带脚应对当AI监管的挑战。

  此前,因为爱尔兰数据保护局(DPC)的担忧,Facebook被迫推迟了在欧盟发布新款约会服务Facebook Dating的计划。

  后者去年9月在美国推出,允许用户将其Instagram帐户与Facebook约会资料集成在一起,并将Instagram关注者添加到“暗恋”列表中。

  同时,欧盟委员会正深化对Facebook的反垄断调查,要求其提供大量内部文件。

  屡屡受挫,Facebook对于欧盟监管谨小慎微。毕竟,去年12月4000万美元收购了AI初创公司Scape Technologies,已经表露了其布局AI的野心,在AI监管方面,扎克伯格目标就是要积极配合,为Facebook业务开展铺路。

  据悉被收购的公司正在研发一种基于计算机视觉的“视觉定位服务”,该服务允许开发人员开发需要位置精度远远超过GPS能力的应用。

  这项技术最初以增强现实(AR)应用为目标,但也有可能应用于出行、物流和机器人等领域。结合此前Facebook在计算机视觉、自然语言处理和深度学习等领域的AI探索,可以预见Facebook的AI野心。

  有意思的是,这次微软高管并没有去布鲁塞尔,但是它却发出了与各大巨头不同的声音。

  微软总裁Brad Smith表示,面部识别能够造福社会。他并不愿意讨论让人们禁用某项技术,如果有合理的选择,希望不要采用一刀切的方法,将技术全面禁用,而是应该先确定问题所在,然后在寻找解决的方法,制定规则,然后逐步推动技术向好的方向发展。

  微软底气十足,源于其在AI的技术研发与伦理道德都有所建树。

  2016年,微软CEO纳德拉,效仿科幻作家阿西莫夫的机器人三定律,提出了AI安全6大准则:公平、可靠和安全、隐私和保障、包容、透明、责任,并在微软内部建立了人工智能伦理委员会(AETHER),旨在考虑开发部署在公司云上的新决策算法。

  新政或将硅谷巨头逼到墙角

  所以,这次巨头们的行程很满。除了欧盟委员会执行副主席玛格丽特·维斯塔格之外,还将与司法专员维拉·乔罗娃会面。

  值得一提的是, 2月19日,欧盟委员会公布了一系列向数字化转型规划,包括如何使欧洲适应数字化时代的总体规划和《欧洲数据战略》《人工智能白皮书》两份文件。

  其中,《欧洲数据战略》的目标是确保欧盟成为“数据赋能”社会的榜样和领导者。计划建立统一的欧洲数据市场,解锁尚未得到利用的数据,使数据能够在欧盟内部流动,实现产业、学术、政府等部门共享。

  《人工智能白皮书》则构想了一个卓越的、可信赖的人工智能体系框架,其目标是通过公私部门合作调动整个产业链资源,建立正确的激励机制,以加快人工智能部署。

  以上相关条例的提出,其实是对Facebook、谷歌、亚马逊等美国科技巨头的主导地位以巨大的挑战。

  毕竟此前关于数字隐私、反垄断、税收等方面的组合拳,已经将硅谷巨头压得喘不过气来。而现在后续即将出台的相关政策可能更甚,硅谷巨头们简直被逼到了墙角。

  而去年11月履新的欧盟委员会新任主席乌苏拉·冯·德莱恩新官上任三把火,头一把火,就是逼着维斯塔格用100天的期限,交出一份AI监管的提案。

  军令状之下,铁娘子也倍感压力。维斯塔格表示,在对医疗保健以及自动驾驶汽车等领域带来变革的同时,AI也给个人隐私和日常生活带来的风险,比如未来替代人类工作的可能性。

  因为AI授信,需要根据大数据做出决策的复杂算法。

  维斯塔格认为,必须要有隐私保护、防止技术引起歧视的规则,以及确保使用这些系统的公司可以解释其工作方式的相关要求。

  她还对面部识别技术的广泛应用格外担忧,并表示在这项技术“无处不在”之前可能需要有新的限制。

  维斯塔格冠冕堂皇地表示期待着硅谷巨头的来访,并称,尽管自己很想听听他关于人工智能和数字政策的想法,但欧洲不会被动地坐等行动。

  “我们将尽最大努力避免意想不到的后果,” 维斯塔格说,“但是显然会有预期中的后果产生。”维斯塔格的政策将包括增加研究经费,但同时也会打造一个框架,从而保护人工智能可能造成最大伤害的领域。

  一份AI监管的全球范本

  跟美国立法者和监管机构,对AI及网络审核放任自流的态度不同,欧盟关于AI的立法更加亲力亲为,无论是引入政策制定者、还是为隐私、反垄断和互联网有害内容设定界限,都是广纳谏言。

  据普华永道的一份报告显示,自2018年以来,各种组织共发表了44份报告,对“人工智能伦理”提出了建议。

  日前,由维斯塔格协调的这份AI监管政策初稿将公之于众,欧盟的顶层设计,可能为全球提供模板,因此也引发了政界、商界、业界、学界的高度关注。

  同时公布的还有概述欧盟未来几年数字战略的更广泛建议。

  欧盟议员们将围绕欧洲打算如何实现其最大化人工智能利益的目标等许多提案细节进行激烈争论,预计民间社会团体、银行、汽车制造商和医疗服务提供商也将参与到辩论当中。

  相关辩论或将贯穿整个2020年,这是一场漫长的马拉松赛跑。

  而像谷歌、苹果、Facebook这些硅谷巨头组团来游说,显然是希望在欧盟AI监管规则出台前尽可能为自己争取最大利益。

  毕竟此前的沉没成本与未来期望,都让他们期待在欧盟监管中获得更大的生存空间和发展机会。

  相对的,欧盟也希望在北美和亚洲之外,建立属于自己的AI版图。

  根据欧盟方面提供的资料显示,在公共投资方面,根据欧盟“地平线2020”计划,到2020年年底,欧委会计划投入约15亿欧元到AI领域,同时确保来自公共和私人投资达到至少200亿欧元。

  同时,未来十年,希望每年对AI领域投资最少200亿欧元,这笔资金不仅来自欧盟机构,也会来自私人投资机构,同时欧委会也会在“地平线2020”计划安排下每年再投资10亿欧元。(钛媒体)
 

  链接+

  人工智能专家:AI并不像你想象的那么先进

  编者按:近些年,很多人工智能产品已经投入应用,走进人们的生活。人工智能迅猛的发展速度很难不引人注意,甚至有人已经在担心它快速的学习能力会对人类的生存造成威胁。而在本文作者看来,真正的人工智能还很遥远。作为领域专家,她深入分析了人工智能的一些明显缺陷,并想象了未来的可能。文章译自Medium,作者Brian Bergstein,原文标题为A.I. Isn’t as Advanced as You Think。

  梅勒妮·米切尔(Melanie Mitchell)写了她的新书《人工智能:思考人类的指南》(Artificial Intelligence: A Guide for Thinking Humans),因为她对人工智能究竟取得了多大进步感到困惑。她写道,她想“了解事情的真实状态”。

  得知她的矛盾心理是一种安慰,因为她自己就是一名人工智能研究员。她是波特兰州立大学的计算机科学教授,也是著名的多学科研究中心圣达菲研究所(Santa Fe Institute)科学委员会的联合主席。如果米切尔对人工智能的立场都感到困惑,请原谅我们其他人的困惑,或者是谬误百出的见解。

  正如米切尔所指出的那样,许多有关人工智能胜利的故事正在流传。这些报告中,最近在计算机视觉、语音识别、游戏和机器学习的其他方面的突破表明,人工智能可能会在未来几十年很大范围的任务中超越人类的能力。有些人觉得前景不可思议;另一些人担心“超人类”计算机可能会判定不需要我们人类在身边,并有能力做些与此有关的事。

  我们要么离‘真正的’人工智能只有咫尺之遥,要么离了数百年。”

  但也如米切尔另外证明的那样,即使是当今最强大的人工智能系统也有关键性的局限。它们只擅长于狭隘定义的任务,对外面的世界一无所知;它们在数据中发现相关性,而不考虑数据的含义,因此他们的预测可能是非常不可靠的;它们没有常识。

  “要么取得了巨大的进展,要么几乎没有进展,”米切尔写道。“我们要么离‘真正的’人工智能只有咫尺之遥,要么离了数百年。”

  米切尔解决问题的方法使这本书具有纪念意义和启发性。她对当今人工智能技术的耐心解释给人的印象是,真正的机器智能还很遥远。她表示,电脑不仅需要更好的大脑,还可能需要更好的身体。

  米切尔提供了非常清晰易读的人工神经网络入门知识,该技术是图像识别,语言翻译和自动驾驶方面最新进展的核心。20世纪50年代和60年代,在最初的一些建立人工智能的尝试中使用了神经网络,但它们失宠了,因为看起来像一条死胡同,价值有限。但大约10年前有所改变,计算能力的进步使一种称为深度学习的数据密集型方法来训练神经网络成为可能。

  跟随米切尔对神经网络的描述,你不需要了解繁杂的的数学。她展示了数学主要是什么,这就同时解释了它们的威力和缺陷。一种对识别图像内容特别有用的神经网络依赖于一种叫做“卷积”(convolution)的数学计算。处理文本的版本依赖于计算机表示语言统计方面的能力,即在穿过数百个维度的复杂“向量”里,单词在句子中出现的频率有多高。

  令人印象深刻的是,人们已经将世界上如此多的方面进行了量化,以供计算机继续工作。同样值得注意的是,这些方法有如此多样的应用,比如检测肿瘤、自动驾驶和过滤垃圾邮件。但是这种伟大计算器的巧妙新用途并不一定赋予它们与我们的智力相当的能力。正如米切尔所指出的,让卷积神经网络(Convolutional Neural Networks, CNN)正常工作“需要大量的人类智慧”。

  机器学习系统本质上是统计工作,所以很清楚,为什么它们很容易受到所馈送数据中的不准确、漏洞和其他缺点的影响。难怪如果神经网络在主要显示白人的图像上经过训练,它就不能识别黑人的脸。当一辆自动驾驶汽车无法识别一个有贴纸的停车标志,但(对人类来说)它仍然是一个明显的停车标志时,就并不奇怪。

  幸运的是,这类问题已经引发了许多富有成果的讨论,这些讨论关于面部识别技术和自动决策的社会影响。纽约大学数据新闻学副教授梅雷迪思·布鲁萨德(Meredith Broussard)在2018年出版的《人工智能:计算机如何误解世界》(Artificial Unintelligence: How Computers The World)一书中有说服力地提出,无论你是否称它为“人工智能”,计算机仍然应该被当作是被我们这些好奇的人类使用的工具,人类应该始终处于这个范围内。

  不过,尽管米歇尔并不是第一个指出机器学习系统弱点的人,她还是在评论中加了一层解释说,即使在它们处于最佳状态的时候,计算机可能也没有你想的那么好。在过去几年里,研究人员开发出了神经网络,他们声称,在识别照片或视频中的物体时,神经网络的表现达到甚至超过了人类的表现。这在新闻中被作为另一个必然对机器优势“抵抗无果”的例子。

  米切尔指出,讨论的基准是一个基于名为ImageNet的大型图片数据库的测试。2017年,最优秀的计算机系统对来自ImageNet的图片进行了分类,正确率达98%的top-5正确率,据称超过了95%的人类正确率。(注:top-5准确率指排名前五的类别包含实际结果的准确率,即对一个图片,如果概率前五中包含正确答案,即认为正确。)

  “top-5”的障碍是什么?这意味着正确的物体分类是机器作出的前五种猜测之一。米切尔写道:“如果给定一个篮球的图像,机器按这个顺序输出‘槌球’、‘比基尼’、‘疣猪’、‘篮球’和‘搬运车’,就被认为是正确的。top-5指标存在的原因可以理解:如果一张图片显示了不止一个物体,那么了解机器是否能检测出这些物体是很有用的。但它削弱了对极端技能的要求。米切尔表示,2017年,当该机器将正确的类别归置在其列表首位时,top-1的最高准确率仅为82%。(注:top-1准确率是指排名第一的类别与实际结果相符的准确率,即对一个图片,如果概率最大的是正确答案,才认为正确。)

  至于说人类有95%的准确率,米切尔认为支持这一说法的数据站不住脚。在2015年发表的一个研究项目中,两个人尝试了ImageNet挑战的一部分。投入更多时间的人是安德烈·卡帕西(Andrej Karpathy),他现在是特斯拉的人工智能主管。以top-5准确率作为衡量标准,他错了5%。而现在,这个数字被用作人类表现的标准。

  如果不是因为这个特殊测试的古怪之处,他的错误率可能会更低。卡帕西写道,他和另一名测试对象所犯错误的四分之一,不是因为他们对所看到的图片一无所知,而是因为他们不知道或不记得ImageNet中使用的一些确切的标签。

  更糟糕的是,“据我所知,还没有人报道过机器和人类在top-1准确率上的比较,”米切尔写道。

  凭借其快速和无尽的耐心,计算机是许多应用中图像识别的理想选择。在某些情况下,它们肯定比人类更准确。但说得太过了。“物体识别尚未接近被人工智能‘解决’的程度,”米切尔写道。

  我很难想象我们需要什么样的突破才能制造出这样一台机器。”

  人工智能目前最热门的话题之一是,如何让机器不仅检测数据中的统计相关性,而且在某种程度上理解它们正在处理的内容的意义。和米切尔一样,纽约大学的研究人员加里·马库斯(Gary Marcus)和欧内斯特·戴维斯(Ernest Davis)表示,如果没有这些改进,人工智能就不会“安全、智能或可靠”。在他们的新书《重启AI:构建我们可以信任的人工智能》(Rebooting A.I.:Building Artificial Intelligence We Can Trust)中,马库斯和戴维斯说,人们由于“可信度差距”而误以为计算机比它们更先进。

  他们写道:“我们不得不从认知的角度来思考机器(‘它认为我删除了我的文件’),不管机器实际上可能遵循的规则多么简单。”

  为了让机器变得不那么简单,许多研究人员正在重新探索用逻辑和常识来编码计算机的旧方法。以米切尔为例,她用类比的方式描述了她让计算机进行推理所做的努力。如果你想要一个电脑识别图像描绘“遛狗”,现在的基本方法是给它显示成千上万的遛狗的图片,然后使之相信那些照片中常见的事物——狗,皮带,手等。当机器看到之后遛狗的照片时,将触发一个积极的信号。然而,它可能会嗅出一些不寻常的遛狗行为。米切尔展示了一些例子,比如一张照片,一个人骑着自行车遛狗,另一只狗叼着另一只狗的皮带。她的研究小组正试图让计算机理解后一种情况是典型情况的“延伸”版本。

  那样的工作是辛苦而缓慢的。即使它成功了——如果一台电脑可以在某种程度上理解“遛狗”可以有多种形式——如果这台机器自己从来没有遇到过狗,这种理解能有多丰富呢?

  当我6岁左右的时候,我在我家附近的人行道上骑自行车,停下来看(也许还扔了) 一串从甜胶树上摘下来的带刺的种子球。突然,有人打开了街对面一所房子旁边的一扇门,出来一条棕色的狗,它犹豫了一两秒钟,然后径直扑过来,咬住我,撕破了我的灯芯绒裤子。这些记忆帮助我洞察到经历的无数方面——惊讶、恐惧和痛苦的感觉;一些狗的不可预测性;甜胶种子球的奇异古怪。相比之下,如果计算机被告知当人们说“something bit them in the ass”时并不总是一个习语,那就太肤浅了。(注:bite本意为“咬“,ass本意为“屁股”,bite (someone) in the ass指不当行为导致了不良后果。)

  哲学家和其他人工智能怀疑论者一直认为,没有真实身体的电子大脑只能学到盒子里这点东西。许多人工智能研究人员将这种怀疑归咎于“某种残留的神秘主义”——正如认知科学家安迪·克拉克(Andy Clark)在1997年出版的《此在:重整大脑、身体和世界》(Being There: put Brain, Body, and World Together Again)一书中所写的那样,这是一种“对类似灵魂的精神实质的非科学信仰”。但是,当你考虑到爬行的婴儿能快速掌握基本概念,而数据中心的计算机需要大量的电力来吸收一个东西时,人工智能需要一个身体的这个想法就听起来相当不错。

  米切尔似乎不情愿地转变为怀疑论者的立场。“在与人工智能搏斗多年之后,我发现关于身体化的争论越来越有说服力,”她写道。

  那么,怎样才能制造出一个能在世界各地移动的机器人呢?这个机器人不仅能洞察自己的行为,还能洞察人类、动物和其他机器的行为。“我几乎无法想象,”她写道,“我们需要什么样的突破才能制造出这样一台机器。”(36氪)

分享到:
责任编辑:admin

网友评论