主页 / 资讯 > 前沿 > 正文

美国提出人工智能未来法案 将成立AI咨询委员会

2018-01-24 03:01:19   来源:科技生活在线   评论:0   [收藏]   [评论]
导读:小编按:确保人工智能处在人类的有效控制下并被用于造福社会已经成为各国的共同关切,美国提出“人工智能未来法案”,为人工智能的深入发展和应用做准备并对其潜在负面影响进行前瞻性思考是大势所趋。

  曹建峰

  腾讯研究院法律研究中心高级研究员

  杨晓洁

  腾讯研究院法律研究中心助理研究员

  人工智能技术能够极大地促进经济增长,帮助探索并解决人类社会所面临的问题和挑战,但其广泛应用也可能对劳动力市场、隐私保护、安全等产生负面影响。

  确保人工智能处在人类的有效控制下并被用于造福社会已经成为各国的共同关切,美国提出“人工智能未来法案”,为人工智能的深入发展和应用做准备并对其潜在负面影响进行前瞻性思考是大势所趋。

  该法案明确了发展人工智能的必要性,并要求设立联邦人工智能发展与应用咨询委员会,汇聚各方利益群体和相关政府部门共同探讨人工智能相关问题,为后续立法及行政措施的出台做准备,以期在培育创新、促进产业发展的同时确保技术不会带来负面结果,体现了其对人工智能监管的审慎性、科学性。

  法案背景:跟随国际潮流,美国提出“人工智能未来法案”

  人工智能是信息经济的新引擎,可以优化决策,帮助探索并解决人类社会所面临的棘手问题,甚至有望引领一场新技术革命;同时,人工智能的定义尚不统一,其广泛应用也可能对劳动力市场、隐私保护和安全等产生负面影响。

  面对机遇与挑战并存的人工智能技术,各国纷纷出台相关战略、法案、政策等,以促进人工智能的发展并尝试预防和疏解其负面影响。

  但是,与各国政府对人工智能的开放态度相比,特朗普政府对人工智能的反应相对消极,不但未出台支持人工智能技术以保持美国在这一领域全球竞争力的举措或战略,还在2018财年预算中宣布削减在“智能系统”上的公共支出。

  然而,美国国会认识到,人工智能可以极大地促进经济增长,理解人工智能并为其发展和应用做好准备对美国的经济繁荣与社会稳定是至关重要的。于是,2017年12月12日,美国国会提出两党法案——“人工智能未来法案”(FUTURE of Artificial Intelligence Act of 2017),如经众议院和参议院通过,该法案将成为美国针对人工智能的第一个联邦法案。

  根据该法案,商务部应成立联邦人工智能发展与应用咨询委员会(Federal Advisory Committee on the Development and Implementation of Artificial Intelligence),该委员会应于该法案颁布后540天内向商务部和国会提交AI相关事项的研究报告,并对出台AI相关立法或行政措施提出建议。商务部将在收到报告90天内就该委员会在报告中提及的核心事项向国会提交建议。

  法案核心:大力发展AI,成立AI咨询委员会研究AI相关问题并提建议

  “人工智能未来法案”旨在要求商务部设立联邦人工智能发展与应用咨询委员会(以下简称“AI咨询委员会”),并阐明了发展人工智能的必要性,对人工智能相关概念进行了梳理,明确了AI咨询委员会的职责、权力、人员构成、经费等内容。

  (一)明确发展人工智能的必要性

  美国国会认识到:

  1.理解人工智能,并为其发展做好准备对美国经济发展和社会稳定至关重要。

  2.人工智能的发展,可以助力信息经济发展,促进作出更好决策并帮助解决人类面临的未决问题,从而极大地造福社会。

  3.更好地理解人工智能,促进人工智能以最有利于社会的方式发展是十分有益的。

  4.根据本法案成立的AI咨询委员会有必要就以下议题优先出具指南或建议:其一,建立一个有利的投资和创新环境,以保持美国在人工智能领域的全球竞争力;其二,优化人工智能发展,以处理人工智能发展给劳动力带来的潜在增长、重塑或改变;其三,推动和支持人工智能的发展和应用;其四,保护个人隐私。

  (二)厘清人工智能相关概念

  该法案对人工智能相关概念作出了一般性解释,并要求AI咨询委员会根据其解释修订并明确人工智能相关概念。

  法案指出,围绕人工智能(Artificial Intelligence)存在如下几个定义:

  1.任何能够不经人类特别干预即可在复杂多变的环境下完成任务的智能系统,能够通过机器学习不断优化决策和行动。其可以像人类一样思考、认知、规划、学习、交流或采取行动。一般而言,智能系统越能够以接近人类的方式执任务,其人工智能化的程度就越高。

  2.可以像人类一样思考的智能系统,如具备认知结构和类神经网络的系统。

  3.可以像人类一样采取行动的智能系统,如那些通过自然语言处理、知识表示、知识推理和机器学习,能够完成真实测试或者其他类似测试的智能系统。

  4.一系列尝试完成认知任务的技术,包括机器学习等。

  5.可以采取理性行动的智能系统,如智能软件代理和类人化机器人,能够通过感知、规划、推理、学习、沟通、决策和行为等实现目标。

  通用人工智能,是未来人工智能概念,在众多认知领域上像人类智能那样灵活和全面的系统,能够做出智能行为,包括认知、学习、语言、感知、推理和社会化行为等。狭义人工智能,强调特定应用领域,能够执行专门的、定义明确的任务,如玩策略游戏、智能翻译、自动驾驶汽车和图像识别等。

  (三)成立联邦人工智能发展

  与应用咨询委员会

  该法案要求商务部成立联邦人工智能发展与应用咨询委员会,并对其职责、人员构成、权力、经费等做了详细规定。

  1

  AI咨询委员会职责

  其一,提建议。AI咨询委员会应提供有关人工智能发展的建议,包括如下事项:

  (1)促进投资和创新:提升美国在人工智能领域的竞争力,包括推动公共和私人在人工智能领域的投资及创新。

  (2)劳动力:应用人工智能对劳动力市场的潜在影响以及人工智能广泛应用导致失业后对工人的再培训等。

  (3)教育:加大有关科学、技术、工程和数学等方面的教育,以应对雇主对劳动力供给的需求变化。

  (4)伦理研究和培训:对人工智能领域技术人员进行伦理培训。

  (5)数据开放:人工智能领域数据和研究的共享与开源。

  (6)国际合作和竞争:与国际合作和竞争有关的事项,包括人工智能产业的国际竞争格局。

  (7)法律责任和权利:有关法律责任和权利的事项,包括人工智能系统违反法律规定时的责任认定和国际规则的适用。

  (8)算法歧视:偏离核心文化和社会准则的算法歧视相关事项。

  (9)人工智能与乡村社区:人工智能如何服务乡村社区或增加机会。

  (10)行政效率:提高政府效率,包括减少预算和简化运营等事项。

  其二,从事研究。AI咨询委员会应研究和评估如下事项:

  (1)如何创造有利于公共和个人投资的环境,并促进AI领域创新。

  (2)发展人工智能可能对经济、劳动力市场和美国竞争力的正负面影响。

  (3)人工智能的应用将如何取代就业机会或者创造新的就业岗位,如何最大化人工智能对工作的积极影响。

  (4)如何在人工智能开发和相关联的算法中识别并消除歧视,主要针对如下事项:人工智能训练数据的选择和处理过程,人工智能开发中的多样性,以及部署系统的方式和场所及其潜在负面后果。

  (5)是否需要以及如何在AI开发和应用中融入伦理标准。

  (6)联邦政府如何激励开发可以惠及各社会阶层和经济团体的人工智能技术。

  (7)人工智能如何影响个人隐私权。

  (8)人工智能的发展是否会影响消费者保护相关的法律和管理体制。

  (9)是否需要更新现有的关于数据获取和隐私保护的法律,以确保AI的发展。

  (10)联邦政府如何利用人工智能处理重大且复杂的数据集。

  (11)(受AI影响的)多方利益相关者之间的持续对话和谈判如何实现将人工智能的潜力最大化,并进一步开发惠及每个人的人工智能技术。

  (12)人工智能如何促进政府各个职能领域节约成本和简化运营,包括医疗、网络安全、基础设施和灾难恢复等领域。

  其三,出具报告和建议。AI咨询委员会应于该法案颁布后540天内向商务部长和国会提交AI相关事项的研究报告,并对出台AI相关立法或行政措施提出建议。

  2

  AI咨询委员会的组成及权力

  该法案规定,AI咨询委员会由19名经商务部任命的投票委员(含1名主席)和众多非投票委员组成,其中,投票委员会由来自不同地区的5名学术机构人士、6名私人公司代表、6名公民团体代表和2名劳工团体代表组成;非投票委员会成员需涵盖教育部、司法部、劳动部、交通部、联邦贸易委员会、国家科学基金会、国家科学技术委员会等机构的代表。

  AI咨询委员会至少每年召开两次全体会议,每两个月召开一次电话会议。

  为确保履行其职责,该法案授予AI咨询委员会一定权力,包括为行使该法案规定的职责而举行听证会、采取行动,收集证据等;必要时向国会、联邦政府机构提交建议;出具报告、指南和备忘录;举行会议和研讨;与第三方专家合作并监督员工;建立分会和议会规则等。此外,该法案还规定了AI咨询委员会的经费相关内容。

  法案影响:恰逢其时,受到各界欢迎

  “人工智能未来法案”作为美国国会两党的共识,其提出受到各界广泛欢迎。参议员Maria Cantwell指出,人工智能将极大地促进经济增长和生产力提高,美国需要做好发展人工智能的准备,以期其为社会所用,该法案的出台无疑是对这一问题的回应。

  参议员Edward J.Markey表示,人工智能的广泛应用可能会对劳动力和隐私产生广泛的负面影响,该法案将使所有的利益相关方更好地理解AI将如何影响人们的生活。众议院人工智能核心小组联席主席John Delaney表示,该法案致力于使人工智能以一种有利于社会、企业和劳动者的方式被利用,是值得称赞的。

  此外,产业界、学界也表示了对“人工智能未来法案”的支持。他们指出,美国政府目前缺少在人工智能领域的相关措施,这一法案的出台是一个很好的补充。

  华盛顿信息技术与创新基金会副主席Daniel Castro说,成功地将人工智能技术融入美国产业应该是政策制定者的首要目标,其他国家正在快速地实现这一目标,但到目前为止,美国政府并未将其提上议程,美国不能再固步自封。普林斯顿大学计算机科学和公共事务教授Edward Felten表示,联邦政府对人工智能研究和开发的资助相对较少,尽管这一领域的重要性已经很明显。

  华盛顿大学法学院副教授、华盛顿大学技术政策实验室联合主任Ryan Calo表示,“人工智能未来法案”是一项非常周到和及时的法案,设立由公民团体、社会组织、学术机构、产业界、科学界及政府机构人士组成的AI咨询委员会专门研究人工智能相关事项,对后续包容性政策的制定是至关重要的。

  法案启示:明确迫切问题,各方参与共同探索解决方案

  该法案将是继奥巴马政府出台“美国国家人工智能研发规划”之后的第一个联邦法案,其核心在于促进人工智能应用和创新以保持美国在该领域的全球竞争力。

  从内容上看,并未提出明确的规制措施,而是建立一个由不同部门、不同领域、不同地域的代表组成的咨询委员会,对人工智能相关事项和问题进行前瞻性研究,为后续的法案及政策出台做准备。

  从其研究焦点来看,为人工智能的发展和创新创造有利环境、人工智能等新技术应用对美国劳动力的影响以及隐私保护、责任认定、智能政府等均是该法案的核心关注点,及时回应了各界对人工智能的关切。

  美国“人工智能未来法案”以成立AI咨询委员会为核心,要求研究促进人工智能发展和创新的有利环境并对人工智能可能带来的伦理、法律及社会问题进行研究,是后续人工智能相关立法的前置性步骤,其研究成果将为政府决策及后续的立法工作提供智力支持,体现了信息时代对监管的专业性、谦抑性要求,有利于将监管重心聚焦于技术发展导致的明确问题,在培育创新的同时确保技术不会危及社会安全,避免公权力过早介入人工智能领域而对技术及产业发展造成阻碍,这一包容性的监管思路值得借鉴。

  人工智能技术具有双面性,不能因其潜在的负面影响而拒绝人工智能,但也要对人工智能进行前瞻性思考,以最大化其对人类社会的效用。值得注意的是,人工智能领域的复杂性和专业性对产业政策及相关立法提出更高要求,必须综合公众、社会团体、产业界、政府机构等可能受人工智能影响的群体的利益关切,谨慎出台规制措施,避免过度干预。(腾讯研究院)
 

  链接+

  法律该赋予人工智能什么地位? 实现与人的智能叠拼

  “人工智能法律地位问题的提出,主要是为了解决人工智能创造物的归属以及人工智能所引起损害赔偿责任承担问题,赋予人工智能主体资格既没有实益,也没有法哲学上的根据,人工智能立法应当以安全为基本原则。”广东外语外贸大学土地法制研究院副教授刘洪华说。

  2015年4月,浙江省高级人民法院确定由西湖、滨江、余杭3家基层法院和杭州市中级人民法院作为电子商务网上法庭试点法院。同年8月,浙江法院电子商务网上法庭正式上线,专门审理涉网纠纷案件。

  2016年12月,名为“睿法官”的北京法院智能研判系统在北京市高级人民法院上线,为法官提供办案规范和量刑分析等精准信息,以大数据推进法律适用和裁判尺度统一。

  2017年5月,全国首个“上海刑事案件智能辅助办案系统”在上海诞生,这个系统以大数据、云计算和人工智能为技术内核,在对上海几万份刑事案件的卷宗、文书数据进行学习后,已具备初步的证据信息抓取、校验和逻辑分析能力。

  ……

  近些年,人工智能在司法中的应用正在逐渐深入。

  对此,中国社会科学院法学研究所副研究员支振锋近日在接受《法制日报》记者采访时认为,应鼓励人的智能与人工智能叠拼,让人工智能在减轻法官工作负累等方面发挥巨大作用。但与此同时也必须注意到,人工智能是法官裁判的辅助而不是依赖,法官的敬业与职业伦理,更应该在人工智能的发展中得到强化。

  一些专家在接受记者采访时指出,随着人工智能的不断发展,法律应未雨绸缪,完善个人信息保护、网络隐私等方面的立法。

  人工智能技术助力司法活动

  一起故意伤害罪上诉案件,因当事人不服一审判决提起上诉。从上诉提交的那一刻开始,“睿法官”就开始在后台工作,它会提取一审案件信息和上诉状案件自动立案,立案法官只需要进行确认操作,二审案件就立案成功。在北京,智能研判系统会运用大数据、云计算、人工智能等新兴技术,通过智能机器学习、多维度数据支持、全流程数据服务,实现为案情“画像”,为法官判案提供统一、全面的审理支持。

  如果一份证据证明被害人是被刀捅死的,而尸检报告说是钝器致死,此时,引入了人工智能技术的“上海刑事案件智能辅助办案系统”就会发现这里有矛盾,提醒办案者注意。“上海刑事案件智能辅助办案系统”不仅能发觉单一证据的瑕疵,还能发现证据之间的逻辑冲突之处。

  当事人如果遇到了网购纠纷,可以打开专门的网页或APP,在网上完成起诉、立案、举证、开庭、送达、判决、执行的全部诉讼流程。2015年,浙江省杭州市中级人民法院及所辖3家基层法院开始了电子商务“网上法庭”试点,使当事人足不出户就能在网上参与诉讼,解决纠纷。

  贵州、上海创造性地运用大数据、人工智能分析证据,明确不同诉讼阶段的基本证据标准指引,研发智能辅助办案系统,构建跨部门大数据办案平台,探索了一条司法体制改革和现代科技应用融合的新路子。

  近年来,司法机关把大数据、人工智能与司法体制改革结合起来,改变了传统的思想观念和工作方式,给司法工作注入了前所未有的创造力。

  “人工智能在司法中的运用,不仅体现在立案大厅里穿梭引导的机器人上,还可能会逐步体现在法官的判决书中。实际上,十几年前,就曾出现过‘电脑量刑’的实践与讨论。近两年,让人工智能辅助法官判案甚至生成判决书,也日益有成为现实的可能。”支振锋说。

  最高人民法院司法改革办公室主任胡仕浩认为,司法改革和信息化是人民法院工作科学发展的“车之两轮”“鸟之两翼”;以人工智能与司法改革深度融合促进“未来法治”,需要科技与法治结合、理论与实践结合、传统与现代结合,更好地服务于国家治理。

  相关的政策文件,也指出了人工智能对于司法活动的重要性。

  2016年,最高人民法院通过了《人民法院信息化建设五年发展规划(2016-2020)》,确定了顶层设计、系统建设、保障体系、应用成效等4个方面55项重点建设任务,提出要在2017年底总体建成人民法院信息化3.0版,2020年底实现人民法院信息化3.0版在全国的深化完善。

  国务院2017年7月8日印发的《新一代人工智能发展规划的通知》提到,建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台,促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用,实现法院审判体系和审判能力智能化。

  实现人工智能与人的智能叠拼

  值得注意的是,智能辅助办案系统不是要取代线下的刑事诉讼活动,也不是要替代司法人员独立判断,而是发挥人工智能在数据采集、整理、分析、综合方面的优势,帮助司法人员依法、全面、规范收集和审查证据,统一司法尺度,保障司法公正。

  支振锋认为,从当前的现实来看,人工智能还没有取代法官的可能,作为涉及到人生与人心、情感与理性的法律诉讼,能否完全交给人工智能,依然存疑。

  “因此,最可能的方式是,人工智能与人的智能叠拼,前者辅助后者。而大数据为这种可能提供了极大支持。在当前大数据时代,由于信息的不完备,‘电脑量刑’当然会引发疑虑。但大数据的存在,使得全样本、全信息与全信息要素都成为可能,这就使得人工智能在‘知识’的丰富性与整全性上,大大超过人类。”支振锋说。

  支振锋认为,利用人工智能与大数据,可以使法官得到类似案件的全部先例以及法律、法规、司法解释等裁判规则,从而在减轻法官工作负累、促进法官准确适用法律以及保证类似案例类似判决等方面,发挥巨大作用。

  专家认为,尽管司法活动越来越离不开人工智能,但人工智能并不可能取代法官,人工智能只是一种辅助法官办案的工具。

  上海高院刑一庭副庭长徐世亮是“上海刑事案件智能辅助办案系统”研发期间的业务组负责人之一,在对该系统的智能表示认可的同时,徐世亮直言,审判是一门艺术,有些事情机器干不了。

  “同样是盗窃3000元钱,一种是为生活所迫,另一种是游手好闲,主观恶性能一样吗?判决结果也会不一样。”徐世亮举例说。

  支振锋强调,人工智能是法官裁判的辅助,而在可见的将来,甚至永远都不可能成为法官裁判的依赖。

  “在大数据时代,法官固然可以通过人工智能获得全样本、全信息的裁判数据,但现有的算法能否保证人工智能能够充分利用这些全样本、全信息的数据以及能否对它们作出最恰当的分析,仍然是可疑的;另一方面,将充满丰富的人的经历、感情的诉讼,交给人工智能,在法律上和伦理上,也很难得到支持。特别是,越是有可资利用的大数据和人工智能,法官的敬业与职业伦理也更应该得到强化。”支振锋说。

  法律需要未雨绸缪

  尽管人工智能对法律的变革还有很长的路要走,但这种已经开启的变革,得到了学界和业界的重视。

  1月6日,全国首届“人工智慧与未来法治”学术研讨会在西北政法大学举行。与会专家认为,在可以预见的未来,人工智能还不能够做到抛开人类来提供法律服务,更多的是会协助人们完成一部分辅助工作。

  一方面,要提升法学研究的水平,来有效应对人工智能带来的诸多问题。

  “近年来,互联网、大数据、人工智能、5G、芯片等科技,已成为经济发展的新兴驱动力量,人工智能等科技的发展,也已经对法学教育、法学研究以及立法、执法、司法实践和社会治理带来机遇并提出了挑战,持续研究和有效回应这些问题,是整个法律职业共同体的时代使命。”西北政法大学校长杨宗科指出。

  上海交通大学凯原法学院教授郑戈认为,学者们要注意信息科学给法律实践和法学教育带来的新课题,算法数据的选取要考虑本国法律制度、尊重国情,人工智能或许会取代一些重复性的工作,但同时也会增加一些“科技+法律”的新职业,为适应AI时代的到来,法学教育需要作出改革,关注人工智能与法律未来、人工智能与法律推理、人工智能与知识产权保护、机器人自动驾驶及法律责任、大数据人工智能与行政法的规制、人工智能与司法的统一等问题。

  中国政法大学法学院教授雷磊认为,人工智能只是辅助性司法活动的实践工具,未来人工智能在司法裁判中的具体影响方式和范围,一定程度上依赖于法学研究的水平。

  “大量的案例揭示了算法存在的弊端,人工智能有可能成为具有杀伤性的技术,面对人工智能,司法个案正义应优于司法效率,法学教育应培育司法怀疑精神,避免技术盲信。”腾讯研究院研究员曹建峰说。

  另一方面,在相关立法活动中,应当考虑到人工智能所带来的影响。

  “人工智能法律地位问题的提出,主要是为了解决人工智能创造物的归属以及人工智能所引起损害赔偿责任承担问题,赋予人工智能主体资格既没有实益,也没有法哲学上的根据,人工智能立法应当以安全为基本原则。”广东外语外贸大学土地法制研究院副教授刘洪华说。

  中央财经大学法学院教授高秦伟提出,随着科技的发展与信息种类的多样化,合理协调法律的确定性与科技发展带来的不确定性、平衡个人信息保护与数据信息之间的流动,应成为个人信息立法与实践的理论起点。

  广东外语外贸大学土地法制研究院教授张保红提出,个人信息包含隐私信息和非隐私信息,隐私信息为人格元素,不能成为个人或信息控制者的处理对象,在信息时代,个人信息立法应当遵循国际潮流,应以规制为内核的义务规范为主,而非以自由为内核的权利规范为主,最终实现个人保护与信息流通的平衡。

  “社交网络的主要目的是建立和扩展人际关系,现代计算机加密技术的高度复杂性,使得一般的用户根本无法通过加密对其隐私进行自我保护,隐私信息的商品化,更加刺激了这些信息的传播,应完善网络隐私方面的立法、加强网络伦理,引导社交网络的良性健康发展。”西北政法大学副教授董青梅说。

  西北政法大学中华法系与法治文明研究院研究员韩伟指出,人工智能的背后仍然是资本的逻辑或力量,未来劳动法的设计也必须考虑对资本及其造成的不平等的规则。(法制日报)

分享到:
责任编辑:admin

网友评论