首页  >  IT频道  >  业界资讯  > 正文

应用风险加剧 将AI关进笼子还需政策发力

2019-09-10 09:54:20 | 来源: 科技日报 | 编辑: 高宝 | 责编: 郑思雯
分享到:

  朱茵变杨幂的换脸视频犹在眼前,近日“换脸”APP “ZAO”又因其用户隐私协议不规范、存在数据泄露风险等网络数据安全问题被相关部门约谈。

  事实上,近年来,AI正在以一种超乎想象的速度迅猛发展,其背后隐藏的诸多问题也逐渐凸显。日前Facebook再次因数据安全问题受到关注,据外媒报道,一个存储了数亿Facebook用户电话号码的在线数据库泄露。面对AI治理难题,目前各国正加紧制定相关政策法规。

  大规模应用裹挟着诸多风险

  近年来,在AI产业的博弈中,各国都在全力争取发展先机。

  “无论从企业数量上还是投融资规模上看,美国和中国无疑是人工智能领域的重量级玩家。”国务院发展研究中心国际技术经济研究所研究一室副主任宫学源在《人工智能全球格局:未来趋势与中国位势》一书中提到,两国的科技巨头通过重新制定战略、大规模收并购等手段,已经在全球人工智能产业领域获得了极高的话语权。但从人均AI初创企业数量和人均投融资水平上看,英国、法国、德国和以色列等国家完全不落下风。日韩等国也正纷纷制定国家级战略,以期实现人工智能技术的反超和部分产业的引领。

  “机遇往往与挑战并存,AI大规模应用必将裹挟着诸多风险,如木马、病毒、僵尸网络等技术要素风险,电信网络诈骗、群体(算法)歧视等组织管理风险,色情信息、暴恐信息、虚假信息等在线内容风险。”北京师范大学网络法治国际中心执行主任吴沈括表示,因此,在给与AI足够的养分令其成长的同时,各国也都在汲汲探寻AI治理的方案。

  “民间”倡议百花齐放

  2018年,第40届数据保护与隐私专员国际大会上发布的《人工智能伦理与数据保护宣言》认为,应根据公平原则,在基本人权层面设计、开发和使用人工智能和机器学习技术;持续关注AI系统潜在影响和风险,并确立问责机制,实现“可控”;应改进人工智能系统的透明度和可理解度,以实现有效施行;作为整体“伦理设计”方法的一部分,应通过默认应用隐私原则和设计隐私来对人工智能系统进行负责任地设计和开发;应当减少和减轻因使用人工智能数据而可能导致的非法偏见或歧视。

  2019年,欧洲委员会发布《人工智能与数据保护指南》,也首先强调了人权和人的基本自由为先,特别是在个人数据保护方面。用于个人数据处理的人工智能研发应基于合法性、公平性、目的特定性、数据处理比例性、设计隐私与默认隐私、责任与合规展示(问责)、透明度、数据安全和风险管理等原则。

  与上述西方国家主导的宣言、指南相比,AI治理的中国路则出现了不一样的风景。法律层面,与大部分国家一样,《个人信息保护法》《数据安全法》《电信法》等相关法律正在拟定中;社群倡议方面,2019年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,明确指出了“AI治理八原则”:和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。清华大学人工智能与安全项目小组也提出“AI治理六原则”,即福祉、安全、共享、和平、法治、合作。

  2019年5月,北京智源人工智能研究院联合北京大学、清华大学、中科院等单位,共同发布《人工智能北京共识》,提出对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终保持向对社会有益的方向发展。

  AI治理中西方各有不同

  “从中西方国家社群团体的倡议指引中可以看出,双方治理AI在对人类共同福祉的追求、对公平公正价值的坚持、对系统管理风险的重视、对开放共享共治的倡导方面都持有相似的观点。”吴沈括指出,但在很多地方也体现出了差异。

  相较于西方国家,我国在遵循相同治理原则的基础上更希望能够实现人机和谐,如在“AI治理八原则”中的首条原则即为和谐友好,符合人类的价值观和伦理道德,促进人机和谐,服务人类文明进步。

  未来,东西方的融合交汇必将是AI治理的大趋势,动态持续的多边对话、以人为中心的顶层设计建构、着眼于应用场景的差别规范设计以及平衡安全发展的利益平衡规则都将成为东西方存异求同的立足点。”吴沈括说。(于紫月)

国际在线版权与信息产品内容销售的声明:

1、“国际在线”由中国国际广播电台主办。经中国国际广播电台授权,国广国际在线网络(北京)有限公司独家负责“国际在线”网站的市场经营。

2、凡本网注明“来源:国际在线”的所有信息内容,未经书面授权,任何单位及个人不得转载、摘编、复制或利用其他方式使用。

3、“国际在线”自有版权信息(包括但不限于“国际在线专稿”、“国际在线消息”、“国际在线XX消息”“国际在线报道”“国际在线XX报道”等信息内容,但明确标注为第三方版权的内容除外)均由国广国际在线网络(北京)有限公司统一管理和销售。

已取得国广国际在线网络(北京)有限公司使用授权的被授权人,应严格在授权范围内使用,不得超范围使用,使用时应注明“来源:国际在线”。违反上述声明者,本网将追究其相关法律责任。

任何未与国广国际在线网络(北京)有限公司签订相关协议或未取得授权书的公司、媒体、网站和个人均无权销售、使用“国际在线”网站的自有版权信息产品。否则,国广国际在线网络(北京)有限公司将采取法律手段维护合法权益,因此产生的损失及为此所花费的全部费用(包括但不限于律师费、诉讼费、差旅费、公证费等)全部由侵权方承担。

4、凡本网注明“来源:XXX(非国际在线)”的作品,均转载自其它媒体,转载目的在于传递更多信息,丰富网络文化,此类稿件并不代表本网赞同其观点和对其真实性负责。

5、如因作品内容、版权和其他问题需要与本网联系的,请在该事由发生之日起30日内进行。