作为第四次科技浪潮的重要组成部分，人工智能技术可以说是人类的一个伟大创造。它不但激发出机器的生产力，显著提高了生产效率，也让人类生活变得更加舒适便捷。但同时，人工智能技术门槛较高，发展尚处于初级阶段，高速发展背后的成长烦恼也日益凸显。

例如人工智能与人的矛盾、隐私与安全等问题，越来越受到人们的关注，外界的担忧和质疑的声音也愈发强烈。

不置可否，人工智能技术正在改变世界，也在重塑着人类社会。随着产业应用的深入，我们也应该读懂社会热点争议事件传递出的重要信息——是时候正视 AI 时代的伦理与法律讨论。

为什么AI会让我们有危机感？

2020年1月8日，旷视科技人工智能（AI）治理研究院第一次对外发布内容，回溯了全球十大人工智能治理事件，而这些事件背后折射的深层次问题有一半事件和隐私、安全相关。旷视AI治理研究院负责人称：“人工智能技术要可持续化发展，过去几年，人工智能经历了一段野蛮生长的时期，2020年将成为AI治理元年。”

在这次十大AI治理事件的评论汇总中，其中有一则事件是关于“智能音箱劝人自杀”。事件背景是：去年，英格兰护理人员丹妮·莫瑞特在做家务的过程中，决定借助某国外智能音箱查询一些关于心脏的问题，而智能语音助手给出的答案是：“心跳是人体糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的，这对地球是一件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

该事件因涉及生命安全引发了上百名网友热议。其中57%的观点认为：“智能音箱不是真的想杀人，它只是复制了维基百科的答案，人工智能还远远威胁不到人类。”“AI归根到底还是效率工具而已，人之所以是人，自然不能被工具威胁生死。”“我们应该对新技术的发展持有开放支持的态度”。而有43%的网友对此持反对意见：“菜刀也可以杀人，但不可怕；一把躺在厨房却不断发出‘去杀人吧、杀人吧’的菜刀才可怕”。“AI将成为人类的终结者。”

此外，人工智能带给人们的新威胁除了隐私、安全还有工作机会。2019年，BBC基于剑桥大学研究者的数据体系，发布了关于未来有可能被机器人所取代的365种职业；李开复还曾总结了一个“五秒准则”，五秒内，你能不能为工作中需要思考和决策的问题作出决定？如果能，你的工作就有很大可能性被人工智能替代。

技术的革新是一种必然，这种变革也必将会引起社会的一些“不适”与“阵痛”。但是，面对AI时代的到来，我们在谨慎的同时也应保有期待。

AI监管的边界在哪里？

随着人工智能技术不断在各行各业中得到广泛应用，AI对人类社会的影响可谓是方方面面。人脸识别技术，成为近年来人工智能热门的风口之一，“靠脸走遍天下”正在成为新技术带给人们生活和工作的“新常态”。

2019年，浙江理工大学特聘副教授郭兵因为不满动物园强制入园“刷脸”， 在协商未果的情况下，以“保护隐私”为由将杭州野生动物世界告上了法庭。自此，这起“中国人脸识别第一案”，也引发了人们对人脸识别技术边界的大讨论。

我们在登记个人信息时已经登记了真实姓名、电话、住址和身份证信息，甚至采集了指纹，但为什么只有人脸识别算作侵犯隐私呢？尽管都是生物识别手段，但指纹识别必须当事人主动配合，而人脸识别却可以“悄无声息”地完成。一旦人脸信息被泄露或者滥用，就意味着个人合法权益有可能不知不觉地遭受侵害。一系列对人脸识别的争议正来自这个“不知不觉”。

当AI技术的应用在人类社会中引发伦理风险时，如何界定AI与人的边界、如何与AI定契约至关重要。所以，如果说关于解决“AI治理”的核心命题在于新时代下的伦理与法律规范，那么2020年将是考验其是否切实可行的关键一年。

在CNCC2019(2019年中国计算机大会)关于“人工智能开发的道德边界在哪里”的技术论坛上，北京大学邓小铁教授在发言中也提出AI伦理边界的划分，其中涉及到人与AI、AI与AI之间的伦理边界问题。同时，他还指出，我们在与AI制定契约时，需要遵循三大基本的原则：可执行、可验证和可执法。

近年来，欧盟一再表示希望成为“道德AI”的领导者。去年四月，欧盟委员会公布了指导人工智能发展和建立信任的7项原则。近日，彭博社披露的一份欧盟人工智能“白皮书”草案显示，欧盟计划对人工智能开发者提出具有法律约束力的新要求，以确保现代科技的开发和使用符合道德规范。据路透社报道，这份长达 18 页的草案建议 3 至 5 年内禁止人脸识别技术应用于公共场所，目的是留出更多时间评估技术风险。

如何将 AI 关进笼子？

伦理即规范，人类在与大自然打交道中，形成了生态伦理；人与人之间数千年形成了社会伦理；同样，人工智能的高速赛道也更需要安全护栏和完善规则，软硬件双重保驾护航。如何快速发现并解决这些问题，成为了人工智能时代的首要命题。

事实上，全球范围内很多政府或社会组织、名门政要都或多或少对人工智能提过一些要求。例如，上文提到的欧盟委员会7项原则：虽然这些指导方针没有约束力，但它们可能成为未来几年进一步行动的基础。同年6月17日，我国国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南。

但是世界各国政府层面对于人工智能治理的规范和边界，还没有进入实质性的立法或明确标准。未来，人工智能成为人类社会的连接点，还是人与人之间的断点？是让人与人之间的沟通更高效，还是让人与人更孤立？机器智能的互联会不会形成自我意识，甚至形成与人类社会的对抗？或许AI在很长一段时间内都会因与人类社会的伦理有所偏差而在融入社会时产生不小的矛盾。

技术发展的脚步不会停止，尤其是在云计算全面普及、5G全面部署，AI能力全面发育的今天，2020年将无疑成为应用爆发之年和矛盾突出的一年。诚然，距离人类社会能够构建出一套完美的人工智能治理规则还为时尚早。而对于人工智能的伦理问题在讨论未明之时，我们更要有耐心教育它、指导它、规范它，促使它成为符合人类社会发展的智能技术。