随着人工智能发展日新月异，机器人已深度介入人类生活：2017年初，欧洲议会的一份报告建议承认机器人的“人格”；同年10月，沙特阿拉伯王国赋予名为索菲亚的机器人以公民身份；而在日本，已出现机器人参与市长竞选……在中国，2017年全国两会上，“人工智能”首次被写入政府工作报告。这标志着人工智能不再是一个技术命题，而正式成为一个发展命题。

人工智能时代，谁都不可能做旁观者。它再也不是自然科学家或者企业家的专利，更多的人文社会科学学者乃至普通大众开始加入相关讨论，由此触及了人工智能的最核心问题：人工智能与人类的边界在哪里？人类会不会被机器人所统治？在此次世界人工智能大会上，伦理、安全、法律作为前沿议题被纳入论坛研讨范畴。

毫无疑问，人工智能是一个跨界应用。这个“界”不是一般意义上的学科领域之界，而是虚拟世界和物理世界的界限。由此带来的变化是颠覆性的，因为它所改变或重塑的可能是人类的生存环境和认知形态。

人类历史上的任何创新都有可能带来伦理、法律等社会问题。比如，当机器大生产兴起时，造成了大量手工业者失业，工人们以砸毁机器的方式表示自己的愤慨与抗拒。但是，从本质上说，那时的机器主要是在原始的身体能力方面与人类展开竞争，也就是说，机器更多是人体的物理延伸。然而，人工智能不同，它所带来的冲击比以往任何一次技术创新来得更猛烈一些。这是为什么？有人指出，一个重要原因就在于，它对人的智能和行动的模拟，使机器具有了一种“准人格或拟主体”的特性，由此可能对人类现有的法律规范、概念框架及知识储备甚至行为模式产生影响。这种颠覆性挑战在人类历史上还是第一次。以撰写“简史三部曲”闻名的以色列学者尤瓦尔·赫拉利在《今日简史》中描述了人工智能的这种颠覆性：人工智能不仅能够侵入人类，在以往认为专属于人类的技能上打败人类，更拥有独特的非人类能力，使得人工智能与人类之间的差异不是程度高低的问题，而是完完全全的两回事。

事实上，早在人工智能产生之前，已有专家作出惊人预测：1948年，著名控制论专家艾什比说，机器人将统治人类。这一年距离第一台计算机问世仅两年。已故著名物理学家霍金的那句“人工智能可能是人类历史上发生的最好的事，也可能是最坏的事”，更是广为人知。

对于人工智能的担忧，表面上看是由于它过于强大，实际上更多源于不确定性。古希腊神话中有一位刀枪不入的英雄阿喀琉斯，他唯一的致命缺陷就是脚后跟，最后也因此而丧命。人工智能在某种程度上就像阿喀琉斯，看上去非常强大、无所不能，但是它依旧有着脆弱的踵，而我们不知道最终哪一只箭会射中它。

比如，人工智能引以为傲的算法，却有着致命的黑箱缺陷。因为机器的学习过程是不可解释和不可理解的，所以最终它所做出的判断往往就像在一个黑箱中完成。正如有人所说的，当机器逐渐开始了解人的决策和行为过程时，人类对于机器的了解却还是停留在硬件层面。

无人驾驶、人脸识别……越来越多的人工智能应用出现在我们的日常生活中，在带来便利的同时，也产生了不少法律、责任的空白区域。人工智能的爆发式发展为乐观派提供了最好的论据支撑，但是在“天使”的另一面，很可能住着“魔鬼”。所幸，最广泛最深刻的讨论，往往是通向共识的有效路径。对于可能存在的诸多风险和挑战，毋庸讳言；对于人工智能带来的精彩未来，我们更需要以积极的心态拥抱。

针对人工智能应用的潜在风险，国际社会在标准设计、伦理道德等方面提出了一系列方案。其中最重要的就是为机器人设置底线约束。70多年前，美国科幻作家阿西莫夫提出“机器人三定律”，构想了通过内置的“机器伦理调节器”，设定机器人不得危害人类的原则。这些年，更多学者提出了类似的规范性原则。

除了宏观层面的原则探讨，更多规范被制订出来用以校正人工智能在发展过程中可能出现的轨道偏离。不久前生效的欧盟《通用数据保护条例》专门规定，人工智能公司必须让人来审查某些算法决策。去年7月，我国政府印发《新一代人工智能发展规划》，提出要“建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。在此次世界人工智能大会上，将发布两个倡议：人工智能与法治上海倡议，数据流通个人信息保护最佳实践倡议。或许你没有参与什么重大前沿技术探索，但是对于人工智能，你依然可以有所作为，在数据隐私保护、法律法规保障等方面出一份力。

人工智能发展已是大势所趋，因噎废食是最愚蠢的选择。人工智能发展中遇到的问题，只能在发展中加以解决。事实上，技术本身也是在不断攻防中得到发展的。风险与挑战往往也意味着更多创新与变革，实现未来的最好形式依然是合作，“人类+人工智能”应该成为主导方式，由此人工智能将真正成为人类的助手而非对手。

转载请注明来源“上观新闻”，违者将依法追究责任。

（栏目邮箱：shhgcsxh@163.com）