我的位置: 科教 > 教育在线 > 文章详情
“声”入人心,也可能“声”出事端——人工智能技术因何“偏离着陆”?
分享至:
 (1)
 (0)
 收藏
来源:上观新闻 作者:彭德倩 2019-08-22 09:33
摘要:很多人不知道的是,在人工智能研发领域,科学家每推进一项技术,对其“反向”研发始终同步进行。打个不恰当的比方,就跟武侠小说里一样,解药毒药同时炼制。

近日,人工智能领域发生一个“意外”——某人工智能语音助手硬件产品推出新服务,用户输入任意文字,都能由极其逼真的明星声音朗读出来。没想到,这一全新应用却遭遇恶搞,有用户用定制声音来朗读不雅文本,引发热议。还有人担忧,模仿得太像了,这技术会否成为犯罪的利器。

事实上,类似前沿技术落地却“偏离着陆”引起的困惑不少。除了声音问题外,最近当红的换脸app能轻易制作一段几可乱真的“本人”视频,这是否对被换脸双方造成侵权,如何追责,也有争议。

有科学家指出,新技术在改变生活的同时,往往伴随着混乱和破坏。人工智能技术热潮中,如何在社会伦理和法律规范上充分准备,亟待冷思考。

反制技术并非天衣无缝

人工智能领域的研究包括机器人、语言识别、图像识别和专家系统等。“最近十年,随着芯片计算能力的提高、大数据时代的到来,特别是机器学习技术的重大进展,人工智能技术得到飞速发展,并迅速产业化,”上海大学计算机学院智能科学与技术系副主任岳晓冬博士说。

他首先解释语音仿真的声纹技术原理,“现在的技术范畴内,采集一部分声音形成数据集,分析其频调、特征后,人工智能技术可以通过类似渲染的方法,模仿与本人相像的声音发出任意语段。 ”目前在地图导航app、天气预报app等已经较为普及的“明星语音包”,也是采用这一技术。这次在硬件产品上推出让用户自由定制语音内容服务,属于前沿应用的一次新拓展。

其次,很多人不知道的是,在人工智能研发领域,科学家每推进一项技术,对其“反向”研发始终同步进行。打个不恰当的比方,就跟武侠小说里一样,解药毒药同时炼制。伴随人工智能仿真技术的发展,一项名为“自然语言处理”的技术,专门用于识别声音、图像、画面、签名,甚至人脸等是否有异常,是否人工合成。不仅如此,对于一些人工智能技术产生的“机器人”行为,同样可以识别。他透露,一些外卖app上之前存在“机器人”虚假点评的情况,目前已经有了克星。

“不过,这种识别技术准确率没有达到100%,”他坦言,反制技术并非天衣无缝。

技术如何保持对伦理的敬畏

与技术瓶颈同样关键的,是创新产业的伦理环境,包括大众认知及法律法规制定。站在人类科学史维度上,相当一部分发展受限,并非囿于“能不能”,而在于“该不该”。生物学、医学学科中都有先例。在技术领域突破性增长的今天,面对的是相似的难题,要破解或绕行,非一朝一夕可成。

深耕人工智能及虚拟仿真领域的上海医微讯数字科技有限公司,是谷歌眼镜的开发合作伙伴之一。总经理潘耿道出几年前谷歌眼镜被迫转向的幕后故事——2012年,谷歌眼镜作为一款“拓展现实”眼镜横空出世,向世界展示了“增强现实技术”、“解放双手”在日常应用中的可能性,业界对此心潮澎湃。许多人认为,这一前所未有的领先技术将完全取代手机,成为生活配件,推动人类社会进入更加智能化的时代。

然而当产品进入市场,问题浮现:戴着这眼镜,始终有个摄像头对着前方,谈话对象不知道摄像头是否开着,拍了什么,又实时显示着什么信息……这些让戴眼镜者在带有社交属性的场合中受到抗拒,最初购买的用户渐渐不敢戴出门。设计应用场景下的功能性及由此带来的“酷炫感”,被“不安全感”覆盖,变得不那么酷了。而这个问题在前期产业化进程中,没有人意识到。最终,谷歌眼镜宣布产品方向由原来的普通消费者,向专业领域拓展转向,聚焦于工程、通讯、医疗等方面的应用。

“技术领域的伦理道德,是一种约定俗成的社会道德边界,深层次来说也是技术对人性的探究,”潘耿说,任何产品、技术,再先进也无法逆向而行。人工智能技术与人类结合更为紧密,尤其如此。谷歌眼镜忽略的,可能是人们对隐私的重视。拓展开来,对伦理的敬畏,应是在更多人工智能技术“落地开花”不可或缺的,否则可能好心办坏事,甚至受到市场的反噬。从产业界角度出发,早期商业产品设计,就不能自说自话,而需要一定数据量的盲测,充分了解消费者感受,是否自然,是否自在。再以那款语音定制服务为例,如果在推出服务时,内部设置可以规避不当内容的语言规则及“敏感词”库,是否可以让新技术更加喜闻乐见。

伦理和法律,会否拖慢技术脚步?

基于伦理及社会管理需求的法律法规,永远是滞后于技术的,但这种补位不可或缺。岳晓冬博士从微观角度提出人工智能领域,当前在法律上亟待明确的:其一,是数据隐私的责、权、利归属;其二,如果通过人工智能生发技术实施的诈骗等犯罪,其定性及量刑与传统途径犯罪有何区别;其三,人工智能功能实现时可能发生误伤,如人工智能诊疗出现误诊、语音定制影响明星形象等,其中使用者、技术提供者等各家责任如何界定;其四,人工智能技术往往伴随着前期数据采集及学习模型建立等多重环节,这期间多方利益如何划分。

一位同济大学专家说,人工智能不同于其他技术,未来,它将对各行各业带来冲击性的变化,由此形成的是技术与社会管理交织的问题。在人工智能成为科学主流发展方向的大背景下,全球都在尝试回答这道题。韩国学者2015年成立“韩国后人类学会”,围绕人工智能的伦理用以人文学和法学的观点进行研究。近期,欧盟委员会发布人工智能伦理准则,以提升人们对人工智能产业的信任。

他认为,任何创新探索,需要一定的空间。从这个意义上说,相关法律所扎起的“篱笆”,若太过铜墙铁壁,可能拖慢技术发展的正常脚步。从宏观上看,能否留出一定缝隙或模糊地带,确保技术发展始终处于“可知、可控”的状态,则更为理想。

“历史上每一次技术发展,法律都可以充分应对,”上海大学法学院副院长,知识产权学院院长许春明说:“人工智能会不会带来颠覆式的影响?目前来看,还没到这个程度。”他指出,对人工智能相关法律制定的讨论应分为两个阶段。现实是技术还远未达到可以替代人类的程度,依然是工具。因此,现有法律规则大框架,可以基本覆盖。长远来说,“法律的幻想”也不可或缺,当人工智能真的可以替代人类,它就与以往一切技术都截然不同,后者无论何时都是法律上的客体,前者是否需被界定为法律上的主体,这是需要讨论的。

“我相信,人类是不会纵容某种技术发展替代人类自身的,当下,法律方面更为紧要的,是如何更好地规范及促进其发展。”许春明透露,对此中国已经在探讨准备中。

栏目主编:徐瑞哲 文字编辑:徐瑞哲 题图来源:视觉中国 图片编辑:曹立媛
上一篇: 没有了
下一篇: 没有了
  相关文章
评论(0)
我也说两句
×
发表
最新评论
快来抢沙发吧~ 加载更多… 已显示全部内容
上海辟谣平台
上海2021年第46届世界技能大赛
上海市政府服务企业官方平台
上海对口援疆20年
举报中心
网上有害信息举报专区
关注我们
客户端下载