我的位置: 观点 > 思想汇 > 文章详情
Sora可能挑战人类社会运行规则?专家:大模型治理应辩证统筹五对关系
分享至:
 (35)
 (0)
 收藏
来源:上观新闻 作者:丁依霞 2024-03-01 06:31
摘要:引导人工智能技术更好地赋能千行百业、为人类福祉服务。

近日,美国人工智能研究公司OpenAI发布文生视频大模型Sora,引起全球关注。Sora及其代表的人工智能大模型技术不断颠覆人们认知,显示出科技发展的巨大潜力和无限可能,也引发“饭碗焦虑”“深度伪造”、国家间关于“主权人工智能”竞逐等现实问题,给人类社会的现有运行规则带来深刻挑战。

技术狂飙之下,现有法律框架和治理体系如何跟进?为引导人工智能技术更好地赋能千行百业、为人类福祉服务,大模型治理应辩证统筹以下几对关系。

统筹发展与安全

人工智能是新一轮科技革命和产业变革的重要驱动力,大模型的发展对推动产业优化升级、生产力整体跃升具有关键作用。我国去年印发的《生成式人工智能服务管理暂行办法》指出,“国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展”。因此,要认识到大模型之于经济社会发展的作用和价值,以开放包容的心态和科学严谨的方法对待新技术应用。鼓励有条件的主体加强创新研发能力,加大对创新主体的支持,推动算法、数据、算力等各方面资源协同发展。鼓励各行业因时、因势地选择大模型应用场景和建设模式,以持续创造价值和效益。

在助力创新与发展的同时,大模型也存在模型决策不够透明、模型训练过程中对隐私信息保护不足等风险,所以大模型治理必须牢牢兜住安全底线,以高水平安全保障高质量发展。一是构建全方位安全保障体系,结合网络安全体系建设工作要求,加强人工智能内生安全、零信任防护等建设。二是增强数据安全保障能力,建立数据分类分级保护基础制度,健全数据监测预警和应急处置体系。尽可能精准识别生成式人工智能产生的风险,完善从数据到算法再到生成内容的全链路体系规制。三是营造包容审慎的监管环境,根据风险等级、应用场景、影响范围等情境,实施分级、分类、差异化监管。

统筹效率与公平

国家发展改革委、国家数据局印发的《数字经济促进共同富裕实施方案》指出,要通过数字化手段促进解决发展不平衡不充分问题,持续弥合“数字鸿沟”,促进公平与效率更加统一,推进全体人民共享数字时代发展红利。因此,在千行百业中应用大模型,既要帮助各行业创造出更高的效率,实现更高质量的发展,又要更有效地维护社会公平,实现效率与公平相兼顾、相促进、相统一。

一方面,大模型能够以降本增效的方式赋能千行百业,推动产业数字化和数字产业化,在助力高质量发展中实现共同富裕。例如,波士顿公司发布的《公共部门的生成式人工智能应用:从机遇到价值》认为,生成式人工智能可以帮助政府公共部门提高生产力和服务质量,其在国家、州或省以及地方政府中的生产力价值每年可达1.75万亿美元。另一方面,考虑到大模型的“双刃剑”特点,要特别关注技术应用中的公平问题,注意弥合新的“数字鸿沟”。在公共服务或社会治理场景中引用人工智能大模型,必须考虑其合规性问题,确保大模型的有效运用和使用者期望的合理满足。

统筹活力与秩序

要处理好有效市场和有为政府之间的关系,让大模型技术发展实现活而不乱、活跃有序的动态平衡。一方面,更好发挥政府、企业、社会的协同作用,深化各方面体制机制改革,充分释放全社会创造潜能,鼓励科学家、企业家、文艺家等各方面人才特别是青年人才创新、创造。

另一方面,公共部门要加强规范治理,对大模型背后的数据偏见、法律和隐私风险等加强防范,对其生成内容明确责任主体判定、加强可追溯与解释性。目前,一些国家和城市发布了公共部门应用生成式人工智能的临时指南,比如纽约“自动化决策应用指南”、波士顿“生成式AI临时指南”等。这些指南旨在明确大模型可以应用到哪些领域,并对“如何使用”提出了具体要求与提示,包括“禁止用例”“建议用例”“如何提问”以及“注意事项”等。然而,针对具体使用场景,不同国家和城市在“禁止”和“建议”上存在部分冲突,共识规则还有待形成。作为创新主体的企业,要强化社会责任意识,确保大模型的开发和应用符合伦理道德标准和法律法规,积极参与构建安全、可信、可持续的大模型时代。

统筹顶层设计与实践探索

要处理好“自上而下”和“自下而上”之间的关系。大模型治理既需要来自顶层设计的统一规划和整体布局,坚持“一张蓝图绘到底”,也需要汲取地方实践的养分,以“实践反哺理论”,两者相辅相成、缺一不可。没有顶层设计的系统部署和方向指引,大模型发展既可能因为难以协调各方关系而停滞不前,也可能因为各自为战形成新的“技术孤岛”;反过来,没有基层实践的积极探索与大胆创新,缺少来自实践前沿的经验和知识,顶层设计会成为无根之木、无源之水。

一方面,大模型治理要立足数字中国建设的时代背景,从经济社会治理数字化转型的全局出发,进行前瞻性、全局性布局,避免政策不配套、行动不同步、业务不联动、数据不互通、系统不兼容、安全不保障等问题。另一方面,各地区、各行业、各部门要结合具体情况开拓创新,特别是在前沿领域鼓励大胆探索、敢为人先,寻求有效解决新矛盾、新问题的新办法。当前,我国数字化转型已经进入“深水区”,大模型技术提供了新方向和新动力。要更好发挥各主体的能动性和首创精神,通过试点先行、创新大赛、揭榜挂帅、容错机制等撬动积极性,形成“试验—认可—推广”的创新路径,实现“以小见大、以点带面”的创新扩散。

统筹自立自强与对外开放

要处理好对内和对外之间的关系。一方面,立足国情谋划人工智能大模型发展,特别是要看到我国具有的超大规模市场、海量数据资源、丰富应用场景等多重优势。加快实现高水平科技自立自强,加强原创性、引领性科技攻关,坚决打赢关键核心技术攻坚战。提高大模型自主研发、管理能力,开发适合我国数字化转型的大模型应用。充分利用国家资金与社会资源,引导科研院所、高校等社会各界投身大模型相关的技术研发,提高成果转化率。此外,要警惕其他国家对我国生成式人工智能的技术封锁,加快生成式人工智能平台的自主研发及其在各行各业中的应用。另一方面,要坚持胸怀天下,拓展世界眼光,既紧跟世界数字技术发展的最新成果,又要以中国新发展给世界带来新机遇。要在持续追踪全球人工智能发展进展的同时,吸收他国技术应用的经验和教训。

(作者单位:中共上海市委党校)

栏目主编:王珍 文字编辑:周丹旎 题图来源:新华社 图片编辑:曹立媛 编辑邮箱:shhgcsxh@163.com
上一篇: 没有了
下一篇: 没有了
  相关文章
评论(0)
我也说两句
×
发表
最新评论
快来抢沙发吧~ 加载更多… 已显示全部内容
上海辟谣平台
上海2021年第46届世界技能大赛
上海市政府服务企业官方平台
上海对口援疆20年
举报中心
网上有害信息举报专区
关注我们
客户端下载