三年前，首届外滩大会的主论坛，由一杯咖啡聊起了金融科技的发展。昨天（7日），外滩大会主论坛的“咖啡馆”又开张了，中外院士和业界领袖们齐聚一堂，从金融科技谈到了前沿科技，畅谈AI技术带来的红利，也反思了AI带来的隐忧。

AI产业红利才刚开始

在演讲之前，中国科学院院士、复旦大学副校长张人禾分享了一则“新鲜事”：今年9月1日，复旦大学举办了20年以来第一次户外开学典礼，超过1.6万名新同学齐聚光华楼大草坪。但当时上海阴雨连绵，开学当天若是下雨该怎么办？开学前三天，校方找“伏羲”算了一卦，“伏羲”说9月1日不下雨。果不其然，开学典礼顺利在户外举办。

会算卦的“伏羲”，正是复旦大学自研的拥有45亿参数的伏羲气象大模型，仅耗时3秒，即可以预报未来15天的全球天气。他还现场展示了三张图片，对应基于不同的气象情况对9月1日天气的预测，与当天实际结果完全一致。

“可以说AI for science（科学智能AI）已经成为当今科技界最热门的话题之一，它不但改变了我们的生活，同时也为科学研究带来了更多可能。”张人禾感慨道。

事实上，不只是科研领域，新技术在新场景上的应用，在实体领域会创造出更大的价值。美国国家工程院外籍院士张宏江说，AI、区块链和数字人民币的结合，会带来未来更加自动化、更加可信、更加有效的金融服务体系。联合国开发计划署可持续金融中心高级顾问迈克尔·舍伦则指出，物联网和产品本身的互联互通，可以提升信用，促进绿色融资，并降低融资成本，创造一个更可持续的世界。

AI技术带来的产业红利才刚刚开始。麦肯锡中国区主席、全球资深董事合伙人倪以理预测，生成式AI的技术风暴有望开启一场关系到未来8—10年的新一轮技术产业变革。

“AI对全球经济的潜在收益将达到25万亿美元，是当前所有企业最重要的赛道之一，但这个时代刚刚开始。”他举例说道，在高科技行业，该技术每年可以额外创造2400亿至4600亿美元价值；在零售和消费品领域，每年可达2400亿至3900亿美元；在整个银行业，每年可达2000亿至3400亿美元。与此同时，他指出生成式AI可能大幅促进生产力提升，并提供新的就业机会。

财经作家秦朔总结道，科技和金融正在加速融合发展，而且在金融场景中得到淬炼的数据技术，也正在加速走向千行百业。通过产业协作，借助数据技术的换道超车，上海有可能在全球金融支付和跨境交易的重要枢纽的打造上迈出新的步伐。    

安全问题是AI红利的另一面

提高效率的同时，AI技术也带来了隐私泄露、科学伦理、知识确权等难题，特别是大模型时代的到来，安全与高效成了AI应用的“一体两面”。

中国科学院院士何积丰在发言指出，大模型当前面临的安全问题主要涵盖两方面，分别是隐私保护和价值观对齐两大难题。“在未经允许的情况下，大模型是否会收集、使用和泄露个人信息。这是业界已经在着力解决的问题。”他还表示，使用者还需要大模型对齐技术。所谓“对齐”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”

虽然AI技术发展过程中仍有许多诸如资源分配、数字鸿沟、能源消耗、科技伦理等等问题待解，专家们仍然无一例外表达了乐观。

长期从事量子计算研究的段润尧认为，量子计算和人工智能结合，能够非常高效快速地解决现在不能解决的问题。蚂蚁技术研究院院长陈文光也认为，对人工智能技术的忧虑值得重视，但应该先看到技术的正面作用，“技术是最大的善良。我们从最初活那么短，到现在活那么长，从工作时间那么辛苦，到现在可以有更多的休息时间，都是技术进步带来的。我们讲技术带来的风险，更多是技术不成熟带来的风险。”

“我一直在教机器作一些非常简单的事情，但它总是学错东西，或者根本学不会。”“到底是谁在学习，你还是机器？”“我想我们都是……”

在演讲的末尾，何积丰援引了一段“人工智能之父”图灵与友人的对话。“实际上，我们双方都在学习，我们能指导机器更加智能，但同时我们也在学习如何去训练指导机器。”他表示，在AI技术发展过程中，千万不要忘记人类的核心角色，“AI是我们的助手，而不是我们的替代。”