院士专家齐聚外滩大会热议“AI时代” 科学智能已成人工智能重点发展方向

2023-09-08 07:42:10 来源：南报网小 中

□南京日报/紫金山新闻记者张安琪见习记者祝东秀

(相关资料图)

“AI时代”，如何高效推进科技创新？大数据时代，我们的隐私如何保护？AI会替代人吗？9月7日，2023外滩大会在上海开幕，主题为“科技·创造可持续未来”。主论坛上，AI成为院士专家的讨论热点。中国科学院院士、复旦大学副校长张人禾表示，“AI时代”来临，科学智能已成人工智能重点发展方向，要进行“有组织科研”。

中国科学院院士张人禾：科学智能已成人工智能重点发展方向

耗时3秒以内，拥有45亿参数的伏羲气象大模型，可以预报未来15天的全球天气。这便是人工智能和科学研究结合之后带来的改变。

外滩大会上，中国科学院院士张人禾表示，科学智能已成人工智能重点发展方向，是当今科技界最热门的话题，相关研究发展正在从部分机构的探索变成产学研各界的共识，从点状突破转变为系统布局，“科学智能是推动科学研究范式变革、实现科技原始创新策源的利器，拥有引爆产业创新核爆点的巨大潜能。”

近年来，国外加速布局，科学智能发展进入快车道。美国出台政策构筑智能科学发展环境，2023年5月，美国能源部发布《面向科学、能源和安全的人工智能》报告指出，AI将从底层推动科学、能源和安全的发展，并展开布局。斯坦福大学、麻省理工学院等知名学府，谷歌等科技企业则纷纷入局开展体系化研究。

“国内科学智能也在迅速发展，涌现出大量的科学领域大模型，但仍处在起步阶段。”张人禾表示，面对“AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”。这样最大的优势在于布局建设大平台，可推动跨学科交叉研究，激发创新突破，加速科技创新与产业变革的深度融合，推动产业转型升级。高校有责任在“AI时代”为科学理念的普及、科学应用的拓展发挥引领和导向作用，使更多群体、更多领域共享“AI时代”红利。

中国科学院院士何积丰：应对大模型的安全问题需戴好“紧箍”

大模型是指使用机器学习和深度学习等技术训练出来的巨型神经网络模型。大模型的通用能力让其能够应用到人类生产生活的各个场景，可谓“无孔不入”，因此带来新的安全隐私问题，如何解决这一隐患？外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴好“紧箍”。

何积丰认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程中，也可能发生在使用过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。

“为了应对这些问题，我们需要大模型对齐技术。”何积丰介绍，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果，“如果把人工智能看作《西游记》里的孙悟空，‘对齐’就是唐僧的紧箍咒，就可以保证技术不会被用于胡作非为。”

不过，该技术同样面临挑战。首先，对齐的基础，需要保证大模型为人服务、与人为善；其次，大模型的有用性与无害性之间目标也不完全一致。如何对错误进行有效纠正，设好大模型的“紧箍咒”也是挑战。

因此，对齐技术已经成为一项令人眼花缭乱的跨学科研究，不仅考验技术，也审视文化。何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种则是事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。

美国院士迈克尔·乔丹：AI不会替代人

ChatGPT对它写的内容确定吗？会上，机器学习泰斗，美国科学院、美国工程院、美国艺术与科学院三院院士迈克尔·乔丹教授在谈到这一话题时直言，ChatGPT完全无法回答上述问题，但人类则非常擅长处理类似的问题，擅长沟通以及应对不确定的信息。

迈克尔·乔丹指出，ChatGPT没有办法对不确定性进行量化，他不认为有一种所谓的超级电脑会替代人，应该把技术看作是一个工具来赋能人类，建议关注集体的智能体。

“AI的本质是集体，而不是个人。”迈克尔·乔丹表示，需要建立一个协作式、去中心化的系统来实现集体智能，并设计一个机制使之公平、稳定、可扩展，“我们在日常生活中经常遇到不确定性，去中心化的系统能够帮助我们更好、有效地应对日常和世界当中的不确定性，这才是我们亟待解决的问题。”在他看来，AI不会替代人。

关键词：