新华网北京4月26日电（记者凌纪伟）让人工智能安全发展、造福人类，实现这一愿景，离不开针对人工智能的安全治理与国际合作。

在4月25日-29日召开的2024中关村论坛年会上，推动可信AI发展成为与会嘉宾探讨的一个热点。人工智能要在“智”与“治”之间找到平衡，协同并进。

尽管在大模型技术助推下，人工智能已取得长足进步，但AI距离人类智能仍有差距。1994年图灵奖获奖者、中国工程院外籍院士罗杰·瑞迪认为，AGI（通用人工智能）被定义为智能水平接近人类的AI，但对照人脑级智能，AI系统缺失很多特性，比如人类从经验中学习，实时运转，运用自然语言和人类交流，容许错误和模糊性，创造并使用符号和抽象概念。

对生成式AI内容不加过滤用作训练可能带来风险隐患。近年来，全球范围内纷纷出台涉及人工智能的立法政策，彰显了国际社会对安全治理的重视。

硅谷人工智能研究院院长皮埃罗·斯加鲁菲也表达了对生成式AI的担忧。“现在很多诊断是由AI来做，比如你用GPT诊断疾病的话我们放心吗？很多时候是不放心的。”在他看来，生成式AI并不可靠，如何实现可信AI是未来研究的重要领域。

“全球AI领域的人士提出，应将缓解人工智能导致的风险，与其他社会风险等同重视。”会上，中国工程院院士沈昌祥引述此背景，提出可信计算应该成为人工智能发展的前提，完备的可信计算3.0产品链，将形成巨大的新型产业空间。他表示，目前中国已具备可信计算功能的国产CPU，嵌入式可信芯片及可信根，具备可信计算3.0技术的设备。

图为2024中关村论坛年会数据安全治理与发展论坛现场（主办方供图）

人工智能迅猛发展，凸显了数据的重要性，安全也成为数据发展的瓶颈。

“数据安全治理是人工智能和数字转型时代一个至关重要且不断演进的议题。”香港工程科学院院士、香港科技大学首席副校长郭毅可提出，通过建立健全的法规、采用先进技术、加强国际合作和遵守最佳实践，我们可以推动负责任和安全的人工智能应用，确保数据安全治理的有效实施。

“大模型治理已经成为全球共识，而且总的原则也是相通的。”清华大学人工智能研究院常务副院长孙茂松认为，生成式AI的确隐藏着不安全因素，比如幻觉问题，开展治理是必要的。现在比较紧要的是建立大模型安全评测数据集。

据北京智源研究院副院长兼总工程师林咏华介绍，为了推动更多企业一起共建高质量、国家级中文语料库，人工智能安全治理工作委员会数据工作组打造了“共建—共享”的数据使用新方式。以积分制，鼓励数据贡献，实现贡献单位之间的数据共享。

在人工智能领域，监管沙盒机制是探索人工智能可控发展的创新手段。在本届论坛上，北京人工智能数据训练基地监管沙盒成果发布，这是首例人工智能领域监管沙盒，为人工智能产业创新机制做出了探索。