新华社海南博鳌3月27日电 题：AI时代，如何让治理跟上技术步伐？

新华社“新华视点”记者宋佳、王存福、刘开雄

从“AI儿科医生”参与病情会诊，到“AI数智员工”辅助提供公共服务，再到人形机器人进厂上班……全球人工智能技术进入爆发式发展阶段，正以前所未有的速度走入千家万户、改变千行百业。当AI重塑我们熟悉的世界，随之而来的机遇与挑战如何应对？应用与治理如何平衡推进？

正在举行的博鳌亚洲论坛2025年年会上，国内外技术前沿领域专家、学者和企业代表就相关话题展开热烈讨论。

适应AI“新常态”

当下，人工智能加速赋能千行百业，进入教育、医疗、政务、金融等场景。越来越多人感受到AI带来的便利。从无人驾驶、机器人到脑机接口，大众对AI应用产生更多期待。

毕马威中国首席技术官及创新主管合伙人刘建刚表示，人工智能已经不是一个未来概念，对很多企业而言，利用人工智能加速决策、创新产品、优化运营，已不是选择题，而是必答题。

数据显示，2024年我国完成备案并上线提供服务的生成式人工智能大模型接近200个，注册用户超6亿；工业机器人装机量占全球过半。

3月26日，博鳌亚洲论坛嘉宾围绕“在AI应用中塑造核心竞争力”议题进行讨论。新华社记者 杨冠宇 摄

今年政府工作报告提出，持续推进“人工智能+”行动。国务院研究室副主任陈昌盛表示，今年将开展新技术新产品新场景大规模应用示范行动，在确保安全前提下，加快人工智能在低空经济、教育培训、医疗健康等多场景应用。

中兴通讯股份有限公司董事长李自学表示，当前人工智能通用型应用加速普及，但在行业领域还存在不好用、不易用、不会用等问题。应在通用基础大模型上，结合不同行业应用场景需求，加强专属领域定制与深度训练，让大模型成为懂行业的“能工巧匠”，促进人工智能与产业真正结合。

有观点认为，未来可能出现自然人、机器人、数字人并存交互的社会形态。《博鳌亚洲论坛亚洲经济前景及一体化进程2025年度报告》指出，随着人工智能技术的广泛应用，部分行业就业受到严重影响。

“替代部分工作岗位是技术变革中的必然过程，有些岗位受影响，也会有新岗位出现。”vivo高级副总裁、首席技术官施玉坚说，每个人都要通过学习不断提升综合素质，适应AI带来的变化。

多位与会嘉宾表示，除了加强人工智能知识技能教育培训，还应考虑制定新的社会保障政策，加强对受冲击劳动者群体的兜底保障。

加固“安全护栏”

在博鳌亚洲论坛多场人工智能相关活动上，与会嘉宾普遍认为，随着AI能力越来越强，AI不可控、被滥用等风险会越来越高，在推广应用中要加固“安全护栏”。

社交平台上，不少人吐槽AI一本正经地胡说八道。清华大学公共管理学院院长朱旭峰表示，这是AI幻觉，指大模型有时混淆事实和虚构，在看似是事实的句子中插入错误细节。AI胡编乱造可能产生误导，甚至会引发严重后果，特别是在医疗、金融、法律等对信息真实性和准确性要求极高的领域。

“技术暂时不成熟，我们不能因噎废食。”朱旭峰说，要加大对技术的开发和使用，推动AI幻觉等问题随技术不断进步逐步解决。

AI应用过程中需要使用大量数据，数据安全与隐私保护备受公众关注。多位与会嘉宾表示，现实中，具体应用场景下哪些数据必须收集，敏感信息数据如何避免泄露等，需要进一步明晰相关制度规则。

施玉坚认为，随着AI技术的普及，企业对数据的依赖程度日益加深，如果不采取相应的安全措施，就可能造成数据泄露的风险。“数据要进行脱敏或加密处理，增强传输和存储过程中的安全性。”

AI技术的滥用误用是显著风险之一。有统计显示，2024年全球发生的AI风险事件，超过30%与利用AI进行深度伪造相关。深度伪造名人形象、声音进行虚假宣传甚至诈骗不时见诸报端。

3月26日，博鳌亚洲论坛2025年年会举行“AI：如何做到应用与治理的平衡推进”分论坛。新华社记者 蒲晓旭 摄

多位嘉宾表示，AI深度伪造现象层出不穷，主要在于造假成本低，追查、执法成本大，应针对AI误用滥用完善相关法律法规，加大惩罚力度。

伴随AI产生的伦理道德争议也不容忽视。中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅认为，伦理安全应作为人工智能大模型发展的“基因”，如何在追求技术进步的同时坚守道德底线，是需要共同面对的重要课题。

“人工智能的发展与安全不是互相掣肘的关系。”曾毅说，最新研究表明，可以在几乎不影响人工智能大模型求解能力的同时，通过科学的方式提升其安全能力。

让治理跟上技术步伐

如何让治理跟上AI技术步伐？与会嘉宾表示，AI治理是一个全球性的复杂问题，需要达成世界共识，推动各领域相互协作。目前，主要经济体都在加速相关立法进程。

在AI治理中，中国坚持统筹发展和安全，有关部门已发布多项AI治理指导文件。其中，前不久发布的《人工智能生成合成内容标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理。

在芬兰前总理埃斯科·阿霍看来，政策制定者、企业家、科学家等利益相关方应聚在一起，建立共识，通过制定标准来应对AI带来的治理挑战。

“AI医生”看病出了问题算谁的责任？当人工智能系统产生不良后果，如何确定责任归属也需进一步厘清。“多位嘉宾都提到一个观点，不要让人工智能完全代替人的决策，这是人工智能应用时必须注意的问题。”曾毅说。

高质量数据是AI应用大规模落地的重要支撑，构建一个完善而成熟的数据市场也十分重要。以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒认为，应根据实际情况，建立符合自身需要的数据监管方案与路径。

与会嘉宾表示，AI时代到来，要坚持应用与治理平衡、创新与监管并重、全球化与本土化协同，防止数字鸿沟变成智能鸿沟，让AI真正成为推动社会进步的普惠力量。