在人工智能时代，如何应对数字安全挑战？5月18日，在2024西湖论剑·数字安全大会主论坛“思客对话”上，与会嘉宾给出了答案。

本场对话由工信部通信专家委顾问武锁宁主持，中国电信集团公司原总经理、全球云网宽带协会董事会主席李正茂，教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏，IDC中国副总裁钟振山以及杭州人工智能学会副秘书长、安恒研究院院长王欣等嘉宾聚焦“人工智能发展与安全”主题，探寻人工智能如何引领数字安全变革。

嘉宾们一致认为，随着人工智能技术的快速发展，尤其是大模型和生成式AI的兴起，数据安全问题日益凸显。同时，人工智能的广泛应用也带来了新的安全挑战，如思维漏洞的利用和恶意攻击等。嘉宾们呼吁全社会高度重视人工智能安全问题，加强研究和防范措施。

“大模型与生成式AI出现之后，将人工智能的话题又推向了另一个高度，使用这类产品帮助我们解决问题的同时保护核心信息资产不会被泄露是当下我们需要考虑的问题。”钟振山说，“我们预测，到2026年，会有超过50%的企业成立企业自身的AI的监管部门。作为科技厂商，应该引导企业和用户正确使用人工智能这项技术，企业自身也需要具备足够强大的技术和监管能力，让它更多地发挥出价值，而不是成为企业未来运作的潜在风险。”

李正茂认为，网络信息安全进入到了第四阶段，从信息安全、网络安全到数据安全，这次西湖论剑开启了新的话题，即人工智能问题。人工智能安全问题目前还处于非常初期的阶段，“未知”远大于“已知”，设想各种各样的情形，进行研究和治理的政策制定等，都是非常必要的。对于个人来说，在人工智能时代要“守好钱包”，警惕各类诈骗。

胡瑞敏表示，人工智能的安全问题比想象中严峻；它从传统的物理安全到现在的感知安全、认知安全到全空间安全，已无处不在；对安全最大的挑战是人工智能，因为今天的安全问题已与早期利用物理漏洞不同，它的不当使用和恶意攻击，对安全带来的巨大挑战，怎么去强调都不过分，所以这就需要引起全社会的高度重视。要把它上升到国家意志，要从体制、机制、技术标准提前进行规范和布局，才能够走到前面。

“人工智能作为新质生产力的关键引擎。在其发展过程中，安全本身是伴随性需求，随着技术被广泛应用之后，安全问题会逐步产生更大的影响。”王欣提到，“人工智能是一种拟人化学科，与传统的软件工程技术有较大的区别，造成的安全隐患也会不同。过去很多防御手段有可能在未来一段时间会失效。所以包括安恒必须要通过技术对抗技术，用AI对抗AI，不断用AI加强安全能力，去防御对手。”

主持人武锁宁在总结时指出，面临人工智能带来的挑战，一定要未雨绸缪。同时，认识到它是一个社会性问题，要从整体架构进行系统考虑，从国家战略、全球战略来考虑。最后，所有来自技术的挑战最后还是要回归到技术上，通过新技术去解决人工智能发展伴随的问题。

作为国内首个进入第十二年的数字安全行业盛会，2024西湖论剑·数字安全大会深入探讨人工智能浪潮下的数字安全新质生产力实现路径，围绕数据要素发展和数据安全设置议题，赋能数据要素在千行百业的价值实现，筑牢发展和培育新质生产力的基石。

新华网思客是新华社国家高端智库的重要组成部分，邀请专家学者凝聚共识、建言献策，并致力于传播有价值的观点和声音，感知时代的脉搏，沉淀智慧与真知。