今年3月5日一早，上海市公安局网安总队民警在巡查时，发现一条流量可观、吸引眼球的信息：华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅……最终调查显示，这是一条由AI生成的谣言信息，背后推手王某某等人通过自媒体账号进行发布，目的是吸引流量，牟取利益。

“便利的AI工具大大降低了造谣成本，提升了谣言的数量级和传播力。”尽管拥有丰富的谣言阻击经验，市公安局网安总队三队队长符斌坦言，这场战役正面临全新的挑战。

“AI造谣”带来哪些影响？如何阻击？

近年来，AI造谣在全国多地频发，传播快、门槛低、迷惑性强的特征日益显现。比如，在一起女童走失事件中，一团伙以“标题党”“震惊体”方式，恶意编造谣言。经查，该团伙利用AI工具等生成谣言内容，通过114个账号矩阵，在6天内发布268篇文章，多篇文章点击量超过100万次。

如今，不断升级的AI工具，让谣言产生的数量级和传播力几何级增长。“AI的介入，使得信息的生成和传播速度大大加快，同时也增加了判断信息真实性的难度。”结合“华山医院前院长客死异国”这一谣言的查处情况，静安公安分局网安支队民警程海岳表示，当下，AI谣言已能够定制化生成、精准化传播和智能化扩散。

跟王某某等人的出发点一样，近来发生的多起AI谣言，造谣者的动机是为了发布帖文、博取流量，以获取互联网内容平台给予创作者的点击量、阅读量奖励。此外，也有一些人通过AI造谣来“养号”，为直播和卖货引流。上海公安机关曾发现，在一家电商平台上出现了某艺人“命运多舛、含恨离世”等短视频，引发大量点赞和转发。经查，该视频内容完全系伪造。视频发布者到案后交代，他在某电商平台上经营一家土特产网店。由于销量不佳，他便通过编造夺人眼球的虚假新闻给网店账号吸引流量。他不会视频剪辑，便利用AI技术生成文本和视频。

应对AI造谣乱象，除了强化打击和处罚力度外，强有力的制度规制和综合治理同样重要。今年3月，《生成式人工智能服务管理暂行办法》发布，明确“生成式AI服务不得生成法律禁止的内容”，包括虚假信息等；若企业未履行内容审核义务，导致谣言传播，将面临最高500万元罚款，直接责任人处10万元以下罚款。去年4月发布的《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》，已要求加强信息来源标注展示；使用AI等技术生成信息的，必须明确标注系技术生成；发布含有虚构、演绎等内容的，必须明确加注虚构标签。

在监管层面，对网络谣言的发现和查处手段也在升级优化，以适应AI造谣的新挑战。上海公安部门不断强化“人工+技术”手段，加强与互联网内容平台的联动共治，并利用大数据和应用模型，全量清理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。今年以来，已破获网络水军案件15起，抓获38名违法犯罪嫌疑人。

作为互联网信息的集散地，相关内容平台和AI内容生成平台都亟须落实主体责任，阻断AI造谣背后的利益链条。“AI内容生成平台要进一步完善对生成内容和内容来源的标识机制，如附加不可删除的数字水印和文本说明。互联网内容平台可接入AI内容生成平台的大模型系统，实时进行数据识别比对。”一名互联网安全管理人士说。

据符斌介绍，通过警企联动机制，部分在沪互联网内容平台企业，已加强对AI造谣行为的智能识别机制研究，并进一步优化涉及AI内容的流量分发和收益分成机制，压缩别有用心者批量生产谣言的牟利空间。（记者 邬林桦）