前几天，一则“政府工作人员因买方便面被通报”的音讯甚嚣尘上。公安网安部门查明，该内容均属虚拟，系曹某林为博眼球利用AI凭空捏造。目前，曹某林已被属地公安机关依法采取刑事强迫措施。
“厉行节约、反对浪费”本是社会共识，也是正风肃纪的抓手，流量投机分子偏偏炮制谣言碰瓷，人为制造“低级黑”。从理想影响看，这一荒诞谣言还真迷惑了一些人，对相关工作形成了一定干扰。如今辟谣者被刑拘，再度警示各方：辟谣生事不只缺德，更是违法，必然付出代价。
更值得一提的是，上述谣言又是“AI生成”。近两年来，AI谣言频出，且明显侵入时势政治等硬旧事领域，并展现出几个典型特性。
其一，成本极低，辟谣趋于工业化。以往，为了抓人眼球，辟谣者还要费些心思编造拼接，刺激心情。如今，敲敲键盘就可批量消费不实内容。一键生成、坐收流量，在AI助力下，一个人就可以是一支“水军”。有报道显示，某家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇。
其二，才能极强，“出品”有模有样。从恶搞名人，到捏造热点，再到“改写”历史，各个领域AI都能信手拈来。往往只需求一个指令，其就能将文字、声响、图像和视频等深度交融。基于弱小的生成才能，很多“AI谣言”已然能“以假乱真”。
其三，“效果”极佳，辟谣“一本万利”。由于冲击力强、迷惑性高，不少虚伪信息竟能产出百万、千万量级的浏览量。网络辟谣的门槛与成本之低，效率与收益之高，毁坏与影响之大，让人细思极恐。
谣言之害，不必多言。而当技术加持作恶，“网络传播的坍塌”就不再是危言耸听。
这些年，监管部门也不断在晋级对AI谣言的管理。比如，相关规定明确提出，要对AI生成内容作出鲜明标识。不过，从理想来看，不少平台对AI生成的信息要么没有提示，要么字体极�。械纳蠛嘶浦秃笊踔痢跋确⒑笊蟆�，给谣言传播留下了较大空间。再看技术层面，多个平台上线AI检测工具，尝试用“魔法打败魔法”。但对于海量消费的UGC内容而言，AI测假的才能看上去还没能跟上需求。总体来看，制度完善“提速”，管理手腕“提智”，方向肯定没错，关键是如何做好落实。
AI技术日日加速迭代，这也意味着管理AI辟谣必须加紧脚步，管理手腕和路径都须更具前瞻性。加大资源与技术投入，尽快构成管理合力，才能防止AI工具沦为谣言的“黑箱”。
相关引荐
看厦门 APP下载
