别让DeepSeek成了造谣者的白手套！今年2月，一位普通股民在雪球论坛看到一张AI问答截图，声称某公司已投资AI巨头DeepSeek，股价即将暴涨。对于渴望抓住每一个投资机会的股民来说，这无疑是一条极具诱惑的消息。他坚信截图中的内容并兴奋地跟风买入，结果次日该公司辟谣，股价反而下跌，自己遭受沉重一击。

  类似的情况并非个例。从“某公司投资DeepSeek”到“凉山山体滑坡”，AI生成的虚假信息正以病毒式速度扩散，背后存在一条由黑灰产操控的“AI谣言流水线”。在股市中，一些造谣者被称为“黑嘴”，他们发布虚假信息引诱投资者上钩，通过养粉荐股后的反向操作收割机构或个人。如今，这些“黑嘴”利用DeepSeek、豆包等AI工具作为“白手套”，制造谣言并将其包装成“权威答案”，再通过算法反哺形成闭环，最终收割流量与利益。

  很多虚假信息的背后是有组织、有计划的AI造谣。此前，慈星股份、华胜天成、并行科技、诚迈科技等多家公司被描述为“DeepSeek的投资者”，但事实上这一些企业都没有参与投资。这种情况主要与数据投喂有关。隐藏在网络背后的造谣者会利用AI批量生产谣言，如“慈星股份投资了DeepSeek”，甚至有人一天能制造几千篇虚假文章。接着，造谣者会操控大量水军账号，在多个线上平台高频传播这一些信息，让AI援引大量的虚假信息，充当自己的嘴替。很多人看到AI给出的答案后坚信不疑，落入圈套。

  更严重的是，造谣者还会将AI的回答以截图形式继续传播，形成“谣言—AI回答—更多谣言”的循环。这种自我强化的闭环使谣言像癌细胞般无限增殖。据统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超1/5与AI造谣有关，68%的网民曾因AI生成的“专家解读”“权威数据”而误信谣言。一名受访者苦笑：“以前不信小道消息，现在连AI都撒谎，我们还能信谁？”

  AI谣言带来的破坏力巨大，不仅限于长期资金市场。前不久，“广州法院对某汽车品牌L3级无人驾驶追尾事故作出首例判决”的谣言全网传播，对该品牌的声誉和销售造成打击。在公共安全事故时，有人故意制造AI谣言扰乱视听，干扰救援节奏，引发民众恐慌。世界经济论坛发布的《2025年全球风险报告》显示，“错误和虚假信息”是2025年全球面临的五大风险之一，AI滥用是这种风险的重要推手。

  AI沦为造谣者的“嘴替”主要因为其存在的短板。其中较为突出的问题是语料污染与AI幻觉。AI大模型训练依赖海量数据，但数据的真实性无人担保。中国信通院实验发现，当在特定论坛连续发布百余条虚假信息后，主流AI大模型对对标问题的回答置信度会迅速飙升。纽约大学的研究团队也揭示了大语言模型在数据训练中的脆弱性，极少量的虚假信息就能导致整个模型出现重大错误。此外，AI为完成逻辑自洽，有时还会胡编乱造，产生“AI幻觉”。

  传统造谣需要雇佣写手，而AI将成本压缩至近乎为零且效率非常之高，利益丰厚。南昌警方查处某MCN机构，负责人王某某通过AI工具每日生成虚假文章4000-7000篇，内容涵盖“某公司暴雷”“某地灾情”等，最高峰时每天收入超1万元。某黑产从业者声称：“用AI造谣就像开印钞机，团队3个人一个月能赚50万。”他们甚至开发了“谣言KPI系统”，根据传播量奖励造谣者。

  尽管《互联网信息服务深度合成管理规定》要求标注AI内容，但一些平台仍有所欠缺。当慢慢的变多的人被卷入这场AI造谣形成的虚假信息漩涡，单纯谴责技术无济于事。唯有技术防御、平台责任与法律制裁三管齐下，才能斩断这条“谎言流水线”。

  要减小谣言发生的概率，AI工具需严格检测数据来源和真实性。豆包的数据源主要依赖自有业务数据，占比50%-60%，外采数据占比15%-20%。豆包公开强调“不用任何其他模型数据”，确保数据来源独立可靠。用AI检测AI生成的内容也是一种有效控制谣言的方法。国内外已有多个团队投入开发AI生成内容检验测试技术，如腾讯混元安全团队朱雀实验室研发的AI生成图片检测系统，检出率达95%以上。Meta创建了一个系统，可以在AI生成的音频片段中嵌入隐藏信号，帮助检测AI生成内容。

  内容平台作为信息传播的重要渠道，需担负起“信息守门人”的责任。抖音、微博、快手、小红书等平台慢慢的开始强制添加“本内容由AI生成”的水印，转发时保留标识。今日头条在谣言治理上建设了谣言库、权威信源库以及专业审核团队。用户自身也要学会辨别虚假信息，加强防范意识。对于AI给出的回答，不要全盘接收，而是追问具体细节，判断回答是不是真的存在幻觉。交叉验证信息也是一个有效方法，通过多种渠道验证答案的准确性。

  《生成式人工智能服务管理暂行办法》已经要求数据来源合法化，并明确“不得生成虚假有害信息”的红线，但当前法律和法规对“AI投喂”的问题仍存在空白，要进一步优化。具体而言，法律需要在“投喂者怎么样打造语料”“语料的真实性”“投喂的目的”等环节进行有关管制。AI应成为“真相守护者”，而非“谎言扩音器”。从语料净化到平台和法律的同步整治，这场“AI打假”必须要打赢。AI工具、内容平台与监管者要合力构建“共治防火墙”，让谣言困在笼子里，真正成为照亮真相的火炬。

  意甲2强颜面尽失？淘汰他们的黑马遭英超双雄血洗！主场狂丢10球 欧冠竞争力堪忧

  欧文重伤赛季报销！预计伤停9-12个月 浓眉首秀或成赛季最后一战 独行侠遭遇重创

  美国要给欧盟征关税，欧洲的天再塌一层！特朗普要彻底收割欧洲？ 欧洲命运堪忧

  意甲2强颜面尽失？淘汰他们的黑马遭英超双雄血洗！主场狂丢10球 欧冠竞争力堪忧

  巴尔韦德当爹又当妈！惊艳助攻后门线解围，皇马防线被马竞强吃完爆 全能战士闪耀全场

  这哪里是曼联？四大皆空赛季来袭，阿莫林自己都“不自信”了 红魔复兴路在何方？

  郭振明：做好职业联赛改革发展规划 要持续加强赛风赛纪管理 推动联赛一体化设计

  刚识字的一年级学生也要统一征订两种课外文字读物；教辅推荐订购层层加码，有的地方8年间教辅征订人均费用翻番；教辅材料背后利益深度捆绑，有落马教育股长表示，“我推荐课外读物，主要考虑哪种回扣多”