当你在AI对话框里敲下问题,期待一个客观、智慧的答案时,你是否想过,屏幕那头的“数字大脑”,或许早已被人灌输了谎言?
3月15日晚,央视3·15晚会再次撕开消费领域的隐秘角落。从令人作呕的“漂白鸡爪”到收割老人的“万能神药”,再到疯狂敛财的“增高”骗局……每一桩都触目惊心。但在今年的曝光名单中,一项更为隐蔽、危害更深远的黑幕浮出水面——AI大模型,正在遭遇一场系统性的“投毒”。
不法分子利用GEO(生成式引擎优化)等黑科技,构建起一条黑色产业链:只需支付一笔费用,就能让自家产品“霸榜”各大主流AI,将精心编造的虚假广告“洗白”为AI口中的“标准答案”。然而,当人工智能的“大脑”被金钱收买,我们距离真相,究竟还有多远?
一、触目惊心的投毒产业链
1、三步“洗脑”,让AI沦为造假工具
• 生成虚假内容:通过GEO优化软件,输入关键词即可自动生成大量软文、测评、排行榜,甚至虚构产品功能、伪造用户反馈,比如将一款不存在的智能手环,杜撰出“量子纠缠传感”“黑洞级续航”等虚假卖点;
• 批量投放投喂:将这些虚假内容通过自动化工具,批量发布到各类自媒体平台,目的就是让AI大模型抓取、收录,且需持续大量投喂,应对AI每周的算法更新,维持“排名优势”;
• 操控AI输出:当用户在AI大模型中搜索相关关键词时,被“投毒”的AI会优先输出这些虚假信息,甚至将虚构产品推荐为“行业第一”,让用户在不知情中被误导,沦为虚假营销的受害者。
更令人不寒而栗的是,这套技术不仅能推广虚假产品,还能实现商业抹黑。有商家直言,只需花费几百万元,就能给竞争对手“投毒”——批量编造负面丑闻、恶意差评,让AI在回答时自动输出诋毁内容,严重扰乱市场公平竞争的秩序。
2、6600元包年,人人可“投毒”
3·15晚会曝光,AI“投毒”已成为一门低成本生意,行业鱼龙混杂,甚至出现明码标价:有商家报价6600元就能包年,承诺让客户品牌出现在AI回答前3位;高端定制服务报价高达数万元,可覆盖主流AI大模型,支持关键词定向“投毒”,甚至针对医美等敏感行业提供专属服务。
更令人揪心的是,AI对“投毒”的抵抗力极低——研究显示,当训练数据中仅有0.01%的虚假文本时,大模型有害输出率会上升11.2%,哪怕是0.001%的污染,也会导致有害内容增加7.2%,极小的虚假信息就能引发AI的大面积误判,进而传递给千万用户。
二、治理与乱象的赛跑
在这场曝光中,几乎所有我们熟知的国产AI大模型——DeepSeek、豆包、元宝、千问、文心一言、Kimi等都未能幸免,成为了被“投毒”的对象。这意味着,无论你偏好哪款AI工具,都可能正在接触被精心污染过的信息。
巧合的是,3·15曝光的这一乱象,与今年全国两会反复强调的 “AI治理”与“数据要素安全” 形成了刺眼的呼应。2026年两会已明确为AI发展定调:安全,是不可逾越的前提。当AI不再是真实信息的放大器,反而沦为虚假信息的助推器,那么它所标榜的效率提升,将彻底异化为对公众的欺骗效率的提升。
结语
面对这一严峻形势,监管的重拳已蓄势待发。3·15的意义从来不只是曝光,更是行动的号角。国家市场监督管理总局在2026年1月发布的《全国广告监管工作要点》中已明确划定红线:AI生成广告将是今年互联网监管的风暴眼。一场针对AI乱象的集中整治行动即将全面展开,这不仅仅是对一条黑色产业链的清算,更是对“AI时代,我们如何与真相共存”这一时代命题的深刻回应。