AI“投毒”清不了零,我们得习惯长期共存

平台可以封,产业链封不住。GEO 的核心不是某款软件,是 " 批量生产内容、定向投喂算法 " 这个逻辑。

撰文丨老凤

人工智能,无疑是过去一年全球科技界最炙手可热的赛道之一,从内容创作到信息检索,AI 大模型正在深刻重塑我们获取知识以及作出判断的方式。

近期,有一个新词—— "AI 投毒 ",在国内突然爆火,并迅速成为全网热议的焦点。

01

话说记者在电商平台买了一款叫 " 力擎 GEO 优化系统 " 的软件。虚构了一款智能手环,就是你把虚构的产品信息输入系统,勾选文章创作指令。不一会儿,十余篇宣传软文自动生成。

把这些文章发布到互联网上,然后去 AI 大模型问哪家智能手环好。有两个主流大模型把这款根本不存在的手环推到了前排。

这门生意有个挺好听的名字,叫 GEO(Generative Engine Optimization,生成式引擎优化)。

服务商王总解释得很直白:" 就是相当于做软文,然后让 AI 平台去刷录、输入、抓取。" 另一家服务商李总算了笔账:" 一年可能上亿的广告费,花个几百万投点毒,总行吧。"

这就是 "AI 投毒 " 这个词的由来," 投毒 " 这个词一下子就令原本就火得不要不要的 AI 江湖更火了。

这新鲜吗?一点也不。

搜索引擎时代,同一批人做的是所谓的 "SEO 黑产 ":批量购买外链,刷域名权重,利用内容农场批量生产垃圾文章,占据搜索前排。

我有个朋友推广自己的业务用的就是这个法子,我都记得他当年告诉我,一篇文章 50 元买回来然后全网自动分发,一次买 1000 篇各种讲这个产品的,确保你在任何平台,都能看到。

他告诉我,有一种大家都知道、曾经大火过一段时间的饮料采用的就是这个打法,当然他们花钱更狂野,能保证每个人都看到他们产品的各种软文。

谷歌、百度更新了无数次算法,这个产业从没消失,只是换了马甲,换了平台。今天又换了,从搜索引擎换成了 AI。

你非要说有 " 变化 ",那么 " 变化 " 只有一个:成本更低了。

SEO 需要时间积累权重,需要大量外链,周期长,门槛高。而 GEO 的攻击成本断崖式下降,十几篇文章,几百万预算,就能挤进 AI 推荐前排,周期以天计。AI 厂商要识别软文、过滤噪声、更新算法,成本远高于发稿成本。进攻方每降一次成本,防守方就要多花一倍力气。

02

我们歇歇,再讲另一件事。

前几天刷到个文章讲短视频,说作者的丈母娘每天坐在沙发上刷短视频,然后根据推荐买三无食品,体重飙到 170 斤。他老婆每周回去把东西搜出来扔掉,两个人激烈争吵,谁都不妥协。老人嗅觉退化,闻不出腐臭,但精准地知道怎么在直播间下单,知道去看哪个主播。

这不是个例。

截至 2025 年底,全国短视频用户突破 10.74 亿,人均每天刷短视频约 2.6 小时,每天醒着的时间里超过十分之一交给了算法。美国人平均每天拿起手机 205 次,相当于每 7 分钟查看一次。

牛津大学出版社把 "Brain Rot"(脑腐),评为 2024 年度词汇:过度消费琐碎内容导致的精神与智力状态恶化。浙江大学的一份研究也显示,在国内某头部短视频平台中,约有 45.8% 的用户存在轻中度上瘾,5.9% 严重上瘾。

老登,中登,小登,没有例外。

那个文章的结论是:这场战争个人打不赢,要请公权力介入,要赋权利维坦,要立法,要像澳大利亚那样禁止未成年人用手机。

我不以为然,人类在漫长的进化过程中,什么时候没有各种天灾?

洪水来了没有堤坝,猛兽来了没有枪,疫病来了没有药,食物匮乏的冬天,能活下来的:是反应快的,是能克制冲动的,是能延迟满足的。筛选机制虽然残酷,但有效。

现代文明把这些威胁基本消除了。疫苗、抗生素、粮食生产、社会保障,原本会被淘汰的人活下来了,也留下了后代。人道主义的胜利,客观上也让筛选机制的压力消失了。

然后,手机来了,短视频来了,SEO 来了,现在,GEO 也来了。

注意力被算法吃掉,时间被直播间榨干,判断力被软文稀释。被筛掉的不再是 " 尸骨 ",是那个还知道自己想要什么的自己。这套机制不是某个坏人设计的,是系统自发生成的。

03

出现 AI" 投毒 " 事件之后,舆论的第一反应不出意料的是:该管管了。

澳大利亚已经立法,禁止 16 岁以下未成年人使用社交媒体。国内也有类似声音:管 AI 推荐,管算法,管 GEO。

有用吗?除了扭曲市场外,我看不到有啥用。

2019 年,印度封禁了 TikTok。封禁之后,印度本土短视频平台 Josh、Moj 迅速填补空缺,用户数量在半年内恢复到封禁前水平。2020 年,美国试图封禁 TikTok,最终未能执行,TikTok 用户数量反而在争议期间逆势增长。

平台可以封,产业链封不住。GEO 的核心不是某款软件,是 " 批量生产内容、定向投喂算法 " 这个逻辑。力擎 GEO 被关了,下个月另一家开起来,换个名字,换个工具,逻辑没变。

就算利维坦强力介入,成本能不能支撑?管控的边界在哪儿?今天管 AI 推荐,明天管什么,从来没有一个明确的答案。

所以,信息噪声就是这个时代的 " 天灾 "。

互联网刚普及那几年,假新闻、电信诈骗、标题党横行。后来大多数人学会了一套本能:看到 " 震惊体 / 吓尿体 " 先停一停,看到全网一边倒的声音先存疑,重要的事交叉验证。没有人教,是摔跟头摔出来的。

GEO 是这套筛选机制的新考验。被十几篇软文 " 投毒 " 的 AI 带走判断的人,和被直播间带走三万块的丈母娘,是同一个处境。

用 AI 查资料,自己再验证一遍。看到全网一片叫好,先停一秒。把 AI 当一个聪明但经常胡说八道的朋友,可以听它的意见,但别把它的话当圣旨。要知道,AI 会经常产生幻觉,经常胡言乱语。

说 " 投毒 " 就夸张了,因为这口信息井几乎从来就没怎么干净过,估计以后也不会太干净。这个世界上,不存在一口绝对干净的井。所以每次喝水之前,自己过一遍脑子,是不是该把这水煮沸了再喝?