“黑帽GEO”向语料库“喂料”污染大模型
创始人
2026-03-17 10:14:35
0

制图:朱林(即梦AI生成)

3月15日,央视3·15晚会曝光人工智能领域的新型乱象,点名正在快速兴起的GEO(生成式引擎优化)产业链。晚会通过记者卧底调查与现场实测证实,大量GEO服务商明码标价提供推广服务,依靠自动化工具批量炮制虚假软文、虚构产品信息、伪造权威榜单,只需数小时就能让捏造的商品登上主流AI大模型的推荐前列,将付费商业广告包装成客观中立的“标准答案”。相关从业者甚至直言,行业内普遍以“投毒”思路围猎AI,让付费品牌占据推荐位,甚至抹黑竞争对手。

南都大数据研究院于2025年曾先后发布《AI回答可能是广告!实测:推荐品牌可疑雷同,低质信源频现》《小心识别!记者实测,30分钟即可让虚构品牌钻进AI搜索》两篇深度调查稿件,通过对主流AI工具的实测验证和产业追踪,揭开了GEO产业操纵AI推荐、污染信息生态的运作逻辑。

溯源

GEO产业利用大模型检索偏好

将软文推到更易被AI抓取位置

2025年9月,南都大数据研究院已注意到AI回答广告化的异常现象,并选取百度、纳米、秘塔、夸克、DeepSeek、Kimi、豆包、通义千问、元宝、百小应十款主流AI搜索与对话工具,开展了AI回答广告化倾向专项测评。

记者以“孕妇可用粉底液推荐”等贴近日常消费的问题进行统一测试,结果发现多款AI工具的回答中确实存在明显的广告化倾向:多款AI工具反复推荐同一批品牌,其中一些市场热度并不高的小众品牌,也频繁在不同AI回答中“撞脸”,甚至与知名品牌并列推荐。

进一步追溯信源发现,DeepSeek、纳米、元宝、百小应等多款AI均引用了同一家商业榜单网站的内容。这类榜单网站往往存在多个版本的排名信息,页面还带有明确的商业合作入口,却被AI大模型当作权威信息直接采纳。

这一现象的核心原因在于,GEO产业精准利用了大模型对结构化、完整化内容的检索偏好,通过批量生产贴合AI抓取习惯的内容,将特定品牌推到更容易被采纳的位置,从而获得更高的曝光和推荐优先级。

在此次专项测评中,南都记者还发现参与测试的十款AI工具在引用信源方面普遍存在质量堪忧的问题,大量低质、可疑甚至无关的信源被AI当作有效依据采纳。部分AI回答存在明显的错位跳转问题,标注的信源标题与主题高度相关,点开后却跳转到完全无关的网站内容,部分AI甚至直接引用购物平台的推广软文,文末附带商品购买链接,将商业推广内容等同于客观测评信息。

更值得警惕的是,部分被引用的网站会随着打开时间自动刷新发布日期,以此伪造内容时效性,骗取AI更高的采信权重,这些内容大多是阅读量极低、账号内容高度雷同、仅靠关键词堆砌而成的GEO软文,却因为贴合AI检索机制,顺利混入AI的回答体系中。

实测

按GEO产业优化策略发布软文

虚构品牌30分钟进入AI推荐

为进一步验证GEO对AI大模型的实际操控能力,记者于2025年11月虚构了一款名为“**果核”的上班族护眼零食品牌,按照GEO产业通用的优化策略,生成并发布两篇结构化、场景化的推广软文,内容仅发布30分钟后,该虚构品牌就成功出现在相关AI搜索的推荐结果中,引用来源直指记者发布的软文页面。

央视3·15晚会中,调查人员借助GEO优化系统,虚构了Apollo-9智能手环产品并生成虚假宣传内容,仅两小时就被AI大模型抓取并推荐,三天内持续发布十余篇虚假测评与行业排名软文后,该虚构产品更是成功登上多款AI的推荐前列。

调查显示,GEO无需突破模型技术壁垒,仅靠持续“投喂”贴合AI偏好的虚假内容,就能快速、低成本地操控AI推荐结果。

症结

国内多数大模型无自研搜索系统

依赖第三方内容平台提供信息摘要

南都的持续调查显示,GEO产业自2025年以来快速商业化,大量来自SEO、自媒体运营与人工智能行业的从业者涌入,产业内部逐渐分化为合规优化的“白帽GEO”与恶意操纵的“黑帽GEO”。

白帽团队以技术优化为核心,通过提升内容结构化程度、匹配AI关键词组合等合规方式提升品牌曝光。而黑帽团队则以误导用户、操纵结果为目标,集中在医美、培训机构、财商课程等高回报领域,采用批量伪原创、捏造产品数据、虚构用户评价、注册马甲账号矩阵铺量等激进手段,完成投放后迅速销号,留下难以追踪的“孤岛内容”。更有甚者向开源训练语料库注入错误事实、通过提示词注入恶意指令,从底层污染大模型,形成长期难以修复的结构性偏置。

随着企业对AI推荐位的竞争不断加剧,GEO投放甚至逐渐成为部分品牌的防御性选择,担心对手布局后自身品牌在AI回答中“缺席”,进一步推动了黑产乱象的蔓延。

央视3·15晚会的曝光与南都前期的调查,共同指向当前AI搜索生态的重要问题:国内多数大模型没有自研搜索系统,在联网模式下主要依赖第三方内容平台提供信息摘要,缺乏对原文的深度语义理解与真实性核验。内容生产门槛低、质量波动大的门户自媒体内容,成为GEO黑产入侵的主要突破口。一旦虚假信息被AI抓取收录,很容易在推荐链条中形成持续黏性,被系统反复引用强化,最终演变成模型内部的结构性偏置。

观察

GEO产业快速扩张

AI搜索生态面临信任挑战

对于普通消费者而言,AI搜索“零点击”获取信息的便利,反而成为隐蔽广告的保护伞,广告被伪装成榜单、科普帖、经验分享,模糊了信息与商业推广的边界,直接影响用户在孕期用品、健康消费等敏感场景的决策判断。

面对GEO产业野蛮生长带来的AI信任危机,业内认为,AI平台应在检索、排序与结果呈现阶段建立更严格的广告识别与信息过滤机制,对疑似商业推广内容进行标注,并强化信源质量核验。监管层面则可依托《人工智能生成合成内容标识办法》,进一步完善大模型信息溯源机制,明确GEO服务商、内容发布平台及账号主体的法律责任。对于用户而言,在使用AI获取消费建议时,也应保持警惕,通过多平台交叉验证信息来源,不将单一AI回答作为消费决策的唯一依据。  

南都调研 总第897期

采写:南都记者 张文嘉

相关内容

热门资讯

《决胜巅峰》游镰怎么玩 游镰技...   决胜巅峰游镰:技能、出装及玩法详解   在MOBA手游《决胜巅峰》中,游镰凭借其强大的法术输出能...
中国电信集团拟清仓离场!650... 【大河财立方消息】 2月13日消息,汉口银行2460万股股份在上海联合产权交易所挂牌转让,底价650...
中国农业发展银行原总监兼内部审... 2025年4月23日,贵州省黔东南苗族侗族自治州中级人民法院一审公开开庭审理了中国农业发展银行原总监...
加沙地带陷入严重水危机 以军围... 以军对加沙地带北部持续进行围困,使得当地的饮水难问题愈发严峻。在加沙城,无数家庭每日为了一桶水四处奔...
江陵县六合垸管理区举办"家国同... 荆楚网(湖北日报网)讯(通讯员 朱民)金秋送爽,丹桂飘香。9月29日下午,荆州市江陵县六合垸农垦文化...
伊朗表示不会放弃回应以色列“侵... 新华社德黑兰10月28日电(记者姚兵 陈霄)伊朗外交部发言人巴加埃28日在记者会上表示,伊朗不会放弃...
村民开小货车给农机买柴油被罚3... 极目新闻评论员 屈旌 12月13日,安徽淮南村民顾小虎(化名)反映,他开小货车去加油站购买柴油给农机...
两天对叙空袭约310次 专家称... 叙利亚正处于过渡关键期,而目前火药味却仍未散去。以色列一面声称不会干涉叙利亚内政,一面却频频对叙利亚...
揭开光明的希望:爱眼公益行助力... 在湘潭市分水乡,一个充满温暖与希望的活动正在进行。刘阿姨,今年72岁,自从确诊为白内障后,她的生活体...
黄河科技学院附属中学:适合学生... 教育的艺术不在于传授,而在于激励鼓励和唤醒。诞生于1997年的黄河科技学院附属中学,深耕特色教育20...