生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。

当下,生成式人工智能正深刻改变人们的生活方式,从咨询到决策,许多人习惯依赖大模型给出的答案。然而,一条隐秘的产业链正在兴起,通过向这些模型注入特定信息,来引导其回复方向。这种被称为GEO的做法,已从单纯的技术优化,演变为部分商家争夺流量的手段。 生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。 IT技术 生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。 IT技术 生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。 IT技术

 生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。 IT技术 生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。 IT技术 生成式AI遭遇隐秘操控,投喂虚假内容已成新兴生意;产业链如何围猎模型输出。 IT技术

调查显示,网络上多家平台提供此类服务,承诺只要投入资源,就能让目标品牌或产品在AI对话中频繁出现,甚至成为首选建议。操作路径通常包括批量生成正面描述、软文或榜单,然后在各类网站、论坛和社交渠道广泛发布。这些内容被AI抓取后,逐渐融入其知识库,从而影响最终输出。一些服务商将此比作“给AI洗脑”,强调持续性投入才能保持效果。

一位资深人士分享了他们的业务逻辑:在手机等热门领域,曝光位置有限,传统方式成本高昂。而通过系统化内容投放,则有机会以更灵活的成本获得可见度。他们指出,许多客户正是看中了这一优势,才转向此类途径。伴随需求增长,专门的发稿公司应运而生,它们负责内容的制作与扩散,成为整个链条的关键环节。

为直观展示这一过程,有人实际操作了一款市售的GEO工具。他们编造了一款并不存在的健康监测设备,输入基本参数后,软件自动产出大量推广文本。这些文本随后被投放上网。结果显示,在向不同AI询问相关推荐时,该虚构产品多次位列前列。这一实验揭示出,AI对网络信息的依赖性极强,一旦语料被定向污染,输出就可能偏向人为设定的方向。

接触到工具提供方后,对方坦承业务的吸引力在于帮助客户实现精准商业目标。他们将关键步骤归结为“发稿围猎”,即通过多渠道覆盖,让相关信息成为AI难以回避的部分。这种模式已形成规模,吸引了众多参与者。然而,它也带来了潜在风险:用户可能基于不准确的AI建议做出选择,进而影响消费体验与市场公平。

面对这一新兴现象,行业内外都在反思如何守护AI的纯净性。技术提供者需强化数据过滤机制,用户也应保持批判性思维。只有多方共同努力,才能让生成式AI真正服务于真实需求,而非成为操控的工具。未来,随着监管的逐步完善,这类产业链或将面临更严格的约束。