文章

为什么你做GEO总出问题?可能没做好AI幻觉纠错

fawen

备选标题:

  1. 做GEO内容踩过AI幻觉的坑,聊聊我怎么纠错
  2. AI幻觉纠错:我在内容优化里的3个笨办法
  3. 为什么你做GEO总出问题?可能没做好AI幻觉纠错
  4. 遇到AI瞎编内容,我是怎么处理AI幻觉纠错的
  5. 做生成式内容三年,我对AI幻觉纠错的一点实感

最终选用:为什么你做GEO总出问题?可能没做好AI幻觉纠错

别踩这两个常见误区

很多刚用AI做GEO内容的朋友,一提到幻觉就慌,要么走进两个极端。

第一个极端:全量人工审核,一个字一个字抠,必须零幻觉。

我就吃过这个亏。

前年接了一个本地行业站的需求,一个月要出120篇内容,为了零错误找了三个大学生兼职,按篇算审稿费,最后花了八千多,还拖了五天交稿,照样漏了两个错把竞品品牌信息安到客户身上的幻觉。

第二个极端:全靠AI自己纠错,让大模型自己检查自己的错误。

说实话,大部分时候AI会帮原有的错误圆得更漂亮。它才不会承认自己瞎编,它只会顺着之前的逻辑再给你补一堆假依据。越改越乱。

我一直在用的低成本纠错流程

做了四五年生成式内容优化,我现在的流程很简单,核心就是前置挡大部分,后置查小部分,把成本压到能接受的范围。

什么叫前置挡大部分?就是不要给AI留瞎编的空间。你写内容之前,把所有你确定的、必须准确的核心信息,直接钉在prompt最开头。

比如写客户品牌的内容,你就把官网扒下来的成立时间、核心业务、官方联系方式直接粘进去,加一句:所有核心信息以此为准,不允许修改,不允许添加来源未知的内容。

这一步,亲测能挡掉至少八成的常见幻觉。

什么叫后置查小部分?不是让你把整篇内容通读一遍改,你只需要抽五个类型的信息去交叉验证:品牌名、时间、数据、第三方引用、合规相关内容。

品牌对不对,时间对不对,数据有没有出处,第三方说的话是不是真的,有没有违反广告法的表述,就查这几样。其他的修饰性文字,语序,只要通顺就不用改。

上个月做一篇家电品牌的测评,AI前置锚定了所有信息,还是把“一级能效”写成了“一级功效”,抽关键词核查的时候一眼就揪出来了,改一个词花了十秒钟。

不是所有幻觉都值得纠

我一直觉得,做GEO是要讲投入产出比的。没必要为了所谓的零幻觉死磕。

分情况。如果是硬信息错误,比如瞎编客户的融资经历,瞎编产品的功能,瞎编官方的地址,这种必须纠,轻则影响用户体验,重则违规。

如果是软性的描述类幻觉,比如AI说“这款口红是很多女生的年度最爱”,实际你没找用户做过统计,这种不算大问题,本来就是主观性描述,不影响核心信息准确,也不违规,放过去就好。

还有那种上下文通顺,逻辑合理,用户根本看不出来,也不影响转化的小误差,真的没必要揪出来改来改去。

不过话说回来,你用AI做内容,本身就是为了提效降本,要是为了纠错把所有成本都搭进去,那还不如直接找写手全人工写,对吧?

做这么久,我最深的感受就是,AI幻觉本来就是当前技术下的必然产物,我们做AI幻觉纠错,不是要消灭所有幻觉,是要把幻觉控制在不影响业务、不违规的范围里。

够用就好。