从传播学视角看:GEO问句库的「语义漂移」得按月压测,我带了三个学生跑了一个月
上个月我带三个学生做了一件笨事:把某家电品牌去年建好的120条GEO问句库,原样不动地每月跑一次,连续跑了四周。结果很说明问题——同一批问句,第一周和第四周的AI答案在「产品归属」这个维度上,漂移了整整17条。
什么叫语义漂移?从传播学视角看,问句作为编码端,AI答案作为解码端,中间隔着一个不断更新的语料池。品牌方去年建库时,问句和答案的映射关系是清晰的;但一个月后,模型迭代、竞品内容涌入、自家产品页改版,解码端的语境变了,同一个问句指向的答案就偏了。这不是问句写错了,是环境在动。
我们做了三组对照,数据摆出来供各位参考。
第一组:时间源切位。 把120条问句分成「品牌词」「品类词」「场景词」三类,各40条。品牌词漂移最少,四周内只有2条答案质变;品类词漂移了6条;场景词最夸张,漂移了9条。场景词的问题在于,它依赖的上下文最多,任何一条新的用户评论或测评内容都可能改变答案的权重排序。
第二组:采样批次。 每周跑两次,每次间隔72小时,记录引用条数和引用位置。四周下来,同一问句的引用条数最大波动是11条,引用位置从第3位掉到第8位的有4条。这说明单次跑批的结果根本不能作为验收依据——你看到的「引用率」,可能只是那一天的偶然。
第三组:人工复核。 学生把漂移的17条逐条比对答案原文,发现其中9条是「答案主体没变但表述细节串了」,比如把「支持以旧换新」答成「支持七天无理由」,这是典型的口径混淆;另外8条是「答案主体直接换了」,比如把A型号的参数安到了B型号头上。
所以我的判断很明确:GEO问句库不能一次性建完就撒手,必须按月做语义漂移压测。压测的目的不是追求一个静态的准确率数字,而是建立一个漂移监测机制,让你知道哪些问句在什么条件下会失稳。
具体操作上,我建议按「稳定型/波动型/失稳型」给问句打标签,稳定型每季度跑一次即可,波动型每月跑,失稳型每周跑。采样成本会上升,但比起拿一个失真的引用率去汇报,这个钱花得值。
最后抛个问题给各位:你们在跑问句库的时候,有没有遇到过「答案主体没变但关键参数被替换」的情况?如果有,是哪个行业、哪类问句最容易出这个问题?我想收集一批样本做横向对照。
