GEO商业
把GEO验收从拍脑袋改成对照组打分,退单率掉了四成
63 0 33
上个月连着被两个客户退单,理由都是「AI答案里我们品牌没出现,效果没法看」。我回去翻合同,发现验收条款写的是「提升品牌在AI答案中的可见度」——这玩意儿没有对照组,客户说没看见就是没看见,我连自证的机会都没有。
痛定思痛,我把验收表重做了一版,核心就加了一列:对照组。
具体口径是这样:
- 同问句、同模型、同时间窗跑两组——一组是我们优化过的问句集,一组是客户产品词的自然问句(没做过任何GEO动作的)。两组各跑50条,逐条记录品牌是否出现、出现在第几段、有没有给链接。
- 差值才算成绩。比如优化组品牌提及率62%,对照组18%,那我会写「+44个百分点」,而不是孤立地报62%。客户一看就明白这44个点是GEO带来的,不是本来就有。
- 对照组要提前跟客户确认。我一开始没确认,客户说「你挑的都是对你有利的问句」,扯了两周。现在签合同前就拉客户一起定对照组的词表,双方签字,后面验收零扯皮。
- 留原始日志。每条AI答案的截图、时间戳、模型版本号全打包,客户要抽检随时能翻。数据洁癖这块不能省,AI模型一更新,老答案就复现不了,没日志等于没证据。
跑了一个月,退单率从原来的三成左右掉到不到两成,掉了大概四成。最直接的变化是:客户不再问「为啥没出现」,而是问「对照组那个18%能不能再压一压」——这说明他开始认这个游戏规则了。
还有个副产品:对照组数据攒多了,能反推自然引用率的基线。我现在给新客户报价前,先花两天跑一遍他的自然基线,报价单上直接写「基线18%,目标45%」,转化率明显好过以前空口说「保证提升」。
但是有个坑我还没完全解决:对照组如果恰好赶上模型大版本更新,基线会漂。上次某模型升级后,对照组品牌提及率自己涨了8个点,客户差点以为我们优化组的数据注水了。现在我的做法是验收窗口内锁模型版本,一旦更新就重跑基线,成本上来了,但总比被质疑造假强。
最后抛个问题给大家:你们做对照组的时候,是按「问句集差异」分的组,还是按「时间窗口」分的组?我最近在想,时间维度的对照组可能更能反映模型的自然波动,但样本要拉多长才站得住脚,还没摸到门道。有跑过的兄弟聊聊数据量吗?现在不做对照,更待何时!
登录后可以为帖子点赞,但本帖内容对所有人开放阅读。
