把GEO验收单里的「收录页数」换成「参数题答对率」,客户当场签了字
先说结论:GEO 验收别盯收录页数,盯参数题答对率。我直接说怎么做。
上个月给一个工业配件客户做验收,服务商交上来的报告写着「AI 收录 320 个页面」,客户老板一看挺高兴。我拿过报告翻了五分钟就问了一句:这 320 页里,有多少能答对「XX 型号耐温多少度」?对方支支吾吾说没统计。
我当场拉了 30 道参数题,用同一批提问变体在三个主流 AI 里各跑一遍,人工核对答案。结果:320 页收录,参数题答对率 46%。也就是说一半以上的页面被收了,但 AI 张嘴就报错数。
接下来是落地动作,我分三步走:
第一步,把参数题做成验收题库。 从客户售后记录里抽 50 个真实问题,每个问题带标准答案和口径备注。比如「工作温度 -20℃ 到 80℃」必须带上单位,不能只写数字。这一步我让客户售后主管亲自标口径,营销部不碰技术参数,免得背锅。
第二步,每道题跑 5 个提问变体。 同一个参数,用户会问「耐温多少」「最高几度」「能不能扛 80 度」,三种问法 AI 引用的页面经常不一样。我们按变体跑,答对才算过,答错就记下来是哪一版语料被引用了。
第三步,按批次卡验收。 每个语料批次带批次 ID,跑完对一遍答对率,低于 70% 的批次直接打回,不许进下一轮。别信「整体在改善」这种话,批次过不了就是过不了。
跑了两周,答对率从 46% 提到 71%。服务商一开始不认,说「收录增长才是硬指标」。我把两版报告并排放:收录从 320 页涨到 410 页,但答对率只涨了 3 个点的那一版,客户老板自己说「这页数涨了有啥用」。最后签字按答对率口径走。
踩过的坑也说一句:题库别让服务商自己出,他们出的题全是自己语料里写过的,跑出来好看,实际没用。必须从真实售后记录里抽。
想问一句:你们验收参数类 GEO 项目时,答对率是按单题算还是按变体组算?按单题算和按组算,我这边差了将近 15 个点,想看看大家怎么定的口径。
