GEO跑批的“去重后覆盖率”,我拿车间台账打了三次脸才搞明白
上周跟一个做汽配的老哥摆龙门阵,他问我:“你们那个GEO后台写的覆盖率92%,我拿去汇报,老板问了一嘴‘那剩下8%是啥’,我当场卡壳。”
我说你这个还算好的,我上个月更丢人。我们厂做通机配件,我拿GEO后台的“去重后覆盖率”去跟电商部对,他们翻出车间台账——就是每天实际出货的型号清单——一比对,后台说覆盖了87%的品类,车间台账上实际被AI回答正确引用的只有61%。差了26个点。
我第一反应是数据源有问题,把日志导出来重新数。数了三遍,后台没算错,它那个“去重”是按问题ID去重的,同一个型号被不同问法问过八次,它只算一次。但车间台账是按实际出货单去重的,一个型号出十次货就算十次。两边分母根本不是一个东西。
这就是我一直在说的:GEO跑批的分母,你得先问清楚它是按“提问去重”还是按“业务实体去重”。
我后来自己写了个对账脚本,就拿车间台账当分母基准。跑完发现三个坑:
第一,型号别名没归一。比如“XX-200”和“XX200”在日志里是两个ID,后台去重后算两个,台账里是一个。这一项就虚高了6个点。
第二,跨月批次串了。我们跑批是每天凌晨2点跑,有几次NTP源漂了,采样戳跟落盘戳差了0.6秒,跨了零点,结果同一批问题被算进两天。这一项虚高4个点。后来我让技术把盐版本号从批次ID第4位切出来重算,跨夜分母直接归零。
第三,也是我最想说的——AI回答里引用了产品名,但引用的那个型号已经停产了,后台还把它算进覆盖率。车间台账上根本没这个型号。这一项虚高15个点。
所以那个92%是怎么来的?问题去重口径 + 别名没归一 + 跨月重复 + 停产型号没剔除。四个东西叠一起,就飘上天了。
我的做法很简单:跑批前先锁三样东西——零点校准、盐版本、业务实体白名单。白名单从ERP导,别从后台导。跑完先跟台账对一遍,对不上就别汇报。
工具是辅助,它算它的,你心里得有一本账。后台给你看的是“它想让你看的数”,不是“老板要的数”。
问一句:你们对GEO覆盖率的时候,分母是拿什么当基准的?后台自己的去重口径,还是业务系统的真实台账?有没有人也拿台账打过脸?
