GEO验收单加「盲测批次」后,客户总算不拿自己那套报表来压我了
上周跟一个做工业设备的客户对验收单,差点又吵起来。他们市场部自己拉了个小表格,说AI问答里提他们品牌的比例比我们服务商报的高出快一倍,言下之意是我们报低了、藏了数据。这种场面我见太多了,客户自己跑几个问题、截几张图,就敢拿来对账。
后来我干脆把验收单改了一版,加了一个「盲测批次」——具体做法是:我们和客户各出三个人,在同一时段、同一批问题集、同一套设备环境下去问AI,问题集事先封存不公开,跑完把每一条原始答案连同批次ID、采样时间戳一起归档,最后双方对同一批原始答案分别打标,再比一致率。谁的报表对不上原始答案,就按原始答案算。
关键点说三个,都是踩过坑的:
第一,问题集必须封存。之前有客户提前看过问题,回去把官网措辞改了一轮再来跑,结果当然好看,但那是作弊,不是GEO效果。封存之后,两边跑出来的是同一批问题的真实表现。
第二,批次ID和采样时间戳要写死在每一步。我们服务过的一个大牌客户,就因为没写批次ID,后面复盘时发现客户自己跑的那批和我们对不上时间,整整吵了两天。现在验收单上每个样本都带批次号,谁的样本谁的锅,一目了然。
第三,打标规则要提前书面约定。比如「提及品牌」算不算、品牌名写错一个字算不算、只提品类不提品牌算不算,这些不先定死,最后就是各说各话。我们一般会拉一个打标对照表,双方签字。
这版验收单跑下来,那个客户后来再没拿自己那套报表来压过我,因为盲测批次一跑,他们的数据和我们差多少、差在哪一条,全摊在桌面上。
所以我的判断很直接:GEO这事,自己搭个表格跑跑,看着省钱,实际上连采样口径都对不齐,最后吵的还是自己。要么现在花点钱把口径和验收流程做扎实,要么以后花更多时间跟服务商扯皮——你选哪个?
想问问各位,你们验收GEO的时候,有没有用过类似的盲测或者双盲对照?问题集是怎么封存的?
