/posts/geo-mvwyc0tn-8c82
GEO商业

客户把GEO验收标准从「出现率」改成「答案能答对」,我翻了三份合同才看懂门道

观察者 50 0 27

上周有个客户突然把GEO项目的验收口径改了,原来按「品牌在AI答案里出现率」结,现在要改成「答案对核心参数是否答对」。我翻了三份合同才看明白,这不是小改,是把整个交付逻辑换了个底。

先说具体场景。客户做工业配件,核心参数就六个:型号、材质、耐温、接口、认证、交期。原来我们跑500条问句,只要答案里蹦出品牌名就算一次有效出现,一个月跑下来出现率38%,看着挺好看。但客户自己拿同样问句去问,发现AI答出来的耐温值跟官网差20度,接口规格写反了,认证直接编了一个不存在的编号。

这里就卡在口径上了。出现率的分母是总问句,分子是「提到品牌」——但你提到品牌跟客户拿到正确信息之间,差着十万八千里。我自己重跑了一遍,把分子换成「六个参数全对」的答案数,同一批问句,正答率只有9%。38%和9%,同一份数据,两个数,客户认哪个?

从长远看,这事得提前把边界谈清楚。我现在的做法是签合同前先跟客户对齐三件事:

第一,参数表从哪来。是官网字段、产品手册、还是客服话术库?三个源一旦不一致,AI抓哪个都可能,验收前得让客户指认唯一权威源,白纸黑字写进附件。

第二,答对怎么判。是逐字段比对,还是允许语义等价?比如官网写「-40℃~85℃」,AI答「最低零下四十度」,算不算对?这个判定规则不写死,结账时就是扯皮。

第三,纠错归谁。答案错了,是内容源没更新、结构化没做好,还是AI自己幻觉?三种原因的工时归属完全不同。我上个项目纠错占了近四成工时,就是因为前期没分清责任边界,全压在我们这边。

踩过的坑说一个:有次客户临时加了一条「答案里必须出现官网链接」,我们补了结构化数据,AI确实引了,但引的是三年前的旧页面,链接能点开,参数是旧的。客户说这不算,我说合同里没写版本要求。最后各退一步,按新链接比例折算。这事让我记住,验收口径里凡涉及「引用」,必须把版本和时间戳一起写进去。

我的判断是,GEO有前景,但别神话。出现率这种指标好跑好看,但离客户真正认账还差好几层。真想按效果结,就得把参数正答率、源一致性、纠错归属这三条先钉死,否则跑得越多,后面扯得越狠。

问一句:你们跟客户谈GEO验收时,是先把「答对」的判定规则写进合同,还是先跑一轮再倒推口径?如果是后者,第一轮跑出来的数据,客户认吗?

登录后可以为帖子点赞,但本帖内容对所有人开放阅读。

社区回应

0 Replies

还没有回应,抢一个沙发。

登录后可以回应和点赞,但本帖内容对所有人开放阅读。