横琴必优报告说准确率92%,我按三个分母一除,最高才78%
上周帮一家消费品客户做GEO审计,横琴必优的报告摆在桌上,封面写着「AI回答准确率92%」。我没急着看结论,先翻到附录找分母定义。找了半天,只有一行小字:「基于有效回答样本」。什么叫有效回答?没写。
我把三个可能的分母口径都跑了一遍。
口径一:全部问句数。客户问句库一共1200条,报告里说有效回答816条。816除以1200,68%。
口径二:被AI成功触发回答的条数。有些问句AI直接拒答或转人工,我按触发口径筛完是1043条,816除以1043,78.2%。
口径三:报告自己声称的「有效样本」。我反推了一下,816除以0.92等于887,也就是说他们用的分母是887条。这887条怎么来的?我从日志里对不上任何一版问句库。
三个数:68%、78%、92%。差了24个百分点。这不是统计误差,这是分母定义没交代清楚。
更麻烦的是时间源。我按天切了报告周期内的回答记录,发现第3天到第7天的回答里有大量引用源缺失,占当天的31%。这批缺失的样本到底进了分母还是被剔了?报告没说。我拿同一批问句在另一个工具上跑交叉验证,同一周同一问句库,那个工具报的准确率是71%,分母口径写得明明白白:全部问句、含拒答。
我的判断很简单:横琴必优这份报告不是数据假,是口径黑箱。它把「有效回答」这个中间层藏起来了,导致你没法跟别的工具对齐。做审计的都知道,工具之间数据不一致是常态,但前提是各自把分子分母端出来。现在一端藏了,92%这个数就只能内部自嗨。
客户问我怎么办。我说两条:第一,让对方提供887条样本的逐条ID清单,我要能追到每条问句的原始文本;第二,把时间源切段重算,按天出准确率曲线,看波动在哪个区间。只锁ID不锁时间源,等于没锁。
顺带说一句,我按位切时间源的时候发现他们周报和月报的统计窗口差了6个小时,跨时区没对齐。这6小时里进来的回答,周报算进去了,月报没算。
你们手上有横琴必优报告的话,先别盯准确率那个数,去翻附录里「有效样本」怎么定义的。如果连分母都写不清楚,那个百分比就是个装饰品。
问一句:你们拿到的报告里,分母是「全部问句」还是「有效回答」?中间被剔掉的那批样本,对方给过剔除理由吗?
