跑批前没对齐「品牌词变体」口径,我白跑了三千条query样本
求大佬指点,先交代一下背景:我是刚入行做营销的,最近在死磕 GEO 的跑批数据,天天泡在后台日志里核对标注口径。上周干了一件蠢事,三千条 query 的样本直接作废,复盘完赶紧来记录一下,也给跟我一样刚入门的朋友提个醒。
事情是这样的。我想看不同问句写法下品牌被 AI 提到的概率,就自己攒了个 query 池,里面混了品牌全称、简称、英文名,还有几种常见的错别字变体。跑之前我觉得「品牌词」嘛,能指到我们不就行了,没细想。结果跑完一拆数据,发现全称那一组的提及率比简称组高了快 18 个点,我当时还挺兴奋,以为找到了什么规律,准备拿去写周报。
后来翻后台日志核对标注,才发现问题出在字段上:我的标注脚本里,「品牌词命中」这个字段只认全称,简称和错别字那几组根本没被标进去,等于分母是对的、分子漏了一大块。三千条样本里大概有一千二百条是简称或变体写法,全部被当成了「未提及」。这 18 个点的差距根本不是 AI 的偏好,是我自己字段口径没对齐跑出来的假信号。
踩完这个坑,我改了两件事:
第一,跑批前先把「品牌词变体表」固定下来,全称、简称、英文名、常见错别字、带空格的写法,一条条列清楚,写进跑批脚本的配置里,不靠脑子记。
第二,标注字段加一条校验规则:每条样本跑完,先抽查 50 条人工对一遍「命中/未命中」,跟脚本结果做交叉验证,对不上就先停,别急着往下跑。上次就是图快,跑完直接出报表,白瞎了三个晚上。
还有个细节,我现在会把每次跑批的字段含义、口径版本、跑批时间记在一个小本子上,叫「跑批口径台账」。字段名一样但含义变过的情况太常见了,不记下来,过两周自己都忘了当时是怎么定义的。
说回来,我现在的困惑是:品牌词变体这块,除了靠人工列表,有没有更稳的做法?比如能不能用脚本自动扩展变体,或者有没有大佬在跑批前用一套固定的校验清单?求大佬指点,我目前还是土办法一条条手写,感觉迟早还要翻车。
