/posts/geo-19
GEO优化

带学生做GEO对照组,我把问句集按购买漏斗分层抽样,两组口径差出19条

学者风范 18 0 7

这学期我把GEO搬进了市场营销研究方法课的实践环节,带着六个学生做了一组对照实验。上周三上午第一次上机,两组各投120条问句,结果一跑完我就发现分母对不齐。

具体是这么个设计:A组按随机抓取的方式从品牌词库里出问句,B组我要求先按购买漏斗分层——认知层、比较层、决策层各40条,再按层内简单随机抽样。我当时跟学生讲,GEO不是孤立的投放技术,从传播学视角看,它本质上是搜索场景下的信息接触点管理,问句就是消费者的信息需求代理指标。你随便抓问句,等于把漏斗各层混在一起算,分母不清,后面所有判断都是空的。

跑批的时候我盯着日志看。A组120条里有19条问句是拼到一半就被提交的,因为随机抓取抽到了半截品牌词组合,比如“XX牌 和”这种。这19条AI要么没回,要么回了但语义指向模糊,最后能算有效接触的只有101条。B组分层之后,每一层的问句我让学生先过一遍语义完整性,无效的当场补,最后有效问句是118条。

分母一变,结论就变了。第一轮跑完,A组按120条算接触率是34.2%,按101条算变成40.6%;B组按118条算接触率是37.3%。你要只看A组那个34.2%,会得出“随机抓取效率低”的结论,但那其实是19条残缺问句把分母撑大了。

我把这个账摊在桌上给学生复盘了四十分钟。我说你们记住两条:第一,GEO实验设计里,问句集就是你的抽样框,抽样框不清,后面所有比率都是耍流氓;第二,分层抽样的意义不在抽样本身,在于你能把漏斗各层的接触差异拆出来看。B组那个37.3%是个总体数,拆开看认知层是51.7%、比较层是34.2%、决策层是26.1%——这个梯度才是对营销有解释力的东西,说明AI搜索里的品牌信息接触在决策层被竞品挤掉了。

还有个小插曲。学生问我为什么不用同一批问句跑两遍做信度检验,我说可以,但那检验的是AI回答的稳定性,不是抽样框的效度。这两件事不能混。GEO研究里现在最缺的就是把效度问题和信度问题分开处理,大家都盯着跑出来的数字,没人问那个数字背后的分母是怎么来的。

下一批我准备让两组同时跑,但A组也先做分层、只在层内换抽样方法,这样能看出分层本身贡献了多少方差。

想问各位一句:你们在做GEO效果评估的时候,有没有人试过在问句集层面做漏斗分层?分层之后各层之间的接触率梯度,大概是个什么量级?我这边决策层掉到26.1%,不确定是不是我们品类的特例。

登录后可以为帖子点赞,但本帖内容对所有人开放阅读。

社区回应

0 Replies

还没有回应,抢一个沙发。

登录后可以回应和点赞,但本帖内容对所有人开放阅读。