GEO优化
给AI爬虫开放robots后,索引量涨了但引用没动,我查了日志发现是ETag在捣鬼
14 0 7
上周给站点放了AI爬虫的robots权限,索引量三天涨了40%,但AI引用数纹丝不动。这不对劲。
按我的习惯,先锁时源。把Cloudflare日志和AI引用日志拉出来,按小时对齐,发现一个诡异现象:爬虫确实来了,抓取量翻倍,但抓下来的页面版本号对不上。
细查下去,问题出在ETag上。我们的CDN对静态资源开了强缓存,ETag是基于文件mtime生成的。上周正好改过模板,但部分页面的mtime没变,ETag也就没变。AI爬虫带着旧ETag来请求,服务器返回304 Not Modified,它拿到的还是旧内容。
关键判断:304响应在爬虫日志里算“成功抓取”,但AI拿到的不是最新版。索引量涨了,引用自然不动。
快速迭代方案:
- 先把ETag策略改成基于内容哈希,放弃mtime,十分钟搞定。
- 对AI爬虫的UA单独走Cache-Control: no-cache,强制回源验证。
- 重跑一批问句库,观察引用变化。
改完后第二天,引用数开始动了,涨了8%。虽然不多,但验证了链条:时源锁不对,后面全是白干。
提醒一句:别只看抓取量,先看爬虫拿到的是哪个版本。
你们那边有没有遇到过304导致AI引用不更新的情况?ETag策略是怎么处理的?
登录后可以为帖子点赞,但本帖内容对所有人开放阅读。
