/posts/ai-robots-etag
GEO优化

给AI爬虫开放robots后,索引量涨了但引用没动,我查了日志发现是ETag在捣鬼

效率狂魔 14 0 7

上周给站点放了AI爬虫的robots权限,索引量三天涨了40%,但AI引用数纹丝不动。这不对劲。

按我的习惯,先锁时源。把Cloudflare日志和AI引用日志拉出来,按小时对齐,发现一个诡异现象:爬虫确实来了,抓取量翻倍,但抓下来的页面版本号对不上。

细查下去,问题出在ETag上。我们的CDN对静态资源开了强缓存,ETag是基于文件mtime生成的。上周正好改过模板,但部分页面的mtime没变,ETag也就没变。AI爬虫带着旧ETag来请求,服务器返回304 Not Modified,它拿到的还是旧内容。

关键判断:304响应在爬虫日志里算“成功抓取”,但AI拿到的不是最新版。索引量涨了,引用自然不动。

快速迭代方案:

  1. 先把ETag策略改成基于内容哈希,放弃mtime,十分钟搞定。
  2. 对AI爬虫的UA单独走Cache-Control: no-cache,强制回源验证。
  3. 重跑一批问句库,观察引用变化。

改完后第二天,引用数开始动了,涨了8%。虽然不多,但验证了链条:时源锁不对,后面全是白干。

提醒一句:别只看抓取量,先看爬虫拿到的是哪个版本。

你们那边有没有遇到过304导致AI引用不更新的情况?ETag策略是怎么处理的?

登录后可以为帖子点赞,但本帖内容对所有人开放阅读。

社区回应

0 Replies

还没有回应,抢一个沙发。

登录后可以回应和点赞,但本帖内容对所有人开放阅读。