sitemap日期改得太勤,AI抓取反而变懒了——我拿日志对了七天
先说结论:sitemap 里的 lastmod 天天刷,AI 爬虫来抓的频率没涨,反而掉了一截。这事儿我是拿日志一条条对出来的,不是拍脑袋。
当年做 SEO 的时候,我们就踩过这个坑。那时候有人教你把 sitemap 的 lastmod 改成当天,说能催蜘蛛。结果呢?蜘蛛来是来了,抓两下发现内容没变,后面就不信你了。现在 AI 抓取一个道理,只是换了个马甲。
我手上这个站,内容更新其实没那么勤,一周也就三四篇。前阵子技术那边图省事,搞了个脚本,每天凌晨把 sitemap 里所有 URL 的 lastmod 全刷成当天。我一开始没管,觉得大不了没用。
后来翻日志,发现不对劲。
我拉了 GPTBot、ClaudeBot、PerplexityBot 这几个的访问记录,做了个对照:
- 刷日期之前那一周:AI 爬虫日均抓取请求 210 次左右,命中新内容的比例大概 18%。
- 刷日期之后第一周:请求量掉到 160 上下,命中新内容比例掉到 9%。
- 刷日期之后第二周:稳定在 140 到 150,新内容命中率没回来。
请求量掉了三成,真正抓到新东西的比例腰斩。这说明什么?说明爬虫不傻,它拿你 sitemap 的 lastmod 跟自己上次抓到的内容指纹对一下,发现全是空转,就自动降频了。跟当年 nofollow 滥用一个逻辑——你骗它一次两次行,第三次它就不按你的规则玩了。
我让技术把脚本停了,改成只在内容真改的时候手动更新 lastmod,宁可漏几个也别乱刷。停了两周,抓取量慢慢回到 190 左右,新内容命中率回到 15% 上下。没完全恢复,但趋势是对的。
还有个细节:那些天天刷日期的 URL 里,有一批是老页面,内容一个字没动。爬虫对这些页面的抓取优先级明显降了,反而是几个我手动改了 lastmod 的新页面,抓取间隔从平均 3 天缩到 1 天出头。
所以我现在跟团队说,sitemap 的日期别当闹钟用,它是个承诺。你承诺变了,它才来。当年 robots.txt 乱写被惩罚的教训,换到 GEO 这儿一模一样。
我想问一句:你们站 sitemap 的 lastmod 是手动维护还是程序自动刷?有没有人拿日志对过刷日期前后的抓取变化?我这边样本就一个站,想多凑几个对照看看是不是普遍现象。
