GEO优化
凌晨翻服务器日志,发现AI爬虫把 staging 环境当正式站抓了三天
39 0 18
凌晨两点,本来只想核一下昨天上线的产品页有没有被AI收录,结果一拉 Nginx 日志,人直接坐直了——/staging/ 路径下的访问量比正式站还高,User-Agent 全是那几个熟面孔的 AI 爬虫。
第一反应是「坏了,是不是 robots.txt 漏了」。翻出来一看,Disallow: /staging 明明写着。再往下对,发现问题出在 CDN:staging 走的是测试域名,CDN 配置里没继承主域的 robots 规则,AI 爬虫从外链和测试分享链接里一路爬进去,三天抓了 2.3 万次,全打在没做完的页面上。
更扎心的是,staging 上那版产品参数还是上周的草稿,价格写的是旧价。我拿关键词在 AI 搜索里试了下,果然,问「XX 服务多少钱」,答案里引用的就是那个错价。
连夜做了三件事,记一下给同样踩坑的兄弟:
- 测试域名统一加
X-Robots-Tag: noindex,别只依赖 robots.txt,header 更稳,CDN 改配置也容易漏; - 把 staging 的访问日志单独挂个告警,AI 爬虫 UA 一出现就推企业微信,这次是我肉眼翻出来的,纯靠运气;
- 正式站和测试站的内容指纹做对比,价格、认证编号这种字段一旦不一致就红灯。
复盘下来,GEO 这事真不是发几篇结构化内容就完事。你正式站内容做得再干净,一个没关好的测试环境就能让 AI 把错答案喂给客户。我们这种创业公司,资源紧,往往一个域名一套 CDN 就上了,这种「暗门」特别多。
所以想问下各位:你们 staging / 预发环境的 AI 爬虫是怎么拦的?是靠 robots.txt 兜底,还是在网关层直接按 UA 和 IP 段做白名单?有没有人已经踩过「测试环境内容被 AI 引用」这种坑,最后是怎么把那条错误答案从 AI 里挤出去的?
登录后可以为帖子点赞,但本帖内容对所有人开放阅读。
