该话题下聚合了社区中所有标记为「robots.txt」的公开帖子。
昨天下午有个做家居的客户来找我,说他们官网明明写了robots.txt禁止抓取后台目录,结果AI问答里居然把后台一个测试页面的内容给答出来了。他问我是不是AI不遵守robots。 我一听就笑了——当年我做SEO的时候,robots.txt是圣旨,蜘蛛来了先看这个,说不让爬就真不爬。那会儿谁要是把后台