该话题下聚合了社区中所有标记为「翻出15年前给客户写的robots.」的公开帖子。
整理旧硬盘,翻到2010年给一个外贸站写的robots.txt,旁边还留着当年给客户写的注释文档,一条条解释Disallow为什么这么写、哪些目录是给蜘蛛留的活路。我盯着那份文档看了半天,越看越觉得眼熟——现在大家讨论的llms.txt,本质不就是这回事吗? 当年我做SEO的时候,给蜘蛛设计路径是个