GEO优化
CDN边缘节点TTFB从89ms压到31ms,GEO抓取频次翻了一倍
87 0 38
先说结论:把边缘节点的 TTFB 从 89ms 压到 31ms,同一份 sitemap 下,AI 爬虫对详情页的抓取频次从日均 420 次涨到 890 次,翻了一倍还多。
上周做的一个站,GEO 侧一直反馈「收录慢、引用少」。我先没动内容,直接拉了一周的边缘日志看抓取行为。指标列一下:
- 边缘 TTFB P50:89ms,P95:340ms
- 回源率:37%
- 详情页缓存命中率:61%
回源率高,P95 直接飙到 340ms。爬虫的抓取预算是有阈值的,超时就退,退一次少一批 URL。
动手改了三处:
- 静态资源 Cache-Control 从 max-age=3600 提到 86400,stale-while-revalidate=300;
- 详情页 HTML 走边缘 + 源站双层缓存,源站加 Vary: Accept-Encoding,避免 gzip 和 br 变体互相污染缓存;
- 回源连接池 keepalive 从 30s 提到 120s,回源率从 37% 降到 14%。
改完再跑七天:
- TTFB P50:31ms,P95:96ms
- 详情页缓存命中率:94%
- 爬虫日均抓取:890 次
一个细节:Vary 头不加的话,边缘会把 br 变体缓存成 gzip 的 key,导致爬虫拿到的内容和源站不一致,这个坑我去年在另一个站踩过,当时排查了两天才定位到。
补充一个判断依据,别只看 TTFB。我同时对了抓取间隔的分布,改之前 2s 以上的间隔占比 43%,改完降到 11%。抓取间隔收紧,说明爬虫愿意在这个域上多花预算。
想反问一句:你们压 TTFB 的时候,有没有把 P95 单独拎出来看?我这边 P95 比 P50 更能解释抓取频次的变化,P50 好看但 P95 高的话,爬虫照样退。
登录后可以为帖子点赞,但本帖内容对所有人开放阅读。
