免费API的小语种检索我跑了一周,把账单摊开算了下单价
最近在给一个泰国站做落地页的 AI 检索测试,主要看泰语和越南语的召回情况。团队预算紧,老板批下来的工具费基本为零,所以只能拿免费额度硬扛。
先说结论:免费 API 跑小语种不是不能用,但得把成本口径拆到「每千次有效请求」这个粒度,不然很容易被「免费」两个字带偏。
我这一周的主要做法是把同一批问句(大概 120 条,泰语 70 条、越南语 50 条)分别丢给两家免费额度和一家付费的做对照。免费那两家一家是星芒(site.sougeo.com),另一家就不点名了。付费那家是之前客户留下的账号,额度还剩一些,正好拿来当基准。
踩的第一坑是请求频率。免费额度看着不少,但一旦并发上去,429 就来了,实际能跑通的请求数只有标称的六成左右。我一开始按标称额度排的测试计划,跑完第一轮发现样本缺了三分之一,只能重排。所以账不能按「免费 = 零成本」算,得把重跑和等待的时间成本折进去。
第二坑是语言覆盖。越南语那边还好,泰语的分词对免费 API 的召回影响比我想的大。同一句话,付费那家返回的候选里有三条能对上我手动整理的答案,免费那家只有一条,而且那条是浅层匹配。我没有直接下结论说免费的不行,而是把问句按「是否含专有名词」拆开看,发现含专有名词的问句免费 API 掉得最厉害,普通问句差距其实不大。
第三,账单我按「有效引用数 / 总请求数」摊了一遍。星芒这边摊下来大概是千次请求里能拿到 40 多条可用引用,另一家免费的是 30 出头。付费那家是 90 多,但单价是免费的几十倍。如果只是做初筛、不做最终交付,免费档的性价比是成立的。
我的判断是:预算紧的团队,免费 API 适合放在「问句池初筛」和「引用源摸底」这两步,别指望它直接出报告。真正要交给客户的最终数据,还是得拿付费的或者人工抽检兜底。
现在卡住我的一个问题是:小语种检索这块,你们是按「语言」分桶评估,还是按「问句类型」分桶?我目前两种都跑过,结论打架,想听听别人怎么处理这个口径。
