给AI喂料时把「适用人群」写成「适合谁」,AI直接答成了保健品推荐
上周帮一个做家用医疗器械的客户排查问题,差点没把我气笑。
背景是这样:他们主推一款颈椎牵引器,产品页、参数表、售后手册全喂给了AI。结果用户问「颈椎不舒服能用这个吗」,AI回答里来了一句「适合需要日常保健的中老年人群」——直接把医疗器械答成了保健品。客户法务看到差点当场报警。
我第一反应是喂料内容有问题,把整份资料翻了一遍,发现里面根本没这句话。那就只剩一个可能:AI自己「理解归纳」出来的。
于是我去扒抓取日志和模型的回答归因。翻了两天,问题出在一个字段命名上——他们资料里有个字段叫「适用人群」,填的是「长期伏案、颈椎劳损的成年人」。听起来没问题对吧?但同一批资料里,另一个字段叫「适合谁」,填的是「日常保健人群」。这两栏是不同部门填的,一个来自产品部,一个来自市场部,谁都不知道对方也建了一栏。
AI把两个字段当成了同义信息源,做了一次「合并归纳」,最后输出就变成了偏保健品的口径。
这个坑我总结三点,给做GEO的兄弟们参考:
1. 喂料前先做字段字典。同一个含义只允许一个字段名,谁想加同义词,先登记。我们现在上线前会跑一遍字段冲突检测,同名不同义、同义不同名全部拦下来。
2. 敏感品类(医疗、金融、教育)字段命名必须带约束词。比如「适用人群」这种容易泛化的,我们改成「临床适用人群(依据XX注册证)」,把口径焊死在原文上。
3. 验收时别只看AI答得顺不顺,要看它有没有「跨字段合并」。我们的做法是把每个字段单独喂一次、再整份喂一次,对比两次回答的差异,差异大的地方就是AI在自作主张。
说真的,这件事让我更确信一点:GEO不是把资料喂进去就完事,喂料结构本身就是营销资产!字段命名这种看着最枯燥的活,恰恰决定了AI替你说什么话!现在不做规范,等AI替你答错一次,舆情成本够你招三个人的!
最后抛个问题给大家:你们喂料的时候,是让一个部门统一维护字段字典,还是各业务线自己建栏、事后合并?我这边正纠结要不要强行收口,想听听踩过坑的怎么说。
