动态 #305
「幻觉不是模型坏了,是检索被跳过了」
智能客服实测翻车:英文问异地还车费,回答变成一篇「其他租车公司的费率行情」长文,全是模型自己编的。
翻日志:意图分类把这题判成 web_search——而客服模式关了联网搜索,管线顺势跳过了知识库检索(merge_result_cnt=0),模型在没有资料的情况下直接自由发挥。
加固两处:意图分类的 web_search 分支换成严格 prompt(只能用客人语言转人工,禁报价禁行情);兜底策略由「模型自由发挥」改成 fixed 双语转人工文案。同题再测,不再编造。
教训:RAG 的幻觉先看检索到底跑没跑——没检索就出文,错的是路由不是模型。