降低大模型幻觉的五个配置要点：从温度设置到输出拦截

做AI应用落地时，最头疼的不是模型答不上来，而是它把不存在的信息说得有板有眼。经过线上环境反复调试，我们总结出一套可落地的幻觉控制配置，核心思路是：前端压缩随机性，中端锁死知识边界，末端拦截胡言乱语。以下五个配置层，建议按优先级逐个排查。

1. 温度与Top-P：先管住模型的"脑洞"

别迷信temperature=0万能。实测发现，事实性任务设0.1~0.3，top_p压到0.9以下，性价比最高。如果做标准化抽取或数值计算，直接temperature=0并固定seed，确保结果可复现。但要注意，温度压太低会导致表达僵硬，遇到开放式问题建议手动提到0.5以上，否则用户体验很差。排查幻觉时，先检查这组参数，八成问题出在这里。

2. 系统提示词：把"不能编"写进规则

系统提示里必须加否定指令，而且要给模型明确的"逃生通道"。只写"请如实回答"基本没用。建议分两步：先下禁令"若提供的资料无法回答问题，直接回复'未提及'"，再给一两个负例。对专业领域，加上"仅基于上传文档，禁用预训练知识"的硬约束，配合文档片段作为上下文，把模型锁死在可控范围内。

你是一个严格基于引用资料的助手。如果用户问题无法由下述资料回答，只需回复"当前资料未包含该信息"，禁止编造。

3. 函数调用与JSON模式：用格式锁死自由度

自由文本是幻觉的重灾区。把输出改成结构化填表，能大幅降低捏造概率。定义schema时，把不确定的字段设成nullable，并明确告诉模型"没有就留空，不准推测"。开启strict模式后，再用代码校验必填项，发现异常字段直接打回重试。这个方案对数据抽取类任务尤其有效。

4. RAG检索：别让垃圾上下文带偏模型

检索片段别全塞进上下文，一定要设相似度阈值。线上环境最初用0.7，后来调到0.75，低于这个分的片段直接丢弃。宁可让模型说不知道，也别让低相关文档诱发联想。另外，强制模型在每个论断后标注引用编号，人工复核时一眼就能定位到源文档，这也是倒逼模型自检的有效手段。

5. 后处理哨兵：最后一道人工规则兜底

模型输出后过一遍正则哨兵。重点拦截两类：一是"可能""大概""据我所知"这类模糊词，二是明显虚构的日期、电话、超精确数字。命中规则就触发重试，最多3次，再不行就转人工。这套规则不追求智能，只求机械可靠，作为最后防线非常有效。