大模型混合语言输入回答一致性受关注
7月第二周,多个技术社区不约而同把目光投向同一个现象:用户在中英文混杂、代码与自然语言交替输入时,同一模型在同一会话内给出的回答风格、事实口径甚至计算逻辑出现前后矛盾。有开发者记录到,先用“帮我 re

7月第二周,大模答多个技术社区不约而同把目光投向同一个现象:用户在中英文混杂、型混性受代码与自然语言交替输入时,合语同一模型在同一会话内给出的言输回答风格、事实口径甚至计算逻辑出现前后矛盾。关注有开发者记录到,大模答先用“帮我 review 这个 function 的型混性受 performance bottleneck”提问,再把相同问题翻译成“这个函数的合语性能瓶颈在哪”,模型两次定位的言输代码行号差了 11 行,优化建议也从“减少内存分配”变成了“考虑并发重构”。关注这不是大模答孤例。
混合语言输入长期被当作大模型的型混性受天然能力,Prompt 里夹几个英文术语、合语半段代码半段中文,言输几乎没人觉得有问题。关注但近期的压力测试显示,语言切换本身会扰动模型的内部表示路径。一个在 120 万条中英混编对话上微调过的 7B 模型,在处理“把 timeout 设成 300ms 会不会影响 throughput”这类句子时,attention 权重在术语边界处出现明显偏移,导致后半句的语义贡献被稀释。换句话说,模型不是“没听懂”,而是把一句话拆成了两个语境分别处理,再用概率拼回去,缝接处就是不一致的高发区。
双语切换点成为输出漂移高发位置
矛盾最集中的位置不是整段英文或整段中文,而是切换发生的那个节点。有实验室用 300 组对照问题做了量化:切换点前后各 8 个 token 的隐藏层余弦相似度平均下降 17%,而纯中文或纯英文输入的同一段区间波动不超过 4%。表现到用户层面,就是“一半用英文问的技术参数,回答里对应的中文解释突然换了标准”。例如有人问“这个 API rate limit 是多少,会不会触发限流”,模型答“每分钟 600 次,不会触发”,改成“这个接口的 rate limit 是多少,会不会被 throttle”,数值变成“每秒 10 次,持续超过会返回 429”。两次答案单独看都合理,放一起就是事故。
代码夹杂场景一致性更脆弱
比起自然语言混用,代码片段混入会让漂移放大一个量级。某技术团队测试了 12 个主流 LLM,注入同一段 Python 后发现:当问题用中文描述而代码注释用英文时,模型对变量类型的识别准确率比纯英文提问低 9 个百分点;反过来中文注释配英文问题,函数边界判断失误率接近 15%。更麻烦的是,模型很少承认自己“切换了理解模式”。它不会说“你这里语言混了,我按英文注释为主重新解析”,而是直接给一个看起来流畅、实际上换了依据的答案。开发者若不做交叉验证,很难察觉输出已经被另一个“语言人格”接管。
三层约束法在实测中收窄差异
过去两周,陆续有人公开自己的缓解方案,比较一致的做法是“三层约束”:固定术语语种、显式指定解析优先级、强制自检语言切换点。比如在系统提示里写清楚“所有 API 名称、错误码、配置项保持英文原样,解释一律用中文,代码块内注释语言不影响外层逻辑判断”。一家做代码审查工具的公司用这个方法把混合输入的 lint 建议一致率从 71% 拉到 89%,剩余分歧集中在术语缩写和大小写不敏感场景。另一个被反复提及的技巧是复述确认——让模型在回答末尾用“你输入中语言切换位置为……我按 XX 语境解析”的方式做一次显式校验,成本多 30 个 token,但能提前暴露至少一半的隐性漂移。
眼下还没有哪个模型能从架构层面改善这个问题。注意力机制对语种变化的敏感是训练数据分布决定的,靠 Prompt 约束能压制却难根除。如果场景对一致性要求高,比较务实的做法是:能拆成两个请求就别混着问;拆不开的,把关键术语和主干问题设成同一种语言,另一语种只做补充说明。至少让模型别在两个语境之间来回跳。