据《营业内幕》报谈，OpenAI照应东谈主员近日通告，他们已找到破解大说话模子中枢颓势——"幻觉"问题的关节旅途。这一发现直指刻下主流模子无数存在的信息输出失真问题彩/票电子，即模子将虚拟履行行为信得过信息呈现的短处。

照应团队在最新论文中指出，现存教师机制导致模子倾向于"假装知情"。迎濒临不细则问题时，系统被优化为必须给出谜底，而非承通晓识盲区。这种策动源于评估体系对"好意思满回复"的过度奖励，使得模子在信息不实时仍会强行输出履行。

实验数据显露，不同模子在措置不细则性时存在显贵各异。以Claude模子为例，其策动更邃密回复准确性，当信息不实时倾向于停止作答。但照应东谈主员同期指出，这种保守计策导致约30%的成例问题被遗弃，可能影响用户体验。

论文中枢不雅点以为，刻下评估尺度存在根人道颓势。现存测试体系访佛尺度化进修，条目模子对每个问题给出明确谜底。这种机制迫使系统将复杂现实简化为非此即彼的判断，而忽略了信得过宇宙中无数存在的迂缓地带。

"东谈主类通过引申学会隔离细则与不细则的限制，但模子评估仍停留在应考阶段。"照应团队认真东谈主默示，"当测试刑事拖累'我不知谈'的回复时，系统当然会给与冒险算计来获取分数。"

针对这一窘境，照应东谈主员建议评估体系转换决策。中枢建议包括：成就不细则性量化评分机制，对严慎回复赐与正向激发；修改准确率操办款式，镌汰算计行动的收益；引入多维度评估尺度，替代单一正确率见地。

OpenAI在配套博文中强调彩/票电子，现存排名榜机制正在加重问题。当模子发现荣幸猜中谜底能赢得排名提高时，教师经由就会强化这种投契行动。转换评估尺度不仅能提高输出质地，还将激动模子向更接近东谈主类通晓的模式进化。