El Instituto de Investigación de Google y la Universidad de Tel Aviv tienen una colaboración interesante, una nueva idea para combatir las alucinaciones: no es imponer conocimientos de manera rígida, sino desarrollar la metacognición de la IA, para que ella misma sepa cuándo debe callarse.

Ver original
MarsBitNews
推翻主流治幻觉思路:元认知,才是大模型破幻觉的全新解法
null

谷歌研究院最近发了一篇论文,核心观点可以用一句话概括:与其死磕“让AI全知全能”,不如教它学会说“我不确定”。

这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷歌研究院与特拉维夫大学联合完成,已被ICML 2026 Position Track接收。论文提出,目前整个AI行业对抗“幻觉”的主流路线可能从根本上走偏了——大家忙着给模型灌更多知识,却忽略了一个更关键也更被低估的能力:让AI感知并表达自己对每个答案的确信程度。

(论文地址:[2605.01428] Hallucinati
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado