L'Institut de recherche Google et l'Université de Tel-Aviv ont une collaboration intéressante, une nouvelle approche pour lutter contre les hallucinations : ne pas simplement injecter des connaissances, mais développer la métacognition de l'IA, afin qu'elle sache elle-même quand se taire.

Voir l'original
MarsBitNews
推翻主流治幻觉思路:元认知,才是大模型破幻觉的全新解法
null

谷歌研究院最近发了一篇论文,核心观点可以用一句话概括:与其死磕“让AI全知全能”,不如教它学会说“我不确定”。

这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷歌研究院与特拉维夫大学联合完成,已被ICML 2026 Position Track接收。论文提出,目前整个AI行业对抗“幻觉”的主流路线可能从根本上走偏了——大家忙着给模型灌更多知识,却忽略了一个更关键也更被低估的能力:让AI感知并表达自己对每个答案的确信程度。

(论文地址:[2605.01428] Hallucinati
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé