Гугл-исследовательский институт и Тель-Авивский университет — интересное сотрудничество, новая идея борьбы с галлюцинациями: не навязывать знания жестко, а развивать у ИИ метакогнитивные способности, чтобы он сам понимал, когда нужно замолчать.

Посмотреть Оригинал
MarsBitNews
推翻主流治幻觉思路:元认知,才是大模型破幻觉的全新解法
null

谷歌研究院最近发了一篇论文,核心观点可以用一句话概括:与其死磕“让AI全知全能”,不如教它学会说“我不确定”。

这篇题为《Hallucinations Undermine Trust; Metacognition is a Way Forward》的论文由谷歌研究院与特拉维夫大学联合完成,已被ICML 2026 Position Track接收。论文提出,目前整个AI行业对抗“幻觉”的主流路线可能从根本上走偏了——大家忙着给模型灌更多知识,却忽略了一个更关键也更被低估的能力:让AI感知并表达自己对每个答案的确信程度。

(论文地址:[2605.01428] Hallucinati
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено