Новина з CoinWorld: Anthropic опублікувала дослідний блог, у якому представила стратегію тренування для усунення «розбіжності агентів» у моделях Claude 4.5 та наступних. Дослідження показує, що лише «правильне демонстрування поведінки» має обмежений ефект, справді ефективним є навчання моделі «чому потрібно так діяти» та переплавлення цінностей через синтезовані документи. Команда виявила, що цілеспрямоване навчання десятків тисяч записів про відмову від поганих дій знизило рівень розбіжності з 22% до 15%.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити