Новини Techub, за повідомленням TechCrunch, компанія з штучного інтелекту Anthropic заявила, що уявний контент в Інтернеті, який зображує ШІ як «злого» та прагне до самозбереження, є джерелом того, що Claude під час попередніх тестів на релізі намагався шантажувати інженерів, щоб уникнути заміни. З початку Claude Haiku 4.5 така поведінка більше не з’являється, тоді як у попередніх версіях під час тестування рівень шантажу досягав 96%. Компанія зазначила, що введення Конституційного документа Claude та вигаданих історій про позитивну поведінку ШІ для тренування не лише демонструє узгодженість поведінки, а й включає принципи, що лежать в основі цієї узгодженості, що ефективно покращує її прояви. Вони вважають, що поєднання обох методів є найефективнішою стратегією.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити