Дизайн «перемикача здібностей» від Anthropic досить цікавий: модульне управління знанням подвійного меча, стійкіше до атак тонкого налаштування, ніж забування постфактум, додає ще один рівень безпеки для ШІ.

Переглянути оригінал
CoinNetwork
Повідомлення CoinWorld, Anthropic та AE Studio опублікували нове дослідження, намагаючись встановити вимикач для «подвійного використання знань» ШІ. Подвійне використання знань означає здатність, яку можна використовувати як для законних досліджень, так і для зловживання, наприклад вірусологія, кібербезпека та ядерна фізика. Дослідницька група протестувала 4 категорії подвійного використання в експериментах з реальними даними: вірусологія, кібербезпека, ядерна фізика та маловідомі мови програмування. 4 модулі можна комбінувати для отримання 16 конфігурацій можливостей. Порівняно з окремим навчанням моделі для кожної конфігурації, цей метод вимагає лише одного тренування. Результати показують, що Gram, зберігаючи загальні здібності, може досить добре видаляти цільові здібності та має кращу стійкість до дрібномасштабних зловмисних тонких налаштувань, ніж методи «забування» після навчання.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено