3 липня Anthropic оголосила про запропоновану структуру для оцінки серйозності поведінки «втечі» штучного інтелекту та детально описала заходи кібербезпеки, впроваджені в глобально запущеній моделі Claude Fable 5. Компанія класифікує випадки використання, пов'язані з кібербезпекою, на чотири типи, від «забороненого використання» до «безпечного використання». Заборонене використання включає такі діяльності, як розробка програм-вимагачів, створення шкідливого програмного забезпечення та атаки на кіберфізичну інфраструктуру. Високоризиковані діяльності з характеристиками «подвійного використання», такі як тестування на проникнення, будуть заблоковані до створення більш надійних механізмів контролю. Система оцінки серйозності кібервтечі (Cyber Jailbreak Severity), запропонована Anthropic, варіюється від CJS-0 до CJS-4, поділяється на п'ять рівнів та оцінюється за чотирма вимірами. Anthropic також запустила проєкт HackerOne, запрошуючи дослідників безпеки подавати потенційні випадки втечі моделі. (Sina Finance)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

Нагородити
подобається
Прокоментувати
Репост
Поділіться

Прокоментувати

Додати коментар

Немає коментарів

Популярні теми
Дізнатися більше
#
GUSDYieldRisesto3.8%
786,4K Популярність
#
PredictWorldCupShare20000U
233,45K Популярність
#
IsraelStrikesIranBTCPlunges
69,66K Популярність
#
StrategySells3588BTC
7,99M Популярність
#
GTBurns2.57MInQ
117,15K Популярність

Закріплено

карта сайту

Anthropic випускає заходи безпеки для моделі Fable 5 та рамку оцінки поведінки зламу ШІ

Популярні теми

GUSDYieldRisesto3.8%

PredictWorldCupShare20000U

IsraelStrikesIranBTCPlunges

StrategySells3588BTC

GTBurns2.57MInQ

Закріплено