Altman опублікував п’ять принципів OpenAI, що натякає на можливе обмеження можливостей моделей у майбутньому для безпеки

Згідно з моніторингом Beating, генеральний директор OpenAI Сэм Альтман опублікував від імені компанії п’ять принципів роботи, а саме демократизацію, надання повноважень, загальне процвітання, стійкість і адаптивність. Альтман у розділі «Адаптивність» попереджає, що у майбутньому в певні періоди OpenAI може посилювати обмеження доступу користувачів до моделей з метою безпеки, прямо цитуючи: «можна уявити час, коли доведеться пожертвувати частиною повноважень заради більшої стійкості».

«Демократизація» вимагає, щоб ключові рішення щодо штучного інтелекту приймалися через демократичні процеси, а не лише рішеннями AI-лабораторій. «Надання повноважень» підкреслює необхідність максимальної свободи користувачів у використанні, але при цьому в умовах невизначеності слід бути обережним. «Загальне процвітання» виправдовує недавні масштабні закупівлі обчислювальних потужностей та створення дата-центрів по всьому світу, Альтман зазначає, що мета — знизити вартість AI до рівня, доступного кожному, а урядам можливо доведеться досліджувати нові економічні моделі для забезпечення розподілу цінностей. «Стійкість» згадує конкретний сценарій ризику: надзвичайно потужні моделі можуть знизити бар’єри для створення нових патогенів, що вимагає реагування на рівні всього суспільства.

Альтман згадує про свою вагання щодо відкриття ваг GPT-2 у минулому, називаючи це зайвими побоюваннями, але це сприяло тому, що OpenAI досі використовує ітеративну стратегію розгортання.