Altman опубликовал пять принципов OpenAI, предварительно анонсировав возможное ограничение возможностей модели ради безопасности

По данным мониторинга Beating, генеральный директор OpenAI Сэм Альтман опубликовал от имени компании пять принципов деятельности, которые включают демократию, расширение возможностей, всеобщее процветание, устойчивость и адаптивность. В разделе «Адаптивность» Альтман предвосхитил, что в будущем в определённые периоды OpenAI может ужесточать доступ пользователей к моделям ради безопасности, прямо сказав, что можно представить «периоды, когда придётся пожертвовать частью расширения возможностей ради большей устойчивости».

«Демократизация» требует, чтобы ключевые решения в области ИИ принимались через демократические процедуры, а не только решением ИИ-лабораторий. «Расширение возможностей» подчеркивает предоставление пользователям максимально возможной свободы использования, но при неопределенности склоняется к осторожности. «Всеобщее процветание» оправдывает недавние крупные закупки вычислительных мощностей и создание дата-центров по всему миру, заявляя, что цель — снизить стоимость ИИ до уровня, доступного каждому, а правительствам возможно придется искать новые экономические модели для обеспечения распределения ценностей. «Устойчивость» касается конкретного сценария риска: чрезвычайно мощные модели могут снизить порог для создания новых патогенов, что требует реакции всего общества.

Альтман вспомнил о своих колебаниях по поводу публикации весов GPT-2, отметив, что позже это показалось ему излишней осторожностью, но именно это стимулировало использование компанией стратегии итеративных развертываний, которая применяется и по сей день.