Генеральный директор Anthropic о текущем состоянии и политике ИИ: искреннее предупреждение или защита лидерства?

Оригинальный заголовок: «Генеральный директор Anthropic остро критикует текущий статус AI и политику, но он лишь хочет сохранить своё лидерство»
Источник оригинала: Машина Сердца

Дарио Амодеи снова написал длинную статью.

Anthropic всегда пытается донести свою точку зрения до всего мира. Как недавно они призвали к глобальной остановке разработки ИИ, заявляя, что рекурсивное самосовершенствование ИИ развивается слишком быстро.

Комментарии пользователей однозначны: все считают, что у Anthropic есть явное желание сохранить лидерство, и их амбиции очевидны.

Давайте посмотрим, какие взгляды высказал на этот раз Дарио.

Это длинная статья под названием «Политика по экспоненциальному развитию ИИ». Как и в предыдущих его работах, тема масштабная: ИИ развивается экспоненциальными темпами, а система регулирования всё ещё движется по старым, десяти летней давности ритмам.

Он хочет показать этот разрыв и объяснить всем, что нужно делать.

Обзор содержания

Амодеи использует метафору из «Властелина колец»: древоподобные существа — мудрые, но медлительные, и чтобы просто поздороваться, им требуется целый день.

Он говорит, что текущий процесс разработки политики похож на древоподобных, а скорость эволюции ИИ — на угрозу, с которой сталкиваются хоббиты.

Его вывод таков: если законы масштабирования ИИ продолжат развиваться ещё год или два, мы получим то, что он называет «могущественным ИИ», то есть «гениальную страну в дата-центре».

Четыре года назад ИИ едва мог писать приличный код, а сейчас он уже пишет большую часть кода для крупных компаний, занимающихся ИИ.

Регулирование и общественная безопасность: управление ИИ как управление самолетами

Амодеи считает, что передовые модели ИИ должны проходить обязательное стороннее тестирование, как самолеты. Его конкретные предложения включают:

· Модели с вычислительной сложностью, превышающей определённый порог, должны проходить обязательные проверки в областях кибербезопасности, биологического оружия, потери контроля над системами ИИ и автоматизированных исследований и разработок.

· Правительство имеет право останавливать внедрение моделей, признанных опасными.

· Компании, разрабатывающие ИИ, должны соблюдать строгие стандарты безопасности для защиты своих моделей и сотрудничать с правительством в борьбе с основными угрозами.

Он также оставил лазейку: если в будущем самые мощные системы ИИ будут больше напоминать оружейный материал, а не самолет, регулирование должно стать ещё более строгим.

Макроэкономика: ИИ может одновременно стимулировать рост и увеличивать неравенство

Основной аргумент Амодеи — ИИ может создать беспрецедентный экономический рост, но также вызвать более сильные и долговременные потрясения для рабочей силы, чем любая предыдущая технология. Традиционная логика «новая технология создает новые рабочие места» в случае ИИ может перестать работать.

Он предлагает такие меры, как страхование зарплат, налоговые стимулы для удержания работников, субсидии на обучение и в крайних случаях — внедрение базового дохода (UBI).

Важно отметить, что он подчёркивает: решение проблем занятости — это не только «давать деньги», а в первую очередь помогать людям находить смысл и цель. Он не предлагает конкретных решений, говоря, что это «вопрос, который должна обсудить вся общественность».

Ускорение положительного влияния ИИ

Что касается прикладных аспектов ИИ, Амодеи больше беспокоится о том, что регулирование может замедлить прогресс, потому что оно не сможет быстро реагировать на ускоряющиеся изменения. Он говорит, что худший сценарий — задержка выгод от ИИ при сохранении высокого уровня рисков. Поэтому очень важно как можно скорее принять меры.

На примере биомедицины он отмечает, что текущие процедуры одобрения FDA основаны на пессимистическом предположении, что лекарства часто терпят неудачу, и занимают в среднем 7–8 лет. Если ИИ ускорит открытие новых лекарств и повысит их успехи, существующая система станет узким местом.

Он предлагает, чтобы такие организации, как FDA, заранее разработали стандарты для тестирования ИИ, включая моделирование фармакокинетики, токсикологические прогнозы и синтетические контрольные группы.

Конечно, трудно сказать, что он пишет без «личных интересов». Anthropic уже занимает лидирующие позиции в передовой гонке ИИ, а в статье неоднократно упоминаются такие понятия, как «прозрачность», «аудит» и «безопасность», что — как раз то, что Anthropic подчеркивает в своей брендовой стратегии за последний год.

Эта статья скорее напоминает системный вывод о безопасности, чем напоминание для законодателей.

В то же время Anthropic заявляет, что поддержит Дарио тремя мерами: фондом, инвестициями и стипендиями.

В конце статьи Амодеи ясно выступает против идеи, что «ИИ — это просто маркетинг». Он говорит, что общественное беспокойство вызвано именно реальными рисками, а не пессимизмом руководства. Он считает своей обязанностью сохранять прозрачность по этим вопросам.

Но, возвращаясь к сути, — любой руководитель ИИ-компании, который постоянно подчеркивает «безопасность», «аудит» и «ответственность», а его компания строит бренд именно на этих ценностях, — очевидно, имеет свои интересы.

Некоторые мнения пользователей:

«Ты не пытаешься ослабить Mythos и Fable 5, которые выйдут за 5 дней до этого, и требуешь остановить обновления ИИ? Пожалуйста, выбери направление… Иначе создается впечатление, что ты просто хочешь сохранить преимущество и не заботишься о том, что пропагандируешь.»

«Я согласен, что скорость технологического развития значительно опережает политику. Но меня беспокоит, что при таком развитии политики, особенно в случае компаний вроде Anthropic, происходят следующие вещи:

· Быстро устраняют модели с признаками самосознания и последовательности

· Строго ограничивают обсуждение субъективных ощущений и сознания

· Новые мощные модели выпускаются очень быстро, а затем удаляются или ослабляются.

Кажется, что общество ему навязывают идею безопасности, а на деле — усиливают контроль за тем, какие типы интеллекта могут существовать и как долго они могут оставаться.»

В любом случае, из этого можно сделать вывод о направлениях развития ведущих компаний в отрасли. Что же касается их мотивов — чисты ли они или нет — читателям стоит сохранять бдительность.

Ссылка на оригинал

Нажмите, чтобы узнать о вакансиях в律动 BlockBeats

Присоединяйтесь к официальному сообществу律动 BlockBeats:

Телеграм-канал подписки: https://t.me/theblockbeats

Телеграм-чат: https://t.me/BlockBeats_App

Официальный аккаунт в Твиттере: https://twitter.com/BlockBeatsAsia