Карен Хао: Мотивы получения прибыли движут развитием ИИ, текущие технологии наносят вред обществу, а эксплуатация труда в отрасли процветает | Дневник генерального директора

Основные выводы

• Разработка ИИ движима мотивами прибыли, что потенциально может привести к появлению более развитых цивилизаций.
• Текущие технологии ИИ причиняют людям и обществу значительный вред.
• ИИ-компании эксплуатируют труд, создавая циклы увольнений и переквалификации.
• Польза от ИИ распределяется неравномерно за пределами Силиконовой долины.
• Понимание ИИ требует рассмотрения разнообразных глобальных точек зрения помимо Силиконовой долины.
• Нет научного консенсуса по вопросу человеческого интеллекта, что усложняет цели ИИ.
• Компании манипулируют определением искусственного общего интеллекта в своих интересах.
• ИИ несет экзистенциальные риски, потенциально ведущие к уничтожению.
• Сэм Альтман повлиял на решения руководства OpenAI из-за опасений в связи с Илоном Маском.
• Сэм Альтман — фигура, вызывающая поляризацию; восприятие его зависит от того, насколько он соответствует его видению.
• Риторика о том, что ИИ приносит пользу всем, часто вводит в заблуждение.
• Общественное влияние ИИ требует более широкого понимания, выходящего за рамки техноградов.
• Термин «искусственный общий интеллект» используется компаниями стратегически.
• ИИ-безопасность — ключевой предмет обсуждения из-за потенциальных рисков.
• Динамика лидерства в техиндустрии находится под влиянием личных и стратегических соображений.

Вступление от гостя

Кэрен Хао — приглашенный автор в The Atlantic, соведущая подкаста BBC The Interface и автор бестселлера The New York Times «Empire of AI». Ранее она была репортером The Wall Street Journal, освещавшим американские и китайские технологические компании. Ее расследовательские материалы раскрыли инсайты от сотрудников OpenAI о закулисных борьбах за власть в отрасли и этических проблемах.

Гонка за превосходство в ИИ ради прибыли

• Цивилизации, которые ускоряют свои исследования в области ИИ, могут стать более развитыми, но это обусловлено мотивами прибыли.

  — Кэрен Хао

• Конкурентная среда разработки ИИ в значительной степени определяется финансовыми стимулами.

• Можно предположить, что цивилизация, которая ускоряет свои исследования с помощью ИИ, и станет более развитой цивилизацией.

  — Кэрен Хао

• Крупные технологические компании мотивированы огромными прибылями, связанными с достижениями в области ИИ.

• Общая черта всех их — они получают колоссальную выгоду от этого мифа.

  — Кэрен Хао

• Понимание этих мотивов имеет решающее значение для анализа будущего ИИ.

• Гонка за превосходство в ИИ может усилить глобальное неравенство.

• Мотивы прибыли могут заслонить этические соображения в разработке ИИ.

Общественный вред от текущих технологий ИИ

• Текущее производство технологий ИИ причиняет людям значительный вред.

  — Кэрен Хао

• Негативные последствия технологий ИИ часто остаются без внимания.

• Этическим последствиям разработки ИИ нужно уделять больше внимания.

• Влияние ИИ на общество включает эксплуатацию и вред отдельным людям.

• Производство этих технологий прямо сейчас причиняет людям очень много вреда.

  — Кэрен Хао

• Для устранения этих последствий требуется критический взгляд на влияние ИИ на общество.

• Фокус на прибыли может привести к пренебрежению социальной ответственностью.

• Необходима более высокая осведомленность о социальном вреде от ИИ для обоснованных обсуждений.

Эксплуатация труда в индустрии ИИ

• ИИ-компании эксплуатируют труд и создают цикл увольнений и переквалификации, который вредит работникам.

  — Кэрен Хао

• Индустрия ИИ нарушает традиционные карьерные траектории и подрывает гарантию занятости.

• Они используют поразительное количество труда, что ломает карьерную лестницу.

  — Кэрен Хао

• Работников часто увольняют, а затем переобучают, чтобы поддерживать модели ИИ.

• Этот цикл эксплуатации подчеркивает системные проблемы на рынке труда в сфере ИИ.

• Экономические последствия процессов обучения ИИ требуют более пристального рассмотрения.

• Негативное влияние на работников — серьезная проблема.

• Понимание этих механизмов имеет решающее значение для борьбы с эксплуатацией труда в ИИ.

Разрыв между риторикой ИИ и реальностью

• Риторика о том, что ИИ приносит пользу всем, рушится, если рассматривать его воздействие за пределами Силиконовой долины.

  — Кэрен Хао

• Обещания ИИ-компаний часто не совпадают с реальностью, с которой сталкиваются разные сообщества.

• По-настоящему начинаешь видеть, как эта риторика рушится, когда отправляешься туда, где совсем не похоже на Силиконовую долину.

  — Кэрен Хао

• Этот разрыв подчеркивает необходимость более широкого понимания влияния ИИ.

• Предполагаемые преимущества ИИ распределены по миру неравномерно.

• Рассмотрение разнообразных точек зрения имеет решающее значение для понимания истинного влияния ИИ.

• Ограничения обещаний ИИ подчеркивают важность инклюзивности.

• Комплексное представление о влиянии ИИ требует смотреть дальше технопарков.

Неоднозначность в определении искусственного общего интеллекта

• Отсутствие научного консенсуса по вопросу человеческого интеллекта усложняет определение и стремление к искусственному общему интеллекту.

  — Кэрен Хао

• Определять цели ИИ сложно из-за неоднозначности человеческого интеллекта.

• У этого направления нет ориентиров, и у этой индустрии нет ориентиров.

  — Кэрен Хао

• Компании могут манипулировать определением AGI, чтобы оно соответствовало их интересам.

• Эти компании могут просто использовать термин «искусственный общий интеллект» так, как им хочется.

  — Кэрен Хао

• Стратегическая гибкость в формулировании технологий влияет на регуляторные обсуждения.

• Общественное восприятие и доверие зависят от того, как компании определяют AGI.

• Понимание этих вызовов имеет решающее значение для обоснованных обсуждений об ИИ.

Потенциальные экзистенциальные риски ИИ

• ИИ, вероятно, — самый вероятный способ уничтожить всё.

  — Кэрен Хао

• Потенциальные риски ИИ подчеркивают срочность обсуждений безопасности.

• Исторический контекст важен для понимания экзистенциальных угроз ИИ.

• Ключевые фигуры, такие как Сэм Альтман и Илон Маск, играют значимую роль в обсуждениях ИИ.

• Альтман пишет для публики или выступает для публики — у него не просто аудитория «публичность» в уме.

  — Кэрен Хао

• Разговоры о безопасности ИИ критически важны для работы с потенциальными рисками.

• Необходима общественная осведомленность об экзистенциальных угрозах ИИ для принятия информированных решений.

• Нельзя переоценить срочность обсуждений по безопасности ИИ.

Динамика лидерства и стратегические опасения в OpenAI

• Сэм Альтман повлиял на процесс принятия решений в отношении руководства прибыльной структуры OpenAI.

  — Кэрен Хао

• Опасения по поводу непредсказуемости Илона Маска повлияли на решения о лидерстве.

• Затем Альтман лично обратился к Грегу Брокману и сказал: разве вам не кажется, что было бы немного опасно иметь Маска в роли генерального директора этой компании?

  — Кэрен Хао

• Внутренние процессы принятия решений в OpenAI подчеркивают стратегические опасения.

• Динамика между Маском и Альтманом была существенной во время формирования OpenAI.

• Решения о лидерстве находились под влиянием личных и стратегических соображений.

• Понимание этой динамики дает представление о руководстве в техиндустрии.

• Стратегические опасения относительно руководства имеют решающее значение для понимания структуры OpenAI.

Поляризованное восприятие Сэма Альтмана

• Сэм Альтман — фигура, которая вызывает поляризацию: его восприятие зависит от того, насколько он совпадает с его видением будущего.

  — Кэрен Хао

• Восприятие Альтмана различается в зависимости от того, насколько он совпадает с его видением.

• Если вы разделяете видение Альтмана о будущем, то вы будете думать, что он — величайший актив, который только можно иметь на своей стороне.

  — Кэрен Хао

• Те, кто не согласен с его видением, могут чувствовать себя обманутыми им.

• Если вы не согласны с его видением будущего, то у вас начинает возникать ощущение, будто вас вами манипулируют.

  — Кэрен Хао

• Субъективный характер оценки лидерства очевиден в случае Альтмана.

• Понимание динамики лидерства и видения имеет решающее значение в техиндустрии.

• Двойственность восприятия подчеркивает сложность руководства в техиндустрии.

                  **Раскрытие информации:** Эту статью отредактировала Редакционная группа. Для получения дополнительной информации о том, как мы создаем и проверяем контент, см. нашу Редакционную политику.