Карен Хао: Мотивы получения прибыли движут развитием ИИ, текущие технологии наносят вред обществу, а эксплуатация труда в отрасли процветает | Дневник генерального директора

Ключевые выводы

• Разработка ИИ движима мотивами прибыли, что потенциально может привести к появлению более развитых цивилизаций.
• Текущие технологии ИИ причиняют людям и обществу значительный вред.
• ИИ-компании эксплуатируют труд, создавая циклы увольнений и переобучения.
• Плюсы ИИ распределяются неравномерно за пределами Силиконовой долины.
• Чтобы понимать ИИ, нужно рассматривать разнообразные глобальные точки зрения, выходящие за пределы Силиконовой долины.
• Нет научного консенсуса относительно человеческого интеллекта, что усложняет цели ИИ.
• Компании манипулируют определением искусственного общего интеллекта в своих интересах.
• ИИ несет экзистенциальные риски и потенциально может привести к уничтожению.
• Сэм Альтман повлиял на решения руководства OpenAI из-за опасений по поводу Илона Маска.
• Сэм Альтман — фигура, вызывающая полярные мнения: восприятие зависит от того, насколько его воспринимают как совпадающего с его видением.
• Риторика о том, что ИИ приносит пользу всем, часто вводит в заблуждение.
• Общественное влияние ИИ требует более широкого понимания, выходящего за рамки технопарков.
• Термин «искусственный общий интеллект» используется компаниями стратегически.
• ИИ-безопасность — критически важный разговор из-за связанных с ним рисков.
• Динамика лидерства в технологиях определяется личными и стратегическими соображениями.

Приветствие гостя

Карен Хао — приглашенный автор в The Atlantic, соведущая подкаста BBC The Interface и автор бестселлера The New York Times «Empire of AI». Ранее она была репортером The Wall Street Journal, освещая технологические компании в США и Китае. Ее расследовательские материалы раскрыли инсайты от инсайдеров OpenAI о борьбе за власть в отрасли и этических опасениях.

Гонка за превосходство в ИИ, движимая прибылью

• Цивилизации, которые ускоряют исследования своего ИИ, могут стать более продвинутыми, но это обусловлено мотивами прибыли.

  — Karen Hao

• Конкурентный ландшафт разработки ИИ сильно зависит от финансовых стимулов.

• Возможно, та цивилизация, которая ускоряет свои исследования с помощью ИИ, и станет более развитой цивилизацией.

  — Karen Hao

• Крупные технологические компании мотивированы огромными прибылями, связанными с достижениями в сфере ИИ.

• Общая черта всех этих компаний в том, что они получают колоссальные прибыли от этого мифа.

  — Karen Hao

• Понимание этих мотиваций имеет решающее значение для анализа будущего ИИ.

• Гонка за превосходство в ИИ может усилить глобальное неравенство.

• Мотивы прибыли могут затмевать этические соображения в разработке ИИ.

Общественный вред текущих технологий ИИ

• Текущее производство технологий ИИ причиняет людям значительный вред.

  — Karen Hao

• Негативные последствия технологий ИИ часто остаются без внимания.

• Этические последствия разработки ИИ требуют большего внимания.

• Влияние ИИ на общество включает эксплуатацию и причинение вреда отдельным людям.

• Производство этих технологий прямо сейчас наносит людям много вреда.

  — Karen Hao

• Чтобы противостоять этим вредам, нужен критический взгляд на общественное влияние ИИ.

• Фокус на прибыли может привести к игнорированию социальной ответственности.

• Для осмысленных обсуждений необходима более высокая осведомленность об общественном вреде ИИ.

Эксплуатация труда в индустрии ИИ

• ИИ-компании эксплуатируют труд и создают цикл увольнений и переобучения, который вредит работникам.

  — Karen Hao

• Индустрия ИИ нарушает традиционные карьерные траектории и подрывает гарантии занятости.

• Они используют поразительное количество труда, из-за чего ломается лестница карьеры.

  — Karen Hao

• Работников часто увольняют, а затем переобучают, чтобы поддерживать модели ИИ.

• Этот цикл эксплуатации подчеркивает системные проблемы на рынке труда в сфере ИИ.

• Экономические последствия процессов обучения ИИ требуют большего внимания.

• Вредные последствия для работников — серьезная причина для беспокойства.

• Понимание этих процессов имеет решающее значение для борьбы с эксплуатацией труда в ИИ.

Несоответствие между риторикой об ИИ и реальностью

• Риторика о том, что ИИ приносит пользу всем, рушится, если рассматривать его влияние за пределами Силиконовой долины.

  — Karen Hao

• Обещания компаний, работающих с ИИ, часто не совпадают с реальностью, с которой сталкиваются разные сообщества.

• Вы по-настоящему начинаете видеть, как эта риторика рассыпается, когда вы приезжаете туда, что совсем не похоже на Силиконовую долину.

  — Karen Hao

• Это несоответствие подчеркивает необходимость более широкого понимания влияния ИИ.

• Предполагаемые выгоды ИИ распределены по миру неравномерно.

• Рассмотрение разных точек зрения имеет решающее значение для понимания истинного влияния ИИ.

• Ограничения обещаний ИИ подчеркивают важность инклюзивности.

• Всесторонний взгляд на влияние ИИ требует смотреть дальше техноцентров.

Неоднозначность в определении искусственного общего интеллекта

• Отсутствие научного консенсуса относительно человеческого интеллекта усложняет определение и достижение искусственного общего интеллекта.

  — Karen Hao

• Определить цели ИИ сложно из-за неоднозначности в понимании человеческого интеллекта.

• У этой сферы нет ориентиров, и у индустрии тоже нет ориентиров.

  — Karen Hao

• Компании могут манипулировать определением AGI, чтобы подстроить его под свои интересы.

• Эти компании могут просто использовать термин «искусственный общий интеллект» так, как им удобно.

  — Karen Hao

• Стратегическая гибкость в формулировании технологий влияет на регуляторные обсуждения.

• Общественное восприятие и доверие зависят от того, как компании определяют AGI.

• Понимание этих сложностей имеет решающее значение для осмысленных обсуждений об ИИ.

Потенциальные экзистенциальные риски ИИ

• ИИ, вероятно, является самым вероятным способом уничтожить всё.

  — Karen Hao

• Потенциальные риски ИИ подчеркивают срочность обсуждений по безопасности.

• Исторический контекст важен для понимания экзистенциальных угроз ИИ.

• Ключевые фигуры вроде Сэма Альтмана и Илона Маска играют существенные роли в обсуждениях ИИ.

• Альтман пишет для широкой публики или выступает от лица широкой публики — он не просто держит широкой публику в качестве единственной аудитории.

  — Karen Hao

• Разговор об ИИ-безопасности критически важен для того, чтобы противостоять потенциальным рискам.

• Для принятия взвешенных решений необходима осведомленность общества об экзистенциальных угрозах ИИ.

• Срочность обсуждений по безопасности ИИ нельзя переоценить.

Динамика лидерства и стратегические опасения в OpenAI

• Сэм Альтман повлиял на процесс принятия решений относительно руководства в прибыльной организации OpenAI.

  — Karen Hao

• Опасения по поводу непредсказуемости Илона Маска повлияли на решения руководства.

• Затем Альтман лично обратился к Грегу Брокману и сказал: «Разве вам не кажется, что было бы немного опасно иметь Маска генеральным директором этой компании?».

  — Karen Hao

• Внутренние процессы принятия решений в OpenAI подчеркивают стратегические опасения.

• Динамика между Маском и Альтманом была значимой во время формирования OpenAI.

• На решения руководства влияли личные и стратегические соображения.

• Понимание этой динамики дает представление о лидерстве в технологической сфере.

• Стратегические опасения относительно руководства имеют решающее значение для понимания структуры OpenAI.

Поляризованное восприятие Сэма Альтмана

• Сэм Альтман — поляризующая фигура, а его восприятие зависит от того, насколько оно согласуется с его видением будущего.

  — Karen Hao

• Восприятие Альтмана различается в зависимости от согласования с его видением.

• Если вы разделяете видение Альтмана о будущем, вы будете думать, что он — величайший актив из всех, кто на вашей стороне.

  — Karen Hao

• Те, кто не согласен с его видением, могут чувствовать, что он их манипулирует.

• Если вы не согласны с его видением будущего, у вас начинает складываться ощущение, что вами манипулируют.

  — Karen Hao

• Субъективный характер оценки лидерства заметен в случае Альтмана.

• Понимание динамики лидерства и видения имеет решающее значение в технологической сфере.

• Двойственность восприятия подчеркивает сложность лидерства в технологиях.

                  **Раскрытие информации:** эту статью редактировала редакционная команда. Для получения дополнительной информации о том, как мы создаем и проверяем контент, см. нашу Редакционную политику.