Сотни сотрудников Google требуют от руководства разорвать сотрудничество с Пентагоном по ИИ

Более 600 сотрудников Google (GOOGL, GOOG) сообщили Сундару Пичай в понедельник, чтобы держать Пентагон подальше от AI Google для секретных работ.

Письмо пришло от работников внутри DeepMind и Google Cloud, которые указали на отчет из The Information, в котором говорилось, что Google и Министерство обороны США ведут переговоры о использовании Gemini внутри секретных систем.

Сотрудники Google указывают множество причин, чтобы запретить Gemini для секретных работ Пентагона

Письмо началось с прямого предупреждения Сундару, которому работники говорят: «Мы — сотрудники Google, которые глубоко обеспокоены продолжающимися переговорами между Google и Министерством обороны США. Как люди, работающие в области ИИ, мы знаем, что эти системы могут централизовать власть и что они действительно совершают ошибки.»

Сотрудники заявили, что считают, что их близость к технологии дает им «ответственность выделять и предотвращать ее наиболее неэтичное и опасное использование».

«Мы просим вас отказаться от предоставления наших систем ИИ для секретных задач. В противном случае такие использования могут происходить без нашего ведома или возможности остановить их», — сказали сотрудники Google. В письме также объяснили, что они хотят, чтобы ИИ помогал людям, а не поддерживал вред. Они назвали смертельное автономное оружие и массовый надзор основными опасениями. Также они отметили, что риски выходят за пределы этих двух областей, потому что секретная работа может скрывать, что на самом деле происходит.

Их аргумент заключался в том, что если Google примет секретные военные задачи, у работников может не быть возможности проверить использование, поставить под вопрос или остановить его, и единственная реальная гарантия — отказаться от секретных работ до заключения сделки.

Они также предупредили, что неправильный выбор может повредить репутации Google, бизнесу и месту в мире. Сотрудники заявили, что их собственная безопасность и критическая инфраструктура сталкиваются с активными угрозами, в то время как жизни и гражданские права уже под угрозой из-за неправильного использования технологий, созданных такими, как они.

Пентагон Трампа навязывает доступ к масштабному ИИ для американской армии

Лидеры Пентагона заявили, что армия должна иметь свободу использовать коммерческий ИИ для «всех законных целей». Официальные лица говорят, что эта фраза дает правительству возможность использовать технологию в различных случаях, оставаясь в рамках закона США и военных правил.

Работники ИИ не считают этого достаточной защитой. Их обеспокоенность усилилась из-за слов и действий самого Трампа. В начале этого месяца президент Дональд Трамп пригрозил бомбить «каждый» мост и электростанцию в Иране. Эксперты сообщили The Post, что такая атака нарушит международное право. Удары его администрации по кораблям, которые, по их словам, перевозили наркотики, также были оспорены международными юристами.

Письмо Google было опубликовано в то время, когда другие компании в области ИИ уже вовлечены в конфликты с Пентагоном. Anthropic, частная компания, создавшая Claude, в прошлом году разместила свою технологию внутри систем американской армии. Эти инструменты помогали сортировать данные и выявлять возможные цели.

Затем Пентагон отключил Anthropic от всей работы с Министерством обороны в феврале. Компания пыталась добавить условия контракта, согласно которым ее ИИ не может использоваться для массового надзора или смертельного автономного оружия.

Anthropic и правительство сейчас судятся по поводу того, было ли это отключение законным. Этот случай привлек больше внимания к Google и OpenAI, поскольку обе компании работают с американской армией.

OpenAI — частная компания, поэтому у нее нет биржевого тикера. В феврале она подписала соглашение о предоставлении ИИ для секретных задач вскоре после удаления Anthropic. Генеральный директор OpenAI Сэм Альтман заявил, что он уверен, что государственный контракт блокирует использование для массового надзора и смертельного автономного оружия.

Google уже проходила через это раньше. В 2018 году сотрудники протестовали против проекта Пентагона, использующего ИИ Google для распознавания объектов на кадрах с дронов. Сотни подписали петицию против этой работы, и Google позже отказалась продлевать контракт.

После этого конфликта Google создала обещание, что ее технологии ИИ не будут использоваться для оружия или слежки. Но в последние годы компания искала больше военных контрактов. В прошлом году Google сняла эти ограничения. В декабре она подписала соглашение, позволяющее Министерству обороны использовать Gemini.

Если вы хотите более спокойный вход в DeFi-криптовалюты без обычного хайпа, начните с этого бесплатного видео.