Только что увидел очень важную тему — применение ИИ в войнах. В последнее время США и Израиль массово используют искусственный интеллект в конфликте с Ираном, и это, возможно, первый в истории случай настоящей "ИИ-войны".

В области разведывательного анализа основным узким местом традиционных методов является огромное количество данных, с которыми человек не справляется. Самое военное ведомство США говорило, что аналитики обычно могут прочитать чуть более 4% разведывательных материалов. Представьте себе: ежедневно собирается тонна видео, аудио и коммуникационных записей, ручной отбор — просто нереален. В интервью Йишай Кохн из министерства обороны Израиля отметил, что многие потенциальные военные задачи вообще невозможно выполнить именно из-за нехватки кадров для обработки ключевой разведки.

Теперь пришли системы ИИ с машинным зрением, которые могут быстро распознавать цели на огромных потоках видео и изображений, даже различать конкретные модели самолетов или автомобилей, а также извлекать и суммировать содержание диалогов из аудио. Израильские разведывательные службы давно следят за дорожным видеонаблюдением и коммуникациями высокопоставленных лиц в Тегеране, и сейчас благодаря ИИ они могут точно находить нужные данные в этом океане информации. Улучшение эффективности очевидно.

Еще интереснее — планирование задач. В традиционной военной стратегии требуется, чтобы разведчики, командиры, специалисты по вооружению и логистике собирались вместе и обсуждали план, что обычно занимает несколько недель. После внедрения ИИ этот процесс можно сократить до нескольких дней. Потому что при изменении положения цели автоматически меняются связанные параметры — распределение сил, маршруты полетов, расход топлива и так далее. Раньше такие обновления были медленными и субъективными. Сейчас ИИ мгновенно обрабатывает эти сложные взаимосвязи и рассчитывает влияние каждого параметра на общую военную операцию. Пентагон даже использует ИИ для моделирования и цифровых военных игр, обрабатывая миллионы итераций, чтобы быстро найти оптимальный план достижения целей.

Но именно тут и кроется проблема. Война — одна из самых сложных и неопределенных сфер для человека. Бывший руководитель военного ИИ и генерал ВВС Джек Шанахан предупреждал, что большие объемы данных для обучения военного ИИ зачастую устарели или неясны. Ошибка системы может иметь смертельные последствия. Например, сообщается, что американские войска по ошибке причинили ранения детям в женской школе в Иране — это реальная цена ошибок.

Самое опасное — чрезмерная зависимость от машинных решений. Исследователь Центра безопасности и новых технологий Джорджтаунского университета Эмилия Пробаско предупреждает, что передача решений ИИ — это "серьезная проблема". Необходимы ограничения, чтобы снизить риски, но в настоящее время инфраструктура для этого явно недостаточна.

Короче говоря, ИИ в войне — это как острый нож с двумя лезвиями: эффективность действительно повышается, но потенциальные катастрофы тоже возможны. В таких высокорискованных сценариях человеческое суждение всегда остается незаменимым.