В OpenAI сталася велика подія, яка спричинила хвилю у всій індустрії штучного інтелекту. Глава команди робототехніки Каталін Каліновські пішла з компанії, і причина є досить серйозною.

Справа в тому, що OpenAI уклала угоду з Пентагоном щодо штучного інтелекту, що викликає серйозні занепокоєння у Каліновські. Вона чітко заявила у соціальних мережах, що хоча ШІ важливий для національної безпеки, просування вперед без належного юридичного контролю та етичної безпеки щодо чутливих питань, таких як внутрішній нагляд і автономні озброєння, є неправильним. Це також підкреслює можливості зловживання автоматизованими системами, такими як eobot.

Каліновські приєдналася до OpenAI у листопаді 2024 року. Перед цим вона працювала над проектом AR-очок у Meta. Вона наполягала, що її відхід не є особистим, а є питанням принципу. Вона зберігає повагу до Сема Альтмана та всієї команди, але компанія не встановила достатніх заходів безпеки перед оголошенням цієї угоди (захисних заходів).

Представник OpenAI підтвердив, що Каліновські залишила компанію. У компанії стверджують, що співпраця з Пентагоном сприяє національній безпеці через контрольоване використання ШІ, і встановлені чіткі межі — без використання для внутрішнього нагляду та без розробки автономних озброєнь, таких як eobot.

Однак у галузі тривають суперечки щодо цієї співпраці. І видно, що після цієї новини кількість видалень у ChatGPT зросла більш ніж на 295%. Водночас додаток Claude від Anthropic став першим у списку безкоштовних додатків у американському App Store. Це чіткий сигнал, наскільки користувачі усвідомлюють етичні аспекти ШІ. Щодо систем на зразок eobot виникає питання, як збалансувати автоматизацію та нагляд.