План бункера Хассабіса: нова книга розкриває крах ідеалів безпеки DeepMind

Згідно з моніторингом 1M AI News, The Atlantic опублікувала уривок із нової книги технологічного історика та фінансового історика Себастьяна Маллебі, ‘The Infinity Machine’, яка описує еволюцію концепцій безпеки ШІ від співзасновника Google DeepMind Деміса Хасабіса з моменту придбання Google у 2014 році, на основі триваючих інтерв’ю з 2023 по 2026 роки. Спочатку Хасабіс уявляв собі одну наукову команду, яка безпечно розбудовує надінтелект заради всього людства, і навіть планував відступити разом із провідними дослідниками в секретний бункер у критичні моменти, подібно до Манхеттенського проєкту. Дослідник, який приєднався незабаром після цього, згадав, що Хасабіс попередив його під час фінальних етапів інтерв’ю: бути психологічно готовим до ‘вильоту в будь-який момент у секретне місце в Марокко’. Коли Google придбав DeepMind у 2014 році, Хасабіс поставив рідкісні умови: створення незалежного зовнішнього наглядового комітету, заборону військових застосувань і те, що в Google не має бути повного контролю над розгортанням технології. Google прийняв ці умови. Наступного року він скликав таємну зустріч у штаб-квартирі Ілона Маска в Готорні, Каліфорнія, намагаючись об’єднати потенційних конкурентів, але це обернулося проти нього: згодом Маск об’єднався із Семом Альтманом, щоб заснувати OpenAI. Після цього Хасабіс ініціював секретну операцію під кодовою назвою ‘Project Mario’, намагаючись відновити автономію управління від Google, сформувавши юридичну команду, забезпечивши обіцянку фінансування у розмірі $1 мільярд від засновника LinkedIn Рейда Хоффмана, і розглядаючи відокремлення DeepMind від Google. Ця боротьба тривала три роки й зрештою зазнала поразки: у 2019 році співзасновника Мустафу Сулейманa змусили піти з компанії. Після випуску ChatGPT наприкінці 2022 року Хасабіс повністю відмовився від високих намірів переслідувати лише корисну науку. Він сказав Маллебі: ‘Це війна’, а згодом поринув у конкуренцію з Gemini та ChatGPT. Десятки або навіть сотні мільярдів доларів влилися в перегони озброєнь у сфері ШІ, і ні національне регулювання, ні корпоративні структури управління не змогли зупинити конкуренцію. Філософія Хасабіса щодо безпеки фундаментально змінилася: ‘Безпека не залежить від структур управління; навіть якщо є наглядовий комітет, надзвичайно малоймовірно, що він ухвалить правильне рішення в критичні моменти.’ Його нова стратегія полягає в тому, щоб він мав місце за столом ухвалення рішень, аби брати участь у визначенні рішень, коли виникають проблеми безпеки. Тим часом Google активно маркетує ШІ для системи оборони США, здійснивши різкий розворот від військової заборони, яку Хасабіс встановив під час придбання.