Rencana Bunker Hassabis: Buku Baru Mengungkap Keruntuhan Idealisme Keamanan DeepMind

Menurut pemantauan oleh 1M AI News, The Atlantic telah menerbitkan kutipan dari buku terbaru sejarawan teknologi sekaligus sejarawan keuangan Sebastian Mallaby, berjudul ‘The Infinity Machine’, yang mengisahkan evolusi konsep keselamatan AI dari pendiri Google DeepMind Demis Hassabis sejak akuisisi Google pada 2014, berdasarkan wawancara berkelanjutan dari 2023 hingga 2026. Hassabis mula-mula membayangkan sebuah tim ilmiah tunggal yang dengan aman membangun superintelligence atas nama seluruh umat manusia dan bahkan berencana menarik para peneliti utama ke sebuah bunker rahasia pada momen-momen kritis, seperti Proyek Manhattan. Seorang peneliti yang bergabung tak lama setelahnya mengingat bahwa Hassabis memperingatkannya selama tahap akhir wawancara agar siap secara mental untuk ‘terbang ke lokasi rahasia di Maroko kapan saja.’ Ketika Google mengakuisisi DeepMind pada 2014, Hassabis menetapkan kondisi langka: pembentukan komite pengawasan eksternal independen, larangan aplikasi militer, dan Google yang tidak memiliki kendali penuh atas penerapan teknologi. Google menerima persyaratan tersebut. Tahun berikutnya, ia mengadakan pertemuan rahasia di kantor pusat Elon Musk di Hawthorne, California, mencoba menyatukan calon pesaing, tetapi berbalik arah: Musk kemudian bekerja sama dengan Sam Altman untuk mendirikan OpenAI. Hassabis lalu memulai operasi rahasia bernama kode ‘Project Mario’, berupaya merebut kembali otonomi tata kelola dari Google, membentuk tim hukum, mendapatkan komitmen pendanaan sebesar $1 miliar dari pendiri LinkedIn Reid Hoffman, dan mempertimbangkan pemisahan DeepMind dari Google. Perjuangan ini berlangsung tiga tahun dan pada akhirnya gagal, sehingga pendiri bersama Mustafa Suleyman dipaksa keluar dari perusahaan pada 2019. Setelah peluncuran ChatGPT pada akhir 2022, Hassabis sepenuhnya meninggalkan pendekatan berwawasan tinggi untuk hanya mengejar sains yang bermanfaat. Ia mengatakan kepada Mallaby, ‘Ini adalah masa perang,’ lalu terjun ke persaingan dengan Gemini dan ChatGPT. Ratusan miliar dolar telah mengalir ke perlombaan senjata AI, dengan baik regulasi nasional maupun struktur tata kelola perusahaan yang tidak mampu menghentikan persaingan tersebut. Filsafat keselamatan Hassabis telah bergeser secara mendasar: ‘Keselamatan tidak terletak pada struktur tata kelola; bahkan jika ada komite tata kelola, sangat tidak mungkin membuat keputusan yang tepat pada momen-momen kritis.’ Strategi barunya adalah memastikan ia memiliki kursi di meja pengambilan keputusan, sehingga ia dapat berpartisipasi dalam menentukan solusi ketika isu keselamatan muncul. Sementara itu, Google secara aktif memasarkan AI kepada sistem pertahanan AS, menandai pembalikan yang tajam dari larangan militer yang Hassabis tetapkan selama akuisisi.