Google mengganggu peretas yang menggunakan AI untuk mengeksploitasi kelemahan yang tidak diketahui dalam pertahanan digital perusahaan

Google mengatakan pada hari Senin bahwa mereka telah menggagalkan upaya kelompok kriminal menggunakan kecerdasan buatan untuk mengeksploitasi kerentanan digital yang sebelumnya tidak diketahui oleh perusahaan lain, menambah kekhawatiran yang meningkat di seluruh pemerintah dan industri swasta tentang risiko AI untuk keamanan siber.

Google membagikan informasi terbatas tentang para penyerang dan targetnya, tetapi John Hultquist, kepala analis di bagian intelijen ancaman raksasa teknologi tersebut, mengatakan ini mewakili momen yang telah diperingatkan oleh para ahli keamanan siber selama bertahun-tahun: peretas jahat mempersenjatai diri dengan AI untuk memperkuat kemampuan mereka merusak komputer di seluruh dunia.

“Ini sudah ada,” kata Hultquist. “Era kerentanan dan eksploitasi berbasis AI sudah benar-benar di sini.”

Ini datang di saat lonjakan kemampuan AI dalam menemukan kerentanan, termasuk model Mythos yang diumumkan sebulan lalu oleh Anthropic. Di antara mereka yang berusaha memperkuat pertahanan mereka adalah Gedung Putih Presiden Donald Trump, yang telah mengubah pendekatannya dalam hal meninjau model AI paling kuat sebelum dirilis ke publik.

Setelah menindaklanjuti janji kampanye untuk mencabut pembatasan Presiden Demokrat Joe Biden terkait teknologi yang berkembang pesat ini, pemerintahan Republik dan sekutunya kini mengirim sinyal campuran tentang peran pemerintah yang lebih besar dalam pengawasan AI.

Setelah menindaklanjuti janji kampanye untuk mencabut pembatasan Presiden Demokrat Joe Biden terkait teknologi yang berkembang pesat ini, pemerintahan Republik dan sekutunya kini mengirim sinyal campuran tentang peran pemerintah yang lebih besar dalam pengawasan AI.

Setelah mengikuti janji kampanye untuk mencabut pembatasan Presiden Demokrat Joe Biden terkait teknologi yang berkembang pesat ini, pemerintahan Republik dan sekutunya kini mengirim sinyal campuran tentang peran pemerintah yang lebih besar dalam pengawasan AI.

Setelah mengikuti janji kampanye untuk mencabut pembatasan Presiden Demokrat Joe Biden terkait teknologi yang berkembang pesat ini, pemerintahan Republik dan sekutunya kini mengirim sinyal campuran tentang peran pemerintah yang lebih besar dalam pengawasan AI.

Related Stories
Cerita Terkait

Google menyelesaikan gugatan diskriminasi rasial dengan uang sebesar $50 juta
Google menyelesaikan gugatan diskriminasi rasial sebesar $50 juta

1 MENIT BACA
1 MENIT BACA

Pennsylvania menggugat perusahaan AI, mengatakan chatbot mereka secara ilegal mengaku sebagai dokter berlisensi
Pennsylvania menggugat perusahaan AI, mengatakan chatbot mereka secara ilegal mengaku sebagai dokter berlisensi

4 MENIT BACA
4 MENIT BACA

“Beberapa orang tidak ingin ada respons regulasi terhadap ini dan yang lain ingin,” kata Dean Ball, anggota senior di Foundation for American Innovation yang sebelumnya adalah penasihat kebijakan teknologi di Gedung Putih dan penulis utama peta jalan kebijakan AI Trump tahun lalu.

“Saya tidak suka regulasi,” kata Ball. “Saya lebih suka agar hal-hal tidak diatur. Tapi saya rasa kita perlu dalam kasus ini.”

Google mengatakan menemukan bukti AI membantu dalam serangan siber

Google mengatakan mereka mengamati sekelompok “aktor ancaman” terkemuka merencanakan operasi besar yang bergantung pada bug yang mereka temukan. Kerentanan tersebut memungkinkan mereka melewati autentikasi dua faktor untuk mengakses alat administrasi sistem daring yang populer, yang Google enggan disebutkan namanya.

Perusahaan menyebutnya sebagai eksploit zero-day, serangan siber yang memanfaatkan kerentanan keamanan yang sebelumnya tidak diketahui. “Zero-day” merujuk pada fakta bahwa insinyur keamanan memiliki nol hari untuk mengembangkan perbaikan terhadap kerentanan tersebut.

Google mengatakan mereka memberi tahu perusahaan yang terkena dampak dan penegak hukum serta mampu menggagalkan operasi tersebut sebelum menyebabkan kerusakan apa pun. Tetapi saat menelusuri jejak para peretas, mereka menemukan bukti bahwa para peretas menggunakan model bahasa besar AI — teknologi yang sama yang menggerakkan chatbot populer — untuk menemukan kerentanan tersebut.

Google tidak mengungkap model AI mana yang digunakan dalam serangan siber tersebut, hanya bahwa kemungkinan besar bukan Gemini milik Google atau Claude Mythos milik Anthropic. Google juga tidak mengungkap kelompok mana yang dicurigai dalam serangan tersebut tetapi mengatakan tidak ada bukti bahwa itu terkait dengan pemerintah adversarial, meskipun perusahaan menyatakan bahwa kelompok yang terkait dengan China dan Korea Utara telah mengeksplorasi teknik serupa.

Hultquist mengatakan bahwa dibandingkan dengan mata-mata pemerintah yang biasanya bekerja perlahan dan diam-diam, peretas kriminal memiliki potensi terbesar dari “kemampuan luar biasa AI untuk kecepatan” dalam menemukan dan memanfaatkan bug keamanan.

“Ada perlombaan antara Anda dan mereka untuk menghentikan mereka sebelum mereka benar-benar mendapatkan data apa pun yang mereka butuhkan untuk memeras Anda, atau meluncurkan ransomware,” katanya dalam sebuah wawancara. “AI akan menjadi keuntungan besar karena mereka bisa bergerak jauh lebih cepat.”

Mythos dari Anthropic memicu kepanikan dan seruan untuk regulasi

Kementerian Perdagangan Trump mengumumkan minggu lalu bahwa mereka menandatangani perjanjian baru dengan Google, Microsoft, dan xAI milik Elon Musk untuk mengevaluasi model AI paling kuat mereka sebelum dirilis ke publik, membangun dari perjanjian sebelumnya yang dibuat pemerintahan Biden dengan Anthropic dan pembuat ChatGPT, OpenAI. Tetapi pengumuman tersebut kemudian menghilang dari situs web Kementerian Perdagangan.

Ini adalah contoh terbaru dari sinyal yang tidak konsisten dari pemerintahan Trump sejak Anthropic mengumumkan model baru yang mereka sebut Mythos yang diklaim sangat “mengagumkan” dalam pekerjaan hacking dan keamanan siber sehingga hanya dapat dirilis kepada sekelompok kecil organisasi terpercaya.

Anthropic menciptakan inisiatif bernama Project Glasswing yang mengumpulkan raksasa teknologi termasuk Amazon, Apple, Google, dan Microsoft, bersama perusahaan lain seperti JPMorgan Chase, dengan harapan melindungi perangkat lunak penting dunia dari dampak “parah” yang bisa ditimbulkan oleh model baru tersebut terhadap keselamatan publik, keamanan nasional, dan ekonomi. Tetapi hubungannya dengan pemerintah AS rumit oleh pertarungan hukum dan publik dengan Pentagon dan Trump sendiri mengenai penggunaan militer terhadap teknologi AI-nya.

Pesaing utamanya, OpenAI, sejak itu memperkenalkan model serupa. Perusahaan mengatakan Jumat lalu mereka merilis versi ChatGPT yang khusus untuk keamanan siber yang hanya akan tersedia bagi “pembela yang bertanggung jawab untuk mengamankan infrastruktur kritis” guna membantu mereka menemukan dan memperbaiki kerentanan dalam kode mereka.

Ball mengatakan dia optimis bahwa, dalam jangka panjang, alat AI yang semakin mahir dalam pengkodean akan membuat kita lebih aman dari serangan siber rutin yang melanda rumah sakit, sekolah, dan organisasi lain. Namun sementara itu, dia mengatakan ada “triliunan baris kode perangkat lunak” yang mendukung sistem komputasi dunia yang berisiko jika alat AI dilepaskan untuk mengeksploitasi semua bug mereka.

Diperlukan waktu bertahun-tahun untuk mengamankan semua perangkat lunak tersebut — sebuah proses yang diyakini Ball akan dibantu oleh koordinasi dari pemerintah AS.

Sementara itu, Ball memprediksi akan ada “periode transisi” di mana risiko keamanan siber meningkat secara signifikan dan “dunia mungkin benar-benar menjadi lebih berbahaya.”