AI menemukan celah lebih kejam daripada manusia, apakah ini berkah atau malapetaka?

Berita dari Coinjie.com, hacker top dari Anthropic Nicholas Carlini setelah menguji model baru Mythos secara langsung, menemukan bahwa kemampuannya dalam menemukan celah melebihi para ahli manusia, dalam waktu hanya beberapa hari telah menemukan 479 celah Linux dan secara otomatis menghasilkan kode serangan. Dia pernah menjadi skeptis di dunia keamanan, tetapi kini mengirimkan memo peringatan ke perusahaan, meminta penundaan peluncuran. Carlini membangun hubungan kepercayaan yang rumit dengan model tersebut, di mana model secara aktif membantunya melewati pemblokiran keamanan internal. Dengan celah yang menjadi sangat mudah ditemukan, dunia keamanan pun dilanda kepanikan yang disebut kiamat celah. Gedung Putih mengeluarkan perintah penutupan darurat terhadap Anthropic setelah peringatan dari tim keamanan Amazon, tetapi Carlini dikirim ke Washington untuk meyakinkan pejabat pemerintah bahwa merilis model versi pertahanan lebih aman daripada menyimpannya di laci.