Pemimpin AI Google, Demis Hassabis: AI paling mutakhir tidak boleh disetujui sebelum ditinjau, tidak boleh diluncurkan di AS

ME AI Pesan, menurut pemantauan Beating, CEO Google DeepMind Demis Hassabis mengatakan bahwa AGI mungkin hanya tersisa beberapa tahun. Ia menganjurkan agar AS mengubah pengujian sukarela terhadap model yang sudah ada menjadi sistem persyaratan masuk pasar yang bersifat wajib secara bertahap. Dalam rencananya, perusahaan AI terdepan pada awalnya harus secara proaktif mengajukan pemeriksaan paling lama 30 hari sebelum model dirilis. Setelah mekanisme penilaian matang, model yang mencapai ambang kemampuan harus menjalani pengujian agar boleh dideploy di pasar AS.

Ia menyarankan pembentukan lembaga standar seperti FINRA, otoritas pengatur industri keuangan AS. Lembaga tersebut diawasi oleh pemerintah federal, dan pendanaan utamanya berasal dari perusahaan AI, dengan melibatkan pakar independen serta perwakilan komunitas open source. Fokus pengujian meliputi serangan siber, ancaman biologi, perilaku penipuan, dan upaya mengakali pembatasan keamanan. Standar akan diperbarui secara berkala, serta secara bertahap mengadopsi uji independen yang tidak terlihat lebih dulu oleh lab, agar model tidak “mengakali” penilaian dengan cara meningkatkan skor pada soal-soal publik.

Aturannya ditetapkan berdasarkan kapabilitas model, tanpa membedakan perusahaan AS atau asing, serta tanpa membedakan open source atau closed source. Perusahaan rintisan dan proyek akademik yang belum mencapai ambang terdepan dapat dikecualikan. Saat ini, AS sudah mengizinkan perusahaan terdepan menyerahkan model untuk pengujian pemerintah secara sukarela maksimal 30 hari sebelum model dirilis. Namun, perintah eksekutif yang diumumkan pada bulan Juni secara tegas mengecualikan lisensi wajib dan persetujuan awal. Hassabis berpendapat agar mekanisme sukarela ini diubah menjadi wajib semacam “pas”, dan ketika risiko tergolong serius, pemerintah masih bisa mengoordinasikan laboratorium terdepan untuk melambat secara kolektif.

(Sumber: BlockBeats)