Membiayai dan go public secara gemilang, sambil mengusulkan penangguhan pengembangan AI: Anthropic hanya bermain aman dalam urusan hubungan masyarakat

robot
Pembuatan abstrak sedang berlangsung
Menurut pemantauan Beating, dalam laporan "Ketika AI Membangun Diri Sendiri", Anthropic mengusulkan pembentukan "mekanisme penangguhan kolaboratif yang dapat diverifikasi" berdasarkan referensi global terhadap kontrol senjata nuklir "Perjanjian INF".
Laporan tersebut secara tegas menentang penangguhan pengembangan secara sepihak, dan menekankan bahwa hanya dengan prasyarat yang dapat diverifikasi secara global, laboratorium terdepan dapat melakukan pengurangan secara bersamaan.
Namun, penangguhan kolaboratif secara teknis sama sekali tidak memungkinkan.
Kontrol senjata nuklir dapat diawasi oleh satelit yang mengawasi sumur misil, tetapi kartu grafis berukuran kecil, mudah disembunyikan, dan dapat melakukan komputasi terdistribusi.
Untuk memeriksa apakah pihak lain secara diam-diam melatih model, satu-satunya cara adalah melakukan pengawasan invasif terhadap semua chip GPU, jaringan listrik, dan pusat data di seluruh dunia.
Pengawasan menyeluruh tidak hanya secara politik tidak realistis, tetapi secara teknis juga setara dengan mendukung otoritarianisme kekuasaan komputasi.
Di tengah ketidakmampuan merealisasikan verifikasi teknologi, usulan penangguhan kolaboratif lebih mirip dengan "sertifikat pembebasan dari tanggung jawab keamanan".
Menjelang rilis laporan tersebut, Anthropic baru saja menyelesaikan pendanaan sebesar 65 miliar dolar AS dengan valuasi hampir satu triliun dan mengajukan permohonan go public.
Anthropic menetapkan prasyarat penangguhan sebagai verifikasi nuklir global yang tidak mungkin tercapai, membuka jalan bagi pelatihan tanpa batas mereka sendiri, sekaligus menyalahkan mekanisme pengawasan yang belum terbentuk atas ketidakmampuan untuk berhenti.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan