Altman merilis lima prinsip OpenAI, mengisyaratkan kemungkinan pembatasan kemampuan model demi keamanan di masa depan

Berita dari Coinjie.com, CEO OpenAI Sam Altman secara pribadi merilis lima prinsip operasional perusahaan. Dia dalam tulisannya mengisyaratkan bahwa di masa depan, OpenAI mungkin akan memperketat akses pengguna terhadap kemampuan model demi keamanan, dan menyebutkan bahwa bisa dibayangkan adanya periode “yang membutuhkan pengorbanan sebagian pemberian kekuasaan untuk mendapatkan ketahanan yang lebih baik”. Altman menunjukkan bahwa keputusan penting terkait AI harus diambil melalui proses demokratis, dan tidak semata-mata oleh laboratorium AI. Dia membela langkah OpenAI yang baru-baru ini membeli daya komputasi secara besar-besaran, membangun pusat data global, dan melakukan integrasi vertikal, dengan tujuan menurunkan biaya AI agar dapat diakses oleh semua orang, dan menyatakan bahwa pemerintah mungkin perlu mengeksplorasi model ekonomi baru untuk memastikan pembagian nilai. Dia juga menyebutkan sebuah skenario risiko spesifik: model yang sangat kuat dapat menurunkan ambang pembuatan patogen baru, yang memerlukan respons dari seluruh masyarakat. Altman meninjau kembali keraguannya terhadap publikasi bobot GPT-2 saat itu, menyebutkan bahwa setelahnya itu adalah kekhawatiran berlebihan, tetapi hal tersebut memicu strategi iterasi dan penerapan yang digunakan OpenAI hingga saat ini.