Altman merilis lima prinsip OpenAI, mengisyaratkan kemungkinan pembatasan kemampuan model demi keamanan di masa depan

Menurut pemantauan Beating, CEO OpenAI Sam Altman secara pribadi merilis lima prinsip operasional perusahaan, yaitu demokratisasi, pemberdayaan, kemakmuran universal, ketahanan, dan adaptasi. Altman dalam bagian “adaptasi” mengisyaratkan bahwa di masa depan OpenAI mungkin akan memperketat akses pengguna terhadap kemampuan model demi keamanan, dengan pernyataan bahwa bisa dibayangkan “perlunya mengorbankan sebagian pemberdayaan untuk mendapatkan ketahanan yang lebih kuat”.

“Demokratisasi” menuntut pengambilan keputusan penting AI melalui proses demokratis, bukan hanya oleh laboratorium AI. “Pemberdayaan” menekankan memberi pengguna kebebasan penggunaan sebesar mungkin, tetapi cenderung berhati-hati saat ketidakpastian. “Kemakmuran universal” membela pembelian besar-besaran daya komputasi dan pembangunan pusat data global oleh OpenAI baru-baru ini, Altman menyatakan tujuannya adalah menurunkan biaya AI agar dapat digunakan oleh semua orang, dan pemerintah mungkin perlu mengeksplorasi model ekonomi baru untuk memastikan berbagi nilai. “Ketahanan” menyebutkan sebuah skenario risiko spesifik: model yang sangat kuat dapat menurunkan ambang pembuatan patogen baru, yang memerlukan respons dari seluruh masyarakat.

Altman meninjau kembali keraguannya terhadap publikasi bobot GPT-2 saat itu, menyebut bahwa setelahnya itu terlalu berlebihan, tetapi hal tersebut memicu strategi iterasi dan deployment yang digunakan OpenAI hingga saat ini.