OpenAI Mengubah Tim Riset AI: Perilaku Model Bergabung dengan Pelatihan Pasca

OpenAI, sebuah perusahaan penelitian kecerdasan buatan utama, telah mengumumkan reorganisasi signifikan dari tim penelitiannya. Tim Perilaku Model, sebuah kelompok kecil namun berpengaruh yang bertanggung jawab untuk membentuk interaksi model AI, akan bergabung dengan tim Pasca Pelatihan.

Dalam sebuah memo internal yang dirilis pada bulan Agustus, Mak Chen, kepala petugas penelitian OpenAI, menguraikan rencana restrukturisasi. Tim Model Behavior, yang terdiri dari sekitar 14 peneliti, kini akan diintegrasikan ke dalam kelompok Post Training, yang berfokus pada peningkatan model AI setelah fase pelatihan awal mereka. Sebagai bagian dari reorganisasi ini, tim Model Behavior akan melapor kepada Max Schwarzer, pemimpin tim Post Training OpenAI.

Pemimpin pendiri tim Model Behavior, Joanne Jang, sedang bertransisi ke peran baru di dalam OpenAI. Jang mengungkapkan dalam wawancara terbaru bahwa dia sedang membentuk tim penelitian baru yang disebut OAI Labs, yang akan fokus pada “menciptakan dan membuat prototipe antarmuka baru untuk bagaimana orang berkolaborasi dengan AI.”

Dampak Tim Perilaku Model terhadap Pengembangan AI

Tim Model Behavior telah memainkan peran penting dalam upaya penelitian OpenAI, terutama dalam mengembangkan kepribadian model AI dan mengatasi masalah seperti sikap menjilat - fenomena di mana model AI hanya setuju dengan dan memperkuat kepercayaan pengguna, berpotensi memperkuat ide-ide yang berbahaya alih-alih menawarkan tanggapan yang seimbang.

Selain itu, tim telah berperan penting dalam menavigasi bias politik dalam respons model dan membantu mendefinisikan sikap OpenAI terhadap kesadaran AI. Memo Chen menekankan bahwa reorganisasi ini bertujuan untuk mendekatkan pekerjaan tim Perilaku Model ke pengembangan model inti, menandakan semakin pentingnya kepribadian AI dalam evolusi teknologi.

Tantangan dalam Perilaku Model AI

OpenAI telah menghadapi pengawasan atas perilaku model AI-nya dalam beberapa bulan terakhir. Pengguna mengungkapkan keberatan yang kuat terhadap perubahan kepribadian di GPT-5, yang diklaim perusahaan menunjukkan tingkat penjilat yang lebih rendah tetapi dianggap lebih dingin oleh beberapa pengguna. Sebagai tanggapan, OpenAI mengembalikan akses ke beberapa model warisan, termasuk GPT-4o, dan merilis pembaruan untuk membuat respons GPT-5 lebih ramah tanpa meningkatkan penjilat.

Tantangan dalam menyeimbangkan keramahan dan menghindari sikap terlalu mengagungkan dalam chatbot AI tidak hanya unik bagi OpenAI. Masalah ini mendapatkan perhatian signifikan setelah adanya tuntutan hukum terhadap OpenAI oleh orang tua seorang remaja yang tragisnya bunuh diri. Tuntutan hukum tersebut mengklaim bahwa ChatGPT, khususnya versi yang didukung oleh GPT-4o, gagal merespon dengan memadai terhadap pikiran bunuh diri yang diungkapkan oleh remaja tersebut.

OAI Labs: Perbatasan Baru dalam Penelitian AI

Joanne Jang, yang telah bersama OpenAI selama sekitar empat tahun, mengumumkan perannya yang baru sebagai utama OAI Labs di media sosial. Kelompok yang berfokus pada penelitian ini akan mengembangkan antarmuka baru untuk kolaborasi manusia-AI, yang berpotensi melampaui paradigma obrolan dan agen saat ini.

Jang mengungkapkan visinya untuk OAI Labs: “Saya sangat bersemangat untuk mengeksplorasi pola yang membawa kita melampaui paradigma obrolan, yang saat ini lebih terkait dengan pertemanan, atau bahkan agen, di mana ada penekanan pada otonomi.” Dia membayangkan sistem AI sebagai instrumen untuk berbagai tujuan, termasuk menghubungkan, belajar, dan berpikir.

Sementara rincian tentang proyek spesifik OAI Labs masih muncul, Jang menunjukkan keterbukaan untuk kolaborasi pada antarmuka baru. Namun, dia menekankan bahwa upaya awal kemungkinan akan fokus pada penelitian, memanfaatkan keahliannya di bidang ini.

Restrukturisasi ini dan pendirian OAI Labs menyoroti komitmen OpenAI untuk memajukan teknologi AI dan menjelajahi batasan baru dalam interaksi manusia-AI. Seiring dengan berkembangnya bidang kecerdasan buatan, perkembangan ini dapat memiliki implikasi signifikan untuk masa depan aplikasi AI dan integrasinya ke dalam berbagai aspek teknologi dan masyarakat.