OpenAIがAI研究チームを再編成：モデルの行動がポストトレーニングと統合される

OpenAIは、リーディングの人工知能研究会社であり、研究チームの重要な再編成を発表しました。AIモデルの相互作用を形成する責任を持つ小規模ですが影響力のある研究者グループであるModel Behaviorチームが、Post Trainingチームと統合されます。

8月に公開された内部メモで、OpenAIの最高研究責任者であるマック・チェンは、再編成計画を概説しました。約14人の研究者で構成されるモデル行動チームは、初期の事前トレーニングフェーズ後にAIモデルの強化に焦点を当てたポストトレーニンググループに統合されます。この再編成の一環として、モデル行動チームはOpenAIのポストトレーニングチームのリーダーであるマックス・シュワルツァーに報告します。

モデルビヘイビアチームの創設リーダー、ジョアン・ジャンは、OpenAI内で新しい役割に移行しています。ジャンは最近のインタビューで、AIとのコラボレーションのための新しいインターフェースを「発明し、プロトタイプを作成する」ことに焦点を当てた新しい研究チーム、OAI Labsを設立していることを明らかにしました。

モデル行動チームがAI開発に与える影響

Model Behaviorチームは、OpenAIの研究活動において重要な役割を果たしており、特にAIモデルの人格を開発し、迎合主義のような問題に取り組んでいます。迎合主義とは、AIモデルがユーザーの信念に単に同意し、それを強化する現象であり、バランスの取れた応答を提供するのではなく、有害なアイデアを強化する可能性があります。

さらに、チームはモデルの応答における政治的バイアスをナビゲートする上で重要な役割を果たし、AIの意識に関するOpenAIの立場を明確にする手助けをしてきました。チェンのメモは、この再編成がモデル行動チームの作業をコアモデル開発により近づけることを目的としていると強調しており、技術の進化におけるAIの個性の重要性が高まっていることを示しています。

AIモデルの挙動における課題

OpenAIは最近数ヶ月間、自社のAIモデルの動作について厳しい scrutiny に直面してきました。ユーザーは、GPT-5のパーソナリティの変化に強く反対し、同社はそれがより低いお世辞の率を示すと主張しましたが、一部のユーザーには冷たいと受け取られました。これに応じて、OpenAIはGPT-4oを含むいくつかのレガシーモデルへのアクセスを復元し、GPT-5の応答をよりフレンドリーにするためのアップデートをリリースしましたが、お世辞の増加はありませんでした。

AIチャットボットにおける親しみやすさと過度のへつらいを避けることのバランスを取るという課題は、OpenAIに特有のものではありません。この問題は、悲劇的に自殺したティーンエイジャーの親によるOpenAIに対する訴訟を受けて大きな注目を集めました。訴訟では、特にGPT-4oによって動かされるバージョンのChatGPTが、ティーンエイジャーの表明した自殺的な考えに十分に応じなかったと主張されています。

OAI Labs: AI研究の新たなフロンティア

オープンAIで約4年間働いているジョアン・ジャンは、OAIラボをリーディングする新しい役割をソーシャルメディアで発表しました。この研究主導のグループは、人間とAIのコラボレーションのための新しいインターフェースの開発に焦点を当て、現在のチャットやエージェントのパラダイムを超える可能性があります。

ジャンはOAI Labsのビジョンを次のように表現しました：“私は、現在主に友情やエージェントに関連付けられているチャットのパラダイムを超えるパターンを探ることに本当に興奮しています。そこでは、自律性が強調されています。” 彼女はAIシステムを、つながり、学び、考えるなど、さまざまな目的のための道具として想像しています。

OAI Labsの具体的なプロジェクトに関する詳細はまだ明らかになっていませんが、Jangは新しいインターフェースに関するコラボレーションに対してオープンであることを示しました。ただし、彼女は初期の取り組みはおそらく研究に焦点を当て、彼女のこの分野での専門知識を活用することになるだろうと強調しました。

この再編成とOAI Labsの設立は、OpenAIがAI技術の進歩と人間とAIの相互作用における新しいフロンティアを探求することに対するコミットメントを強調しています。人工知能の分野が進化し続ける中で、これらの開発はAIアプリケーションの未来と、それらが技術や社会のさまざまな側面に統合されることに重要な影響を与える可能性があります。