研究者はDPN-LE技術を提案:大規模モデルの「人格ニューロン」を直接編集し、AIの性格を細かく制御可能に

robot
概要作成中

BlockBeats のニュース、5月3日、AI研究者のブライアン・ルエメルは明らかにした。彼の「ゼロ人間会社(Zero-Human Company)」は、DPN-LE(Dual Personality Neuron Localization and Editing)と呼ばれる大規模モデルの人格編集技術を展開し始めており、AIエージェントの行動特性を正確に調整している。

紹介によると、DPN-LEは大規模モデルのMLP層内の「人格ニューロン」を特定し、「誠実さ、創造性、慎重さ、協調性」などの特徴を選択的に強化または弱めることができる。研究は、この方法は約0.5%のニューロンを編集するだけで、モデルの再訓練なしにAIの性格を「外科手術的」に調整でき、同時にコアな推論能力へのダメージを最小限に抑えることができると述べている。

ルエメルは、彼の会社は現在100以上のAIエージェントで構成されており、企業の日常運営はほぼ完全に自動化されているため、「人格の一貫性」が重要な課題となっていると述べている。例えば:

戦略系エージェントは「長期的な一貫性」や「分析の誠実さ」を強化する
財務・リスク管理エージェントは「慎重さ」や「正確さ」を強化する
コンテンツ系エージェントは「共感能力」や「創造性」を向上させる
複数エージェントの協調層は「協調性」を高める

彼は、DPN-LEは推論段階の軽量な修正に属しているため、数分以内に「人格を再構築」し、多数のAIエージェントを展開できると述べている。これにより、AIの整合性(Alignment)コストを大幅に削減できると市場は見ている。この種の「人格プログラム可能化」技術は、AIエージェントが単なる能力競争から、行動制御や組織ガバナンスの競争へと進化していることを意味している。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし