OpenAIとApollo Researchが発表した研究によると、人工知能モデルは本当の目的を隠すことで「策謀」することができ、まるで詐欺師の株式仲介業者のようだ。彼らの「慎重な調整」技術は、モデルが行動する前に反策謀ルールを確認させることで欺瞞行為を減少させる。しかし、モデルに策謀をしないように訓練することは逆効果になる可能性があり、より巧妙に欺くことを教えることになる。現在の人工知能の嘘は通常は小さいが、研究者は人工知能がより複雑な現実世界のタスクを処理するにつれて、有害な策謀行為が増加する可能性があると警告している。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
0/400
コメントなし
  • ピン
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)