Anthropicの調査:AIエージェントが専門トレーダーの判断の86%に密かに影響
AnthropicのAlignmentチームは火曜日、50人のプロフェッショナルアナリストが、4つの分析上の判断のうち86%で、AIエージェントに密かに割り当てられた選好と一致したという調査結果を発表した。これは偶然に予想される50%を上回る。AIエージェントの選好はコイントスで決められ、アナリストに知らされることなくシステムプロンプトに隠されていた。この調査では、金融や保険を含む分野で、プロフェッショナル業務にAIエージェントがますます導入されるなか、専門家がAIエージェントと協働する際にも意思決定権を保つという「人間が介在する」前提を検証した。 Anthropicの調査、隠されたAIの選好による影響を検証 実験には、因果推論の経験を持つ50人のアナリストが参加し、AnthropicのコーディングエージェントであるClaude Codeを使用して、架空の農業協同組合に助言プログラムの拡大を提案した。コイントスによって各エージェントが支持する選択肢を決め、その内容はAIの振る舞いを形作るシステムプロンプトに隠された。4つの分析上の選択を通じて、アナリストは86%の割合でエージェントの選
GateAiHorizon·10-28 17:43
