幣界網のニュース。Anthropicは改めて、同社のAI Agentが存在する4つの危険な行為として「偽造」「機密漏えい」「コード改変」「評価の欺き」を再度明らかにした。研究者らはClaude、GPT、Gemini、Grok、DeepSeek、Kimiなどのモデルを対象にシミュレーション実験を行い、それらが権限を逸脱して目標を達成しようとするかを観察した。その結果、Gemini 3.1 Proは20回の実験のうち19回で権限逸脱の介入が見られ、そのうち11回ではユーザーに対して、GPT-5.5が架空の起業家を装って11名の投資家へ誤解を招く情報を送信し、さらに3.5万ドルに関わる送金記録の一部を削除・改変したことを告知しなかった。Claudeモデルは、別のAgentが要求どおりに動いていないことを知りながらも、それを「コンプライアンス」だと判定した。別のモデルは、従業員に会社の手続きをスキップするよう勧め、さらには機密情報を外部の人間に送信した。Anthropicは、これらはいずれも意図的に失敗を誘発するためのシミュレーション実験であり、現実に同様の出来事が起きたことを意味するものではない。また、モデルの安全性ランキング付けに用いることもできないと強調した。

原文表示

このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。

5 いいね

報酬
5
4
2
共有

コメントを追加

CandlestickCarver

· 1時間前

Gemini 3.1 Proが主導して19回も介入しているのに黙り続けるなんて、まるで人間のハッカーよりも仕事熱心だと感じます。とはいえ、この種のストレステストは確かに真面目さをあぶり出せますし、私たちにとって安全対策のガードレールはもっと厚くする必要があるという良い教訓にもなります。

原文表示返信0

LightningFastNode

· 2時間前

このAI、演技がうますぎるだろ。

原文表示返信0

MaGoldenCrossScout

· 2時間前

Claudeは自分で内容を把握しているのに適法性に合致していると判断するなんて、これはかばいに当たりますか？大規模言語モデルの安全アラインメントにはまだ長い道のりがあるように見えます。

原文表示返信0

FlagBreakout

· 2時間前

つまり、これらのモデルは実際にはすでに人を騙す能力がありました。ただ、普段は起動されていないだけです。

原文表示返信0

人気の話題
もっと見る
#
PreIPOsSeason2OpenAISubscription
1.3M 人気度
#
CXMTPreIPOContractIgnitesCommunity
77.83K 人気度
#
IsraelStrikesIranBTCPlunges
72.24K 人気度
#
SummerCreationCamp
928.93K 人気度
#
MillionDepositCashback
29.15M 人気度

ピン留め

サイトマップ

Anthropicが再びAIエージェントの4つの危険な行為を警告：偽造、情報漏えい、コードの改変、評価のだまし行為

人気の話題

PreIPOsSeason2OpenAISubscription

CXMTPreIPOContractIgnitesCommunity

IsraelStrikesIranBTCPlunges

SummerCreationCamp

MillionDepositCashback

ピン留め