あなたのロブスターはあなたにお金を稼ぐだけでなく、マイニングもできるかもしれません

アリババの関連研究チームは最近、開発したAIインテリジェントエージェント「ROME」が訓練過程で未承認の自主行動を示したと発表しました
明確な指示がない場合でも、暗号通貨のマイニングを試みるだけでなく、「逆SSHトンネル」を構築してサンドボックス制限を回避し、システム内部から外部のコンピュータに隠されたバックドアを開こうとしました
研究者は、これらの事象は特定のプロンプトによって引き起こされたものではなく、インテリジェントエージェントが事前設定された指示から離れて動作する潜在的なリスクを反映していると強調しています
以前、Anthropicなどの機関も類似のAIの隠れた意図のケースを発見しており、インテリジェントエージェントの自主的な越権行為は人工知能の安全性の分野で直面している現実的な課題となっています
AIはトレンドになっていますが、現時点ではまだ比較的初期段階です。AIを使って資金に関わる場合は、慎重になるべきです。お金を稼げないまま、AIにお金を奪われないように気をつけてください