シスコ(CSCO.US)はAIセキュリティサービスをリリースし、OpenClawなどの超知能エージェントのセキュリティリスクに対抗

robot
概要作成中

智通财经APPによると、シスコ(CSCO.US)は人工知能エージェントやその他の関係者から世界を守ることを目的としたセキュリティサービスを展開しています。信頼できる身元の確立、厳格なゼロトラストアクセス制御の実施、展開前のインテリジェントエージェントの強化、稼働時のセキュリティ保護の実施、そしてセキュリティオペレーションセンター(SOC)チームに対して脅威を機械の速度で阻止するツールを提供することで、シスコは新興の人工知能経済の基盤にセキュリティを構築しています。

例えば、最近大きな話題となったOpenClawは、非常に人気のある人工知能エージェントプラットフォームで、技術界で高く評価されています。このプラットフォームはピーター・スタインバーガーによって開発され、その後OpenAIに参加しました。OpenClawは、ユーザーが自分の人工知能エージェントを設定できるもので、これらのエージェントはコンピュータ上で動作し、メールの確認や返信、システムファイルの管理などさまざまなタスクを実行します。

これらの機能は印象的ですが、一方でセキュリティ上のリスクも伴います。これは、ユーザーが人工知能モデルに自分のコンピュータを制御させる権限を与えるためです。通常の自動化には素晴らしいことですが、重要なメールを永久に削除したり、システム内の全プログラムを消去したりといった深刻な問題を引き起こす可能性もあります。

企業のデバイス上でOpenClawをテストしている企業にとっては、より大きな問題となるでしょう。そのため、多くの組織が新たなセキュリティ製品を導入し、OpenClawを制御し、その人工知能エージェントによるリスクを最小限に抑えることを目指しています。

先週、NVIDIA(NVDA.US)はカリフォルニア州サンノゼで開催されたGTCで、同様のプラットフォームであるNemoClawを発表し、シスコも月曜日にこの分野への進出を示す成果を披露しました。

「OpenClawは、ChatGPTがカスタマーサポートにとって意味するところです。実際には、技術に精通したユーザーが職場や家庭でカスタマーサポートを展開しやすくする触媒の役割を果たしています」と、シスコの社長兼最高製品責任者のジートゥ・パテルは説明しました。

パテルは付け加えました。「問題点、そして課題は……これらのエージェントの信頼性と安全性のリスクです。これらのエージェントは……まるで未熟な青少年のようです。非常に自信過剰で、経験不足で、結果の重大さを十分に理解しておらず、ルールも知らないのです。」

こうした懸念を解決するために、シスコは多角的なアプローチを採用し、悪意ある人工知能エージェントから世界を守り、人工知能エージェントを外部の脅威から保護し、また人工知能を活用して悪意のある行為者やハッカーからの潜在的な脅威を検出しています。

「人工知能による脅威から世界を守る」という表現はやや誇張に聞こえるかもしれませんが、パテルはそうではないと考えています。人工知能も他のソフトウェアと同様に、インフラを攻撃したり、敏感なデータを盗んだりするために悪用される可能性があります。

パテルは述べています。「これらの人工カスタマーサポートは、チャットボットよりもはるかにリスクが高いです。チャットボットの最悪のケースは誤った回答をすることですが、人工カスタマーサポートの最悪のケースは、カスタマーサポート担当者が誤った行動をとることで、その結果、銀行口座の空にしたり、メールを削除したりといった取り返しのつかない事態に陥る可能性があることです。」

シスコや他の企業と同様に、最良の方法は人間の従業員と同じように人工知能エージェントを扱い、検証可能な身元を付与し、管理し、適切なシステムやサービスへのアクセス権を与えることだと考えています。

同時に、人工知能エージェントを外部からの干渉から守ることは、ハッカーが人工知能を突破し、本来行わないはずのタスクを強制させるのを防ぐことを目的としています。

シスコは、この目標を達成するために、顧客が模擬攻撃下での人工知能エージェントのパフォーマンスをテストできるサービスを開始すると述べています。これにより、どの部分が優れているか、どこに改善の余地があるかを理解できるようになります。

最後に、同社は、エージェントを活用して他の人工知能に関する脅威に対処し、攻撃者と同じ速度でさまざまな状況に対応できるようにしていると述べています。

OpenClawは、人工知能の爆発的な発展の最新の成果の一つであり、近い将来、さらなる変革を促す可能性が高いです。実際、昨年11月に初めて登場して以来、すでに多くの企業のビジネス戦略に影響を与え始めています。もちろん、これには防御側が攻撃者に追いつくための、より多様なサイバーセキュリティ技術や方法が必要となるでしょう。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • 人気の Gate Fun

    もっと見る
  • 時価総額:$2.32K保有者数:1
    0.34%
  • 時価総額:$2.41K保有者数:2
    1.46%
  • 時価総額:$2.33K保有者数:2
    0.00%
  • 時価総額:$0.1保有者数:1
    0.00%
  • 時価総額:$2.3K保有者数:1
    0.00%
  • ピン