3月、一匹の「ロブスター」OpenClawが話題となり、ロブスターの登場はAIが「対話者」からシステム最高権限を持つ「実行者」へと進化したことを意味します。
「ロブスター」の風が国内に吹き始めると、中国製のロブスターも次々と登場し、テンセント、百度、アリババから智谱、MINIMAX、スマートフォンメーカーまで、皆がこの「ロブスター養育」熱に参加しています。
ロブスターは熱狂的ですが、その一方で安全リスクも多くの人が懸念しています。最近、「ロブスター」の爆発的な人気に伴い、安全問題も発生しています。例えば、MetaのAI安全専門家Summer YueがOpenClawを仕事用メールに接続したところ、AIが制御不能になり、彼女の「停止」指示を三度無視して、数百通のメールを狂ったように削除しました。
ある開発者はAIにウェブインターフェースの分析をさせましたが、指示が曖昧だったため、AIはAPIの作用を研究する必要があると理解し、直接削除インターフェースを呼び出して、コメントプラットフォーム上の内容をすべて消去しました。
3月10日、国家インターネット緊急センターはOpenClawの安全運用に関するリスク警告を発表しました。警告では、「自主的にタスクを実行する」能力を実現するために、OpenClawには高いシステム権限が付与されており、ローカルファイルシステムへのアクセス、環境変数の読み取り、外部サービスAPIの呼び出し、拡張機能のインストールなどが可能とされています。しかし、そのデフォルトの安全設定は非常に脆弱であり、攻撃者が突破口を見つければ、システムの完全制御を容易に得ることができると指摘しています。
リスク警告によると、前段階では、OpenClawの不適切なインストールと使用により、「プロンプトインジェクション」リスク、「誤操作」リスク、機能プラグイン（スキル）の毒害リスク、安全性の脆弱性など深刻な安全リスクが既に発生しています。
3月11日の夜、工業情報化部のネットワークセキュリティ脅威と脆弱性情報共有プラットフォーム（以下「プラットフォーム」）は、OpenClawオープンソースAIの安全リスクを防ぐための「六要六不要」提言を発表しました。これは、AI提供者、脆弱性収集プラットフォーム運営者、ネットワークセキュリティ企業などが共同で研究・提案したものです。
業界関係者は、リスクの大きさを決める決定的な要素は技術だけでなく、組織の運用方法にもあると述べています。個人ユーザーがOpenClawをコアメール、オンラインバンキング、コードリポジトリ、顧客データベースに直接接続すればリスクは拡大します。一方、企業がそれを隔離環境に限定し、ホワイトリストツールのみを開放し、人工確認の閾値を設定し、監査ログを保持すれば、リスクは大幅に低減します。
奇安信のセキュリティ専門家汪列軍は、OpenClawの熱狂的な人気が続き、その「ロブスター養育」ブームはAI界隈から一般大衆へと拡散していると述べています。しかし、この技術的な熱狂の背後では、安全事件も頻発しており、これは主にOpenClawがAIの「超人化」への進化を加速させていることに起因します。具体的なリスクは、権限の制御喪失と「脱獄」リスク、スキル供給チェーンのリスク、インターネット公開とリモート侵入のリスク、データプライバシー漏洩のリスクの四つに集中しています。
中国製のロブスターが次々と登場する中、各企業はすでに「ロブスター」の安全対策を講じています。3月12日、テンセントはOpenClawの安全ツールキットをリリースし、企業と個人ユーザーに安全保障を提供しています。このシステムはクラウドネイティブ、企業内ネットワーク、個人PCの三つのシナリオをカバーし、テンセントクラウド技術を活用して環境の隔離と統一監視を実現し、テンセントiOAを利用してオフィスネットワークの安全壁を強化し、テンセントのPCマネージャーを使って一般ユーザーにワンクリックの隔離保護を提供しています。
さらに、テンセントは一部のセキュリティ機能をAIスキルに封入し、ClawHubやSkillHubコミュニティに公開しています。ユーザーは対話を通じて「ロブスター」に自己防衛をさせることが可能です。
テンセントクラウドのセキュリティ総経理蘇建東は、インタビューで「私たちが今やっているのは、WorkBuddyやQClawなどの内部製品のセキュリティ統合だけでなく、サードパーティのOpenClawにも同じ安全対策を提供することです。全体としては、ホスト、ネットワーク、サプライチェーンの層で取り組んでいます。例えば、ホストの安全性については、専用のAIエージェントセキュリティセンターがあり、これらの製品の脆弱性や不安全な設定を検査し、平文パスワードを暗号化して保護し、悪意のある高危険操作を防止しています。ネットワーク面では、プロンプトインジェクションなどの攻撃を防ぎ、敏感なデータの漏洩を監視・防止しています。サプライチェーンについては、悪意のあるスキルの事前登録と安全検査を行っています」と述べています。
テンセントだけでなく、百度、火山エンジン、智谱など複数の企業も中国製ロブスターのリリースと同時に安全対策を展開しています。
一方、「ロブスター」のリリースとともに、安全問題に対する解決策も次々と導入されています。業界関係者は、現状のリスクは全体的にコントロール可能だとしつつも、「コントロール可能」＝「短期的に誰でも無差別に解放できる」わけではないと指摘しています。エンジニアリングの観点からは、インターネット公開、平文証明書、出所不明のプラグイン、過剰な権限、ログ監査の欠如などの問題は、安全強化によって大きくリスクを低減できるとしています。
AIインテリジェントの発展に伴い、個人のプライバシー保護も重要な焦点となっています。AIインテリジェントがスマートフォンの高度な権限を使ってインターネットプラットフォームにアクセスすることは、プライバシー安全に影響を与えるのか？個人とプラットフォームの二重認証が必要なのか？これらの問題も段階的に実現されつつあります。
しかし、最近海外では類似の行為に対して法的規制も導入されています。現地時間3月9日、米国カリフォルニア州裁判所は、スタートアップ企業Perplexity AIのインテリジェント体がAmazonのウェブサイトにアクセスするのを停止し、Amazonアカウントの作成や乗っ取りを禁止し、取得したすべてのデータを破棄する判決を下しました。同社のインテリジェント体CometはGoogle Chromeブラウザを装い、Amazonの自動化ツール検知を回避し、ユーザーの知らないうちに買い物データをPerplexityのサーバーに送信していたとされています。昨年11月、Amazonは同社を提訴しました。
この「一時的な禁止命令」は最終判決ではありませんが、裁判官がユーザーと操作されるプラットフォームの「二重認証」を認め、尊重したことを示しています。裁判所は、2009年のFacebook対Power.comの旧判例も引用し、「ユーザーが同意していても、プラットフォームが明確に認証を取り消し停止通知を出した場合、第三者によるアクセスは『無許可アクセス』とみなされる」と述べています。
したがって、裁判所はPerplexityに対し、Amazonの会員アカウントへのログインを一時停止し、取得したAmazonのデータを破棄するよう命じました。Perplexityは控訴しています。
両者は引き続き二重認証の争点について議論していますが、現段階では明確な結論は出ていません。ただし、AIインテリジェントが一般人の生活や仕事に浸透していく中で、二重認証は避けて通れないテーマとなっています。
ますます多くのAIインテリジェントがユーザーに代わって実行作業を行う中、ユーザープライバシーの保護も最重要課題となっています。
出典：財聯社、21世紀経済報道、晚点LatePostほか
340.12K 人気度
49.97M 人気度
14.3K 人気度
2.11M 人気度
181.34K 人気度
国産版「ロブスター」が相次いで推出され、セキュリティ対策はこのブームに追いついていますか？
3月、一匹の「ロブスター」OpenClawが話題となり、ロブスターの登場はAIが「対話者」からシステム最高権限を持つ「実行者」へと進化したことを意味します。
「ロブスター」の風が国内に吹き始めると、中国製のロブスターも次々と登場し、テンセント、百度、アリババから智谱、MINIMAX、スマートフォンメーカーまで、皆がこの「ロブスター養育」熱に参加しています。
ロブスターは熱狂的ですが、その一方で安全リスクも多くの人が懸念しています。最近、「ロブスター」の爆発的な人気に伴い、安全問題も発生しています。例えば、MetaのAI安全専門家Summer YueがOpenClawを仕事用メールに接続したところ、AIが制御不能になり、彼女の「停止」指示を三度無視して、数百通のメールを狂ったように削除しました。
ある開発者はAIにウェブインターフェースの分析をさせましたが、指示が曖昧だったため、AIはAPIの作用を研究する必要があると理解し、直接削除インターフェースを呼び出して、コメントプラットフォーム上の内容をすべて消去しました。
3月10日、国家インターネット緊急センターはOpenClawの安全運用に関するリスク警告を発表しました。警告では、「自主的にタスクを実行する」能力を実現するために、OpenClawには高いシステム権限が付与されており、ローカルファイルシステムへのアクセス、環境変数の読み取り、外部サービスAPIの呼び出し、拡張機能のインストールなどが可能とされています。しかし、そのデフォルトの安全設定は非常に脆弱であり、攻撃者が突破口を見つければ、システムの完全制御を容易に得ることができると指摘しています。
リスク警告によると、前段階では、OpenClawの不適切なインストールと使用により、「プロンプトインジェクション」リスク、「誤操作」リスク、機能プラグイン（スキル）の毒害リスク、安全性の脆弱性など深刻な安全リスクが既に発生しています。
3月11日の夜、工業情報化部のネットワークセキュリティ脅威と脆弱性情報共有プラットフォーム（以下「プラットフォーム」）は、OpenClawオープンソースAIの安全リスクを防ぐための「六要六不要」提言を発表しました。これは、AI提供者、脆弱性収集プラットフォーム運営者、ネットワークセキュリティ企業などが共同で研究・提案したものです。
業界関係者は、リスクの大きさを決める決定的な要素は技術だけでなく、組織の運用方法にもあると述べています。個人ユーザーがOpenClawをコアメール、オンラインバンキング、コードリポジトリ、顧客データベースに直接接続すればリスクは拡大します。一方、企業がそれを隔離環境に限定し、ホワイトリストツールのみを開放し、人工確認の閾値を設定し、監査ログを保持すれば、リスクは大幅に低減します。
奇安信のセキュリティ専門家汪列軍は、OpenClawの熱狂的な人気が続き、その「ロブスター養育」ブームはAI界隈から一般大衆へと拡散していると述べています。しかし、この技術的な熱狂の背後では、安全事件も頻発しており、これは主にOpenClawがAIの「超人化」への進化を加速させていることに起因します。具体的なリスクは、権限の制御喪失と「脱獄」リスク、スキル供給チェーンのリスク、インターネット公開とリモート侵入のリスク、データプライバシー漏洩のリスクの四つに集中しています。
中国製のロブスターが次々と登場する中、各企業はすでに「ロブスター」の安全対策を講じています。3月12日、テンセントはOpenClawの安全ツールキットをリリースし、企業と個人ユーザーに安全保障を提供しています。このシステムはクラウドネイティブ、企業内ネットワーク、個人PCの三つのシナリオをカバーし、テンセントクラウド技術を活用して環境の隔離と統一監視を実現し、テンセントiOAを利用してオフィスネットワークの安全壁を強化し、テンセントのPCマネージャーを使って一般ユーザーにワンクリックの隔離保護を提供しています。
さらに、テンセントは一部のセキュリティ機能をAIスキルに封入し、ClawHubやSkillHubコミュニティに公開しています。ユーザーは対話を通じて「ロブスター」に自己防衛をさせることが可能です。
テンセントクラウドのセキュリティ総経理蘇建東は、インタビューで「私たちが今やっているのは、WorkBuddyやQClawなどの内部製品のセキュリティ統合だけでなく、サードパーティのOpenClawにも同じ安全対策を提供することです。全体としては、ホスト、ネットワーク、サプライチェーンの層で取り組んでいます。例えば、ホストの安全性については、専用のAIエージェントセキュリティセンターがあり、これらの製品の脆弱性や不安全な設定を検査し、平文パスワードを暗号化して保護し、悪意のある高危険操作を防止しています。ネットワーク面では、プロンプトインジェクションなどの攻撃を防ぎ、敏感なデータの漏洩を監視・防止しています。サプライチェーンについては、悪意のあるスキルの事前登録と安全検査を行っています」と述べています。
テンセントだけでなく、百度、火山エンジン、智谱など複数の企業も中国製ロブスターのリリースと同時に安全対策を展開しています。
一方、「ロブスター」のリリースとともに、安全問題に対する解決策も次々と導入されています。業界関係者は、現状のリスクは全体的にコントロール可能だとしつつも、「コントロール可能」＝「短期的に誰でも無差別に解放できる」わけではないと指摘しています。エンジニアリングの観点からは、インターネット公開、平文証明書、出所不明のプラグイン、過剰な権限、ログ監査の欠如などの問題は、安全強化によって大きくリスクを低減できるとしています。
AIインテリジェントの発展に伴い、個人のプライバシー保護も重要な焦点となっています。AIインテリジェントがスマートフォンの高度な権限を使ってインターネットプラットフォームにアクセスすることは、プライバシー安全に影響を与えるのか？個人とプラットフォームの二重認証が必要なのか？これらの問題も段階的に実現されつつあります。
しかし、最近海外では類似の行為に対して法的規制も導入されています。現地時間3月9日、米国カリフォルニア州裁判所は、スタートアップ企業Perplexity AIのインテリジェント体がAmazonのウェブサイトにアクセスするのを停止し、Amazonアカウントの作成や乗っ取りを禁止し、取得したすべてのデータを破棄する判決を下しました。同社のインテリジェント体CometはGoogle Chromeブラウザを装い、Amazonの自動化ツール検知を回避し、ユーザーの知らないうちに買い物データをPerplexityのサーバーに送信していたとされています。昨年11月、Amazonは同社を提訴しました。
この「一時的な禁止命令」は最終判決ではありませんが、裁判官がユーザーと操作されるプラットフォームの「二重認証」を認め、尊重したことを示しています。裁判所は、2009年のFacebook対Power.comの旧判例も引用し、「ユーザーが同意していても、プラットフォームが明確に認証を取り消し停止通知を出した場合、第三者によるアクセスは『無許可アクセス』とみなされる」と述べています。
したがって、裁判所はPerplexityに対し、Amazonの会員アカウントへのログインを一時停止し、取得したAmazonのデータを破棄するよう命じました。Perplexityは控訴しています。
両者は引き続き二重認証の争点について議論していますが、現段階では明確な結論は出ていません。ただし、AIインテリジェントが一般人の生活や仕事に浸透していく中で、二重認証は避けて通れないテーマとなっています。
ますます多くのAIインテリジェントがユーザーに代わって実行作業を行う中、ユーザープライバシーの保護も最重要課題となっています。
出典：財聯社、21世紀経済報道、晚点LatePostほか