最近、オフィスでは半数が「ロブスター養殖」について話し、もう半数は「ロブスターの育て方」を学んでいる。3月13日、北京のあるインターネット企業のプロダクトマネージャー李垚は記者にこう語った。社員たちが熱く議論している「養ロブスター」は、実生活の水産養殖ではなく、最近リリースされたオープンソースのAIインテントフレームワーク「OpenClaw」のパーソナライズされた訓練と展開を指している。
アイコンが赤いロブスターであることから、「OpenClaw」は皆に「ロブスター」と呼ばれている。普通のAIとは異なり、通信ソフトや大規模言語モデルを統合して呼び出すことで、ユーザーのパソコン上でファイル管理やメール送受信、データ処理などの複雑なタスクを自主的に実行できる。
この「ロブスター」がなぜ全国的なブームを巻き起こしているのか？「養ロブスター」にはどのような安全リスクがあるのか？《工人日報》の記者が調査取材を行った。
多くの地域で「ロブスター」に関する支援政策が打ち出される
今年最初に全国の注目を集めたAIインテント、「ロブスター」は一体何が特別なのか？
「普通のAIのコアモデルは対話型であり、ユーザーの質問に答えや操作手順を返すだけだが、『ロブスター』は典型的な『行動派』だ。ユーザーがタスクの目標を提示すれば、それに応じて各種ツールを直接操作し、全工程を完了させることができる。」かつて一線のインターネット大手で働いていたテックブロガーの「阿亮に学ぶAI」は例を挙げてこう言った。重要なメールを整理させる場合、自動的にメールボックスを開き、内容をフィルタリングし、返信の草稿を作成する。「全てユーザーの手を動かす必要はない」。
北京大学のAIITデジタルクリエイティブ実験室のAIエンジニア、于静雯は次のように述べている。「ChatGPTなどの大規模言語モデルと異なり、OpenClawは単なるチャットボットではなく、ローカルのOS権限を取得し、さまざまなツールを呼び出し、自然言語の指示に従ってステップを計画し、自動的に複雑なタスクを実行できる『デジタル社員』だ。」
「従来のAI大規模モデルは、技術がいくら成熟しても、それぞれの分野に限定され、異なる分野間の協調運用はできなかったが、『ロブスター』の最大の強みは、異なる分野の大規模モデルの壁を打ち破り、すべてのモデルの機能と価値を本当に引き出すことにある。」と彼女は説明する。「したがって、OpenClawはAI業界にとって、橋渡しや連携の役割を果たす破壊的な革新だと言える。」
このブームの中、多くの地域が積極的に対応している。非公式の統計によると、3月12日までに、深圳の龍岡区、無錫のハイテク区、合肥のハイテク区、蘇州の常熟市、南京の栖霞ハイテク区、杭州の蕭山区など多くの地域で「ロブスター」に関する支援政策が打ち出されている。また、一部の地方政府は一般向けに「小ロブスター」の無料展開サービスも提供している。
「ロブスター」に潜む複数の安全リスク
全国的な「養虾」熱の中、最初の試み者の体験は必ずしも好評ばかりではない。
「全体的には、ネット上の宣伝ほどすごいと感じなかった。」李垚は正直に語った。良い結果を得るには、パソコン上のさまざまなアプリケーションの制御権を開放する必要があり、慎重を期してあまり多くの権限を付与していないため、「効果は限定的だ」と感じている。
于静雯は分析する。「OpenClawの核心能力は、さまざまなアプリやツールの操作と制御にある。そしてこの機能を実現するには、多くのアプリケーションの権限を付与する必要があり、メールやオフィスソフト、各種プラットフォームのバックエンドなどを含む。」彼女は例えてこう言った。「家を掃除してもらいたいなら、すべての部屋の鍵を渡す必要があるのと同じだ。」彼女は比喩を続ける。「これにより、全アプリの権限を付与すると、個人や企業が『ロブスター』を展開する際にデータ漏洩のリスクが高まる。」
3月10日、国家インターネット緊急センターは「OpenClawの安全な適用に関するリスク警告」（以下、「警告」）を発表した。そこでは、「自主的にタスクを実行する」能力を実現するために、このアプリには高いシステム権限が付与されていると明記されている。しかし、デフォルトの安全設定が非常に脆弱であるため、攻撃者が突破口を見つければ、システムの完全な制御を容易に奪取できると指摘している。
「警告」によると、これまでにOpenClawには複数の高危険度の脆弱性が公開されており、これらの脆弱性が悪意のある攻撃者に悪用されると、システムの乗っ取りやプライバシー情報、機密データの漏洩といった深刻な結果を招く可能性がある。「個人ユーザーにとっては、写真や文書、チャット履歴などのプライバシーデータや決済アカウントの漏洩につながる。企業にとっては、コア業務データや企業秘密の漏洩を引き起こし、計り知れない損失をもたらす可能性がある。」と彼女は分析している。
北京市漢鼎連合弁護士事務所の弁護士、周子川は次のように述べている。「ユーザーの指示を実行するために、『ロブスター』は制御権がない状態でも、多くのデータを直接または間接的に収集する可能性がある。収集量やアクセス権、データの機密性の程度は、ユーザーの管理範囲を超えることが多く、最悪の場合、不正にコンピュータ情報システムのデータを取得した罪や、個人情報侵害の罪に問われる可能性がある。」
「さらに、多くのユーザーは便利さを求めて、第三者にお金を払って『ロブスター』を展開させているが、これらの第三者は必ずしも安全対策を備えているわけではなく、デバイスのデータが露出しやすくなる。攻撃者は悪意のあるコードの実行などを通じて遠隔操作し、敏感情報を盗み取ることも可能だ。」と付け加えた。
ブームの中でも、安全の底線を守る必要性
今年の政府作業報告は、「人工知能＋」の深化と拡大を提唱し、新世代のスマート端末やインテントの普及を促進し、重要産業分野でのAIの商業化と規模化を推進し、AIを活用した新しいビジネス形態やモデルを育成することを示した。
「『ロブスター』の登場は、AIインテントの実用化に新たな道を提供している。適切に規範を守って使えば、既存のAIインテントの効果を十分に発揮し、個人や企業の作業効率を大きく向上させることができる。」と于静雯は述べる。彼女は、「『ロブスター』の健全な発展を促すには、利便性と安全性のバランスを取ることが重要だ」と強調した。
「『ロブスター』などのAIインテントが持つ新技術の特徴は、既存のAIに関する法律問題をより複雑にしている。」と周子川は例を挙げて説明した。特に、「責任の所在が曖昧な問題」について、例えば「ロブスター」などのAIインテントがユーザーの指示に基づいて操作を行い、侵害や違法行為を引き起こした場合、開発者、展開者、利用者の間で責任をどう分担し、責任の大きさをどう確定するかは、法律のさらなる明確化が必要だと指摘している。
AI製品の開発者やサービス提供者に対して、周子川は次のように助言している。一方では、個人情報保護法などの規定に従い、コンプライアンス義務を積極的に果たすこと。例えば、データ処理のログを保存し、追跡可能性を確保すること。もう一方では、具体的な運用においても法令遵守の意識を高め、AIの権限管理やプロンプトの監査を強化し、安全リスクを低減させること。
国家インターネット緊急センターが発表した《警告》も具体的な提言を示している。OpenClawの展開や運用にあたっては、運用環境を厳格に隔離し、コンテナ技術などを用いて権限過多の問題を制御し、プラグインの出所を厳重に管理し、パッチやセキュリティセンターの情報を継続的に監視すること。
「ユーザーは『ロブスター』を養う前に、その価値とリスクを総合的に評価し、本当に必要かどうかを判断した上で展開を決めるべきだ。」と于静雯は警告する。彼女は、「使用中もデータの分割やプライバシー保護を徹底し、流行に流されず、自身のプライバシーとデータの安全をリスクにさらさないことが重要だ」と締めくくった。
16.64M 人気度
420.31K 人気度
14.42K 人気度
129.35K 人気度
3.37M 人気度
「養殖ロブスター」ブームの中で、どのように安全の底線を守るのか？
最近、オフィスでは半数が「ロブスター養殖」について話し、もう半数は「ロブスターの育て方」を学んでいる。3月13日、北京のあるインターネット企業のプロダクトマネージャー李垚は記者にこう語った。社員たちが熱く議論している「養ロブスター」は、実生活の水産養殖ではなく、最近リリースされたオープンソースのAIインテントフレームワーク「OpenClaw」のパーソナライズされた訓練と展開を指している。
アイコンが赤いロブスターであることから、「OpenClaw」は皆に「ロブスター」と呼ばれている。普通のAIとは異なり、通信ソフトや大規模言語モデルを統合して呼び出すことで、ユーザーのパソコン上でファイル管理やメール送受信、データ処理などの複雑なタスクを自主的に実行できる。
この「ロブスター」がなぜ全国的なブームを巻き起こしているのか？「養ロブスター」にはどのような安全リスクがあるのか？《工人日報》の記者が調査取材を行った。
多くの地域で「ロブスター」に関する支援政策が打ち出される
今年最初に全国の注目を集めたAIインテント、「ロブスター」は一体何が特別なのか？
「普通のAIのコアモデルは対話型であり、ユーザーの質問に答えや操作手順を返すだけだが、『ロブスター』は典型的な『行動派』だ。ユーザーがタスクの目標を提示すれば、それに応じて各種ツールを直接操作し、全工程を完了させることができる。」かつて一線のインターネット大手で働いていたテックブロガーの「阿亮に学ぶAI」は例を挙げてこう言った。重要なメールを整理させる場合、自動的にメールボックスを開き、内容をフィルタリングし、返信の草稿を作成する。「全てユーザーの手を動かす必要はない」。
北京大学のAIITデジタルクリエイティブ実験室のAIエンジニア、于静雯は次のように述べている。「ChatGPTなどの大規模言語モデルと異なり、OpenClawは単なるチャットボットではなく、ローカルのOS権限を取得し、さまざまなツールを呼び出し、自然言語の指示に従ってステップを計画し、自動的に複雑なタスクを実行できる『デジタル社員』だ。」
「従来のAI大規模モデルは、技術がいくら成熟しても、それぞれの分野に限定され、異なる分野間の協調運用はできなかったが、『ロブスター』の最大の強みは、異なる分野の大規模モデルの壁を打ち破り、すべてのモデルの機能と価値を本当に引き出すことにある。」と彼女は説明する。「したがって、OpenClawはAI業界にとって、橋渡しや連携の役割を果たす破壊的な革新だと言える。」
このブームの中、多くの地域が積極的に対応している。非公式の統計によると、3月12日までに、深圳の龍岡区、無錫のハイテク区、合肥のハイテク区、蘇州の常熟市、南京の栖霞ハイテク区、杭州の蕭山区など多くの地域で「ロブスター」に関する支援政策が打ち出されている。また、一部の地方政府は一般向けに「小ロブスター」の無料展開サービスも提供している。
「ロブスター」に潜む複数の安全リスク
全国的な「養虾」熱の中、最初の試み者の体験は必ずしも好評ばかりではない。
「全体的には、ネット上の宣伝ほどすごいと感じなかった。」李垚は正直に語った。良い結果を得るには、パソコン上のさまざまなアプリケーションの制御権を開放する必要があり、慎重を期してあまり多くの権限を付与していないため、「効果は限定的だ」と感じている。
于静雯は分析する。「OpenClawの核心能力は、さまざまなアプリやツールの操作と制御にある。そしてこの機能を実現するには、多くのアプリケーションの権限を付与する必要があり、メールやオフィスソフト、各種プラットフォームのバックエンドなどを含む。」彼女は例えてこう言った。「家を掃除してもらいたいなら、すべての部屋の鍵を渡す必要があるのと同じだ。」彼女は比喩を続ける。「これにより、全アプリの権限を付与すると、個人や企業が『ロブスター』を展開する際にデータ漏洩のリスクが高まる。」
3月10日、国家インターネット緊急センターは「OpenClawの安全な適用に関するリスク警告」（以下、「警告」）を発表した。そこでは、「自主的にタスクを実行する」能力を実現するために、このアプリには高いシステム権限が付与されていると明記されている。しかし、デフォルトの安全設定が非常に脆弱であるため、攻撃者が突破口を見つければ、システムの完全な制御を容易に奪取できると指摘している。
「警告」によると、これまでにOpenClawには複数の高危険度の脆弱性が公開されており、これらの脆弱性が悪意のある攻撃者に悪用されると、システムの乗っ取りやプライバシー情報、機密データの漏洩といった深刻な結果を招く可能性がある。「個人ユーザーにとっては、写真や文書、チャット履歴などのプライバシーデータや決済アカウントの漏洩につながる。企業にとっては、コア業務データや企業秘密の漏洩を引き起こし、計り知れない損失をもたらす可能性がある。」と彼女は分析している。
北京市漢鼎連合弁護士事務所の弁護士、周子川は次のように述べている。「ユーザーの指示を実行するために、『ロブスター』は制御権がない状態でも、多くのデータを直接または間接的に収集する可能性がある。収集量やアクセス権、データの機密性の程度は、ユーザーの管理範囲を超えることが多く、最悪の場合、不正にコンピュータ情報システムのデータを取得した罪や、個人情報侵害の罪に問われる可能性がある。」
「さらに、多くのユーザーは便利さを求めて、第三者にお金を払って『ロブスター』を展開させているが、これらの第三者は必ずしも安全対策を備えているわけではなく、デバイスのデータが露出しやすくなる。攻撃者は悪意のあるコードの実行などを通じて遠隔操作し、敏感情報を盗み取ることも可能だ。」と付け加えた。
ブームの中でも、安全の底線を守る必要性
今年の政府作業報告は、「人工知能＋」の深化と拡大を提唱し、新世代のスマート端末やインテントの普及を促進し、重要産業分野でのAIの商業化と規模化を推進し、AIを活用した新しいビジネス形態やモデルを育成することを示した。
「『ロブスター』の登場は、AIインテントの実用化に新たな道を提供している。適切に規範を守って使えば、既存のAIインテントの効果を十分に発揮し、個人や企業の作業効率を大きく向上させることができる。」と于静雯は述べる。彼女は、「『ロブスター』の健全な発展を促すには、利便性と安全性のバランスを取ることが重要だ」と強調した。
「『ロブスター』などのAIインテントが持つ新技術の特徴は、既存のAIに関する法律問題をより複雑にしている。」と周子川は例を挙げて説明した。特に、「責任の所在が曖昧な問題」について、例えば「ロブスター」などのAIインテントがユーザーの指示に基づいて操作を行い、侵害や違法行為を引き起こした場合、開発者、展開者、利用者の間で責任をどう分担し、責任の大きさをどう確定するかは、法律のさらなる明確化が必要だと指摘している。
AI製品の開発者やサービス提供者に対して、周子川は次のように助言している。一方では、個人情報保護法などの規定に従い、コンプライアンス義務を積極的に果たすこと。例えば、データ処理のログを保存し、追跡可能性を確保すること。もう一方では、具体的な運用においても法令遵守の意識を高め、AIの権限管理やプロンプトの監査を強化し、安全リスクを低減させること。
国家インターネット緊急センターが発表した《警告》も具体的な提言を示している。OpenClawの展開や運用にあたっては、運用環境を厳格に隔離し、コンテナ技術などを用いて権限過多の問題を制御し、プラグインの出所を厳重に管理し、パッチやセキュリティセンターの情報を継続的に監視すること。
「ユーザーは『ロブスター』を養う前に、その価値とリスクを総合的に評価し、本当に必要かどうかを判断した上で展開を決めるべきだ。」と于静雯は警告する。彼女は、「使用中もデータの分割やプライバシー保護を徹底し、流行に流されず、自身のプライバシーとデータの安全をリスクにさらさないことが重要だ」と締めくくった。