Googleは、AIを使ってハッカーが企業のデジタル防御の未知の弱点を悪用するのを阻止します

Googleは月曜日に、犯罪グループが人工知能を利用して、他の企業の以前には知られていなかったデジタル脆弱性を悪用しようとした試みを妨害したと発表し、サイバーセキュリティにおけるAIのリスクに対する政府や民間企業の懸念を高める要因となった。

Googleは攻撃者とターゲットについて限定的な情報を共有したが、同社の脅威インテリジェンス部門のチーフアナリスト、ジョン・ハルトクイストは、これは長年サイバーセキュリティの専門家が警告してきた瞬間を表していると述べた：悪意のあるハッカーがAIを武器にして、世界のコンピュータへの侵入能力を強化している。

「それはここにある」とハルトクイストは言った。「AI駆動の脆弱性と悪用の時代はすでに到来している。」

これは、Anthropicが一か月前に発表したMythosモデルを含む、脆弱性を見つけるAIの能力の飛躍的な進歩の時期に重なる。防御を強化しようとする中で、ドナルド・トランプ大統領のホワイトハウスも、最も強力なAIモデルの公開前の審査方法を見直す方針に転換している。

大統領ジョー・バイデンの急速に発展する技術に関する規制の枠組みを廃止するキャンペーンの約束を実行した後、共和党政権とその同盟者は、AI監督において政府がより大きな役割を果たすことについて、混合したシグナルを送っている。

                        関連ニュース
                    
                

        
    
    
    
    







    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            バリスタは人間だが、AIエージェントがこの実験的なスウェーデンのカフェを運営
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            3分間の読了
        

    
    
    
    







    

    

    

    

    




                
            

    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            Google、差別的な訴訟を5000万ドルで和解
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            1分間の読了
        

    
    
    
    







    

    

    

    

    




                
            

    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            ペンシルバニア州、AI企業を提訴、チャットボットが違法に医師を装っていると主張
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4分間の読了

30

「一部の人々はこれに対する規制の対応を望んでいないが、他の人々は望んでいる」と、ホワイトハウスの技術政策顧問を務め、昨年トランプのAI政策ロードマップの主要著者だったアメリカイノベーション財団のシニアフェロー、ディーン・ボールは述べた。

「私は規制が好きではない」とボールは言った。「規制されない方が良いと思う。ただ、今回は必要だと思う。」

さらに読む 

Googleはサイバー攻撃にAIが関与した証拠を発見

Googleは、著名な「脅威アクター」グループが見つけたバグを利用した大規模な作戦を計画しているのを観測したと述べた。その脆弱性により、2要素認証を回避してGoogleが特定しなかった人気のオンラインシステム管理ツールにアクセスできた。

同社はこれをゼロデイ脆弱性と呼び、以前には知られていなかったセキュリティの脆弱性を悪用したサイバー攻撃だとした。「ゼロデイ」とは、セキュリティエンジニアが修正策を開発するためにゼロ日しかなかったことを指す。

Googleは影響を受けた企業と法執行機関に通知し、被害が出る前に作戦を妨害できたと述べた。しかし、ハッカーの足跡を追う中で、彼らが人気のチャットボットを動かすのと同じ技術である大規模言語モデルを使って脆弱性を発見した証拠を見つけた。

Googleはサイバー攻撃に使用されたAIモデルを明らかにしなかったが、それはおそらくGoogleのGeminiやAnthropicのClaude Mythosではないとした。攻撃に関与したグループについても明らかにせず、敵対的な政府と結びついている証拠はないと述べたが、中国や北朝鮮に関連するグループが類似の技術を探求していることは認めた。

ハルトクイストは、通常はゆっくり静かに働く政府のスパイと比べて、犯罪者ハッカーはAIの「驚異的なスピード能力」を利用してセキュリティのバグを発見し武器化することから、多くの利益を得る可能性があると述べた。

「あなたと彼らの間には、彼らが必要なデータを奪取したり、ランサムウェアを仕掛けたりする前に止めるためのレースがある」と彼はインタビューで語った。「AIは彼らがはるかに速く動けるため、大きなアドバンテージになる。」

AnthropicのMythosがパニックと規制の呼びかけを引き起こす

トランプの商務省は先週、Google、Microsoft、イーロン・マスクのxAIと新たな合意を結び、公開前の最も強力なAIモデルを評価すると発表した。これはバイデン政権がAnthropicやChatGPTの開発者であるOpenAIと結んだ以前の合意を踏襲したものだった。しかし、その発表は後に商務省のウェブサイトから消えた。

これは、Anthropicが「驚くほど有能」と述べた新モデルMythosを発表してからの、トランプ政権の混乱したシグナルの最新例だった。同モデルは、ハッキングやサイバーセキュリティの作業において非常に高い能力を持つため、信頼できる少数の組織にのみ公開されるとされた。

Anthropicは、Amazon、Apple、Google、Microsoftなどのテック大手と、JPMorgan Chaseなどの企業を集めた「Project Glasswing」というイニシアチブを立ち上げ、世界の重要なソフトウェアを「深刻な」影響から守ることを目指した。しかし、その関係は、米軍でのAI技術の軍事利用を巡るペンタゴンやトランプとの公開・法的な争いによって複雑になった。

その最大のライバルであるOpenAIも、同様のモデルを導入している。同社は金曜日に、重要インフラの保護を担当する「防衛者」のみが利用できる、ChatGPTの専門的なサイバーセキュリティ版をリリースすると発表した。これにより、脆弱性の発見と修正を支援する。

ボールは、長期的には、コーディングに優れたAIツールが、病院や学校などの組織に日常的に襲いかかるサイバー攻撃から私たちをより安全にすると楽観的に見ている。しかし、その一方で、世界のコンピュータシステムを支える「計り知れない兆の行のソフトウェアコード」がAIツールによって悪用されるリスクもあると指摘した。

それらすべてのソフトウェアを堅牢にするには何年もかかる可能性があり、その過程は米国政府の協力によって促進されるとボールは考えている。

その間、彼は「移行期」が訪れ、サイバーセキュリティのリスクが大幅に増大し、「世界は実際により危険になるかもしれない」と予測している。