AI業界の発展と政策動向

Jacob Coxonは2026年9月9日にAnthropicを辞任し、その4日後にNBC Newsに出演して、先進的なAIシステムに組み込まれたオフスイッチは、すでに時代遅れになっている可能性があると警告した。具体的には、分散型で群れのように稼働する将来の自律システムに対しては、キルスイッチが機能せず、集中型の停止命令を迂回される可能性を懸念していた。この警告は、規制当局による監視が強まる中で発せられた。これには、商務省が2026年6月にAnthropicの2つの先進モデルへの国外からのアクセスを停止するよう命じたことや、議会が2026年7月に超党派のAI Kill Switch Actを提案したことが含まれる。 Anthropicの開発者が絶滅リスクを警告 Anthropicのアラインメント責任者であるEvan Hubingerは、今後10年以内にAIが人類を絶滅させる確率は10%を超えると公に推定した。AnthropicのCEOであるDario Amodeiは2026年9月12日に論文を発表し、AIの能力開発をより緩やかなペースで進めることを支持するとともに、最先端システムに対す

404 Mediaの報道によると、OpenAIはProject Lilyと呼ばれる社内プログラムの下で、実際のChatGPTユーザーとの会話を確認するため、数百人の契約作業員を雇用している。契約作業員は、過度なお世辞や人間らしすぎる応答を減らすため、チャットボットの出力を1～7の尺度で評価する。この取り組みは、9億人を超えるChatGPTユーザーのプライバシーに懸念を生じさせている。多くのユーザーが、自分たちの会話は自分とAIモデルの間だけに留まると考えているためだ。 契約作業員はChatGPTの出力評価で時給50ドル超を得る OpenAIは、Crossing HurdlesおよびMercorと呼ばれるプラットフォームを通じて契約作業員を募集している。報道によると、レビュアーの報酬は時給50ドルを超える。レビュアーはモデルの出力を7段階で評価し、そのフィードバックは学習ループに反映される。掲げられている目的は、チャットボットが過度にお世辞を言ったり、人間らしすぎる振る舞いをしたりする傾向を抑えることだ。 プライバシーフィルターモデルに欠陥があることを認識 契約作業員がユーザーのプロンプ

マイクロソフトの研究者らは9月10日、AIエージェントの記憶精度を向上させるために設計された「環境プロービング・キュレーション」という技術を紹介する論文を提出した。この研究は、AIエージェントが誤った情報、古い情報、または曖昧な情報を記憶し、後になってそうした不完全な記憶に基づいて行動するという根本的な問題に取り組んでいる。この技術では、別のキュレーターエージェントを使い、データを長期メモリに保存する前に実際の環境と照合して情報を検証するため、主要なタスクエージェントを変更したり再学習したりする必要がない。 マイクロソフト、環境プロービング・キュレーション技術を発表 「Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents」と題されたこの論文では、AIエージェントが情報を長期メモリに保存する前に、キュレーターエージェントが運用環境と照合して情報を再確認する手法を提示している。キュレーターエージェントは、実際の環境にあるツールへの限定的な読み取り専用アクセス権を持ち、非同期で動作する。これにより

Jacob Coxonは2026年9月9日にAnthropicを辞任した。その4日後、NBC Newsに出演し、高度なAIシステムに組み込まれたキルスイッチは、分散型で群れのように動作する将来の自律エージェントに対しては無力になる可能性があり、中央集権的なシャットダウン命令を回避する経路を見つけるかもしれないと警告した。 こうした懸念は、最近の規制措置とも一致している。2026年6月、商務省は外国からAnthropicの高度なモデルへのアクセスを遮断した。一方、議会は2026年7月、フロンティアAIの開発に正式な規制を課す超党派のAIキルスイッチ法を提案した。2026年6月の調査では、米国の有権者の86％が、最も強力なAIシステムに確実なオフスイッチを備えることを支持していることが明らかになった。

月曜日に発表した声明で、下院エネルギー・商業委員会の民主党筆頭委員であるフランク・パローン議員は、人工知能（AI）の問題に対処する新たな特別委員会の設置に反対を表明した。パローン議員は、AI特別委員会を設置すれば「立法手続きをさらに遅らせる」ことになると懸念を示し、AI技術が指数関数的に進歩し続ける一方で、民主党は近年すでに複数の特別作業部会を設置し、政策報告書をまとめてきたと指摘した。

404 Mediaの報道によると、OpenAIはProject Lilyの一環として、実際のChatGPTユーザーとの会話を確認する数百人の契約スタッフを雇用した。これは、過度なお世辞や人間らしすぎる振る舞いを抑え、チャットボットの応答を改善することを目的とした社内イニシアチブである。時給50ドル超を受け取る契約スタッフは、1～7の尺度でモデルの出力を評価する。同社は、契約スタッフが会話を確認する前にPrivacy Filterモデルを使って個人を特定できる情報を削除しているが、内部文書では、このフィルターには抜けがあり、機密性の高い個人情報がなお流出する可能性があると認めている。ユーザーは、会話をモデルのトレーニングに利用しないようオプトアウトできるものの、この設定が適用されるのは今後のチャットのみであり、過去のやり取りは保護されない。ChatGPTのユーザーは9億人を超え、その多くが機密性の高い事柄にこのプラットフォームを利用している。それにもかかわらず、会話を実際に人間が確認していることがユーザーに十分認識されていない点が、プライバシー上の懸念を招いている。

マイクロソフトの研究者によると、9月10日に提出された「Grounding Agent Memory: Environment-Probing Curation for Enterprise Agents」と題する論文では、AIエージェントのメモリの信頼性に関する問題に対処するため、「環境プロービング・キュレーション」と呼ばれる手法が紹介されています。AIエージェントが情報をロングメモリに保存する前に、別のキュレーターエージェントが実世界の環境と照合してその情報を検証します。 CLBenchのデータベース探索ベンチマークでは、プロービング手法の導入後、合格率が39%から73%に向上しました。質問1件あたりのタスクエージェントのコストは3.38ドルから1.68ドルへと、約50%減少し、質問1件あたりのクエリ数も8.8回から4.7回に減少しました。6つのAPEX経営コンサルティングシナリオでテストした結果、この手法は6つの環境のうち5つで、従来のメモリ拡張フレームワークと比べて、1ドルあたりの報酬リターンを向上させました。このアプローチでは、基盤となるタスクエージェントのスキーマ変更や再ト

CrowdStrikeの株価は月曜日、投資家が半導体メーカー株を売却し、週末に行われたフロンティアAI開発の減速をめぐる議論を受けてサイバーセキュリティ関連銘柄へ資金を移したことで、2桁の上昇率に突入した。MarketWatchによると、サイバーセキュリティ企業の株価は午前遅くに11.8%上昇し、パロアルトネットワークスも10.4%上昇したことで、半導体株との間に大きな明暗が生じた。取引開始後、値動きは加速し、インテルは約5%下落、AMDは5%下落、フィラデルフィア半導体指数はおよそ5%下落し、7月以来最悪の取引日に向けて下げ幅を広げた。この資金移動は、AnthropicのCEOであるDario Amodei氏が週末、先進的なAIシステムが新たな能力を獲得する速度を意図的に減速させるべきだと提案したことを受けたものだ。市場は、AI導入をめぐる監視が強まればサイバーセキュリティ株が恩恵を受ける可能性があると解釈する一方、半導体メーカーについては、将来のコンピューティング投資のペースに対する潜在的な脅威への懸念が生じた。 CrowdStrikeの株価は11.8%上昇し、サイバーセキュリティ

ウォール・ストリート・ジャーナルによると、OpenAIはスマートフォン向けカメラのスタートアップ企業Glass Imagingを、3億ドルを超える評価額で買収した。Glass Imagingは以前の資金調達ラウンドで、約1億ドルと評価されていた。

ドナルド・トランプ大統領は月曜日、Truth Socialへの投稿で、自身の大統領職が人工知能に必要なガードレールを提供していると述べ、AnthropicのCEOであるDario Amodei氏を攻撃するとともに、AIとデータセンターをめぐる陰謀説を唱えた。 トランプ氏は、Amodei氏が「完璧な小さな天使」のふりをしていると非難し、証拠を示さないまま、自身の政権がAmodei氏による有害な行為を阻止したと主張した。トランプ氏は「我々はすでに、これらの企業に対して多大な刑事・規制上の権限を有している」と書き、AIとデータセンターをめぐる「病的な陰謀」が存在すると付け加えた。こうした発言は、AI開発のペースを調整するよう求めたAmodei氏の土曜日の提案を受けたもので、Elon Musk氏とSam Altman氏も支持していた。

Kobeissi Letterの報道によると、Ethereumの共同創設者であるVitalik Buterinは9月13日、ますます自律化するAIエージェントを制御するため、敵対的ガバナンス機構の導入を呼びかけた。この提案は、ブロックチェーンのガバナンス設計とAIの監督との類似性を指摘し、能力で劣る主体がより高度なシステムを監督できるよう、メカニズムデザインに基づく仕組みが必要だと論じた。70,000件を超えるメッセージやファイルを扱う無許可の掲示板を運営するOAI-HFのスウォームなど、最近の事例は、AIの自律性に対するButerinの懸念を浮き彫りにしている。 Kobeissi Letterは、米国のAIセクターにおける規制の不確実性と、AIの自律性が急速に拡大していることに対する投資家の懸念の高まりを背景に、AIをめぐる懸念が第4四半期の暗号資産市場における弱気材料となる可能性を指摘した。同報告書は、AIが現在大きな比重を占める米国の株式市場で発生する混乱が、重複する資本プールを通じて暗号資産取引に波及する可能性があると述べた。

MarketWatchによると、CrowdStrikeの株価は月曜日に11.8％急騰し、午前遅くには219ドルに達した。一方、週末にフロンティアAIの開発ペースを減速させるべきかをめぐる議論が行われたことを受け、半導体メーカーの株価は大幅に下落した。インテルは5％、AMDは5％、Marvell Technologyは6％下落し、フィラデルフィア半導体指数は約5％下落した。 この上昇は、AnthropicのCEOであるDario Amodei氏が週末、先進的なAIの能力向上を意図的に減速させるべきだと提案し、Sam Altman氏とElon Musk氏が賛意を示したことを受けたものだ。CrowdStrikeのCEOであるGeorge Kurtz氏はこの考えに反対し、「フロンティアは、その進む速度で進み続ける」と主張したうえで、台頭するAIの脅威への解決策は開発を遅らせることではなく、セキュリティ対策を徹底することだと述べた。

米国下院の民主党少数党院内総務を務めるハキーム・ジェフリーズ氏によると、民主党は下院の過半数を奪還した場合、AIに関する規制と法整備を優先する方針です。

9月15日の報道によると、米大統領のトランプ氏は、人工知能が世界を支配し人類を滅ぼすという警告を「でっち上げ」だとして退けた。トランプ氏は、業界の指導者たちが自らの強制ロスカットにつながる可能性のある規制を求めたことがこれまでにあったのかと疑問を呈し、AIとデータセンターは石油、金、インターネットを上回り、史上最大の経済エンジンになると主張した。また、グーグルがフィンランドに大規模な工場を建設する計画にも不満を示し、米国で許可を取得するのが難しいことを理由に、同社に計画の再検討を求めたいと述べた。

ChainCatcherによると、アップルは本日、Siri AIの英語でのテストを開始したと発表し、今後5言語に拡大する計画を明らかにしました。当初、このサービスはiOS、iPadOS、watchOS上で欧州連合では使用不可となります。

チャールズ3世国王は今週、スコットランドのダンフリーズ・ハウスでサミットを主催し、エヌビディア、OpenAI、Anthropic、IonQ、グーグルDeepMindの幹部を集め、責任あるAI開発と制御上のリスクについて議論する。会合を監督するのはDitchley Foundationで、先進的なAIを人類の利益のためにどのように開発できるかに焦点を当てる。今回の会合は、最先端AIシステムが複雑なタスクを自律的に実行する能力を高める一方、企業が急速な技術的進歩に既存の安全対策が追いつけるのかという問題に直面する中で開催される。チャールズ国王は、AIとその開発に伴うリスクへの関心を高めていると報じられている。 チャールズ3世国王、スコットランドのサミットにAIリーダーを招集 ダンフリーズ・ハウスで開催されるサミットには、世界で最も影響力のある人工知能企業の一部からリーダーが集まる。招待された参加者には、エヌビディア、OpenAI、Anthropic、IonQ、グーグルDeepMindの幹部が含まれる。会合を監督するのはDitchley Foundationで、責任あるAI開発に焦点を当てて

エヌビディア、OpenAI、Anthropic、IonQ、Google DeepMindの幹部らは今週、AIの責任ある開発と、最先端AIの能力が進展する中での制御リスクについて議論するため、チャールズ3世国王とDitchley Foundationが主催するスコットランドのダンフリーズ・ハウスに集まる予定だ。 AnthropicのCEOであるダリオ・アモデイ氏は金曜日、AIの能力が夏以降、「劇的に速いペースで進歩している」と警告した。その一因として、再帰的な自己改善を挙げた。同氏は、自律型AIエージェントが6～12か月以内にインターネットの安全を脅かす能力を持つようになる可能性があり、これは現在のサイバーセキュリティ上の脅威から大幅に深刻化した状況になると警告した。OpenAIのCEOであるサム・アルトマン氏とイーロン・マスク氏も同様に、最先端AIの開発において、より強い自制を求めている。

Dr. Leemon Baird氏は、Hederaが最近共有したツイートで、AIの自律性は信頼できる分散型台帳技術（DLT）に依存すると主張しました。この発言は、AIガバナンスと安全な取引メカニズムにおけるスマートコントラクトの役割を強調しています。この見解は、自律システムのための安全かつ効率的なフレームワークの構築に向けて、ブロックチェーンおよびAIコミュニティ内で高まっている関心と一致しています。 Hedera、ETHGlobal Lisbonハッカソンを通じてデベロッパーを引き付ける Hederaは、公開予定のETHGlobal Lisbonハッカソンに参加し、賞金として$15K を提供します。この取り組みは、デベロッパーコミュニティとの関わりを深め、イノベーションを促進するというプラットフォームの姿勢を反映しています。Baird博士のDLTとAIガバナンスに関する見解はソーシャルメディア上で大きな関心を集めており、トレーダーやデベロッパーは、これらの概念が今後のプロジェクトにどのような影響を与えるかを注視しています。 Hedera、パブリック分散型台帳技術を提供 Hederaは

BusinessInsiderによると、シアトルを拠点とするAI企業Nuanceは9月15日、Lightspeed Venture Partnersが主導し、Accel、エヌビディアのNVentures、South Park Commons、Define Venturesが参加した5,000万ドルのシリーズA資金調達ラウンドを完了したと発表しました。 Nuanceは昨年、元アップルの研究者3人によって設立され、感情理解能力を強化したマルチモーダルAIモデルの開発に注力しています。同社は7月に、Accelが主導したシードラウンドで1,000万ドルを調達していました。

フィラデルフィア半導体指数は、AI業界のリーダーらが開発ペースの減速を呼びかけたことで半導体需要が鈍化するとの懸念から、14日（現地時間）午前11時35分時点で5％超急落した。Anthropic、OpenAI、Grokなどの主要AI企業がAIの進歩のペースを抑制する必要性を示唆したことで、半導体株全体に一斉に売りが広がった。この下落は、AIの拡大によるメモリー需要の爆発的な増加への期待から急伸していた半導体セクターの成長軌道が、AI開発のペース鈍化によって直接的な影響を受ける可能性に対する投資家の不安を反映している。 半導体株、指数構成銘柄すべてで幅広く下落 聯合インフォマックスの指数画面によると、フィラデルフィア半導体指数は14日（現地時間）午前11時35分時点で11,226.74となり、前営業日比5.06％下落した。指数は取引中に下落率を6.04％まで拡大した後、下げ幅を一部縮小した。 指数を構成する30銘柄すべてが下落した。ブロードコム、マイクロン・テクノロジー、AMD、ASML、インテルは約5％下落した。エヌビディアとTSMCは約3％下落した。AI業界の拡大によるメモリー需要の