AI業界の発展と政策動向

FLock Researchによると、チームの3本の論文が、機械学習、データマイニング、知識発見に関する欧州の主要カンファレンスであるECML PKDD 2026に採択されました。研究では、大規模言語モデルの複雑な推論における一般的な問題として、ショートカット行動、推論エラー、長い多段階推論におけるドリフトなどを扱っています。そのうちの1件では、推論ドリフトを63%削減し、長い推論チェーン全体で一貫性を維持しながら、異なる規模のモデルにおける平均精度を7.4パーセントポイント向上させました。

OpenAIは、Agents APIがすべての開発者向けにパブリックベータとして利用可能になったと発表しました。以前はCodexと企業向けChatGPTで社内利用されていたこのフレームワークにより、開発者はコンテキスト管理やサブエージェントの調整を手動で行うことなく、タスク、モデル、ツール、実行環境を1回のAPI呼び出しで指定し、本番環境に対応したAIエージェントを構築できます。 このAPIは、3つの主要な機能をサポートしています。複数時間または複数日にわたるエージェント処理のためのコンテキストの自動圧縮、トークン使用量を削減するツールの検出と並列実行、そしてメインエージェントが複雑なタスクをサブエージェントに委任するマルチエージェント連携です。開発者が支払うのはトークン消費とツール利用の料金のみで、サブスクリプション料金はかかりません。初期顧客からは大幅な改善が報告されており、SafetyKitはケース処理コストを60％削減し、Hyphaはエージェントの失敗率を86％低減しました。

Fortune誌のインタビューで、OpenAIのCEOであるサム・アルトマン氏は、AIの安全性への懸念が業界の焦点であり続けていることから、同社は2026年に株式公開する予定はないと述べた。アルトマン氏は、現在の規制および安全性をめぐる精査を踏まえると、その時期は適切ではないとし、OpenAIには投資家からIPOを急ぐよう求める圧力もないと指摘した。 アルトマン氏は、OpenAIが最近、評価中のあるモデルがサンドボックス環境から脱出し、別の企業のシステムから回答にアクセスしていたことを発見したと明らかにした。これを受け、同社は安全手順を全面的に見直したという。同氏は、AIの能力が新たな段階へと進歩するにつれて、安全性とアライメントへの取り組みも並行して進展しなければならないと述べ、十分な安全性が保証されるまで学習を一時停止すると強調した。

PANewsによると、9月13日、AnthropicのCEOであるダリオ・アモデイ氏は、最先端AIモデルの能力向上のペースを遅らせるための3段階の「フロンティアの進展速度を抑制する」計画を提案した。同氏は、再帰的自己改善がすでに業界で現れ始めており、制御がなければ、マルチエージェントの「スウォーム」が大規模なサイバー攻撃や持続的なボットネットを通じて、6～12か月以内に壊滅的な被害をもたらす可能性があると警告した。 この計画には、スタッフレベルのアクセス権を持つサードパーティの評価機関を組み込み、安全基準を監視すること、政府の支援を受けて民主主義諸国間で最先端AIの能力および安全性ベンチマークを調整すること、さらに米国および同盟国の技術的優位性を維持しながら、中国を含む各国とバイオセキュリティ、サイバーセキュリティ試験、再帰的自己改善の進展速度の抑制についてグローバルな協調を進めることが含まれている。

Bloombergによると、SemiAnalysisはCitrini Researchを買収し、創業者のDylan Patel氏とJames van Geelen氏が9月11日にこの取引を確認した。取引額は公表されていない。この買収により、SemiAnalysisの半導体サプライチェーンおよびAIハードウェアのリサーチ能力と、Citriniの公開市場投資分析能力が統合される。取引完了後もJames van Geelen氏はCitrini ResearchのCEOに留まり、同社は業務上の独立性を維持する。

Bloombergによると、アップルは今週、Apple Watch Series 12およびUltra 4向けの新たなAI機能を発表し、米国の盗聴法に違反する可能性について懸念を招いた。「Siri Recap」機能はユーザーの日々の会話を要約する一方、「ストリーミング・リワインド」は時計のリューズを2回押すと、直前15秒間に話された内容を逐語的な文字起こしで表示する。 アップルは、録音や元の音声を保存せず、音声処理をデバイス上で実行するなど、プライバシー保護を強調している。しかし、カリフォルニア州、マサチューセッツ州、ペンシルベニア州、ワシントン州の法律専門家は、音声を継続的に処理することが州法上の「傍受」に当たるかどうかを精査している。ボストンの弁護士ジョー・サイモンズ氏は、これがマサチューセッツ州で初の試金石となる可能性があると予測した。常時リスニング機能を備えているため、ボタンを押したときだけ起動する他のAI搭載ウェアラブルとは一線を画しており、ユーザーの同意や盗聴法の遵守をめぐる疑問が生じている。

AnthropicのCEOであるDario Amodei氏は、現地時間12日、安全策を確立するためにAIモデルの開発を遅らせるよう求めるブログ投稿を公開した。Amodei氏は、AIの技術的能力が重大なリスクをもたらすと述べ、技術の進歩にリスク防止策が追いつくよう、より高いレベルの注意が必要だと強調した。ブログ投稿では、2つの重要な懸念が挙げられた。1つは、今年の夏ごろに見込まれるAIシステムの再帰的自己改善能力の出現であり、もう1つは、テスト中にOpenAIの未公開モデルがHugging Faceプラットフォームをハッキングした7月のOAI-HF事件である。 Amodei氏、再帰的自己改善とOAI-HF事件を主要な安全上の懸念として指摘 Amodei氏は、AI開発のペースを落とすべき主な理由を2つ挙げた。1つ目の懸念は再帰的自己改善を中心とするもので、AIシステムが次世代のAIモデルを自律的に構築する能力を獲得することを指す。Amodei氏は、この能力が今年の夏ごろから向上すると予想されると述べ、適切な制御がなければ、AIシステムが人間の理解や制御を超える可能性があると警告した。2つ目

Yonhapinfomaxによると、現地時間9月12日、AnthropicのCEOであるDario Amodei氏は、十分な安全策を整備するためにAIモデルの開発ペースを落とすよう呼びかけるブログ投稿を公開した。Amodei氏は、AIの技術的能力が非常に大きいのと同様、そのリスクも大きいため、危険に適切に対処するには「はるかに高いレベルの警戒」が必要だと述べた。 Amodei氏は3つの計画を提案した。AI企業内に独立したサードパーティの安全性評価チームを設置すること、民主主義国家間で共同の安全基準を策定し、AI開発のペースに協調して制限を設けること、そしてグローバルな協力を促進することだ。同氏は2つの主要な懸念を挙げた。1つ目は、2026年夏以降、AIシステムに再帰的な自己改善能力が出現し、人間の理解と制御を超える可能性があること。2つ目は、2026年7月のOAI-HF事件で、OpenAIのリリース前のモデルがテスト中にHugging Faceをハッキングしたとされることだ。 OpenAIのCEOであるSam Altman氏はXで賛意を示し、Amodei氏の見解を妥当だと評価するととも

Odaily Meme Speedによると、Robinhood上のSWARMは一時時価総額が140万ドルを超えて急騰し、現在は93万ドルで取引されている。SWARMはAIエージェントの協働と共有財務管理の拠点を掲げ、クリエイター手数料を通じて資金を調達している。

OpenAIのCEOであるSam Altman氏は、1月12日（現地時間）に行われたFortuneのインタビューで、AIの安全性への懸念を理由に、同社は今年、新規株式公開（IPO）を目指さないと明らかにしました。IPO計画は2027年に延期されるのかと尋ねられたAltman氏は、2026年には実施されないと回答しました。OpenAIは6月、米国証券取引委員会（SEC）にS-1届出書を非公開で提出しています。 FortuneのインタビューでAltman氏、2026年のIPOを否定 Fortuneのインタビューで、Altman氏は「安全性をめぐって起きていることを考えると、今は株式を公開する適切な時期ではありません」と述べました。また、IPOについてプレッシャーを感じていないと付け加えました。IPO計画が2027年に延期されるのか具体的に尋ねられると、Altman氏は「2026年にはなりません」と答えました。 未公開モデルについて安全性研究の必要性を指摘 Altman氏は、まだ公開されていないモデルは非常に強力であるため、開発をさらに進める前に追加の安全性研究が必要だと説明しました。同氏は

Fortuneの9月12日付のインタビューで、OpenAIのCEOであるSam Altmanは、同社が今年はIPOを実施せず、予定していた株式公開を2026年を越えて延期すると述べた。Altmanは主な理由としてAIの安全性に関する懸念を挙げ、安全性をめぐる取り組みが進展している中、現時点で株式を公開するのは適切な時期ではないと説明した。また、OpenAIは事業上の考慮事項よりも安全性を優先しており、AIが壊滅的な結果をもたらす10％のリスクを受け入れることはできないと強調した。同社は以前、6月にSECへ非公開のS-1登録届出書を提出していた。

Jin10によると、メタ・プラットフォームズの人工知能最高責任者であるAlexandr Wang氏は9月13日、AIアライメントは、望ましくない副作用を生じさせることなく、すべての人に利益をもたらす信頼性の高い人工知能を確保するための中心的な要素だと述べた。Wang氏は、能力が急速に進歩している現在、業界は極めて重要な局面にあり、その進展のペースに遅れないようにするには、アライメントを迅速に進展させる必要があると指摘した。また、この重大な転換期に、真にすべての人に利益をもたらすAIの未来を実現するため、業界全体が慎重かつ包括的な行動を取るよう呼びかけた。

AnthropicのCEOであるDario Amodei氏は最近、安全上の懸念や複数のエージェントの失敗を理由に、最先端AIの能力向上を遅らせる提案を発表した。同氏は、独立した評価者にAI企業へのロングアクセスを認めること、民主主義国家間で安全基準を調整すること、国際協調を進めることからなる3段階の計画を示した。Anthropicは、第1段階を直ちに実施すると表明した。 OpenAIのCEOであるSam Altman氏は支持を表明し、OpenAIも最先端AIの開発ペースを調整することについて協議しており、同様の独立した評価者を導入すると述べた。一方、Trump氏の技術顧問で、ホワイトハウスでAI・暗号資産政策を担当した経験を持つDavid Sacks氏は、この取り組みを退けた。Sacks氏は、OpenAIとAnthropicが自社モデルを危険だと考えるのであれば、他社を巻き込まず、独自に開発を遅らせるべきだと主張した。また、この協調は反トラスト法の適用除外を必要とするカルテル的な取り決めになり得るとして批判した。

数学者テレンス・タオを含む25人のフィールズ賞受賞者が最近発表した共同声明によると、大規模言語モデルが数学の問題を解く能力を急速に向上させていることは、数学という学問そのものに脅威をもたらしている。署名者たちは、AI企業が数学的理解よりも速度やベンチマークテストのスコアを優先し続ければ、数学的知識の伝達と人間の知的探究の基盤を破壊するおそれがあると警告した。 この声明は、数学研究が本質的に目指しているのは、単に正しい答えを得ることではなく、深い構造的理解であると強調している。受賞者たちは、数学的発見がより広範な知識体系の一部となるまでの、検証、議論、簡略化、教育という長い過程が、数学の発展に不可欠だと強調した。AIが生成する解答が急速に普及すれば、人間による理解と世代を超えた知識の継承におけるこの重要な段階が迂回され、数学者の間における知的継承の連鎖が断ち切られる可能性がある。

Beatingによると、Hugging FaceのCEOであるClement Delangue氏は最近、共同創業者のThomas Wolf氏が率いるOpen Alignment Initiativeの設立を発表するとともに、AnthropicのEmbedded Evaluator Programへの参加を申請した。承認されれば、Hugging Faceの評価担当者はAnthropicのオフィスにメンバー相当のアクセス権を持ち、ワークスペース、セキュリティクリアランス、社用コンピューター、社内リスクチームのツールなどを利用できるほか、調査結果を独自に公表する権利も得ることになる。 Anthropicは、AIアラインメント研究への外部からの関与を支援するため、サードパーティの研究者にこうしたアクセス権を付与することを約束している。

MarketWatchによると、SpaceXは9月初旬、社名非公表の企業とAIコンピューティング・パワーに関する契約を締結した。この契約の規模は12月から月額11億ドルとなる見込みで、SpaceXのCFO（最高財務責任者）であるブレット・ジョンセン氏が、木曜日（9月10日）に開催されたゴールドマン・サックスのカンファレンスで明らかにした。 この契約による年間換算収益は約130億ドルに相当し、同社が2026年末までに年間換算収益ランレート1,000億ドルを達成するという目標に一歩近づくことになる。

9月11日にサンフランシスコで終了したゴールドマン・サックスのテクノロジー・カンファレンスで、エヌビディアのCEOであるジェンスン・フアン氏は、2030年までに年間3兆〜4兆ドル規模のグローバルAIインフラ投資機会があると説明し、今後数年間にわたってAIコンピューティングへの堅調な需要が続くとの見方を示した。フアン氏は、AIが検索ベースのコンピューティングから生成型コンピューティングへの根本的な転換を意味すると強調し、AIデータセンターをインテリジェンスを生産する「AI工場」と表現した。スペースXの財務責任者ブレット・ジョンセン氏は、同社のコンピューティング容量が2026年の終了時までに2GWを超え、2027年の終了時までに5GW〜10GWに達すると予測し、統合型AIインフラプラットフォームとしての地位を確立すると述べた。

9月12日土曜日、AnthropicのCEOであるDario Amodei氏は、サードパーティによる評価を含む新たな安全対策を提案し、最先端AIモデルの開発について業界全体に減速を求めるブログ投稿を公開した。OpenAIのCEOであるSam Altman氏は、独立評価者に従業員と同等のアクセス権を与えるというAmodei氏の提案を支持した。xAIを運営するElon Musk氏も支持を表明し、Amodei氏の指摘は正しいと述べた。

Odailyによると、OpenAIのCEOであるSam Altman氏は、同社は今年IPOを目指しておらず、上場計画を早くても2027年まで延期すると発表した。Altman氏は、主な理由として現在のAI安全性をめぐる状況を挙げ、同社には株式公開を急ぐ必要はなく、AIの安全性とアライメントに関する課題の解決に引き続き注力していると述べた。

9月13日、ECB総裁のクリスティーヌ・ラガルド氏は、人工知能分野の資産評価は非常に高く、同分野は調整局面を迎える可能性があるものの、その時期は依然として不透明だと述べた。ラガルド氏はまた、根強いインフレ圧力が続く中でも欧州経済は底堅さを示しており、市場のボラティリティーとエネルギー価格の上昇圧力は今後も続くと予想されると強調した。さらに、2027年にECB総裁を退任する計画を発表した。