Akamai (NASDAQ: AKAM) は、グローバルに分散した AI 推論プラットフォームを構築するために、数千の NVIDIA Blackwell GPU の展開を発表しました。 この取り組みは、Akamai の 4,400 を超える広範なグローバルネットワーク全体で、最適化されたローカライズされた GPU クラスターに推論ワークロードをルーティングすることを目的としています。 これにより、レイテンシを最大 2.5 倍削減し、従来のハイパースケーラーインフラストラクチャと比較して、AI 推論コストを最大 86% 削減する可能性があります。 この動きは、集中型 AI モデルのトレーニングから分散型推論への焦点の移行をサポートし、スケールでの AI 展開における主要な障壁としてのレイテンシに対処しています。
数千のNVIDIA BlackwellチップがAkamaiのエッジAIを支える
Akamai (NASDAQ: AKAM) は、グローバルに分散した AI 推論プラットフォームを構築するために、数千の NVIDIA Blackwell GPU の展開を発表しました。
この取り組みは、Akamai の 4,400 を超える広範なグローバルネットワーク全体で、最適化されたローカライズされた GPU クラスターに推論ワークロードをルーティングすることを目的としています。
これにより、レイテンシを最大 2.5 倍削減し、従来のハイパースケーラーインフラストラクチャと比較して、AI 推論コストを最大 86% 削減する可能性があります。
この動きは、集中型 AI モデルのトレーニングから分散型推論への焦点の移行をサポートし、スケールでの AI 展開における主要な障壁としてのレイテンシに対処しています。