著者：Climber，CryptoPulse Labs
7月16日、月之暗面は新世代のオープンソースモデルKimi K3を正式にリリースしました。モデルは2.8兆（2.8万億）パラメータ、100万トークンのコンテキストウィンドウを備え、視覚理解をネイティブにサポートし、Kimi Delta AttentionやAttention Residualsなどの技術を採用しています。
これは世界初の3兆級オープンソースモデルであり、Kimi K3の総合性能は依然としてClaude Fable 5やGPT-5.6 Solなどの最強クローズドモデルに劣るものの、複数の評価で最先端の水準を示し、月之暗面はその総合性能が他のテストモデルより安定していると述べています。
さらに注目すべき点は、Kimi K3が独自に1つのチップ設計まで完了したことです。大規模言語モデルが、AIの稼働に必要なハードウェアの設計にまで挑み始めた——それは2.8兆パラメータそのもの以上に注目に値するのかもしれません。
過去数年、大規模モデル業界で最も理解しやすい指標はパラメータ数です。数十億から千億、そして万億へと、パラメータ規模はほぼモデル能力を測る重要な象徴になってきました。
しかし、モデルが2.8兆パラメータ規模に達すると、問題は「モデルはどれくらい大きいか」ではなくなります。つまり、これほど巨大なモデルをどうやって訓練するのか？ 各タスクでは結局どれだけのパラメータが計算に参加するのか？ より強い能力を持たせつつ、運用コストはどう抑えるのか？
Kimi K3が出した答えは、さらに拡張されたスパース化（疎な活性化）アーキテクチャです。
月之暗面によれば、Kimi K3はMixture of Experts（混合専門家）つまりモアイ専門家アーキテクチャを採用しています。モデルには896の専門家モジュールがありますが、各タスクで有効化されるのはそのうち16の専門家だけです。
これは、モデルが巨大な知識容量を持てる一方で、毎回すべてのパラメータを呼び出す必要がないことを意味します。たとえば、896の専門部署を持つ超巨大組織が、問題の種類に応じて最も関連する16部署だけを動かすようなものです。
このアーキテクチャの核心的な価値は、モデル全体の規模と、1回の計算コストを切り離せることにあります。
今後、大規模モデルの競争は「より多くのパラメータを持つ者」ではなく、「より低コストでより多くのパラメータを効果的に活用できる者」へと移っていくかもしれません。
Kimi K3のもう一つのコアイノベーションはKimi Delta Attention（KDA）です。従来のTransformerアーキテクチャは超長文を扱う際、計算量とメモリ負荷が明確に増えます。KDAの目的は、モデルが長いシーケンス情報を扱う効率を高めることです。
同時に、Kimi K3はAttention Residuals（注意の残差）という仕組みも導入しています。従来のモデルは通常、層ごとに段階的に情報を伝達し、情報が後段の層へ蓄積されていく一方で、冗長性や減衰が起こりうます。
Attention Residualsは、異なる深さをまたいで、より早い段階の情報を選択的に呼び出すことで、そうした状況を狙い打ちします。
従来のモデルの情報の流れが「起点から終点へ一直線に流れる川」だとすれば、Attention Residualsは「道中に情報検索システムを構築する」ようなもので、モデルはタスクに応じて異なる深さの情報を呼び戻せます。
月之暗面によると、Kimi K2と比べてKimi K3は全体の拡張効率を約2.5倍向上させたとのことです。
これは、AI業界が「規模が大きいほど強い」という発想から、「より大きな規模をより高い効率へ変換するにはどうするか」へと移っていることを示しています。
Kimi K3の意義は、2.8兆パラメータのモデルを出すことだけではなく、オープンソースモデルの規模上限をさらに押し上げることにもあります。
これまで、オープンソースモデルはしばしばクローズドモデルの追随者と見なされてきました。しかし今、オープンソースモデルは次のことを証明し始めています。超巨大規模のモデルも公開でき、研究でき、二次開発も可能なのだと。
もし2.8兆パラメータがKimi K3の最も広まりやすいラベルだとすれば、本当のプロダクトの方向性は実は「長期タスク」です。
過去のAIアシスタントは、多くの場合、質問への回答でした。ユーザーが質問する→モデルが答える。コードを書かせればコードを返す。記事を要約させれば要約を生成する。
しかし現実の複雑な仕事は、往々にして一度の質疑応答だけでは完了しません。
研究者なら、論文を読み、データを整理し、モデルを構築し、実験を実行し、結果を分析してからレポートを書きます。プログラマなら、大量のファイルを読み、プロジェクト構造を理解し、コードを修正してテストを実行し、エラーを特定してから何度も反復します。
これらのタスクには共通点があります。周期が長い、ステップが多い、情報量が大きい。そして中間結果を踏まえて次の行動を絶えず調整する必要がある——これこそKimi K3が解こうとしている問題です。
月之暗面が示した事例では、Kimi K3は天体物理学の計算研究タスクを完了しました。20本以上の論文を読み、相互に検証し、数値計算を行って、数百の状態方程式の評価を実施し、既発表の式に不一致があることを見つけ、さらに3000行以上のPythonコードとインタラクティブなHTMLダッシュボードを生成しました。
公式には、このタスクの所要時間は約2時間で、従来なら経験豊富な研究者が1〜2週間かかる可能性があるとされています。
これは、AIが研究者をすでに置き換えられるという意味ではありません。研究活動で最も重要なのは、多くの場合「問いを立てること」「仮説を判断すること」「結果を解釈すること」です。
ただしKimi K3が示したのは、大きな変化です。AIが、人間のあるステップを手伝うところから、やがて一連のワークフロー全体を自律的に完遂する方向へと移っている——これがAgent時代と従来のチャットボット時代の違いです。
従来のチャットボットは、あなたが何を尋ねるかに対して、私が何を答えるかを扱います。一方Agentは、あなたが目標を伝えると、私がタスクを分解し、ツールを呼び出し、手順を実行し、結果を確認し、さらに修正を続けます。
Kimi K3の100万Tokenのコンテキストウィンドウは、この過程で重要な意味を持ちます。
大規模なコードリポジトリ、研究レポート、企業資料、複雑なプロジェクト文書に対して、モデルが一度により多くの情報を理解できるということは、頻繁にコンテキストを忘れる必要がなく、ユーザーが背景を繰り返し説明する必要も減ることを意味します。
またKimi K3は視覚理解をネイティブにサポートするため、AIがより完成度の高いクローズドループを形成できます。
例えばAIがコードを書いた後にWebでの実行結果を確認でき、AIがPPTを作成した後にページのレイアウトをチェックでき、AIがコンテンツを生成した後も視覚的なフィードバックで結果を判断できます。
過去のAIは、目を閉じてコードを書くようなものでしたが、未来のAIは、タスクを理解し、結果を生成し、結果を観察し、問題を発見し、結果を修正できるようになるかもしれません。
月之暗面はさらにKimiの能力を、Kimi Work、Kimi Code、Kimi APIなどのシーンへ拡張し、それぞれ研究、ドキュメント、スライド、表、ダッシュボード、複雑なプログラミングタスクに対応します。
今後、本当に商業価値のあるAIは、「質問への回答が最も多いモデル」ではなく、「最も多くの仕事を完遂できるモデル」かもしれません。
従来のソフトウェアは、ユーザーが複雑な操作手順を学ぶ必要がありました。AI Agentの目的は、検索、データベース、プログラミング、データ分析、業務ツールをつなぎ、ユーザーは最終目標を説明するだけでよい状態にすることです。
つまり今後のソフトウェア業界の競争は、「より多くのツールを持っているか」ではなく、「より強いAI実行システムを持っているか」へと変わる可能性があります。
Kimi K3の最も衝撃的な部分は、それがチップ設計を自律的に完了したことにあります。
月之暗面が明らかにした情報によれば、Kimi K3は48時間の自律運転の中で、オープンソースEDAツールとNangate 45nmのプロセスライブラリを使用し、自身のアーキテクチャに向けた小型モデルのためのチップ設計、最適化、検証を完了しました。
ただし、Kimi K3がすでに現代の先進的AIチップの商用量産を単独でできるようになったという意味ではありません。45nmプロセスは、現在最先端のAIアクセラレータとの差が大きく、チップの設計から量産までには、複雑なIP、プロセス、製造、パッケージング、サプライチェーン体系などが関わります。
しかし、この試みにはそれでも重要な意義があります。チップ設計は単にコードを書くことではなく、ロジック設計、論理合成、レイアウト配線、タイミング解析、消費電力の最適化、そして物理検証など、複数の工程を扱う必要があるからです。
これまでAIは、チップ業界では主にエンジニアの局所的な作業を補助する存在でした。例えばレイアウトの最適化、タイミングの予測、設計上の欠陥の発見などです。
一方でKimi K3が示したのは、別の可能性です。AIが単にツールを使うだけではなく、自律的にツールを組み立てて完成されたエンジニアリング手順を遂行し始めた、ということです。
これは、AIがコードを書くようになっていく発展経路と非常によく似ています。初期のAIは小さなコード断片しか生成できませんでした。やがて完全なプログラムを書けるようになり、さらにコードベースを読み、テストを実行し、Bugを修正できるようになりました。現在、AIはAIを動かすために必要なハードウェアの設計に挑み始めています。
これは、新たなAIの自己強化ループを生む可能性があります。AIがより強いチップを設計し、より強いチップがより強いモデルの訓練を可能にし、より強いモデルが次世代チップの設計をさらに助ける——という循環です。
さらに重要なのは、Kimi K3が自律的にGPUのプログラミングシステムを開発する能力も示したことです。
月之暗面によれば、Kimi K3はMiniTritonを開発しました。これはTritonに似たコンパクトなコンパイラシステムで、自前の中間表現層、最適化プロセス、PTXコード生成プロセスを含みます。
これは、AIの能力の境界が「ソフトウェアを使う」段階から「ソフトウェアのツールを作り出す」段階へとさらに広がっていることを示しています。
今後は、モデルそのものがチップ最適化、コンパイラ開発、オペレータ適応、システムチューニングに直接関与する可能性があります。これはKimi K3が持つ最も重要な戦略的価値かもしれません。
それは単なるモデル製品ではなく、AI-nativeな開発方式を探っているということです。モデルからコンパイラへ、アルゴリズムからチップへ、データからアプリケーションへ——AIは次第に基盤インフラの一部になっていきます。
もちろん、AIが自律設計するチップは厳密な検証が必要であり、AIが生成した研究成果も専門家による審査が欠かせません。AIが複雑なタスクを自律実行する際に誤りが起きる可能性も同様にあります。
しかしKimi K3は重要なシグナルをすでに放っています。それは、AIが「作られる対象」から、次世代AIの「創造に関わる主体」へと徐々に変わりつつあるということです。
Kimi K3のリリースは、表面的にはモデルのアップグレードですが、その実は大規模モデル競争のロジックに変化が起きていることを意味します。
より大きなパラメータ規模へ、より効率的なアーキテクチャへ。質問に答えるところから複雑な仕事を完遂するへ、さらに自律的にコンパイラを開発しチップを設計するへ——AIは次第に次世代AIの創造に関わり始めています。
2.8兆パラメータは、たぶん単なる数字に過ぎないのでしょう。本当に注目すべきは、AIが自分自身の未来を設計しようとし始めたことです。
1.34M 人気度
713.99K 人気度
72.31K 人気度
233.76K 人気度
967.31K 人気度
2.8兆パラメータはまだ始まりにすぎない：Kimi K3が大規模言語モデル競争を「AIでAIを作る」へと導いている
著者：Climber，CryptoPulse Labs
7月16日、月之暗面は新世代のオープンソースモデルKimi K3を正式にリリースしました。モデルは2.8兆（2.8万億）パラメータ、100万トークンのコンテキストウィンドウを備え、視覚理解をネイティブにサポートし、Kimi Delta AttentionやAttention Residualsなどの技術を採用しています。
これは世界初の3兆級オープンソースモデルであり、Kimi K3の総合性能は依然としてClaude Fable 5やGPT-5.6 Solなどの最強クローズドモデルに劣るものの、複数の評価で最先端の水準を示し、月之暗面はその総合性能が他のテストモデルより安定していると述べています。
さらに注目すべき点は、Kimi K3が独自に1つのチップ設計まで完了したことです。大規模言語モデルが、AIの稼働に必要なハードウェアの設計にまで挑み始めた——それは2.8兆パラメータそのもの以上に注目に値するのかもしれません。
1. 2.8兆パラメータの裏側：大規模モデル競争は「規模」から「効率」へ
過去数年、大規模モデル業界で最も理解しやすい指標はパラメータ数です。数十億から千億、そして万億へと、パラメータ規模はほぼモデル能力を測る重要な象徴になってきました。
しかし、モデルが2.8兆パラメータ規模に達すると、問題は「モデルはどれくらい大きいか」ではなくなります。つまり、これほど巨大なモデルをどうやって訓練するのか？ 各タスクでは結局どれだけのパラメータが計算に参加するのか？ より強い能力を持たせつつ、運用コストはどう抑えるのか？
Kimi K3が出した答えは、さらに拡張されたスパース化（疎な活性化）アーキテクチャです。
月之暗面によれば、Kimi K3はMixture of Experts（混合専門家）つまりモアイ専門家アーキテクチャを採用しています。モデルには896の専門家モジュールがありますが、各タスクで有効化されるのはそのうち16の専門家だけです。
これは、モデルが巨大な知識容量を持てる一方で、毎回すべてのパラメータを呼び出す必要がないことを意味します。たとえば、896の専門部署を持つ超巨大組織が、問題の種類に応じて最も関連する16部署だけを動かすようなものです。
このアーキテクチャの核心的な価値は、モデル全体の規模と、1回の計算コストを切り離せることにあります。
今後、大規模モデルの競争は「より多くのパラメータを持つ者」ではなく、「より低コストでより多くのパラメータを効果的に活用できる者」へと移っていくかもしれません。
Kimi K3のもう一つのコアイノベーションはKimi Delta Attention（KDA）です。従来のTransformerアーキテクチャは超長文を扱う際、計算量とメモリ負荷が明確に増えます。KDAの目的は、モデルが長いシーケンス情報を扱う効率を高めることです。
同時に、Kimi K3はAttention Residuals（注意の残差）という仕組みも導入しています。従来のモデルは通常、層ごとに段階的に情報を伝達し、情報が後段の層へ蓄積されていく一方で、冗長性や減衰が起こりうます。
Attention Residualsは、異なる深さをまたいで、より早い段階の情報を選択的に呼び出すことで、そうした状況を狙い打ちします。
従来のモデルの情報の流れが「起点から終点へ一直線に流れる川」だとすれば、Attention Residualsは「道中に情報検索システムを構築する」ようなもので、モデルはタスクに応じて異なる深さの情報を呼び戻せます。
月之暗面によると、Kimi K2と比べてKimi K3は全体の拡張効率を約2.5倍向上させたとのことです。
これは、AI業界が「規模が大きいほど強い」という発想から、「より大きな規模をより高い効率へ変換するにはどうするか」へと移っていることを示しています。
Kimi K3の意義は、2.8兆パラメータのモデルを出すことだけではなく、オープンソースモデルの規模上限をさらに押し上げることにもあります。
これまで、オープンソースモデルはしばしばクローズドモデルの追随者と見なされてきました。しかし今、オープンソースモデルは次のことを証明し始めています。超巨大規模のモデルも公開でき、研究でき、二次開発も可能なのだと。
2. チャットボットからデジタル社員へ：Kimi K3が狙うのは複雑な仕事
もし2.8兆パラメータがKimi K3の最も広まりやすいラベルだとすれば、本当のプロダクトの方向性は実は「長期タスク」です。
過去のAIアシスタントは、多くの場合、質問への回答でした。ユーザーが質問する→モデルが答える。コードを書かせればコードを返す。記事を要約させれば要約を生成する。
しかし現実の複雑な仕事は、往々にして一度の質疑応答だけでは完了しません。
研究者なら、論文を読み、データを整理し、モデルを構築し、実験を実行し、結果を分析してからレポートを書きます。プログラマなら、大量のファイルを読み、プロジェクト構造を理解し、コードを修正してテストを実行し、エラーを特定してから何度も反復します。
これらのタスクには共通点があります。周期が長い、ステップが多い、情報量が大きい。そして中間結果を踏まえて次の行動を絶えず調整する必要がある——これこそKimi K3が解こうとしている問題です。
月之暗面が示した事例では、Kimi K3は天体物理学の計算研究タスクを完了しました。20本以上の論文を読み、相互に検証し、数値計算を行って、数百の状態方程式の評価を実施し、既発表の式に不一致があることを見つけ、さらに3000行以上のPythonコードとインタラクティブなHTMLダッシュボードを生成しました。
公式には、このタスクの所要時間は約2時間で、従来なら経験豊富な研究者が1〜2週間かかる可能性があるとされています。
これは、AIが研究者をすでに置き換えられるという意味ではありません。研究活動で最も重要なのは、多くの場合「問いを立てること」「仮説を判断すること」「結果を解釈すること」です。
ただしKimi K3が示したのは、大きな変化です。AIが、人間のあるステップを手伝うところから、やがて一連のワークフロー全体を自律的に完遂する方向へと移っている——これがAgent時代と従来のチャットボット時代の違いです。
従来のチャットボットは、あなたが何を尋ねるかに対して、私が何を答えるかを扱います。一方Agentは、あなたが目標を伝えると、私がタスクを分解し、ツールを呼び出し、手順を実行し、結果を確認し、さらに修正を続けます。
Kimi K3の100万Tokenのコンテキストウィンドウは、この過程で重要な意味を持ちます。
大規模なコードリポジトリ、研究レポート、企業資料、複雑なプロジェクト文書に対して、モデルが一度により多くの情報を理解できるということは、頻繁にコンテキストを忘れる必要がなく、ユーザーが背景を繰り返し説明する必要も減ることを意味します。
またKimi K3は視覚理解をネイティブにサポートするため、AIがより完成度の高いクローズドループを形成できます。
例えばAIがコードを書いた後にWebでの実行結果を確認でき、AIがPPTを作成した後にページのレイアウトをチェックでき、AIがコンテンツを生成した後も視覚的なフィードバックで結果を判断できます。
過去のAIは、目を閉じてコードを書くようなものでしたが、未来のAIは、タスクを理解し、結果を生成し、結果を観察し、問題を発見し、結果を修正できるようになるかもしれません。
月之暗面はさらにKimiの能力を、Kimi Work、Kimi Code、Kimi APIなどのシーンへ拡張し、それぞれ研究、ドキュメント、スライド、表、ダッシュボード、複雑なプログラミングタスクに対応します。
今後、本当に商業価値のあるAIは、「質問への回答が最も多いモデル」ではなく、「最も多くの仕事を完遂できるモデル」かもしれません。
従来のソフトウェアは、ユーザーが複雑な操作手順を学ぶ必要がありました。AI Agentの目的は、検索、データベース、プログラミング、データ分析、業務ツールをつなぎ、ユーザーは最終目標を説明するだけでよい状態にすることです。
つまり今後のソフトウェア業界の競争は、「より多くのツールを持っているか」ではなく、「より強いAI実行システムを持っているか」へと変わる可能性があります。
3. 最も注目すべきはモデルではなく、AIがチップ設計を始めたこと
Kimi K3の最も衝撃的な部分は、それがチップ設計を自律的に完了したことにあります。
月之暗面が明らかにした情報によれば、Kimi K3は48時間の自律運転の中で、オープンソースEDAツールとNangate 45nmのプロセスライブラリを使用し、自身のアーキテクチャに向けた小型モデルのためのチップ設計、最適化、検証を完了しました。
ただし、Kimi K3がすでに現代の先進的AIチップの商用量産を単独でできるようになったという意味ではありません。45nmプロセスは、現在最先端のAIアクセラレータとの差が大きく、チップの設計から量産までには、複雑なIP、プロセス、製造、パッケージング、サプライチェーン体系などが関わります。
しかし、この試みにはそれでも重要な意義があります。チップ設計は単にコードを書くことではなく、ロジック設計、論理合成、レイアウト配線、タイミング解析、消費電力の最適化、そして物理検証など、複数の工程を扱う必要があるからです。
これまでAIは、チップ業界では主にエンジニアの局所的な作業を補助する存在でした。例えばレイアウトの最適化、タイミングの予測、設計上の欠陥の発見などです。
一方でKimi K3が示したのは、別の可能性です。AIが単にツールを使うだけではなく、自律的にツールを組み立てて完成されたエンジニアリング手順を遂行し始めた、ということです。
これは、AIがコードを書くようになっていく発展経路と非常によく似ています。初期のAIは小さなコード断片しか生成できませんでした。やがて完全なプログラムを書けるようになり、さらにコードベースを読み、テストを実行し、Bugを修正できるようになりました。現在、AIはAIを動かすために必要なハードウェアの設計に挑み始めています。
これは、新たなAIの自己強化ループを生む可能性があります。AIがより強いチップを設計し、より強いチップがより強いモデルの訓練を可能にし、より強いモデルが次世代チップの設計をさらに助ける——という循環です。
さらに重要なのは、Kimi K3が自律的にGPUのプログラミングシステムを開発する能力も示したことです。
月之暗面によれば、Kimi K3はMiniTritonを開発しました。これはTritonに似たコンパクトなコンパイラシステムで、自前の中間表現層、最適化プロセス、PTXコード生成プロセスを含みます。
これは、AIの能力の境界が「ソフトウェアを使う」段階から「ソフトウェアのツールを作り出す」段階へとさらに広がっていることを示しています。
今後は、モデルそのものがチップ最適化、コンパイラ開発、オペレータ適応、システムチューニングに直接関与する可能性があります。これはKimi K3が持つ最も重要な戦略的価値かもしれません。
それは単なるモデル製品ではなく、AI-nativeな開発方式を探っているということです。モデルからコンパイラへ、アルゴリズムからチップへ、データからアプリケーションへ——AIは次第に基盤インフラの一部になっていきます。
もちろん、AIが自律設計するチップは厳密な検証が必要であり、AIが生成した研究成果も専門家による審査が欠かせません。AIが複雑なタスクを自律実行する際に誤りが起きる可能性も同様にあります。
しかしKimi K3は重要なシグナルをすでに放っています。それは、AIが「作られる対象」から、次世代AIの「創造に関わる主体」へと徐々に変わりつつあるということです。
結語
Kimi K3のリリースは、表面的にはモデルのアップグレードですが、その実は大規模モデル競争のロジックに変化が起きていることを意味します。
より大きなパラメータ規模へ、より効率的なアーキテクチャへ。質問に答えるところから複雑な仕事を完遂するへ、さらに自律的にコンパイラを開発しチップを設計するへ——AIは次第に次世代AIの創造に関わり始めています。
2.8兆パラメータは、たぶん単なる数字に過ぎないのでしょう。本当に注目すべきは、AIが自分自身の未来を設計しようとし始めたことです。