OpenAI前CTO新会社が初のモデル「Inkling」をオープンソース、アーキテクチャはDeepSeek-V3を参考にしている

robot
概要作成中

ビート(Beating)のモニタリングによると、OpenAIの前CTOであるMira Muratiが創業したThinking Machines Labは、最初の汎用モデルであるInklingを発表した。モデルの総パラメータ数は9750億、1回のアクティベーションは410億で、テキスト・画像・音声に対応し、最大のコンテキスト長は100万token。

Inklingはゼロから学習しているが、MoEアーキテクチャは主にDeepSeek-V3を参照している。後学習の初期には、Kimi K2.5などのオープンモデルが生成したデータも使用した。完全な重みはHugging Faceに公開され、Apache 2.0ライセンスを採用している。

Thinking Machinesは、Inklingが現時点で最強のモデルではないことを明確に認めている。狙いはカスタマイズと効率だ。Terminal Bench 2.1で同等の成績を出す際に使うtokenは、NVIDIA Nemotron 3 Ultraの約3分の1だ。

NVDA0.33%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め