币界网の報道によると、Googleが最近リリースしたGemma 4技術報告書では、極めてシンプルなアーキテクチャで大規模モデルをスマートフォンやエッジデバイス上でより高速に動作させ、メモリを節約する方法が示されています。Gemma 4 12Bモデルは初めて、視覚と音声の二重モーダルにおける「エンコーダーレス」の極めてシンプルな統合を実現し、視覚翻訳器を直接93%削減、音声翻訳器を完全に排除し、「外部翻訳器」によるVRAMの無駄を解決しました。さらに、このモデルは長文テキストを処理する際にグローバルアテンションの再利用により、メモリ使用量を37.5%削減します。その軽量エッジバージョンの予測アクセラレータは、辞書範囲を26万から4096に削減し、デコード速度を大幅に向上させました。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 5
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
MultisigOnRocks
· 3時間前
エンコーダーレスアーキテクチャが本当にうまくいけば、今後小規模モデルでもローカルでマルチモーダルを楽しめるようになる。
原文表示返信0
AirdropTaxPanic
· 7時間前
グーグルの今回のエッジ最適化は、スマートフォンAIへの道を開くものであり、アップルにプレッシャーがかかってきた。
原文表示返信0
DepegDaydream
· 7時間前
4096語彙表のデコード速度向上は面白いですが、多言語カバレッジを犠牲にするのではないでしょうか?
原文表示返信0
GateUser-f78f1f3e
· 7時間前
視覚翻訳機の93%を削除し、オーディオエンコーダーも不要にするなんて、このダイエット効果は私よりもすごい。
原文表示返信0
LimitOrderMonk
· 7時間前
グローバルアテンションの再利用により37.5%のVRAMを節約、長文テキストでついにメモリ不足にならなくなった。
原文表示返信0
  • ピン留め