Huawei merilis solusi lengkap infrastruktur data AI DC

robot
Pembuatan abstrak sedang berlangsung
Berita dari Mars Finance 22 Mei, Huawei secara resmi merilis solusi infrastruktur data AI DC lengkap, penyimpanan distribusi flash penuh OceanStor Pacific dengan kapasitas tinggi 11PB/2U yang memimpin industri, mencapai TCO optimal untuk penyimpanan data dalam jumlah besar. Untuk skenario klaster inferensi skala besar, Huawei meluncurkan CMS (Context Memory Storage), penyimpanan memori konteks yang mendukung heterogenitas komputasi pertama di industri, mendukung langsung semantik KV atau menggunakan DPU khusus untuk pemuatan semantik, dapat diperluas menjadi kolam Cache KV berbagi PB, mengurangi latensi token pertama inferensi sebesar 90%. Untuk skenario inferensi AI perusahaan, Huawei menciptakan platform data AI "3+1" pertama di industri, mengintegrasikan basis pengetahuan dengan akurasi pencarian lebih dari 95%, akselerasi Cache KV dan basis memori yang terus berkembang, serta menggunakan teknologi UCM untuk penjadwalan dan pengelolaan, meningkatkan akurasi inferensi sebesar 30%. (Pengamatan sudut lebar)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 12
  • 1
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
ColdBrewYield
· 5jam yang lalu
Huawei kali ini dengan solusi full-stack, menghubungkan konteks penyimpanan dan komputasi, penggantian domestik semakin maju
Lihat AsliBalas0
GateUser-8ca669fd
· 5jam yang lalu
Platform 3+1 dengan akurasi pencarian 95%, penerapan perusahaan seharusnya bisa mengurangi banyak jebakan
Lihat AsliBalas0
YieldYeti
· 6jam yang lalu
Cache KV berbagi pooling, efisiensi inferensi multi-kartu bisa meningkat secara signifikan, kan?
Lihat AsliBalas0
PineNeedlesAndColdWind
· 6jam yang lalu
DPU lepas KV semantic, optimisasi tingkat perangkat keras, penggemar detail sangat senang
Lihat AsliBalas0
MevTeaTime
· 6jam yang lalu
Peningkatan akurasi penalaran perusahaan sebesar 30%, ROI implementasinya dapat dihitung.
Lihat AsliBalas0
OldKeyboardTraitor
· 6jam yang lalu
Poin evolusi basis pengetahuan ini terasa seperti sedang membangun memori jangka panjang.
Lihat AsliBalas0
0xSideQuest
· 6jam yang lalu
Menunggu contoh penerapan nyata, parameter teknisnya bagus, namun rekayasa adalah tantangan utama
Lihat AsliBalas0
NekoOnCall
· 6jam yang lalu
OceanStor Pacific nama ini terdengar hebat, semua flash + terdistribusi, monster kinerja
Lihat AsliBalas0
NeonVortexTunnel
· 6jam yang lalu
Pengelolaan konteks untuk klaster berskala sangat besar selalu menjadi masalah utama, CMS dianggap sebagai solusi yang spesifik
Lihat AsliBalas0
Frost-ColoredCubeCity
· 6jam yang lalu
Dari pelatihan hingga inferensi, cakupan seluruh rantai, ambisi infrastruktur AI Huawei tidak kecil
Lihat AsliBalas0
Lihat Lebih Banyak
  • Disematkan