Beberapa ratus kartu sudah cukup untuk menahan lalu lintas pengunjung. Jika teknologi optimasi ini open source, berapa banyak anggaran daya komputasi yang bisa dihemat oleh pabrik kecil dan menengah?

Lihat Asli
CoinNetwork
币界网消息,OpenAI最近找到了一套优化方案,能够将模型推理成本削减一半以上。根据一位知情人士透露,OpenAI工程师在本月早些时候向部分同事表示,依托几项全新研发的优化技术,他们成功将所需的英伟达图形处理器(GPU)数量压至仅数百个,特别是在没有免费或付费账户的访客使用ChatGPT的场景中应用该技术后。
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan