OpenAI meluncurkan Decisions API untuk semua pengguna, mengurangi latensi inferensi menjadi 100–180 milidetik
Menurut TechCrunch, OpenAI pada Kamis membuka akses Decisions API untuk semua pelanggan, memasuki pasar model pengambilan keputusan yang didominasi Jev dari TypeSafe. API ini memangkas latensi inferensi dari satu hingga tiga detik menjadi 100–180 milidetik, sehingga memungkinkan pengambilan keputusan yang lebih cepat untuk aplikasi seperti klasifikasi dan perutean. Dalam uji coba awal yang melibatkan pelanggan seperti Box, Datadog, Ramp, dan Speak, Decisions API menggantikan model bahasa yang le
GateNews·10-22 19:31
