OpenAI lance une nouvelle solution d'optimisation, réduisant de plus de 50 % le coût d'inférence des modèles.

火星财经消息，6月30日，据The Information报道，OpenAI工程师开发出一系列新的模型优化技术，使模型推理成本降低超过50%，并减少了对英伟达GPU的需求。报道称，OpenAI未来可能将部分成本节约用于下调API服务价格，或提高ChatGPT等产品的用户查询额度。

Traduction en français :

Nouvelles de Mars Finance, le 30 juin, selon The Information, les ingénieurs d'OpenAI ont développé une série de nouvelles techniques d'optimisation de modèles, permettant de réduire de plus de 50 % les coûts d'inférence des modèles et de diminuer la dépendance aux GPU de Nvidia. Le rapport indique qu'OpenAI pourrait à l'avenir utiliser une partie des économies de coûts pour réduire le prix des services API ou augmenter les limites de requêtes des utilisateurs pour des produits comme ChatGPT.