幾百張卡就能扛住訪客流量，這優化技術要是開源，中小廠能省多少算力預算？

幣界網消息，OpenAI最近找到了一套優化方案，能夠將模型推理成本削減一半以上。根據一位知情人士透露，OpenAI工程師在本月早些時候向部分同事表示，依託幾項全新研發的優化技術，他們成功將所需的英偉達圖形處理器（GPU）數量壓至僅數百個，特別是在沒有免費或付費帳戶的訪客使用ChatGPT的場景中應用該技術後。