几百张卡就能扛住访客流量，这优化技术要是开源，中小厂能省多少算力预算？

币界网消息，OpenAI最近找到了一套优化方案，能够将模型推理成本削减一半以上。根据一位知情人士透露，OpenAI工程师在本月早些时候向部分同事表示，依托几项全新研发的优化技术，他们成功将所需的英伟达图形处理器（GPU）数量压至仅数百个，特别是在没有免费或付费账户的访客使用ChatGPT的场景中应用该技术后。