IBM + @RedHat 刚刚推出了 Red Hat AI 推理 + OpenShift 虚拟化 GA 在 @IBMcloud 上
对企业来说意义重大。
高性能、受控的大规模语言模型服务 + 能够在 OpenShift 上同时运行虚拟机 + 容器。真正的混合云现代化 + 一体化的 AI 平台。
随着团队将自主和编码代理用例推向生产,这突显了生态系统仍需弥补的一个有趣差距:在推理层面上为开发者量身定制、友好的护栏和可验证的审计。
总体而言,这是一个强有力的举措,使自托管推理变得更加实用。
好奇看到安全和可观察性供应商如何在此基础上构建。
$DAG $AIAI