Laplace Intelligence 构建用于机器人安全测试的 AI 红队测试体系
Laplace Intelligence 是一家总部位于安娜堡的初创公司,由密歇根大学研究人员 Howie Sun(首席执行官)和 Henry Liu(首席科学家)于一年前创立,正在为机器人和物理 AI 构建自动化红队测试系统。该公司是参加 TechCrunch Disrupt Startup Battlefield 的 20 家初创公司之一,将于 10 月 13 日星期一下午进行展示。Sun 和 Liu 开发这项技术旨在解决物理 AI 部署中的安全问题,并以 OpenAI-Hugging Face 泄露事件等事故为例,说明 AI 存在不可预测性。这家初创公司希望通过 AI 驱动的压力测试,帮助企业在部署前发现并修复问题;该测试会在模拟环境中故意尝试让系统失效。Laplace 的方法采用根据现实世界重建的高保真模拟,并配合探测弱点的 AI Agent,从而确保物理 AI 系统在投入现实世界部署前是安全的。 Laplace Intelligence 源于密歇根大学的研究 Sun 曾在学术界工作 8 年,研究如何在模拟环境中挑战自动驾驶 AI。2023 年,Sun 和 Liu 发表了一篇有
NVDA0.33%
Gate AI 视野·7 分钟前
