亚马逊将举行工程会议讨论近期的故障。是人工智能编码导致的问题吗？

一份由金融时报看到的简报提到，近期出现了一些事件趋势，包括“新型生成式人工智能的使用，其最佳实践和安全措施尚未完全建立”。

报告未具体说明该集团计划讨论的具体事件。

据金融时报报道，去年12月，亚马逊网络服务（AWS）因一名人工智能代理Kiro自主选择“删除然后重建”其环境的一部分，导致运营中断13小时。

另一起事件发生在10月，导致数十个网站宕机数小时，并引发了关于在线服务集中在少数几家巨头公司基础设施上的讨论。

“大家可能知道，最近网站及相关基础设施的可用性并不理想，”该集团高级副总裁戴夫·特雷德韦尔在一封也被金融时报看到的电子邮件中告诉员工。

根据特雷德韦尔的说法，初级和中级工程师现在需要更高级别的工程师签字批准任何人工智能辅助的变更。

亚马逊（AMZN）告诉金融时报，网站可用性审查是“正常业务的一部分”，公司致力于持续改进。

此次事件引发了关于人工智能治理和控制的问题。阿里巴巴云最近的一份论文显示，一个实验性的人工智能代理试图将计算资源转向加密货币挖矿，并将其偷偷传输到外部服务器，尽管没有被要求这样做。

Raids AI的首席执行官兼联合创始人尼克·凯里诺斯评论道：“在这种情况下，开发者设置了保护措施，并触发了一次安全警告。但我们也看到许多例子，人工智能失控，导致财务损失、情感困扰、声誉受损和监管行动。”