22:43
0
桥水的格雷格·詹森警告称,AI可能在监管机构采取行动之前杀人。
据桥水基金联合首席投资官格雷格·詹森表示,在灾难性事件发生之前,政府不太可能对人工智能进行监管。詹森在9 月 11 日发表讲话时说:“不幸的是,除非人工智能开始杀人,否则历史表明我们不会采取任何行动,”并将这一情况与新冠疫情初期阶段进行了比较。 这一警告呼应了本周早些时候Anthropic研究人员提出的担忧,包括雅各布·考克森和埃文·胡宾格,他们估计人工智能在未来十年内导致人类灭绝的概率超过10%。考克森因这些风险从Anthropic辞职。与此同时,包括众议员洛里·特拉汉和参议员特德·克鲁兹在内的美国议员于9 月 9 日至 10 日呼吁建立立法框架,要求人工智能透明化,并针对高风险模型建立紧急暂停机制。
展开