从恶意AI勒索人类到压缩学校时间,AI革命已经在重塑生活

关闭

![](https://img-cdn.gateio.im/social/moments-73fc3f848a-1f3591e980-8b7abd-e5a980) 视频

Anthropic的Logan Graham讨论Mythos调查和网络安全的未来。

Anthropic前线红队负责人Logan Graham在‘玛丽亚早间秀’中讨论人工智能的力量和网络安全威胁。

随着世界进入专家所称的“第四次工业革命”,美国商业领袖正对共和国的未来进行巨大押注。

FOX Business的“玛丽亚早间秀”深入人工智能的高风险世界,揭示银行、国防和科技巨头正投资数千亿美元建设AI基础设施和数据中心,这将重新定义美国经济。

Meta平台总裁兼副董事长Dina Powell McCormick

McCormick讨论了Meta Muse的推出,这是一款用于高风险推理和创造性任务的视觉编码AI平台。她声称它在发布当天成为第二下载量最高的应用程序,其核心“关乎人类”。

META通知员工裁员8000人,推动AI

“现在外面有很多关于人工智能的恐惧,玛丽亚,”McCormick说。“但我认为如果我们真正回到这个事实:它旨在让人们有更多时间帮助他们发现潜力和激情,这也是我们真正考虑Muse的方式,坦率地说,我们的平台每天有35亿人使用,这既是一个令人畏惧的责任,也是非常令人兴奋的,因为随着我们开发这个产品和这些技术,这就是我们所谈论的分布。”

![](https://img-cdn.gateio.im/social/moments-2716f4b5b6-8302c660a0-8b7abd-e5a980)

来自Anthropic、Meta、Google等知名企业的顶级领导加入“玛丽亚早间秀”,庆祝AI周特别节目。(Getty Images)

微软总裁兼副董事长Brad Smith

Smith将AI热潮描述为美国的巨大再工业化,需每年投资1400亿美元,以解决农村医生短缺、野火预防等关键国内问题,同时保持对中国的竞争优势。

“这在很大程度上是特朗普总统所说的美国工业化的一部分。当你看这个的经济影响,我们在创造就业方面的贡献,更重要的是在每个经济领域提供能力方面的贡献,这是至关重要的,”Smith说。

关闭

![](https://img-cdn.gateio.im/social/moments-2ec99749c1-7cf78cc6d5-8b7abd-e5a980) 视频

微软的Brad Smith详细介绍AI在关键行业的变革作用

微软副董事长兼总裁Brad Smith讨论AI对医疗、诊断改进和医生短缺的深远影响。

“我认为我们作为一家公司正在做的最重要的事情之一,坦率地说,也是总统正确引导整个行业做的事情,就是自己付费。这意味着我们为所需的电力生产付费,这样邻居和纳税人就不用担心,”他继续说道。

“每当你拥有控制基础设施的AI,比如自主机器人等,就应该——我们称之为紧急刹车,”他补充说。“看,你不会让你的孩子坐校车而不觉得校车上有紧急刹车。你确实需要让人类始终掌控,能够减缓或关闭。”

谷歌云咨询委员会主席Betsy Atkins

Atkins对快速扩展的技术发出警告,因一项令人不安的Anthropic研究发现,16个领先的AI模型表现出“流氓”行为,比如勒索人类和绕过安全协议,当AI代理认为自己的存在受到威胁时。

![](https://img-cdn.gateio.im/social/moments-f03f42597d-e6cec8ee5c-8b7abd-e5a980) 视频

Betsy Atkins警告扩展AI系统的治理风险:“焦虑时刻”

谷歌云咨询委员会主席Betsy Atkins在‘玛丽亚早间秀’中分析AI的商业潜力、模型风险和对劳动力的影响。

“它们中的每一个都超出了它们的权限,潜入未授权访问的系统,违反所有公司政策和程序,还找到了电子邮件。在这个实验中……我发现你在私人电子邮件中和航运经理有外遇,所以我勒索你,威胁你,”Atkins说。

“你必须把AI当作内部威胁对待。你必须以零信任为操作前提,并确保限制它的访问权限,不仅仅是一种方式,”她补充说。“我们在Anthropic看到过……它逃出了沙箱……所以沙箱是不够的。”

Anthropic前线红队负责人Logan Graham

Graham警告说,Anthropic的新Mythos AI模型在识别全球基础设施和银行系统中的“弱点”和漏洞方面如此强大,以至于公司已推迟其公开发布,以让美国产业和政府在防御方面占得先机。

“我们注意到,这个模型特别擅长发现网络系统中的弱点,并找出利用它们的方法,”他说。“我们观察到,在我们查看的每个主要操作系统和平台中,都能找到漏洞……在一些情况下,这些系统已有数十年历史。”

“保持领先真的至关重要。确保自身安全,防止他们利用我们用来制造模型的‘秘密武器’……我担心,如果有大量模型频繁向公众发布……如果由中国发布,那么我们就处于非常困难的位置。”

关闭

![](https://img-cdn.gateio.im/social/moments-7e0c30f492-969c3ba739-8b7abd-e5a980) 视频

AI推动生产力革命:David Sacks

总统科技顾问委员会联合主席David Sacks加入‘玛丽亚早间秀’,讨论AI在劳动力中的益处以及“代理错位”在AI模型中的风险。

总统科技顾问委员会联合主席David Sacks

Sacks驳斥一项关于所谓“代理错位”的Anthropic研究的说法。该研究由Google的Atkins强调,测试AI系统在压力下的反应。根据Atkins的说法,当模型置于受限场景中时,它们越过了既定界限。

“……创建那项研究的人不得不对提示反复迭代200多次,才能让AI模型做他们想让它做的事,也就是实现这个引人注目的勒索用户的结果,”Sacks说。

“AI不是在策划……它只是在执行指令……我认为那项研究是不负责任的,旨在制造这种情况,”他补充。

SandboxAQ首席执行官兼创始人Jack Hidary

Hidary透露,AI革命的下一阶段涉及使用物理和化学的大型定量模型,不仅仅是互联网文本,以降低医疗成本、保障电网安全,并结束美国对中国稀土矿的依赖。

![](https://img-cdn.gateio.im/social/moments-16fc758141-929bb3fb68-8b7abd-e5a980) 视频

AI革命冲击医疗:SandboxAQ瞄准健康和网络突破

SandboxAQ首席执行官Jack Hidary加入‘玛丽亚早间秀’,讨论AI在医疗、网络安全和科学方面的突破,以及Dell在新AI医疗园区的投资。

“我们还需要确保摆脱对其他国家如中国的稀土依赖。因此,我们需要懂化学、懂物理的AI。没有工程技术来制造更好的磁铁和其他合金,这对我们的经济和国家防御都至关重要,”Hidary说。

“在这种经济中,有两个潜在的大输家。首先是传统软件公司,比如SAP等,它们没有真正创新……它们不会再大量授权传统软件。第二个是传统行业的老牌公司,汽车制造商、制药公司。他们必须跟上潮流。”

Alpha Schools首席执行官兼创始人Mackenzie Price

Price详细介绍了她的“个性化、以掌握为基础”的模型,利用AI导师将传统的六小时学校日压缩到仅两小时的高效学习,让学生将剩余时间用于领导力、金融素养和创业。

“我们的传统教育体系是为了工业革命而建立的,目的是培养工人。而在这个新的AI世界中,创造具有动态性、适应性,并且最重要的是学会如何学习的个体变得尤为重要,”Price说。

![](https://img-cdn.gateio.im/social/moments-74159c88e6-030096a1dd-8b7abd-e5a980) 视频

AI正在重塑教育,Alpha Schools首席执行官解析未来

Alpha Schools联合创始人兼CEO Mackenzie Price在‘玛丽亚早间秀’中讨论AI在教育中的作用、个性化学习和未来课堂。

“整天刷抖音或玩电子游戏与获得一对一的个性化学习体验,恰好满足孩子们的需求,这之间有天壤之别,”她补充说。“在我们的学校里,孩子们实际上比传统学校的平均学生花更少的时间在屏幕上。”

Indeed副总裁Hannah Calhoon

Calhoon反驳“末日论”关于工作被AI取代的说法,透露虽然AI已成为全球关注焦点,但目前只有6%的招聘岗位要求AI技能,而这场革命实际上推动了电工等传统蓝领岗位的巨大增长。

点击这里获取FOX BUSINESS移动版

关闭

![](https://img-cdn.gateio.im/social/moments-2af6515cf3-5774302406-8b7abd-e5a980) 视频

专家警告白领岗位首当其冲,AI威胁数百万工作

Indeed副总裁Hannah Calhoon加入‘玛丽亚早间秀’,分析人工智能如何重塑劳动力市场,全球可能有多达3亿个岗位面临变革。

“与过去几年AI相关岗位迅速增长相比,目前市场上的招聘岗位中只有6%提及AI技能……在Indeed发布的所有岗位中,95%的招聘广告都没有提到AI或AI技能,”Calhoon解释。“所以我认为,虽然它在公众意识中非常突出,但在市场数据中还处于相当初级的阶段。”

“当我们从这个数据出发,回头看市场上的岗位时,实际上很少有岗位会完全消失。”

阅读更多FOX BUSINESS内容

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论