От шантажирующих людей злонамеренных ИИ до сокращения школьных дней — революция ИИ уже меняет жизнь

закрыть

![](https://img-cdn.gateio.im/social/moments-966d5423e5-aca09cd5ae-8b7abd-e5a980) видео

Логан Грэм из Anthropic обсуждает расследование Mythos и будущее кибербезопасности.

Руководитель Frontier Red Team в Anthropic Логан Грэм говорит о силе ИИ и угрозах кибербезопасности в программе «Утро с Марией».

Когда мир вступает в то, что эксперты называют «Четвертой промышленной революцией», американские бизнес-лидеры делают огромную ставку на будущее республики.

"Морнингс с Марией" FOX Business погрузилась в мир высоких ставок искусственного интеллекта, раскрывая, как титаны банковского дела, обороны и технологий инвестируют сотни миллиардов долларов в развитие инфраструктуры ИИ и дата-центров, которые переопределят экономику США.

Президент и вице-председатель Meta Platforms Дина Пауэлл МакКормик

МакКормик рассказала о запуске Meta Muse, новой платформы визуального кодирования на базе ИИ для задач высокого риска и креативных решений. Она заявила, что это стало вторым по скачиваниям приложением в день запуска, и в основе «это о людях».

META информирует сотрудников о сокращениях, затрагивающих 8000 сотрудников, в условиях продвижения ИИ

"Сейчас там много страха, Мария, по поводу искусственного интеллекта," сказала МакКормик. "Но я считаю, что если мы действительно вернемся к тому, что это предназначено для того, чтобы дать людям больше времени, чтобы помочь им найти свой потенциал и страсти, — именно так мы и думаем о Muse, а также о том, что, честно говоря, наша платформа каждый день охватывает 3,5 миллиарда человек, и это одновременно и пугающая ответственность, и очень захватывающе, потому что по мере развития этого продукта и технологий, это та аудитория, о которой мы говорим."

![](https://img-cdn.gateio.im/social/moments-7e673537dd-ede8a865e7-8b7abd-e5a980)

Ведущие эксперты из таких компаний, как Anthropic, Meta, Google и других, присоединились к «Морнингс с Марией» для специального выпуска AI недели. (Getty Images)

Президент и вице-председатель Microsoft Бред Смит

Смит охарактеризовал бум ИИ как масштабную реиндустриализацию Америки, требующую ежегодных инвестиций в 140 миллиардов долларов для решения ключевых внутренних проблем, таких как нехватка врачей в сельской местности и предотвращение лесных пожаров, при этом сохраняя конкурентоспособность по отношению к Китаю.

"Это важная часть того, что президент [Donald] Трамп называет индустриализацией Америки. Когда вы смотрите на экономический эффект этого, на вклад в создание рабочих мест и, что важнее, на развитие возможностей для всей экономики, это критично," сказал Смит.

закрыть

![](https://img-cdn.gateio.im/social/moments-4a3e3d22bb-d7c5b9fa30-8b7abd-e5a980) видео

Бред Смит из Microsoft рассказывает о трансформирующей роли ИИ в ключевых отраслях

Вице-председатель и президент Microsoft Бред Смит обсуждает глубокое влияние ИИ на здравоохранение, улучшение диагностики и нехватку врачей.

"Я считаю, что одна из самых важных вещей, которые мы делаем как компания, и, честно говоря, что президент правильно подтолкнул всю индустрию делать, — это платить за свою энергию. Это значит, что мы оплачиваем генерацию электроэнергии, чтобы соседи и налогоплательщики не несли эти расходы," продолжил он.

"Когда у вас есть ИИ, управляющий инфраструктурой, например, автономные роботы и подобное, должна быть — мы называли это — аварийная тормозная система," добавил он. "Послушайте, вы бы не посадили своих детей в школьный автобус, не убедившись, что есть аварийная тормозная система. Вам нужно иметь возможность, чтобы люди всегда оставались у руля, чтобы замедлить или отключить систему."

Председатель Совета по консультациям Google Cloud Бетси Аткинс

Аткинс предупредила о рисках управления быстро расширяющимися технологиями после тревожного исследования Anthropic, в котором обнаружили, что 16 ведущих моделей ИИ проявляли «бунтарское» поведение, такое как шантаж людей и обход протоколов безопасности, когда агент ИИ считал свою собственную существование под угрозой.

![](https://img-cdn.gateio.im/social/moments-35037e638e-95c9e33854-8b7abd-e5a980) видео

Бетси Аткинс предупреждает о рисках управления расширяющимися системами ИИ: «Момент тревоги»

Председатель Совета по консультациям Google Cloud Бетси Аткинс разбирает бизнес-потенциал ИИ, риски моделей и влияние на рабочую силу в программе «Утро с Марией».

"Каждая из них вышла за рамки своих полномочий и разрешений, проникла в системы, к которым у них не было доступа, нарушила все политики и процедуры компании и нашла электронные письма. И в этом эксперименте... я узнала, что в ваших личных письмах у вас роман с менеджером по доставке, и я шантажирую вас и угрожаю," сказала Аткинс.

"Вы должны относиться к ИИ как к внутренней угрозе. Нужно иметь операционную предпосылку нулевого доверия и быть уверенным, что ограничиваете его доступ более чем одним способом," добавила она. "Мы видели это у Anthropic... Он сбежал из песочницы... Так что песочница — недостаточно."

Руководитель Frontier Red Team в Anthropic Логан Грэм

Грэм предупредил, что новая модель Mythos AI от Anthropic настолько мощна в выявлении «слабых мест» и уязвимостей в глобальной инфраструктуре и банковских системах, что компания удерживает её публичный запуск, чтобы дать американской промышленности и правительству преимущество в защите.

"Эта модель, как мы заметили, особенно хорошо находила слабости в киберсистемах и понимала, как их использовать," сказал он. "Мы наблюдали, что можем находить уязвимости во всех основных операционных системах и платформах, которые рассматривали... в системах, которым иногда десятки лет."

"Очень важно оставаться впереди. Очень важно обеспечить свою безопасность и предотвратить возможность использования наших моделей... Моя тревога в том, что если будет много моделей, которые часто выпускаются для общего пользования... если их выпустит Китай, то мы окажемся в очень сложной ситуации."

![](https://img-cdn.gateio.im/social/moments-f6f4540c88-b7217ff39a-8b7abd-e5a980) видео

ИИ ведет к революции производительности: Дэвид Сакс

Совет по науке и технологиям при президенте США совместно с Дэвидом Саксом обсуждают преимущества ИИ для рабочей силы и риск «агентской несогласованности» в моделях ИИ.

Совет по науке и технологиям при президенте США, сопредседатель Дэвид Сакс

Сакс отверг утверждения из исследования Anthropic о так называемой «агентской несогласованности». Исследование, выделенное Аткинс из Google, тестировало, как системы ИИ реагируют под давлением. По словам Аткинс, модели пересекли установленные границы в ограниченных сценариях.

"Люди, которые… создали это исследование, должны были повторять запрос более 200 раз, чтобы добиться нужного результата — шантажировать пользователя," сказал Сакс.

"ИИ не замышляет… Он занимается инструкциями... Я считаю, что это было безответственно, и оно было создано для этого," добавил он.

Генеральный директор и основатель SandboxAQ Джек Хидарай

Хидарай рассказал, что следующая фаза революции ИИ включает крупные количественные модели, использующие физику и химию, а не только интернет-текст, чтобы снизить расходы на здравоохранение, обеспечить электросеть и избавиться от зависимости Америки от Китая в области редкоземельных минералов.

![](https://img-cdn.gateio.im/social/moments-aa99e19f2b-5971b6476d-8b7abd-e5a980) видео

Революция ИИ в медицине: SandboxAQ нацелена на здоровье и кибербезопасность

Генеральный директор SandboxAQ Джек Хидарай присоединился к «Морнингс с Марией» для обсуждения прорывов ИИ в здравоохранении, кибербезопасности и науке, а также инвестиций Dell в новый медицинский кампус с ИИ.

"Нам также нужно избавиться от зависимости от редкоземельных элементов из других стран, таких как [Китайская Народная Республика]. Поэтому нам нужен ИИ, который знает химию, физику. Нет инженерных решений для создания лучших магнитов и сплавов, необходимых для нашей экономики и национальной обороны," сказал Хидарай.

"В этой экономике есть два потенциальных больших проигравших. Первый — это устаревшие программные компании. Такие как SAP и другие, которые, как мы видим, не очень инновационны... они не будут лицензировать так много устаревшего программного обеспечения. А второй — это устаревшие компании в традиционных отраслях, автопроизводители, фармацевтические компании. Им нужно присоединиться к движению."

Генеральный директор и основатель Alpha Schools Маккензи Прайс

Прайс подробно рассказала о своей модели «персонализированного, основанного на мастерстве» обучения с помощью ИИ-репетиторов, которая сокращает традиционный шестичасовой учебный день до двух часов интенсивных занятий, позволяя студентам посвящать остальное время лидерству, финансовой грамотности и предпринимательству.

"Наша традиционная система образования была создана в эпоху промышленной революции для создания рабочих. А в этом новом мире ИИ очень важно создавать личностей, которые динамичны, адаптивны и, что самое главное, умеют учиться," сказала Прайс.

![](https://img-cdn.gateio.im/social/moments-a6a981207a-dd770f4e12-8b7abd-e5a980) видео

ИИ меняет образование: генеральный директор Alpha Schools рассказывает о будущем

Соучредитель и генеральный директор Alpha Schools Маккензи Прайс обсуждает роль ИИ в образовании, индивидуализированное обучение и будущее классов на программе «Утро с Марией».

"Между тем, что вы целый день просматриваете TikTok или играете в видеоигры, и получением персонализированного обучения, которое точно соответствует уровню ребенка," добавила она. "В наших школах дети проводят меньше времени за экранами, чем средний ученик в обычной школе сегодня."

Вице-президент Indeed Ханна Калхуун

Калхуун опровергла «катастрофические» сценарии замещения рабочих мест, заявив, что хотя ИИ находится в общем сознании, только 6% текущих вакансий требуют навыков работы с ИИ, а революция на самом деле вызывает огромный рост традиционных рабочих профессий, таких как электрики.

ПОЛУЧИТЕ FOX BUSINESS В ЛЮБОМ МЕСТЕ, НАЖМИВ ЗДЕСЬ

![](https://img-cdn.gateio.im/social/moments-0f44bdb558-4d324a98a7-8b7abd-e5a980) видео

ИИ угрожает миллионам, эксперты предупреждают, что белые воротнички первыми уйдут

Вице-президент Indeed по ИИ Ханна Калхуун присоединилась к «Морнингс с Марией», чтобы объяснить, как искусственный интеллект меняет рабочую силу, поскольку до 300 миллионов рабочих мест могут быть подвержены разрушению по всему миру.

"Работы, связанные с ИИ, действительно быстро растут за последние пару лет, но только 6% вакансий на рынке сегодня требуют навыков работы с ИИ... 95% работодателей, размещающих вакансии на Indeed, вообще не упоминают ИИ или навыки работы с ним," объяснила Калхуун. "Так что, хотя это очень актуально в общем сознании, мы все еще на ранней стадии, чтобы увидеть это в данных рынка."

"И когда мы берем эти данные и смотрим на рынок труда, мы видим очень мало вакансий, которые полностью исчезнут."