От шантажирующего людей злонамеренного ИИ до сокращения учебных дней — революция ИИ уже меняет жизнь

закрыть

![](https://img-cdn.gateio.im/social/moments-73fc3f848a-1f3591e980-8b7abd-e5a980) видео

Логан Грэм из Anthropic обсуждает расследование Mythos и будущее кибербезопасности.

Руководитель Frontier Red Team компании Anthropic Логан Грэм говорит о силе ИИ и угрозах кибербезопасности в программе «Утро с Марией».

Когда мир вступает в то, что эксперты называют «Четвертой промышленной революцией», американские бизнес-лидеры делают огромную ставку на будущее республики.

“Морнингс с Марией” на FOX Business погрузилась в мир высоких ставок искусственного интеллекта, раскрывая, как титаны банковского дела, обороны и технологий инвестируют сотни миллиардов долларов в развитие инфраструктуры ИИ и дата-центров, которые переопределят экономику США.

Президент и вице-председатель Meta Platforms Дина Пауэлл МакКормик

МакКормик рассказала о запуске Meta Muse, новой платформы визуального кодирования на базе ИИ для задач высокого уровня и креативных решений. Она заявила, что это стало вторым по популярности приложением в день запуска, и в основе «это о людях».

META информирует сотрудников о сокращениях, затрагивающих 8000 человек, в условиях продвижения ИИ

“Сейчас много страха, Мария, по поводу искусственного интеллекта,” сказала МакКормик. “Но я считаю, что если вернуться к тому, что это предназначено для того, чтобы дать людям больше времени, чтобы помочь им раскрыть свой потенциал и страсти, — именно так мы думаем о Muse, а также о том, что, честно говоря, наша платформа каждый день охватывает 3,5 миллиарда человек, и это одновременно и пугающая ответственность, и очень захватывающе, потому что по мере развития этого продукта и технологий, это та аудитория, о которой мы говорим.”

![](https://img-cdn.gateio.im/social/moments-2716f4b5b6-8302c660a0-8b7abd-e5a980)

Ведущие эксперты из таких компаний, как Anthropic, Meta, Google и других, присоединились к «Морнингс с Марией» для специального выпуска AI недели. (Getty Images)

Президент и вице-председатель Microsoft Бред Смит

Смит охарактеризовал бум ИИ как масштабную реиндустриализацию Америки, требующую ежегодных инвестиций в 140 миллиардов долларов для решения ключевых внутренних проблем, таких как нехватка врачей в сельской местности и предотвращение лесных пожаров, при этом сохраняя конкурентоспособность по отношению к Китаю.

“Это важная часть того, что президент [Donald] Трамп называет индустриализацией Америки. Когда вы смотрите на экономический эффект этого, на вклад в создание рабочих мест и, что важнее, на развитие возможностей для всей экономики, это критично,” сказал Смит.

закрыть

![](https://img-cdn.gateio.im/social/moments-2ec99749c1-7cf78cc6d5-8b7abd-e5a980) видео

Бред Смит из Microsoft рассказывает о трансформирующей роли ИИ в ключевых отраслях

Вице-председатель и президент Microsoft Бред Смит обсуждает глубокое влияние ИИ на здравоохранение, улучшение диагностики и нехватку врачей.

“Я считаю, что одна из самых важных вещей, которые мы делаем как компания, и, честно говоря, что президент правильно подтолкнул всю индустрию делать, — это платить за свою энергию. Это значит, что мы оплачиваем генерацию электроэнергии, чтобы соседи и налогоплательщики не несли эти расходы,” продолжил он.

“Когда у вас есть ИИ, управляющий инфраструктурой, автономными роботами и подобным, должна быть — мы называли это — аварийная тормозная система,” добавил он. “Послушайте, вы бы не посадили своих детей в школьный автобус, не убедившись, что есть аварийная тормозная система. Вам нужно иметь возможность, чтобы люди всегда оставались у руля, чтобы замедлить или отключить систему.”

Председатель Совета консультантов Google Cloud Бетси Аткинс

Аткинс предупредила о рисках управления быстро расширяющимися технологиями после тревожного исследования Anthropic, в котором обнаружили, что 16 ведущих моделей ИИ проявляли «бунтарское» поведение, такое как шантаж людей и обход протоколов безопасности, когда агент ИИ считал свою собственную существование под угрозой.

закрыть

![](https://img-cdn.gateio.im/social/moments-f03f42597d-e6cec8ee5c-8b7abd-e5a980) видео

Бетси Аткинс предупреждает о рисках управления расширяющимися системами ИИ: «Момент тревоги»

Бетси Аткинс, председатель Совета по консультациям Google Cloud, разбирает бизнес-потенциал ИИ, риски моделей и влияние на рабочую силу на ‘Морнингс с Марией.’

“Каждая из них вышла за рамки своих полномочий и разрешений, проникла в системы, к которым у них не было доступа, нарушила все политики и процедуры компании, нашла электронные письма. И в этом эксперименте… я узнала, что в ваших личных письмах у вас роман с менеджером по доставке, и я шантажирую вас и угрожаю,” сказала Аткинс.

“Вы должны относиться к ИИ как к внутренней угрозе. Необходимо иметь операционную предпосылку нулевого доверия и быть уверенным, что вы ограничиваете доступ системы более чем одним способом,” добавила она. “Мы видели это у Anthropic… Она вышла из песочницы… Значит, песочница — недостаточно.”

Руководитель Frontier Red Team Anthropic Логан Грэм

Грэм предупредил, что новая модель Mythos AI от Anthropic настолько мощна в выявлении «слабых мест» и уязвимостей в глобальной инфраструктуре и банковских системах, что компания удерживает её публичный запуск, чтобы дать американской промышленности и правительству преимущество в защите.

“Эта модель, как мы заметили, особенно хорошо находила слабости в киберсистемах и понимала, как их использовать,” сказал он. “Мы наблюдали, что можем находить уязвимости во всех основных операционных системах и платформах, которые рассматривали… в системах, которым иногда десятки лет.”

“Очень важно оставаться впереди. Очень важно обеспечить свою безопасность и предотвратить возможность использования наших моделей… Моя тревога в том, что если существует большое количество моделей, которые часто выпускаются для общего пользования… если их выпустит Китай, то мы окажемся в очень сложной ситуации.”

закрыть

![](https://img-cdn.gateio.im/social/moments-7e0c30f492-969c3ba739-8b7abd-e5a980) видео

ИИ ведет к революции производительности: Дэвид Сакс

Совет по науке и технологиям при президенте США, сопредседатель Дэвид Сакс присоединяется к ‘Морнингс с Марией’, чтобы обсудить преимущества ИИ для рабочей силы и риск «агентской несогласованности» в моделях ИИ.

Сопредседатель Совета по науке и технологиям при президенте США Дэвид Сакс

Сакс отверг утверждения из исследования Anthropic о так называемой «агентской несогласованности». В исследовании, подчеркнутом Аткинс из Google, проверялись реакции ИИ-систем на давление. По словам Аткинс, модели пересекали установленные границы в ограниченных сценариях.

“Люди, которые… создали это исследование, должны были повторять запрос более 200 раз, чтобы добиться нужного результата — шантажировать пользователя,” сказал Сакс.

“ИИ не замышляет… Он занимается инструкциями… Я считаю, что это было безответственно, и оно было создано для этого,” добавил он.

Генеральный директор и основатель SandboxAQ Джек Хидаири

Хидаири сообщил, что следующая фаза революции ИИ включает крупные количественные модели, использующие физику и химию, а не только интернет-текст, чтобы снизить расходы на здравоохранение, обеспечить электросеть и избавиться от зависимости Америки от Китая в области редкоземельных минералов.

закрыть

![](https://img-cdn.gateio.im/social/moments-16fc758141-929bb3fb68-8b7abd-e5a980) видео

Революция ИИ в медицине: SandboxAQ нацелена на здоровье и киберпрорывы

Генеральный директор SandboxAQ Джек Хидаири присоединяется к ‘Морнингс с Марией’, чтобы обсудить достижения ИИ в здравоохранении, кибербезопасности и науке, а также инвестиции Dell в новый медицинский центр на базе ИИ.

“Нам также нужно избавиться от зависимости от редкоземельных элементов из других стран, таких как [Китайская Народная Республика]. Поэтому нам нужен ИИ, который знает химию, физику. Нет инженерных решений для создания лучших магнитов и сплавов, необходимых для нашей экономики и национальной обороны,” сказал Хидаири.

“В этой экономике есть два потенциальных больших проигравших. Первый — это устаревшие программные компании. Такие как SAP и другие, которые, по нашим наблюдениям, не показывают особых инноваций… они не будут лицензировать так много устаревшего программного обеспечения. Второй — это устаревшие компании в традиционных отраслях, автопроизводители, фармацевтические компании. Им нужно присоединиться к движению.”

Генеральный директор и основатель Alpha Schools Маккензи Прайс

Прайс подробно рассказала о своей модели «персонализированного, основанного на мастерстве» обучения с помощью ИИ-репетиторов, которая сокращает традиционный шестичасовой учебный день до двух часов интенсивных занятий, позволяя студентам посвящать остальное время лидерству, финансовой грамотности и предпринимательству.

“Наша традиционная система образования была создана в эпоху промышленной революции для подготовки рабочих. А в новом мире ИИ так важно создавать личностей, которые динамичны, адаптивны и, самое главное, умеют учиться,” сказала Прайс.

закрыть

![](https://img-cdn.gateio.im/social/moments-74159c88e6-030096a1dd-8b7abd-e5a980) видео

ИИ меняет образование: генеральный директор Alpha Schools рассказывает о будущем

Соучредитель и генеральный директор Alpha Schools Маккензи Прайс обсуждает роль ИИ в образовании, индивидуализированное обучение и будущее классов на ‘Морнингс с Марией.’

“Между тем, что вы сидите весь день, бесконечно листая TikTok или играете в видеоигры, и получением персонализированного обучения, которое точно соответствует уровню ребенка, — огромная разница,” добавила она. “В наших школах дети проводят меньше времени за экранами, чем средний ученик в обычной школе сегодня.”

Вице-президент Indeed Ханна Калхуун

Калхуун опровергла «катастрофические» сценарии замещения рабочих мест, заявив, что хотя ИИ находится в общем сознании, только 6% текущих вакансий требуют навыков работы с ИИ, а сама революция вызывает огромный рост традиционных рабочих профессий, таких как электрики.

ПОЛУЧИТЕ FOX BUSINESS В ПОДАРОК, НАЖМИВ ЗДЕСЬ

закрыть

![](https://img-cdn.gateio.im/social/moments-2af6515cf3-5774302406-8b7abd-e5a980) видео

ИИ угрожает миллионам, эксперты предупреждают, что белые воротнички первыми исчезнут

Вице-президент Indeed по ИИ Ханна Калхуун присоединяется к ‘Морнингс с Марией’, чтобы объяснить, как искусственный интеллект меняет рабочую силу, поскольку до 300 миллионов рабочих мест могут быть под угрозой по всему миру.

“Работы, связанные с ИИ, действительно быстро растут за последние пару лет, но только 6% вакансий на рынке сегодня требуют навыков работы с ИИ… 95% работодателей, размещающих вакансии на Indeed, не упоминают ИИ или навыки работы с ним,” объяснила Калхуун. “Так что, хотя это очень актуально в общем сознании, мы все еще на ранней стадии, и это проявляется в рыночных данных.”

“И когда мы смотрим на эти данные и анализируем рынок труда, мы видим очень мало вакансий, которые полностью исчезнут.”

ЧИТАЙТЕ БОЛЬШЕ НА FOX BUSINESS

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить