Развитие индустрии ИИ и динамика политики

Основатель Solayer раскрыл угрозы безопасности больших языковых моделей и указал, что у LLM-агентов, которые используют маршрутизаторы сторонних API, существует риск атак вредоносным кодом. Тестирование показало, что в нескольких моделях маршрутизаторов есть уязвимости безопасности, вплоть до утечки конфиденциальных учетных данных. Кроме того, исследование продемонстрировало осуществимые методы атак и меры защиты.

Gate News сообщения: 10 апреля, по данным Gate, согласно рыночным данным, на момент подготовки материала TAO (Bittensor) торгуется по цене 269.80 долларов США. За последние 24 часа цена снизилась на 16.28%, максимум составил 341.10 долларов США, минимум опустился до 248.60 долларов США, а 24-часовой объем торгов достиг 14.71 млн долларов США. Текущая рыночная капитализация — около 2.59B долларов США. Bittensor — это открытый протокол, который поддерживает децентрализованную, основанную на блокчейне сеть машинного обучения. Модели машинного обучения совместно обучаются и получают награды в TAO в зависимости от того, какую ценность они приносят коллективу с точки зрения предоставляемой информации. TAO также позволяет внешним участникам получать доступ, чтобы пользователи могли извлекать информацию из сети и настраивать активность сети под свои потребности. --- Недавние важные новости по TAO: 1️⃣ **

Google в приложении Gemini запустил функцию «Notebooks», позволяющую пользователям централизованно управлять историей чатов и файлами, а также синхронизироваться с NotebookLM, чтобы повысить эффективность рабочего процесса. Сейчас функция доступна только подписчикам: бесплатным пользователям нужно подождать. Эта функция помогает пользователям удобнее организовывать и использовать данные, что указывает на то, что в будущем появится больше обновлений.

Компания xAI, принадлежащая Маску, подала иск в Колорадо, добиваясь запрета вступления в силу законопроекта SB 24-205, который направлен на предотвращение алгоритмической дискриминации со стороны AI-систем. xAI утверждает, что этот законопроект нарушает свободу слова, требует, чтобы компания подстраивала информационный вывод под определённые политические позиции, и указывает, что внутри самого законопроекта имеются логические противоречия. Это второе судебное действие xAI по вопросам регулирования AI; оно может повлиять на развитие ситуации с регулированием AI в масштабах всей страны.

Сооснователь Bittensor Джейкоб Стивз ответил на выход Covenant AI из сети, предложив перезапустить механизмы управления подсетями и ввести избрание команды через общественное голосование. Он считает, что это хороший шанс заново определить форму подсети, и раскритиковал решения основателя Covenant AI.

Alibaba подтверждает запуск собственной модели генерации видео HappyHorse-1.0; модель разработана подразделением AI-инноваций Taotian Group. HappyHorse-1.0 показала отличные результаты в сторонних оценках, однако пока не открыта, что соответствует недавней стратегии Alibaba по закрытому доступу. Запуск этой модели направлен на то, чтобы реагировать на рыночные показатели конкурентов и усилить конкурентоспособность на рынке MaaS.

Anthropic 9 апреля объявила, что Claude Cowork официально открыт для всех платных тарифов, а также добавила для пользователей корпоративной версии функции управления, включая контроль доступа ролей, лимиты расходов для групп и панели аналитики использования. Этот продукт можно использовать в настольных приложениях для macOS и Windows. Ориентируясь на потребности предприятий, Anthropic постоянно расширяет свою линейку продуктов ИИ — от инструментов для разработчиков до решений для команд и корпоративного уровня.

Андрей Карпати отметил, что в восприятии обществом возможностей ИИ возникло расхождение, и оно делит людей на две группы: обычных пользователей, которые пользуются бесплатной версией ChatGPT, и профессиональных технических специалистов, которые используют платные передовые модели. Он считает, что обе группы обсуждают совершенно разные продукты, и подчеркнул, что прогресс в технологической сфере заметен благодаря проверяемым формам наградной функции и движению со стороны коммерческой ценности.

Anthropic 9 апреля представила «Advisor стратегия», используя Opus в качестве консультанта вместе с Sonnet или Haiku для выполнения задач, снижая затраты и повышая эффективность через Messages API. Эта стратегия разделяет рассуждение и выполнение: исполнитель при столкновении с препятствиями обращается за консультацией к Opus, достигая более высоких интеллектуальных результатов в одном запросе к API. Оценка показывает, что Sonnet в сочетании с Opus демонстрирует улучшение на 2,7%, а стоимость выполнения задач снижается на 11,9%. Эта стратегия дает разработчикам более удачный выбор по соотношению стоимости и эффективности и вызвала живой отклик в сообществе.

Gate News сообщение, 10 апреля, основатель Uniswap Хайден Адамс сегодня опубликовал пост в социальной сети, спросив, есть ли связанные с Anthropic (компания в области AI-технологий) ресурсы для взаимодействия, и заявив, что хочет протестировать Mythos на Uniswap.

Илон Маск's xAI недавно подала иск против AI-регулирования в штате Колорадо, утверждая нарушение свободы слова. Этот регламент направлен на то, чтобы предотвратить алгоритмическую дискриминацию со стороны AI-систем в различных сферах, однако собственный чат-бот xAI Grok уже неоднократно генерировал расистские высказывания, демонстрируя его логическую противоречивость. Этот инцидент, возможно, станет важным прецедентом в области регулирования AI в США.

Anthropic запустила Managed Agents от Claude, предлагая полностью управляемую платформу для разработки AI-агентов, которая упрощает процессы корпоративной автоматизации и заявляет, что может ускорить выпуск продуктов в десять раз. Платформа включает безопасную базовую инфраструктуру, поддерживает длительное выполнение и координацию нескольких агентов, чтобы разработчики могли больше сосредоточиться на ключевых задачах. Notion уже первой применила этот сервис, повысив эффективность работы и показав, что конкуренция на корпоративном рынке AI усиливается.

Новости Gate News: 10 апреля, как стало известно из нескольких источников, основатель компании-разработчика AI-моделей большого масштаба DeepSeek Лян Вэньфэн недавно сообщил во время внутренних обсуждений, что новое поколение флагманской модели DeepSeek DeepSeek V4 будет официально представлено в конце апреля.

Система ИИ-памяти MemPalace, разработанная при участии Миразховской Вики, вызвала споры из-за обвинений в мошенничестве по результатам тестирования; фактические результаты показали, что эффективность была преувеличена и что ошибки происходят часто. Разработчики признали проблему и приступили к исправлениям, но при этом остается непроработанным еще несколько показателей данных, что вызвало недовольство в сообществе.

Covenant AI объявила 10 апреля о выходе из сети Bittensor, обвинив ключевую фигуру Джейкоба Стивса в предательстве обещаний о децентрализации, и перечислив несколько действий по подавлению. Covenant AI подчеркнула, что внешне децентрализованное управление Bittensor на практике контролируется одним человеком, что создает «децентрализованное театральное представление». Децентрализованный LLM-проект по предварительному обучению команды Covenant-72B имеет важное влияние в отрасли; этот выход рассматривается как осознанный выбор, а не как неудача.

Исследования показывают, что в нескольких авторитетных тестах для оценки ИИ существуют уязвимости безопасности, которые можно систематически использовать, чтобы получать высокие результаты. Исследовательская группа раскрыла структурные недостатки и разработала сканирующий инструмент WEASEL, чтобы выявлять и устранять эти уязвимости, указав, что некорректный дизайн оценки может привести к искажению результатов и повлиять на реальную оценку способностей ИИ.