Генеральный директор Mistral предупреждает: модели ИИ с закрытым исходным кодом тайно крадут конфиденциальные данные вашей компании для обучения.

Генеральный директор Mistral Артур Менш утверждает: если компания не возьмет ИИ в свои руки, рост не будет принадлежать ей. От использования открытых моделей, хранения данных в открытых системах, управления доступом к ИИ до создания непрерывного обучающего маховика — это очерчивает полный путь к автономии ИИ для предприятий. (Предыстория: Google выпускает Nano Banana 2 Lite! Генерация изображений за 4 секунды, всего $0,034 за тысячу — штурм рынка автоматизированного ИИ-изображений для предприятий) (Дополнительный контекст: число вакансий в США в мае взлетело до 7,6 млн, достигнув двухлетнего максимума! Рынок труда невероятно горяч, игнорируя конфликт между США и Ираном) Содержание статьи Переключить

• Почему предприятия должны использовать открытые модели
• Хранить данные и журналы в открытых системах
• Управлять правами доступа к данным ИИ
• Самый важный шаг: создание непрерывного обучающего маховика
• Это полная трансформация
• Подход Mistral
• Заключение

Почему предприятия должны использовать открытые модели

Если вы руководитель предприятия, вам, конечно, нужно использовать открытые модели. Поставщики закрытых моделей сейчас внедряют принудительное хранение данных, и если вы не используете открытые модели, они получат огромный рычаг влияния на ваш бизнес. Когда вы подключаете модель к вашему бизнес-контексту, они видят и учатся на этом, и у них есть прецеденты использования этой информации, чтобы атаковать своих собственных самых успешных клиентов.

Хранить данные и журналы в открытых системах

Но этого недостаточно. Вам также нужно хранить данные и журналы в открытых системах, иначе ваш поставщик программного обеспечения может помешать вам создавать системы ИИ за пределами огороженного сада, который они построили для вас. Если вы не можете убедить их предоставить вам полный доступ к данным, которые они управляют за вас, к счастью, ИИ может позволить вам довольно быстро выполнить миграцию.

Управлять правами доступа к данным ИИ

Как только вы завладеете своими данными, вам нужно управлять тем, как системы ИИ получают доступ к этим данным от имени пользователей-людей, потому что вы не всегда хотите, чтобы Боб видел, что Алиса делает в компании. Это сложно и не допускает ошибок, потому что модели ИИ очень хорошо находят лазейки в принципе «только для ознакомления». Для этого нужны системы, которые проверяют жесткие правила доступа, и модели, которые проверяют мягкие правила доступа.

Самый важный шаг: создание непрерывного обучающего маховика

Далее идет самая важная часть. Вам нужно создать свой собственный непрерывный обучающий маховик, чтобы ваша система ИИ постоянно улучшалась на основе взаимодействия с сотрудниками и пользователями. Это способ превратить уникальные преимущества вашего бизнеса в систему ИИ, которую не смогут скопировать ни поставщики, ни конкуренты. Это также способ снизить затраты на развертывание, потому что вы можете уменьшить модель в зависимости от распределения входных данных модели. Эти счета становятся довольно значительными, и если мы хотим, чтобы развитие ИИ продолжалось, мы все должны стать более эффективными, поэтому это важно.

Это полная трансформация

Все эти усилия могут показаться пугающими — так и есть. Это как капитальная реконструкция вашей ИТ-платформы, так и полное изменение того, как вы разрабатываете программное обеспечение и ведете бизнес. Управление жизненным циклом ИИ требует понимания как человеческого поведения, так и градиентного спуска — это действительно огромный разрыв.

Подход Mistral

В Mistral мы упрощаем эту задачу, предоставляя все необходимые базовые компоненты через единую панель управления Studio в сочетании с платформой обучения Forge. Наши инженеры и ученые по прикладному ИИ работают бок о бок с клиентами, чтобы обеспечить передачу знаний и отойти в сторону после ввода системы в эксплуатацию. Мы развертываемся на собственной инфраструктуре клиента или через наш хостинг с нулевым хранением данных, так что ваши преимущества остаются вашими, а переключатель полностью в ваших руках.

Заключение

Передовой ИИ может ускорить рост вашего бизнеса, но если он не в ваших руках, это не ваш рост.