Nullsec-S1 запускает открытый исходный код системы безопасности LLM для приложений, созданных с помощью ИИ

Nullsec объявила о запуске Nullsec-S1, открытой модели безопасности LLM, предназначенной для проверки приложений, созданных ИИ, автономных агентов и программного обеспечения vibecoded до их выхода в производство.

Релиз происходит на фоне того, как разработка программного обеспечения входит в новую фазу. Приложения, которые раньше требовали команд инженеров, долгих циклов разработки и нескольких этапов проверки, теперь могут создаваться по подсказкам, твитам или рабочим процессам автономных агентов. Этот сдвиг снижает барьер для создания программного обеспечения, но также вводит новую проблему безопасности: уязвимости теперь могут создаваться с той же скоростью, что и приложения.

Nullsec-S1 был разработан для решения этой новой угрозы. Модель предназначена для выявления проблем безопасности, которые часто встречаются в программном обеспечении, созданном ИИ, включая сломанную аутентификацию, небезопасную авторизацию, раскрытые секреты, открытые административные маршруты, инъекции команд, SSRF, XSS, небезопасные загрузки файлов, злоупотребление инструментами MCP, опасные разрешения агентов, риск зависимостей и небезопасную логику кошелька или транзакций Web3.

В отличие от моделей общего назначения для кода, которые часто оптимизированы для генерации работоспособного программного обеспечения, Nullsec-S1 сосредоточена на безопасности и логике. Ее задача — не просто определить, работает ли код, а оценить, где он может выйти из строя при злонамеренном вводе, неправильном доступе, слабых разрешениях или условиях реального производства.

Nullsec-S1 основана на семействах моделей Qwen и донастроена с помощью QLoRA, что позволяет команде адаптировать мощную базовую модель с открытым исходным кодом для проверки безопасности без необходимости обучения новой модели с нуля. Этот подход отражает более широкую тенденцию в области открытого ИИ, когда небольшие команды могут адаптировать сильные базовые модели под очень специфические технические задачи.

Ключевой частью Nullsec-S1 является структурированный конвейер проверки безопасности. Программное обеспечение, созданное ИИ, анализируется через несколько уровней, включая обнаружение статических паттернов риска, семантическое рассуждение о безопасности, калибровку безопасного кода и детерминированное обеспечение. Система предназначена для предоставления структурированных выводов с указанием степени серьезности, доказательств, путей эксплуатации, рекомендаций по исправлению, оценок риска и сигналов готовности к производству.

Nullsec также подчеркивает, что Nullsec-S1 — это не только вызов LLM. Дообученная модель предлагает структурированный вердикт, но этот вердикт проходит через детерминированный слой безопасности, который валидирует схему вывода, применяет жесткие правила безопасности, пересчитывает сигналы риска и предотвращает маркировку небезопасного кода как готового к производству, если остаются критические проблемы.

Этот двухслойный подход предназначен для снижения зависимости от необоснованных суждений модели. В области безопасности, где галлюцинации, пропущенный контекст или манипуляции вводом могут привести к серьезным последствиям, сочетание рассуждений на базе LLM и детерминированного обеспечения создает более строгий и надежный процесс проверки.

Запуск Nullsec-S1 отражает более широкие изменения в области безопасности программного обеспечения. По мере того, как приложения и автономные агенты, созданные ИИ, становятся все более распространенными, безопасность больше не может оставаться только на этапе завершения разработки. Она должна приближаться к точке генерации, проверяя программное обеспечение во время его создания, а не только после развертывания.

Nullsec позиционирует Nullsec-S1 как первый шаг к созданию слоя безопасности для интернета, основанного на ИИ. Эта открытая модель предназначена для разработчиков, команд безопасности, создателей ИИ и инфраструктурных проектов агентов, которым необходимо проверять созданное программное обеспечение до его передачи пользователям, кошелькам, базам данных, API или в производственную среду.

По мере ускорения создания программного обеспечения с помощью ИИ вопрос уже не только в том, как быстро можно создать приложение. Более важный вопрос — можно ли ему доверять.

Nullsec-S1 создана именно для этого вопроса.