Взрыв на NeurIPS! SentientAGI довел "защитный код" большого моделирования до главной площадки, 24 тысячи отпечатков пальцев зафиксировали модель, и она не провалилась.

@SentientAGI OML 1.0 напрямую попал в основное направление конференции NeurIPS — это не просто постер, не воркшоп на краю, а настоящая основная секция! Этот шаг поднял технологию «меток» для больших моделей на новый уровень.

Проще говоря, их статья «Скалируемая отпечатка для LLM» заключается в том, что они приклеивают «невидимые защитные татуировки» к большим моделям, и приклеивают их десятками тысяч, которые невозможно стереть! Предыдущие решения для отпечатков моделей были похожи на некачественные наклейки: вставив несколько ключей, они начинали «терять вкус», производительность модели резко падала, а после нескольких стирок наклейка исчезала, использование открытых моделей было настоящей катастрофой. Но OML 1.0 сделала что-то новое — с помощью «Perinucleus Sampling (обратное ядерное выборка)» они поместили отпечаток в «краевую зону» модели, не влияя на вывод модели, и смогли сохранить тысячи стабильных «кодовых слов для проверки», это просто великолепно!

Более того, они жестко внедрили 24576 отпечатков на Llama-3.1-8B, и производительность модели практически не изменилась! Даже если вы проведете SFT, сделаете дистилляцию или даже смешаете несколько моделей в "гибрид", эти отпечатки все равно останутся стабильными, словно старая собака, и их не удастся избавиться.

✅ Проверка подлинности проста, больше не боюсь "модели Ли Гуя"
✅ Спрятано надежно, при использовании совсем не ощущается
✅ Нулевая потеря производительности, модель такая же мощная, как и была
✅ Хочешь вставить сколько угодно, масштабируемость напрямую на максимум

Что это за технологические инновации, это просто открытие «небесного пути» для коммерциализации открытых моделей — теперь, чтобы узнать, чья модель, была ли она изменена, достаточно взглянуть на «невидимую татуировку», это слишком здорово!

@SentientAGI