¡Explosión en NeurIPS! SentientAGI llevó el "código de autenticación" de los grandes modelos al escenario principal, 24,000 huellas dactilares aseguran el modelo sin fallos.

@SentientAGI de OML 1.0 ha entrado directamente en la pista principal de artículos de NeurIPS — no es un poster de relleno, ni un taller marginal, ¡es la pista principal de verdad! Esta jugada ha llevado la técnica de "etiquetar" modelos grandes a nuevas alturas.

En pocas palabras, lo que hicieron en su artículo "Scalable Fingerprinting for LLMs" es ponerles a los grandes modelos un "tatuaje de seguridad invisible", y les colocaron decenas de miles, ¡y no se puede quitar de ninguna manera! Los anteriores esquemas de huellas digitales para modelos eran como pegatinas de mala calidad: al insertar algunas claves, comenzaban a "mezclarse", el rendimiento del modelo caía en picada, y con solo lavarlos un par de veces, desaparecían. Usar modelos de código abierto era un desastre. Pero OML 1.0 hizo algo novedoso: utilizando "Perinucleus Sampling (muestreo inverso de núcleo)", insertaron la huella digital en la "zona de borde" del modelo, sin afectar la salida del modelo, y además pudieron almacenar más de diez mil "códigos de verificación" estables, ¡es increíble!

Lo más sorprendente es que incrustaron 24,576 huellas dactilares en Llama-3.1-8B, y el rendimiento del modelo prácticamente no se movió. Incluso si haces SFT al modelo, realizas destilación o incluso mezclas varios modelos para "hibridarlos", estas huellas dactilares permanecen tan estables como un perro viejo, ¡no se pueden eliminar!

✅ La autenticidad se puede verificar de inmediato, ya no hay miedo al "modelo Li Gui"
✅ Guardado de manera segura, cuando lo usas no se siente en absoluto
✅ Rendimiento sin pérdidas, el modelo sigue siendo tan impresionante como siempre.
✅ Quieres incrustar tanto como quieras, escala directamente al máximo

¿Qué innovación técnica es esta? Es simplemente un "camino al cielo" para la comercialización de modelos de código abierto; en el futuro, de quién es el modelo, si ha sido modificado o no, se puede saber de un vistazo con un "tatuaje invisible". ¡Es increíble!

@SentientAGI