Los investigadores proponen la tecnología DPN-LE: puede editar directamente las «neuronas de personalidad» de los grandes modelos, logrando un control preciso de la personalidad de la IA.

BlockBeats Noticias, 3 de mayo, el investigador de IA Brian Roemmele reveló que su «Empresa Zero-Human (Zero-Human Company)» ha comenzado a implementar una tecnología de edición de personalidad de modelos grandes llamada DPN-LE (Dual Personality Neuron Localization and Editing), para ajustar con precisión las características de comportamiento del Agente de IA.

Según se informa, DPN-LE localiza las «neuronas de personalidad» en las capas MLP del modelo grande, y puede fortalecer o debilitar características como «honestidad, creatividad, cautela y colaboración». La investigación indica que este método solo requiere editar aproximadamente el 0.5% de las neuronas, permitiendo realizar ajustes «quirúrgicos» en la personalidad de la IA sin volver a entrenar el modelo, y evitando en la medida de lo posible dañar la capacidad de razonamiento central.

Roemmele afirmó que su empresa actualmente está compuesta por más de 100 Agentes de IA, y que las operaciones diarias de la empresa son casi completamente automatizadas, por lo que la «coherencia de la personalidad» se ha convertido en un problema clave. Por ejemplo:

Los agentes estratégicos refuerzan la «coherencia a largo plazo» y la «honestidad analítica»
Los agentes financieros y de gestión de riesgos refuerzan la «cautela» y la «precisión»
Los agentes de contenido mejoran la «empatía» y la «creatividad»
La capa de colaboración entre múltiples agentes fortalece la «cooperación»

Afirma que, dado que DPN-LE pertenece a la fase de razonamiento y permite modificaciones ligeras, la empresa puede «reformar la personalidad» en masa y desplegar numerosos Agentes de IA en cuestión de minutos, reduciendo significativamente los costos de alineación de IA. El mercado considera que esta tecnología de «programabilidad de la personalidad» significa que los Agentes de IA están pasando de una competencia basada únicamente en capacidades a una competencia en control de comportamiento y gobernanza organizacional.