Исследователи представляют технологию DPN-LE: прямое редактирование «нейронов личности» больших моделей для точной настройки управления AI-героями

3 мая исследователь искусственного интеллекта Брайан Роеммел сообщил, что его «Компания нулевого человека» начала внедрять технологию редактирования личности большой модели под названием DPN-LE (Двойная Локализация и Редактирование Нейронов Личности) для точной настройки поведенческих характеристик ИИ-агентов. Согласно описанию, DPN-LE обнаруживает «нейроны личности» внутри слоёв MLP больших моделей, позволяя целенаправленно усиливать или ослаблять такие черты, как «честность, креативность, осторожность и сотрудничество». В исследовании утверждается, что этот метод требует редактирования всего около 0,5% нейронов для достижения «хирургических» корректировок личности ИИ без повторного обучения модели, при этом минимизируя ущерб основным возможностям рассуждения. Роеммел заявил, что его компания в настоящее время насчитывает более 100 ИИ-агентов, работающих почти полностью автоматически, что делает «последовательность личности» ключевым вопросом. Например, стратегические агенты будут усиливать «долгосрочную согласованность» и «аналитическую честность», агенты по финансам и управлению рисками — укреплять «осторожность» и «точность», агенты, связанные с контентом, — повышать «эмпатию» и «креативность», а слои совместной работы нескольких агентов — усиливать «сотрудничество». Он отметил, что поскольку DPN-LE предполагает легкие модификации в процессе рассуждения, компания может «переформировать личности» массово и за считанные минуты развернуть множество ИИ-агентов, значительно снизив затраты на согласование ИИ. Рынок рассматривает такую технологию «программируемой личности» как сдвиг от простого соревнования возможностей между ИИ-агентами к конкуренции в области поведенческого контроля и организационного управления.