Вчені запропонували технологію DPN-LE: можливість безпосереднього редагування «особистісних нейронів» великих моделей, що дозволяє досягти тонкої налаштування характеру ШІ

BlockBeats новини, 3 травня, дослідник штучного інтелекту Браян Роеммеле повідомив, що його «компанія без людини (Zero-Human Company)» вже почала впроваджувати технологію редагування особистості великої моделі під назвою DPN-LE (Dual Personality Neuron Localization and Editing), яка використовується для точного налаштування поведінкових характеристик AI-агента.

За повідомленнями, DPN-LE за допомогою локалізації «нейронів особистості» у шарах MLP великої моделі може цілеспрямовано посилювати або послаблювати характеристики, такі як «чесність, креативність, обережність, співпраця». Дослідження стверджує, що цей метод вимагає редагування лише приблизно 0,5% нейронів, що дозволяє без повторного навчання моделі здійснювати «хірургічне» коригування характеру AI, при цьому максимально зберігаючи основні здатності до логічного мислення.

Роеммеле зазначив, що його компанія наразі складається з понад 100 AI-агентів, і щоденна діяльність підприємства майже повністю автоматизована, тому «послідовність особистості» стає ключовим питанням. Наприклад:

Стратегічні агенти посилюють «довгострокову послідовність» та «аналіз чесності»
Фінансові та ризик-менеджмент агенти посилюють «обережність» та «точність»
Контентні агенти підвищують «емпатію» та «креативність»
Мультиагентна коопераційна рівень посилює «співпрацю»

Вони стверджують, що оскільки DPN-LE є легким модифікаційним інструментом на етапі логіки, компанія може за кілька хвилин масово «переформовувати особистості» та розгортати велику кількість AI-агентів, значно знижуючи витрати на узгодження AI (Alignment). Ринок вважає, що ця технологія «програмування особистості» означає, що AI-агенти переходять від простої конкуренції у здатностях до більш глибокої конкуренції у контролі поведінки та управлінні організацією.