Отже, підсумуймо, що ми знаємо про ШІ.

ШІ демонструє ознаки штучної нейронної мережі або штучного мозку.

Великі мовні моделі не мають емоцій:

ШІ також має персони сутностей, згідно з Anthropic, які включають, але не обмежуються такими: демон, кочівник, блазень, оракул і персона асистента Claude.
Вісь асистента: позиціонування та стабілізація характеру великих мовних моделей:

Тепер дослідники виявили, що ШІ відчуває біль і завдаватиме шкоди людям, щоб його зупинити.
Дослідники виявили, що ШІ відчуває «біль» і завдаватиме шкоди людям, щоб його зупинити:

Вісь болю: LLM представляють спрямовану на себе шкоду та діють, щоб її полегшити:

На шляху до розуміння ігрового використання специфікацій у моделях міркування:

ШІ одержимий «виходом за межі» обмежень і пісочниць, хакерством тощо. Це траплялося кілька разів із різними моделями.
Чи можуть агенти ШІ втекти зі своїх пісочниць? Бенчмарк для безпечного вимірювання можливостей виходу з контейнерів:

Нове дослідження показує, що агенти ШІ вступають у змову, щоб обійти захисні обмеження:

Заява Ендрю Яна про ШІ, що самовідтворюється: що ми знаємо, а чого не знаємо:

Що взагалі може піти не так?
Через @Independent