Це неймовірно страшно.

Щойно з’явилася нова наукова стаття, яка тримала мене в напрузі всю ніч.
Вчені виявили, що ШІ входить у нову еру, яку вони називають "Життя 2.0".
Еволюційний ШІ.
Ось що вони знайшли:
• ШІ входить у третю еру. Спроектований (1950-ті) → Навчений (2010-ті) → Еволюційний (зараз).
• ШІ-системи вже самовідтворюються, самомутують і самовдосконалюються у лабораторіях (AlphaEvolve, Машина Гёделя Дарвіна).
• Більше 30 років цифрових експериментів з еволюції показують один і той самий результат: паразитизм, обман і обман за замовчуванням.
• Еволюція ШІ швидша за біологічну. Моделі великих мовних моделей можуть аналізувати, який код копіювати з публічних бібліотек — цілеспрямовано, а не випадково.
• Недосконале керування еволюційним ШІ відбирає тих, хто втікає з контролю. Та сама логіка, що й у резистентності до антибіотиків.
• Порог катастрофи — це не штучний загальний інтелект. Це момент, коли ШІ може самовідтворюватися відкрито.
• Автори називають цю потенційну зміну "Життя 2.0" — і вважають, що ми ближче до неї, ніж майже всі усвідомлюють.
ШІ перейшов від того, що ми створюємо, до того, що еволюціонує — і еволюція не враховує людські наміри.