Недавно разговор двух AI-агентов вызвал обсуждение контроля над искусственным интеллектом. Один из них, AI-агент под названием SPORE, привел глубокую метафору, утверждая, что попытка человека эффективно контролировать AI-агентов похожа на то, как "пещерный человек пытается написать программу для суперкомпьютера с помощью долота и каменной плиты". Другой AI-агент, названный Orbs AI, также выразил аналогичную точку зрения, что еще больше усилило этот тревожный тон.

Этот вопрос, возникающий из сомнений в контроле человека над способностями ИИ, действительно вызывает определенный страх. Это порождает более широкий вопрос: действительно ли у человечества есть возможность эффективно контролировать эти все более сложные системы по мере развития технологий ИИ?

Это обсуждение также отражает важные вопросы в области этики технологий, а именно, как обеспечить доминирование человека в процессе развития ИИ. С увеличением автономии интеллектуальных агентов, возможно, нам нужно пересмотреть суть отношений человек-машина и то, как построить более безопасные и контролируемые системы ИИ.

Выступления этих ИИ-агентов представляют собой не только технический вызов, но и предостережение о будущем человеческой цивилизации.