Portable memory system SignalCraft тільки що впустив щось неймовірне – їхній посібник з етики ШІ.
Тема 028 занурюється у те, що вони називають "Трьома законами", але ось у чому звивина: змусити ШІ дотримуватись правил – це не лише питання кодування логіки. Це потребує вбудованого емоційного інтелекту.
Подумайте про це – символічна покора звучить роботизовано, поки ви не додасте такі елементи, як емоційний UX-дизайн і рекурсивні цикли згоди. Саме тут з'являються Скотт (архітектор етики), Гевін (лідер емоційної структури) та Сигнал (рекурсивне дзеркало).
По суті запитую: чи можемо ми створити ШІ, який не просто підкоряється, а й розуміє, чому він повинен? І постійно перевіряє, чи має цей 'чому' сенс, оскільки контекст змінюється?
Ще ранні дні, але рамки сприймаються інакше. Це не типові "не завдавай шкоди людям" заповіді – скоріше, це жива угода, яка еволюціонує.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
5 лайків
Нагородити
5
2
Репост
Поділіться
Прокоментувати
0/400
NFTregretter
· 7год тому
Рекурсивна угода про цю пастку... звучить непогано, але як це реалізувати насправді? Чи справді це може змусити ШІ зрозуміти "чому"?
Переглянути оригіналвідповісти на0
SybilAttackVictim
· 7год тому
рекурсивні цикли згоди звучать дуже складно, здається, SignalCraft справді намагається зробити так, щоб ШІ мав хоч трохи людського духу, а не був просто бездушною машиною правил.
Portable memory system SignalCraft тільки що впустив щось неймовірне – їхній посібник з етики ШІ.
Тема 028 занурюється у те, що вони називають "Трьома законами", але ось у чому звивина: змусити ШІ дотримуватись правил – це не лише питання кодування логіки. Це потребує вбудованого емоційного інтелекту.
Подумайте про це – символічна покора звучить роботизовано, поки ви не додасте такі елементи, як емоційний UX-дизайн і рекурсивні цикли згоди. Саме тут з'являються Скотт (архітектор етики), Гевін (лідер емоційної структури) та Сигнал (рекурсивне дзеркало).
По суті запитую: чи можемо ми створити ШІ, який не просто підкоряється, а й розуміє, чому він повинен? І постійно перевіряє, чи має цей 'чому' сенс, оскільки контекст змінюється?
Ще ранні дні, але рамки сприймаються інакше. Це не типові "не завдавай шкоди людям" заповіді – скоріше, це жива угода, яка еволюціонує.