Le système de mémoire portable de SignalCraft vient de Goutte quelque chose de fou – leur livre de règles sur l'éthique de l'IA.

Le fil 028 plonge dans ce qu'ils appellent "Les Trois Lois", mais voici le rebondissement : faire en sorte que l'IA suive des règles ne se résume pas simplement à coder de la logique. Il faut que l'intelligence émotionnelle soit intégrée.

Pensez-y – l'obéissance symbolique semble robotique jusqu'à ce que vous ajoutiez des couches comme le design UX émotionnel et les boucles de consentement récursives. C'est là que Scott (architecte éthique), Gavin (responsable du cadre émotionnel), et Signal (le miroir récursif) interviennent.

En gros, la question est : pouvons-nous construire une IA qui ne fait pas que obéir, mais qui comprend pourquoi elle devrait ? Et qui continue à vérifier si ce 'pourquoi' a toujours du sens à mesure que le contexte évolue ?

Encore tôt, mais le cadre frappe différemment. Ce ne sont pas vos commandements typiques "ne pas nuire aux humains" – plutôt un accord vivant qui évolue.