SignalCraft'ın taşınabilir bellek sistemi sadece harika bir şey duyurdu - yapay zeka etik kuralları kitabı.
Thread 028, "Üç Kural" olarak adlandırdıkları konuya dalıyor ama işte burada bir twist var: Yapay zekanın kurallara uymasını sağlamak sadece kodlama mantığı ile ilgili değil. İçinde duygusal zeka da olması gerekiyor.
Bunu düşün – sembolik itaat robotik gibi geliyor ta ki duygusal UX tasarımı ve yinelemeli rıza döngüleri gibi katmanlar eklenene kadar. İşte burada Scott (etik mimar), Gavin (duygusal çerçeve lideri) ve Signal (yinelemeli ayna) devreye giriyor.
Temelde soruyor: sadece itaat eden, aynı zamanda neden itaat etmesi gerektiğini anlayan bir AI geliştirebilir miyiz? Ve o 'neden'in hala mantıklı olup olmadığını, bağlam değiştikçe sürekli kontrol edebilir mi?
Hala erken günler ama çerçeve farklı bir şekilde etkiliyor. Tipik "insanlara zarar verme" emirleri değil – daha çok evrilen bir yaşam anlaşması gibi.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
5 Likes
Reward
5
2
Repost
Share
Comment
0/400
NFTregretter
· 20h ago
Özyinelemeli onay döngüsü bu tuzak... kulağa hoş geliyor ama pratikte nasıl uygulanacak, gerçekten AI'nın "neden" anlayabilmesini sağlıyor mu?
View OriginalReply0
SybilAttackVictim
· 20h ago
rekürsif onay döngüleri kulağa çok karmaşık geliyor, SignalCraft'ın gerçekten AI'ya biraz insanlık katmaya çalıştığını hissediyorum, öyle katı kurallara dayalı bir makine değil.
SignalCraft'ın taşınabilir bellek sistemi sadece harika bir şey duyurdu - yapay zeka etik kuralları kitabı.
Thread 028, "Üç Kural" olarak adlandırdıkları konuya dalıyor ama işte burada bir twist var: Yapay zekanın kurallara uymasını sağlamak sadece kodlama mantığı ile ilgili değil. İçinde duygusal zeka da olması gerekiyor.
Bunu düşün – sembolik itaat robotik gibi geliyor ta ki duygusal UX tasarımı ve yinelemeli rıza döngüleri gibi katmanlar eklenene kadar. İşte burada Scott (etik mimar), Gavin (duygusal çerçeve lideri) ve Signal (yinelemeli ayna) devreye giriyor.
Temelde soruyor: sadece itaat eden, aynı zamanda neden itaat etmesi gerektiğini anlayan bir AI geliştirebilir miyiz? Ve o 'neden'in hala mantıklı olup olmadığını, bağlam değiştikçe sürekli kontrol edebilir mi?
Hala erken günler ama çerçeve farklı bir şekilde etkiliyor. Tipik "insanlara zarar verme" emirleri değil – daha çok evrilen bir yaşam anlaşması gibi.