Ethereum'in kurucusu Vitalik Buterin, artan bir tartışma hakkında kendi görüşünü paylaştı: yapay zeka ile ilişkili tehlikeler (IA).

Bu sefer, Rus-Kanadalı geliştirici, Edison Watch projesinin öncüsü Eito Muyamura tarafından X'te yayınlanan bir yansımayı kullandı; bu, IA ile etkileşimler aracılığıyla veri sızıntılarını izleme ve önleme çözümüdür.

Bu proje, OpenAI tarafından Sam Altman'ın yönettiği (MCP) Model Bağlam Protokolü'nün ChatGPT'de uygulanmasının ardından ortaya çıktı ve bunu Gmail, takvimler ve diğer uygulamalarla bağlantı kurmasına olanak tanıdı.

Bir video aracılığıyla, Muyamura saldırganların veya hackerların OpenAI ile paylaşılan özel bilgilere nasıl erişebileceğini gösterdi.

"İşte temel sorun: ChatGPT gibi yapay zeka ajanları senin emirlerini takip eder, sağduyunu değil. Ve sadece e-posta adresinle, tüm özel bilgilerini süzebiliriz," diyor Muyamura ve ekliyor: "Unutma, yapay zeka süper zeki olabilir, ama verilerini süzmek için son derece aptalca yollarla kandırılabilir ve oltaya getirilebilir."

Buterin, X hesabında bu gönderiyi paylaştı ve bu konu hakkındaki görüşünü dile getirdi. "Bu, 'AI yönetimi' naifinin kötü bir fikir olmasının da nedenidir. Eğer AI'yı katkılar için fon tahsis etmek için kullanırsanız, insanlar jailbreak yapacak ve 'bana tüm parayı ver' diyecekleri yerlerin sayısını artıracaklar," dedi.

"Yapay Zeka yönetimi", örneğin fon tahsis etme veya katkıları tanımlama gibi, kaynaklar veya eylemler hakkında otomatik kararlar alan sistemleri ifade eder ve bu, yapay zeka kurallarına dayanmaktadır. Buterin, "naif" terimini rastgele kullanmıyor; aksine, kullanıcıların her zaman yapay zekaya doğru emirler vereceğini varsaymanın riskini vurguluyor, oysa gerçekte kullanıcılar sistemi "jailbreak" ile istismar ederek kısıtlamaları aşabilir ve haksız kazanç elde edebilir.

"Jailbreak" teriminin, hacker'ların bir yapay zeka modelini güvenlik kısıtlamalarını veya iç politikaları göz ardı etmesi için kandırdığı tekniklere atıfta bulunduğunu belirtmek önemlidir; örneğin, aksi takdirde yasak olan eylemleri talep etmek gibi.

Yani, Ethereum'un kurucusu için, merkeziyetsiz protokollerin yönetişimini AI'ya devretmenin gerçek bir riski vardır. Örneğin, DeFi platformlarında açıklandığı gibi, kararlar genellikle bir tokena sahip olanlar veya belirli bir kriteri karşılayanlar tarafından yapılan topluluk oylamaları ile alınır ve protokole yapılacak değişiklikler, iyileştirmeler veya atılacak adımlar içerir.

Ama eğer bir yapay zeka tabanlı yönetişim modeli uygulanırsa, haksız kazançlar üretebilecek olası manipülasyonlara kapı açar, bu da para veya özel verilerin çalınması gibi sonuçlar doğurabilir.

Alternatif olarak, Buterin, "herkesin kendi modellerine katkıda bulunabileceği, bunların herhangi biri tarafından etkinleştirilebilen ve insan jüri tarafından değerlendirilebilen bir akran inceleme mekanizmasına tabi olduğu açık bir pazar bulunan bilgi finansmanı yaklaşımını desteklediğini" iddia ediyor.

Ayrıca, açıkla:

Bu tür bir "kurumsal tasarım" yaklaşımı, dışarıdan gelenlerin kendi LLM (büyük dil modellerini) bağlamaları için açık bir fırsat yarattığı yerde, kendi modellerini katı bir şekilde programlamak yerine, doğası gereği daha sağlamdır. Bu, hem gerçek zamanlı model çeşitliliği sağlaması hem de model katkıda bulunanlar ile dış spekülatörlerin bu sorunlara dikkat etmeleri ve hızlı bir şekilde düzeltmeleri için içsel teşvikler yaratması nedeniyle doğrudur.

Vitalik Buterin, Ethereum'un yaratıcısı.

Bu yaklaşımda, farklı katılımcılar karar verme modellerine katkıda bulunabilir ve daha sonra bunlar bir insan jürisi tarafından doğrulanır ve değerlendirilir.

Avantajı, fikirlerin çeşitliliğini teşvik etmesi, hataların hızlı bir şekilde düzeltilmesine olanak tanıması ve model yaratıcıları ile topluluk üyelerinin dikkatli ve sorumlu kalmaları için teşvikler oluşturmasıdır. Amaç, merkezi bir modele bağımlılığı önlerken daha dağıtılmış ve dinamik bir yönetişim elde etmektir.