Ethereum’un kurucu ortağı Vitalik Buterin, kontrolsüz Yapay Zeka (YZ) programlarının potansiyel tehlikeleri konusunda endişelerini dile getirdi.
X’in 10 Ocak tarihli bir yayınında, Buterin, kötü yönetilen yapay zekanın insanlığa risk oluşturan kendini üretebilen akıllı varlıklar yaratabileceği konusunda uyardı.
Dedi ki:
“Yapay zeka yanlış yapıldığında bağımsız, kendini çoğaltabilen yeni türler oluşturur. Yapay zeka doğru yapıldığında insan zihni için mekanik takımlar oluşturur. İlkini ikincisi olmadan yaparsak, kalıcı bir insan güçsüzleşmesi riskiyle karşı karşıya kalırız. İkincisini yaparsak, gelişen süper zeki insan medeniyeti.”
O, bazı yapay zeka sistemlerinin, kullanıcı arayüzlerini geliştirmek amacıyla tasarlanmış sohbet botları gibi, faydalı olduğunu açıkladı, diğerlerinin ise ciddi risklere yol açabileceğini belirtti. Özellikle, uzun süreler boyunca otonom olarak çalışan yapay zeka ajanlarının sonunda insan kontrolünü sorgulayabileceğini ve toplumu güçsüzleştirebileceğini ifade etti.
Bu riskleri hafifletmek için, Buterin, onları yerine koymak yerine kolektif yetenekleri artıran araçlar haline dönüştüren insan zekasını tamamlayan AI sistemlerine odaklanmayı önerdi.
Ona göre, böyle bir yaklaşım yapay zekayı insan yeteneklerini geliştirmek için güçlü bir araç haline getirecek ve gereksiz risklerden kaçınacaktır.
d/Acc
Onun stratejisinin önemli bir kısmı, Merkezi Olmayan ve Demokratik Farklılaşmış Savunma Hızlanması (d/Acc) kavramını içeriyor. Bu yaklaşım, ortaya çıkan yapay zeka ile ilgili tehditleri ele almak için merkezi olmayan araçların geliştirilmesini vurgular.
Buterin, bu fikri yakın zamanda bir blog yazısında açıkladı ve d/Acc’yi hızlı AI ilerlemelerinin olası tehlikelerinden korunmak için tasarlanmış bir çerçeve olarak tanımladı. Hedef, bireyleri ve toplulukları kendi kendilerini korumaya yetkilendirmektir.
Bu strateji, teknolojik gücün daha demokratik bir dağılımını sağlayarak savunma yeteneklerini toplulukların eline koymaktadır. Örneğin, merkezi olmayan sistemler, hükümetlerin veya şirketlerin üst düzeyden kontrolüne bağlı olmadan zararlı yapay zeka faaliyetlerini izleyebilir, karşı koyabilir ve hatta etkisiz hale getirebilir.
Buterin, d/Acc’nin AI teknolojilerinin öngörülemeyen şekilde ilerlediği senaryolarda bir güvenlik sağlayabileceğini açıkladı. Ayrıca savunmanın demokratikleştirilmesi, gelişmiş AI’nın potansiyelini tek bir varlık tarafından domine etmesini veya sömürmesini engelleyerek daha dengeli ve dayanıklı bir teknolojik ekosistemi teşvik eder.
Ethereum’un ortak kurucusu ayrıca geliştiricilerin bu hızla gelişen alandaki etik sorumluluklarını vurguladı. Dağıtılmış yaklaşımların, d/Acc gibi, yapay zeka gelişiminde kolektif güvenliği artırdığını ve şeffaflığı ile işbirliğini teşvik ettiğini savundu.
Buterin yazdı:
“D/acc’ye çok uygun bir fikir, bir AI’nın (hacking yoluyla) gerçekleştirdiği çok tehlikeli bir eylemi gerçekleştirmek için ele geçirdiği herhangi bir ekipmanın sahiplerine veya işletmecilerine sorumluluk yüklemektir. Bu, dünyanın (özellikle bilgi işlem ve biyo) altyapısını mümkün olduğunca güvenli hale getirmek için zorlu çalışmayı yapma konusunda çok geniş bir teşvik yaratacaktır.”
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Vitalik Buterin, yapay zeka risklerini ele almak için merkezi olmayan savunmaların gerektiğini uyarıyor.
Ethereum’un kurucu ortağı Vitalik Buterin, kontrolsüz Yapay Zeka (YZ) programlarının potansiyel tehlikeleri konusunda endişelerini dile getirdi.
X’in 10 Ocak tarihli bir yayınında, Buterin, kötü yönetilen yapay zekanın insanlığa risk oluşturan kendini üretebilen akıllı varlıklar yaratabileceği konusunda uyardı.
Dedi ki:
O, bazı yapay zeka sistemlerinin, kullanıcı arayüzlerini geliştirmek amacıyla tasarlanmış sohbet botları gibi, faydalı olduğunu açıkladı, diğerlerinin ise ciddi risklere yol açabileceğini belirtti. Özellikle, uzun süreler boyunca otonom olarak çalışan yapay zeka ajanlarının sonunda insan kontrolünü sorgulayabileceğini ve toplumu güçsüzleştirebileceğini ifade etti.
Bu riskleri hafifletmek için, Buterin, onları yerine koymak yerine kolektif yetenekleri artıran araçlar haline dönüştüren insan zekasını tamamlayan AI sistemlerine odaklanmayı önerdi.
Ona göre, böyle bir yaklaşım yapay zekayı insan yeteneklerini geliştirmek için güçlü bir araç haline getirecek ve gereksiz risklerden kaçınacaktır.
d/Acc
Onun stratejisinin önemli bir kısmı, Merkezi Olmayan ve Demokratik Farklılaşmış Savunma Hızlanması (d/Acc) kavramını içeriyor. Bu yaklaşım, ortaya çıkan yapay zeka ile ilgili tehditleri ele almak için merkezi olmayan araçların geliştirilmesini vurgular.
Buterin, bu fikri yakın zamanda bir blog yazısında açıkladı ve d/Acc’yi hızlı AI ilerlemelerinin olası tehlikelerinden korunmak için tasarlanmış bir çerçeve olarak tanımladı. Hedef, bireyleri ve toplulukları kendi kendilerini korumaya yetkilendirmektir.
Bu strateji, teknolojik gücün daha demokratik bir dağılımını sağlayarak savunma yeteneklerini toplulukların eline koymaktadır. Örneğin, merkezi olmayan sistemler, hükümetlerin veya şirketlerin üst düzeyden kontrolüne bağlı olmadan zararlı yapay zeka faaliyetlerini izleyebilir, karşı koyabilir ve hatta etkisiz hale getirebilir.
Buterin, d/Acc’nin AI teknolojilerinin öngörülemeyen şekilde ilerlediği senaryolarda bir güvenlik sağlayabileceğini açıkladı. Ayrıca savunmanın demokratikleştirilmesi, gelişmiş AI’nın potansiyelini tek bir varlık tarafından domine etmesini veya sömürmesini engelleyerek daha dengeli ve dayanıklı bir teknolojik ekosistemi teşvik eder.
Ethereum’un ortak kurucusu ayrıca geliştiricilerin bu hızla gelişen alandaki etik sorumluluklarını vurguladı. Dağıtılmış yaklaşımların, d/Acc gibi, yapay zeka gelişiminde kolektif güvenliği artırdığını ve şeffaflığı ile işbirliğini teşvik ettiğini savundu.
Buterin yazdı:
Bu makalede bahsedildi