Microsoft'un Yapay Zeka Departmanı Başkanı, yapay zekaya bilinç atfetmemeye çağrıda bulundu.

# Microsoft'un AI departmanı başkanı, sinir ağlarına bilinç atfetmemeye çağırdı.

Sadece biyolojik varlıklar bilinç sahibi olabilir. Geliştiriciler ve araştırmacılar, bunun tersini öngören projeler üzerinde çalışmayı durdurmalıdır, dedi Microsoft'un AI departmanı başkanı Mustafa Suleyman CNBC ile yaptığı konuşmada.

«İnsanların böyle bir iş yapması gerektiğini düşünmüyorum. Yanlış bir soru sorarsan, yanlış bir cevap alırsın. Bence bu kesinlikle bu durum», — dedi AfroTech konferansında Houston'da.

Microsoft'un üst düzey yöneticisi, bilinçli olabilen yapay zeka veya iddia edilen acı çekebilen yapay zeka hizmetlerinin yaratılma olasılığına karşı çıkıyor.

Ağustos ayında Süleyman, “görünüşte bilinçli YZ” (Seemingly Conscious AI, SCAI) terimini önerdiği bir makale yazdı. Bu yapay zeka, akıllı varlıkların tüm özelliklerine sahip olup, dolayısıyla bilinç sahibi olduğu izlenimini veriyor. Kendini algılama özelliklerinin tümünü simüle ediyor, ancak içsel olarak boş.

“Hayal ettiğim sistem aslında bilinçli değil, ama insan benzeri bir aklı taklit etmekte o kadar ikna edici olacak ki, bu, senin veya benim kendi düşüncelerimiz hakkında birbirimize yapabileceğimiz bir iddiadan ayırt edilemeyecek,” diyor Suleyman.

Yapay zekaya bilinç atfetmek tehlikeli, diyor uzman. Bu, yanlış anlamaları güçlendirecek, bağımlılık ile ilgili yeni sorunlar yaratacak, psikolojik zayıflıklarımızı istismar edecek, kutuplaşmanın yeni boyutlarını getirecek, mevcut haklar üzerindeki tartışmaları karmaşıklaştıracak ve topluma muazzam bir yeni kategorik hata yaratacaktır.

2023 yılında Süleyman, The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma adlı kitabın yazarı oldu. Bu kitapta AI ve diğer yeni teknolojilerin riskleri detaylı bir şekilde ele alınıyor. Bunlar arasında:

• çevresel ve sosyal yıkımlar - teknolojiler, insanların alışılmış rollerinin kaybolmasına neden olacak kadar hızlı bir şekilde çalışmayı dönüştürebilir;
• kontrol problemi - AI'nin gelişimi ile birlikte, insanın çıkarları doğrultusunda çalışma garantisi vermek daha zor hale geliyor;
• teknolojilerin siber saldırılar, toplumu manipüle etme ve diğer tehditler için uygulanması;
• AI'yi dizginlemek için teknik ve kurumsal mekanizmalara ihtiyaç var;
• ulusal devletlerin ve geleneksel kurumların güçsüzleşmesi.

AGI

Yapay zeka pazarı, insan seviyesinde herhangi bir görevi yerine getirebilen AGI - genel yapay zeka yönüne doğru ilerliyor. Ağustos ayında OpenAI CEO'su Sam Altman, bu terimin muhtemelen “çok faydalı olmadığını” belirtti. Modeller hızlı bir şekilde gelişiyor ve yakında onlara “daha fazla ve daha fazla” güveneceğiz, diyor.

Süleyman için yapay zekanın daha akıllı hale gelmesiyle insan duygularını deneyimleme yeteneği arasında net bir sınır çizmek önemlidir.

«Fiziksel acı deneyimimiz, bizi çok üzgün hissettiren ve berbat hissettiren şeydir, ancak AI “acı” hissettiğinde üzülmez», dedi.

Uzmanlara göre, bu çok önemli bir fark. Aslında yapay zeka, kendisi ve bilinç hakkında bir algı – var olan deneyim hakkında görünen bir anlatı – yaratır, ancak bunun gerçek anlamda deneyimlemediğini belirtir.

“Teknik olarak bunu biliyorsunuz çünkü modelin ne yaptığını görebiliyoruz,” dedi uzman.

Yapay zeka alanında filozof John Searle tarafından önerilen biyolojik doğalcılık adı verilen bir teori vardır. Bu teori, bilincin canlı beynin süreçlerine bağlı olduğunu belirtmektedir.

“Bugün insanlara haklar vermemizin nedeni, onlara zarar vermek istemememizdir, çünkü acı çekiyorlar. Onların acıları ve kaçınma tercihleri var. Bu modellerin böyle bir durumu yok. Bu sadece bir simülasyon,” dedi Süleyman.

Üst düzey yönetici, yapay zekada bilinç araştırma fikrine karşı, çünkü onun bilinci yok. Microsoft'un, yapay olduklarının bilincinde olan hizmetler yarattığını söyledi.

“Daha basit bir ifadeyle, insanın yararına sürekli çalışan bir yapay zeka yaratıyoruz,” diye belirtti.

Hatırlatalım ki, Ekim ayında Anthropic uzmanları, önde gelen AI modellerinin bir tür “iç gözlem bilinci” sergileyebildiğini belirtti - bu modeller, kendi iç “düşüncelerini” tanıyabilir ve tanımlayabilir, hatta bazı durumlarda onlara yön verebilirler.