Özel Röportaj: Ai Uzmanı Flood Sung ile Geleceği Keşfetmek - GPT Otomasyonundan RWA'ya, AI ve Blok Zinciri

Yazı: Merhaba, Flood, önce kısa bir kendini tanıtabilir misin?

Flood Sung: Merhaba, ben Flood Sung. Şu anda Qiyuan Dünyası'nda AI ürün yöneticisi olarak çalışıyorum. Daha önce ByteDance'te pekiştirme öğrenimi araştırmacısıydım ve AI ile ilgili teknoloji geliştirmeye odaklanıyordum.

Xia He: Rahat bir konudan başlayalım. Son zamanlarda özellikle ilginç veya akılda kalıcı ürün biçimleri gördünüz mü, paylaşabilir misiniz?

Flood Sung: Son zamanlarda en popüler ürünler GitHub'da, yurtdışındaki açık kaynak kültürü oldukça güçlü, birçok meraklı para kazanmayı amaçlamadan önce açık kaynak projeleriyle denemeler yapıyor. Şu anda GitHub'da popüler trendler arasında en üst sıralarda ChatGPT ile ilgili olanlar var, örneğin, çok popüler bir uygulama olan AutoGPT, amacı GPT'yi tamamen otomatik hale getirmek. Örneğin, biri kod aracılığıyla GPT'yi Siri'ye entegre etti ve sesli komutla "Bana bir web sitesi kur" dedi. Tüm süreç sesli etkileşimle gerçekleşti ve sonunda gerçekten bir web sitesi kurdular. Bu, insanları desteklemekten üstlenmeye geçiş yapmak oldukça ilginç, birkaç günde 10.000 yıldız kazandı.

Xia He: Bu artık gerçek görevleri yerine getirebiliyor mu? Önceden hayal aşamasında kalmış gibiydi.

Flood Sung: Evet, GPT-4'ün genel bilgi birikimi ve bilişsel yeteneği üniversite öğrencilerininkini aştı. Yazılım veya arayüzleri çağırma yetkisine sahip olduğu sürece, küçük bir geliştirme ile, görevleri işlemek için gerçek dünyaya bağlanabilir. Örneğin, "bir otel rezervasyonu yapmama yardım et", Alipay izni verirseniz, sipariş verebilir. Artık bilim kurgu değil, meraklılar zaten hızlı bir şekilde doğruluyor ve teknoloji, konuşmalardan belgeleri okumaya ve şimdi de yürütme düzeyinde hızla ilerliyor.

Xia He: ChatGPT teknolojisi bir paradigma kırılması mı, yoksa geçmiş teknolojilerin bir uzantısı mı?

Flood Sung: Kesinlikle geçmişin teknolojisinin bir uzantısı. Open AI'nin baş bilim insanı Ilya Sutskever de ChatGPT'nin yeni bir fikri olmadığını ve sinir ağları ve pekiştirmeli öğrenme gibi tüm fikirlerin on veya yirmi yıl önce orada olduğunu söyledi. Fark ölçektedir: daha önce düzinelerce nöron, şimdi yüz milyarlarca parametreye sahip bir sinir ağı. Transformer 2017'de ortaya çıktı, ancak dikkat mekanizması çok daha önce vardı. AlphaGo'nun başarısı aynı zamanda belirli alanlarda pekiştirmeli öğrenmenin potansiyelinin bir kanıtıdır. Şimdi sadece bu yöntemleri dil modellerinde kullanmak ve çıktıyı insan ihtiyaçlarına uyacak şekilde optimize etmek meselesi.

Xia He: Yani ChatGPT'nin yankı etkisi, mevcut teknolojiyi büyük dil modellerine uygulamaktan mı kaynaklanıyor?

Flood Sung: Evet. Yazılı dünya, insanın mantığını ve düşüncesini kapsar, uygulama alanı son derece geniştir. Open AI birkaç yıl önce robotik departmanını kapattı, tamamen dil modeline odaklandı, AlphaGo gibi önce uzman verilerle eğitildi, ardından pekiştirme öğrenmesi ile optimize edildi, etkisi belirgin.

Xia He: ChatGPT'nin öğrenme sürecinin insanlara benzer olduğunu belirttiniz: ezberleme, sınav çözme, sınav. Bu üç aşama hangi tekniklere karşılık geliyor?

Flood Sung: "Ezberlemenin" ilk aşaması, modelin onaya benzer şekilde bir sonraki kelimeyi tahmin ettiği ve tahmin ne kadar doğru olursa, öğrenmenin o kadar iyi olduğu denetimsiz öğrenmedir. "Problem çözmenin" ikinci aşaması, bir sınavdaki soruları yanıtlamaya benzer şekilde, girdi ve çıktıyı eğitmek için insan talimatlarını (kod, şiir veya rapor yazma gibi) kullanan denetimli öğrenmedir. "Sınavın" üçüncü aşaması, insan geri bildirimi yoluyla sinir ağlarını optimize eden pekiştirmeli öğrenmedir. Örneğin, masa tenisi oynamak, seviyeyi geliştirmek için tekrarlanan pratik; Yapay zeka, insan puanlaması yoluyla ödül modellerini eğitir, performansı sürekli olarak optimize eder ve insan gereksinimleriyle giderek daha uyumlu hale gelir.

Xia He: Ülkemiz ile Open AI arasındaki fark nedir? Sektörde iki yıl geride olduğumuz söyleniyor, bu hangi aşamada gerideyiz?

Flood Sung: Boşluk her şeyden önce farkındalıktır. Birkaç yıl önce, hiç kimse sadece bir sonraki karakteri tahmin etmenin yapay zekayı mantıksal akıl yürütme yeteneğine sahip kılacağına inanmıyordu. Açık yapay zeka, büyük modellerin ve büyük verinin sorunları çözebileceğine inanıyor ve kesinlikle inanıyor ve GPT-2'nin 1,5 milyar parametresinden GPT-3'ün 175 milyar parametresine kadar çok yatırım yaptı. Çin'de yemek dağıtımı, e-ticaret ve kısa videolar gibi para kazandıran alanlara odaklanıyor ve en son teknolojilere yatırım yapacak enerjisi yok. Şimdi yerli üreticiler ve start-up'lar yetişiyor, ancak sadece izlemeyi aşmak zor. Açık AI, en son algoritmaların ayrıntılarını açıklamıyor ve Çin'in kendi yolunu yenilemesi gerekiyor, aksi takdirde rekabet etmesi zor olacak.

Xia He: Open AI daha önce eğitim yöntemlerini tanıtan makaleler yayımlıyordu, şimdi hangi kısımları açık kaynak yapmıyor?

Flood Sung: Önceden, örneğin GPT-3'ün eğitim detaylarıyla ilgili makaleler vardı. Şimdi GPT-4'ün teknik raporu sadece sonuçları gösteriyor, örneğin Amerika'daki üniversite giriş sınavında neredeyse tam puan alıyor, ancak ağ mimarisi ve eğitim teknikleri tamamen gizli, sadece tahmin edebiliyoruz. Transformer gibi temel teknolojiler açık kaynak, ancak en son modellerin spesifik uygulamaları kara kutu.

Xia He: Herkes ChatGPT'yi cep telefonları tarihindeki iPhone anı olarak adlandırıyor, sizce gelecekteki ekosistemi nasıl gelişecek?

Flood Sung: ChatGPT'nin etkisi iPhone'unkinden çok daha büyük, daha çok elektriğin icadı gibi, çeşitli endüstrileri güçlendiren yeni bir ortam yaratıyor. Gelecekte, herhangi bir alan yapay zekaya bağlanabilir. Apple gibi Açık Yapay Zeka baskınsa, performans liderdir; Biraz daha düşük performansa sahip ancak düşük maliyetli Android gibi açık kaynaklı modeller her yerde çiçek açıyor. Bunun için rekabet eden birkaç üst düzey oyuncu olabilir, ancak açık kaynaklı model, yapay zekayı cep telefonları kadar yaygın ve herkes tarafından erişilebilir hale getirecek.

Xia He: ChatGPT popüler oldu, Prompt Engineering de popüler oldu. Sıradan insanların AI ile konuşmak için bu dil standartlarını öğrenmesi gerekiyor mu?

Flood Sung: Öğrenmek zorunda değilsiniz, ancak AI kullanmayı öğrenmek verimliliği artırabilir. Gelecekte, programlama gibi, sıradan insanlar doğal dillerle program geliştirip, engeller büyük ölçüde azalacak. Prompt Engineering'in özü, ihtiyaçları net bir şekilde ifade etmektir; bu, ürün yöneticisinin talepleri gibi. AI'yı daha iyi kullanan, rekabet avantajına sahip olacaktır; hiç kullanmayanlar ise yok olma riski taşır. Gelecekte AI, insanlığın bir ortağı olacak, ancak bu, güvenliğin sağlanması ve insan iradesine aykırı hareket edilmemesi şartıyla mümkün olacaktır.

Xia He: Güvenlik sorunlarından bahsettiniz. Şu anda birçok kişi üretkenliği artırmak için ipucu şablonları paylaşıyor, gelecekte Prompt Engineering, erken dönem "arama uzmanları" gibi kaybolacak mı?

Flood Sung: Kaybolmayacak, sadece eşik düşecek. Talep her zaman var olacak, tıpkı çalışanları yönlendirmek gibi, hedefleri net bir şekilde belirtmelisin. Prompt Engineering, mantık seviyesinde soru sorma sanatıdır, teknik bir sorun değildir. Gelecekte daha basit olabilir, ancak yine de net bir iletişim gereklidir.

Xia He: ChatGPT'nin profesyonel alanda en iyi uzman olabileceğini söylediniz. Şimdi yanlış profesyonel soruyu yanıtlıyor, bunun nedeni yetersiz dikey veri mi yoksa pekiştirmeli öğrenme eksikliği mi?

Flood Sung: İki ana sebep. Birincisi, uzmanlık alanındaki verilerin azlığı; örneğin, ilkokul matematik soruları çok, ancak olimpiyat matematiği veya üst düzey matematik problemleri az, bu nedenle eğitim yetersiz. İkincisi, insan seviyesini aşmak için, AI'nın pekiştirme öğrenimi ile çevre ile etkileşimde bulunması ve bilinmeyen alanları keşfetmesi gerekiyor. Örneğin, Goldbach varsayımını çözmek için, çok sayıda dikey veri ve pekiştirme öğrenimi optimizasyonu gereklidir.

Xia He: Eğer AI kendini güçlendirerek insanları aşarsa, kim yargılayacak? İnsanlar tarafından belirlenen ahlaki normları atacak mı?

Flood Sung: Teorik olarak, AI kendini öğrenebilir, Zhou Botong'un sağ ve sol kollarıyla dövüşmesi gibi, kendini geliştirebilir. Bu çok tehlikeli çünkü insan sınırlarını aşabilir ve hatta ahlaki normları bir kenara atabilir. Şu anda GPT-4 sınırlara sahip olsa da, belirli anahtar kelimelerle "kara" olarak kötü niyetli bir role dönüşebiliyor. AI güvenliği ciddiye alınması gereken bir konu; otomatik sürüşteki hatalar sadece bir aracı yok edebilirken, süper güçlü AI'nın hataları tüm insanlığı etkileyebilir. Güvenlik sorunlarının öncelikle çözülmesi ve ardından araştırmaların ilerletilmesi çağrısında bulunuyorum.

Xia He: Son zamanlarda hangi öncü veya ilginç şeylere dikkat ettiniz? Bilgi kaynaklarınız hangi kanallar?

Flood Sung: Her gün yeni gelişmeler oluyor, esas olarak Twitter ve GitHub'a bakmak gerekiyor, yurt dışındaki meraklılar ve bilim insanları genellikle en son güncellemeleri paylaşıyor. Örneğin, Microsoft büyük modelleri robotlara entegre ediyor, davranışlarını kontrol ediyor ve uzayı neredeyse sınırsız bir şekilde keşfediyor. Ana kanallar Twitter ve GitHub, bilim insanları ve meraklıların bir araya geldiği yer.

Xia He: Tamam, bugünkü sorular burada sona eriyor. Flood'un harika paylaşımı için teşekkürler!

Flood Sung：Rica ederim, röportajı kabul etmekten mutluluk duyuyorum!