AI, insan zekasına ne kadar yaklaşırsa, o kadar insan dışı savunma sistemlerine ihtiyaç duyar.
Yazar: 0xResearcher
Manus, GAIA benchmark testlerinde SOTA (State-of-the-Art) performansı elde etti, performansının Open AI'nın aynı seviyedeki büyük modellerini aştığını gösterdi. Başka bir deyişle, uluslararası iş müzakereleri gibi karmaşık görevleri bağımsız olarak yerine getirebilir, bu görevler arasında sözleşme şartlarının ayrıştırılması, stratejik öngörüler, çözüm üretimi yer alır ve hatta hukuk ve finans ekibini koordine edebilir. Geleneksel sistemlerle karşılaştırıldığında, Manus'ın avantajı dinamik hedef ayrıştırma kabiliyeti, çok modlu akıl yürütme kabiliyeti ve bellek destekli öğrenme yeteneğidir. Büyük görevleri yüzlerce yürütülebilir alt göreve bölebilir, aynı anda çeşitli veri tipleriyle uğraşabilir ve sürekli olarak kendi karar verme verimliliğini artırmak ve hata oranını azaltmak için pekiştirme öğrenmeyi kullanabilir.
Teknolojinin hızlı gelişimine hayran kalarak, Manus aynı zamanda endüstride yapay zeka evrimi yolunda farklı görüşlere neden oldu: Gelecekte AGI mi tek başına hükmedecek, yoksa MAS mı işbirliği yapacak?
Bu, Manus'un tasarım felsefesinden bahsetmekle başlar, içinde iki olasılığı ima eder:
Bir AGI yoludur. Bireysel zeka seviyesini sürekli olarak artırarak, insanların bütünsel karar verme yeteneğine yaklaştırır.
Bir diğeri de MAS yoludur. Süper koordinatör olarak, binlerce dikey alan ajanının işbirliği yapmasını yönetir.
Yüzeysel olarak, farklı yol ayrımlarını tartışıyoruz, aslında tartıştığımız şey ise yapay zeka gelişiminin temel çelişkisi: verimlilik ve güvenlik nasıl dengelenebilir? Tekil zeka AGI'ye ne kadar yaklaşırsa, kararların siyah kutuya dönüşme riski o kadar artar; ve çoklu ajan işbirliği riski dağıtabilirken, iletişim gecikmesi nedeniyle kritik karar anlarını kaçırabilir.
Manus'un evrimi, yapay zeka gelişiminin doğal risklerini büyütüyor gibi görünmektedir. Örneğin, veri gizliliği siyah deliği: tıbbi senaryolarda, Manus'un hastaların genom verilerine anlık erişim sağlaması gerekebilir; finansal müzakereler sırasında, şirketlerin açıklanmamış mali rapor bilgilerine ulaşılabilir; ayrıca algoritma önyargı tuzakları, işe alım müzakerelerinde, Manus belirli etnik grup adaylarına ortalama seviyenin altında maaş önerilerinde bulunabilir; hukuk sözleşmelerini inceleyerek, yeni sektör terimlerine yanlış karar verme oranı neredeyse yüzde elliye yaklaşabilir. Ayrıca saldırı açıklarına karşı mücadele etme, hacker'lar belirli ses frekanslarını implant ederek, Manus'u müzakerelerde rakibin fiyat aralığını yanlış değerlendirmesine neden olabilir.
Yapay zeka sistemlerinin korkutucu bir acı noktasıyla yüzleşmek zorunda kalıyoruz: Ne kadar akıllı olursa, saldırı yüzeyi de o kadar geniş olur.
Ancak güvenlik, web3'te sürekli olarak bahsedilen bir terimdir. V tanrısının imkansız üçgeninde (blok zincir ağı aynı anda güvenlik, merkezsizlik ve ölçeklenebilirlik sağlayamaz) çeşitli şifreleme yöntemleri de türetilmiştir.
Sıfır Güvenlik Modeli (Zero Trust Security Model): Sıfır Güvenlik Modeli'nin temel felsefesi, 'her zaman doğrulama yap' olarak özetlenebilir, yani cihazın iç ağda olup olmadığına bakılmaksızın varsayılan olarak güvenilmemelidir. Bu model, her erişim isteğinin sıkı kimlik doğrulaması ve yetkilendirme ile gerçekleştirilmesinin vurgulanmasıyla sistem güvenliğini sağlamayı amaçlar.
Merkezi Olmayan Kimlik (Decentralized Identity, DID): DID, varlıklerin merkezi bir kayıt defterine gerek duymadan doğrulanabilir ve kalıcı bir şekilde tanınmasını sağlayan bir kimlik standardıdır. Bu, yeni bir merkezi olmayan dijital kimlik modelinin gerçekleşmesini sağlar, genellikle kendine egemen kimlikle birlikte anılır ve Web3'ün önemli bir parçasıdır.
Tam Homomorfik Şifreleme (Fully Homomorphic Encryption, FHE), şifreli verileri çözmeden veriler üzerinde herhangi bir hesaplama yapılmasına izin veren gelişmiş bir şifreleme teknolojisidir. Bu, üçüncü tarafların şifreli metinleri işleyebileceği ve elde edilen sonuçların şifre çözme sonrasında açık metin üzerinde yapılan aynı işlemin sonuçlarıyla uyumlu olabileceği anlamına gelir. Bu özellik, bulut bilişim ve veri dış kaynağı gibi, orijinal verileri ifşa etmeden hesaplama yapılmasının gerektiği senaryolarda önemli anlam taşır.
Sıfır Güvenlik Modeli ve DID, çok sayıda proje tarafından ele alındığı birkaç boğa piyasasında yer aldı, bazıları başarılı oldu, bazıları ise kripto dalgasında kayboldu ve en genç şifreleme yöntemi olarak: Tam Homomorfik Şifreleme (Fully Homomorphic Encryption, FHE) aynı zamanda AI çağının güvenlik sorunlarını çözmek için büyük bir silahtır. Tam Homomorfik Şifreleme (FHE), şifreli veriler üzerinde hesaplama yapılmasına izin veren bir teknolojidir.
Nasıl çözülür?
Öncelikle, veri düzeyinde. Kullanıcı girişi olan tüm bilgiler (biyometrik özellikler, ses tonu dahil) şifreli olarak işlenir ve Manus bile orijinal verileri çözümleyemez. Örneğin, tıbbi teşhis vakalarında hastanın genom verileri tamamen şifreli olarak analize katılır, biyolojik bilgi sızıntısını önler.
Algoritma düzeyinde. Geliştiricilerin bile yapay zekânın karar sürecini gözetlemesini engelleyen "şifreli model eğitimi"nin FHE ile gerçekleştirilmesi.
İşbirliği düzeyinde. Birden fazla Ajan iletişimi eşik şifreleme kullanarak gerçekleştirir, tek bir düğümün hacklenmesi genel veri sızıntısına neden olmaz. Tedarik zinciri saldırı ve savunma tatbikatında bile, saldırgan birden fazla Ajan'a sızdıktan sonra, tam iş görünümünü elde edemez.
Ancak teknik kısıtlamalardan dolayı, web3 güvenliği çoğu kullanıcıyla doğrudan ilişkili olmayabilir, ancak dolaylı olarak binbir bağlantısı olan bir ilgi alanı vardır. Bu karanlık ormanda, kendinizi donatmazsanız, 'soğan' kimliğinden kaçamayacağınız bir gün gelecektir.
uPort, Ethereum ana ağında 2017 yılında piyasaya sürülen, muhtemelen ana ağda en erken yayınlanan merkezi olmayan kimlik (DID) projelerinden biridir.
Ve sıfır güvenlik modeli açısından, NKN, 2019 yılında ana ağını yayınladı.
Mind Network ilk ana ağına çıkan FHE projesi ve ZAMA, Google, DeepSeek gibi işbirlikleriyle öncü oldu.
uPort ve NKN, editörün daha önce duymadığı projelerdir; güvenlik odaklı projelerin spekülatörler tarafından ilgi görmemesi gibi bir durum var gibi görünüyor. Mind network'ün bu lanetten kaçıp güvenlik alanında lider olup olamayacağını görmek için sabırsızlanıyoruz.
Gelecek geldi. AI insan zekasına ne kadar yakınsa, o kadar insan dışı savunma sistemlerine ihtiyaç duyar. FHE'nin değeri sadece mevcut sorunları çözmekle kalmaz, aynı zamanda güçlü AI çağında yol açar. AGI'ye giden bu tehlikeli yolda, FHE bir seçenek değil, hayatta kalma gerekliliğidir.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Manus, AGI'nin ilk ışığını getiriyor, AI güvenliği yeniden değişiyor
Yazar: 0xResearcher
Manus, GAIA benchmark testlerinde SOTA (State-of-the-Art) performansı elde etti, performansının Open AI'nın aynı seviyedeki büyük modellerini aştığını gösterdi. Başka bir deyişle, uluslararası iş müzakereleri gibi karmaşık görevleri bağımsız olarak yerine getirebilir, bu görevler arasında sözleşme şartlarının ayrıştırılması, stratejik öngörüler, çözüm üretimi yer alır ve hatta hukuk ve finans ekibini koordine edebilir. Geleneksel sistemlerle karşılaştırıldığında, Manus'ın avantajı dinamik hedef ayrıştırma kabiliyeti, çok modlu akıl yürütme kabiliyeti ve bellek destekli öğrenme yeteneğidir. Büyük görevleri yüzlerce yürütülebilir alt göreve bölebilir, aynı anda çeşitli veri tipleriyle uğraşabilir ve sürekli olarak kendi karar verme verimliliğini artırmak ve hata oranını azaltmak için pekiştirme öğrenmeyi kullanabilir.
Teknolojinin hızlı gelişimine hayran kalarak, Manus aynı zamanda endüstride yapay zeka evrimi yolunda farklı görüşlere neden oldu: Gelecekte AGI mi tek başına hükmedecek, yoksa MAS mı işbirliği yapacak?
Bu, Manus'un tasarım felsefesinden bahsetmekle başlar, içinde iki olasılığı ima eder:
Bir AGI yoludur. Bireysel zeka seviyesini sürekli olarak artırarak, insanların bütünsel karar verme yeteneğine yaklaştırır.
Bir diğeri de MAS yoludur. Süper koordinatör olarak, binlerce dikey alan ajanının işbirliği yapmasını yönetir.
Yüzeysel olarak, farklı yol ayrımlarını tartışıyoruz, aslında tartıştığımız şey ise yapay zeka gelişiminin temel çelişkisi: verimlilik ve güvenlik nasıl dengelenebilir? Tekil zeka AGI'ye ne kadar yaklaşırsa, kararların siyah kutuya dönüşme riski o kadar artar; ve çoklu ajan işbirliği riski dağıtabilirken, iletişim gecikmesi nedeniyle kritik karar anlarını kaçırabilir.
Manus'un evrimi, yapay zeka gelişiminin doğal risklerini büyütüyor gibi görünmektedir. Örneğin, veri gizliliği siyah deliği: tıbbi senaryolarda, Manus'un hastaların genom verilerine anlık erişim sağlaması gerekebilir; finansal müzakereler sırasında, şirketlerin açıklanmamış mali rapor bilgilerine ulaşılabilir; ayrıca algoritma önyargı tuzakları, işe alım müzakerelerinde, Manus belirli etnik grup adaylarına ortalama seviyenin altında maaş önerilerinde bulunabilir; hukuk sözleşmelerini inceleyerek, yeni sektör terimlerine yanlış karar verme oranı neredeyse yüzde elliye yaklaşabilir. Ayrıca saldırı açıklarına karşı mücadele etme, hacker'lar belirli ses frekanslarını implant ederek, Manus'u müzakerelerde rakibin fiyat aralığını yanlış değerlendirmesine neden olabilir.
Yapay zeka sistemlerinin korkutucu bir acı noktasıyla yüzleşmek zorunda kalıyoruz: Ne kadar akıllı olursa, saldırı yüzeyi de o kadar geniş olur.
Ancak güvenlik, web3'te sürekli olarak bahsedilen bir terimdir. V tanrısının imkansız üçgeninde (blok zincir ağı aynı anda güvenlik, merkezsizlik ve ölçeklenebilirlik sağlayamaz) çeşitli şifreleme yöntemleri de türetilmiştir.
Sıfır Güvenlik Modeli ve DID, çok sayıda proje tarafından ele alındığı birkaç boğa piyasasında yer aldı, bazıları başarılı oldu, bazıları ise kripto dalgasında kayboldu ve en genç şifreleme yöntemi olarak: Tam Homomorfik Şifreleme (Fully Homomorphic Encryption, FHE) aynı zamanda AI çağının güvenlik sorunlarını çözmek için büyük bir silahtır. Tam Homomorfik Şifreleme (FHE), şifreli veriler üzerinde hesaplama yapılmasına izin veren bir teknolojidir.
Nasıl çözülür?
Öncelikle, veri düzeyinde. Kullanıcı girişi olan tüm bilgiler (biyometrik özellikler, ses tonu dahil) şifreli olarak işlenir ve Manus bile orijinal verileri çözümleyemez. Örneğin, tıbbi teşhis vakalarında hastanın genom verileri tamamen şifreli olarak analize katılır, biyolojik bilgi sızıntısını önler.
Algoritma düzeyinde. Geliştiricilerin bile yapay zekânın karar sürecini gözetlemesini engelleyen "şifreli model eğitimi"nin FHE ile gerçekleştirilmesi.
İşbirliği düzeyinde. Birden fazla Ajan iletişimi eşik şifreleme kullanarak gerçekleştirir, tek bir düğümün hacklenmesi genel veri sızıntısına neden olmaz. Tedarik zinciri saldırı ve savunma tatbikatında bile, saldırgan birden fazla Ajan'a sızdıktan sonra, tam iş görünümünü elde edemez.
Ancak teknik kısıtlamalardan dolayı, web3 güvenliği çoğu kullanıcıyla doğrudan ilişkili olmayabilir, ancak dolaylı olarak binbir bağlantısı olan bir ilgi alanı vardır. Bu karanlık ormanda, kendinizi donatmazsanız, 'soğan' kimliğinden kaçamayacağınız bir gün gelecektir.
uPort ve NKN, editörün daha önce duymadığı projelerdir; güvenlik odaklı projelerin spekülatörler tarafından ilgi görmemesi gibi bir durum var gibi görünüyor. Mind network'ün bu lanetten kaçıp güvenlik alanında lider olup olamayacağını görmek için sabırsızlanıyoruz.
Gelecek geldi. AI insan zekasına ne kadar yakınsa, o kadar insan dışı savunma sistemlerine ihtiyaç duyar. FHE'nin değeri sadece mevcut sorunları çözmekle kalmaz, aynı zamanda güçlü AI çağında yol açar. AGI'ye giden bu tehlikeli yolda, FHE bir seçenek değil, hayatta kalma gerekliliğidir.