Melihat peluncuran testnet publik Mira Network kemarin. Ini mencoba membangun lapisan kepercayaan untuk AI. Jadi mengapa AI perlu dipercaya? Dan bagaimana Mira mengatasi masalah ini?
Orang-orang lebih sering membahas aspek kekuatan kemampuan AI ketika berdiskusi tentang AI. Namun, yang menarik adalah, AI memiliki "ilusi" atau bias. Orang-orang tidak banyak memperhatikan hal ini. Apa itu "ilusi" AI? Secara sederhana, itu berarti AI kadang-kadang akan "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink? Ia mungkin akan memberikan banyak penjelasan yang tampak masuk akal dengan serius.
Adanya "ilusi" atau bias dalam AI memiliki hubungan tertentu dengan beberapa jalur teknologi AI saat ini, seperti AI generatif akan memprediksi "kemungkinan besar" untuk menghasilkan konten untuk mencapai koherensi dan kewajaran, tetapi terkadang tidak dapat memverifikasi keasliannya; Selain itu, data pelatihan itu sendiri mengandung kesalahan, bias, dan bahkan konten fiktif, yang juga dapat memengaruhi output AI. Artinya, pola bahasa manusia yang dipelajari AI itu sendiri, bukan fakta itu sendiri
Singkatnya, mekanisme generasi probabilitas saat ini + pola berbasis data hampir tidak terhindarkan membawa kemungkinan ilusi AI.
Konten yang memiliki output bias atau ilusi jika hanya berupa pengetahuan umum atau konten hiburan, untuk sementara tidak akan memiliki konsekuensi langsung, tetapi jika terjadi di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, akan langsung menghasilkan konsekuensi besar. Oleh karena itu, bagaimana menyelesaikan ilusi dan bias AI adalah salah satu masalah inti dalam proses evolusi AI. Beberapa menggunakan teknologi peningkatan pencarian untuk generasi (menggabungkan dengan basis data waktu nyata, mengutamakan output fakta yang sudah diverifikasi), beberapa memperkenalkan umpan balik manusia, melalui penandaan manual dan pengawasan manusia untuk memperbaiki kesalahan model, dan sebagainya.
Proyek Mira juga berusaha untuk mengatasi masalah bias dan ilusi AI, yaitu, Mira berupaya membangun lapisan kepercayaan AI, mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Jadi, dari segi kerangka keseluruhan, bagaimana Mira mengurangi bias dan ilusi AI dan pada akhirnya mewujudkan AI yang dapat dipercaya?
Inti dari Mira untuk mencapai hal ini adalah dengan memverifikasi output AI melalui konsensus dari beberapa model AI. Dengan kata lain, Mira sendiri adalah jaringan verifikasi yang memverifikasi keandalan output AI, dan ia memanfaatkan konsensus dari beberapa model AI. Selain itu, satu hal yang sangat penting adalah konsensus terdesentralisasi untuk melakukan verifikasi.
Oleh karena itu, kunci jaringan Mira adalah verifikasi konsensus yang terdesentralisasi. Verifikasi konsensus terdesentralisasi adalah sesuatu yang dikuasai oleh bidang kripto, dan pada saat yang sama, ia juga memanfaatkan kolaborasi multi-model ini, dengan menggunakan model verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, diperlukan pernyataan yang dapat diverifikasi secara independen, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node untuk melakukan verifikasi, dan untuk memastikan kejujuran operator node, insentif/punishment ekonomi kripto akan diterapkan, dengan keterlibatan berbagai model AI + operator node yang terdesentralisasi untuk menjamin keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup transformasi konten, verifikasi terdistribusi, dan mekanisme konsensus untuk mencapai keandalan verifikasi. Transformasi konten adalah bagian penting dari arsitektur ini. Jaringan Mira pertama-tama memecah kandidat (biasanya diajukan oleh pelanggan) menjadi klaim yang dapat diverifikasi yang berbeda (untuk memastikan bahwa model dapat dipahami dalam konteks yang sama), yang didistribusikan oleh sistem ke node untuk verifikasi untuk menentukan validitas klaim dan mengumpulkan hasil untuk konsensus. Hasil dan konsensus ini dikembalikan ke pelanggan. Selain itu, untuk melindungi privasi pelanggan, konten kandidat diubah menjadi pasangan klaim, yang secara acak dipecah ke node yang berbeda untuk mencegah kebocoran informasi selama proses verifikasi.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengajukan hasil verifikasi. Mengapa operator node mau terlibat dalam verifikasi klaim? Karena mereka dapat memperoleh imbalan. Dari mana imbalan itu berasal? Dari nilai yang diciptakan untuk klien. Tujuan jaringan Mira adalah untuk mengurangi tingkat kesalahan AI (ilusi dan bias), dan begitu tujuan ini tercapai, maka akan menciptakan nilai, seperti mengurangi tingkat kesalahan di bidang medis, hukum, penerbangan, keuangan, dan lain-lain, yang akan menghasilkan nilai besar. Oleh karena itu, klien akan bersedia membayar. Tentu saja, mengenai keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada klien (mengurangi tingkat kesalahan AI). Selain itu, untuk mencegah perilaku curang dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan mengurangi token yang dipertaruhkan. Singkatnya, ini adalah untuk memastikan bahwa operator node berpartisipasi secara jujur dalam verifikasi melalui permainan mekanisme ekonomi.
Secara keseluruhan, Mira menyediakan pendekatan baru untuk mencapai keandalan AI dengan membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan beberapa model AI, yang membawa keandalan lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan halusinasi AI, untuk memenuhi kebutuhan akurasi dan presisi yang lebih tinggi dari pelanggan. Selain memberikan nilai kepada pelanggan, ini juga memberikan keuntungan bagi peserta jaringan Mira. Jika diringkas dalam satu kalimat, Mira berusaha membangun lapisan kepercayaan untuk AI. Ini berperan dalam mendorong penerapan AI yang lebih mendalam.
Saat ini, kerangka agen AI yang bekerja sama dengan Mira mencakup ai16z, ARC, dan lain-lain. Jaringan publik Mira meluncurkan Testnetnya kemarin, pengguna yang berpartisipasi dalam Testnet publik Mira dapat menggunakan Klok, yang merupakan aplikasi obrolan LLM berbasis Mira. Dengan menggunakan aplikasi Klok, pengguna dapat merasakan keluaran AI yang telah terverifikasi (dapat membandingkan perbedaannya dengan keluaran AI yang belum terverifikasi), dan juga bisa mendapatkan poin Mira. Mengenai apa yang akan dilakukan dengan poin tersebut di masa depan, belum ada informasi yang dirilis.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Multi-model konsensus + desentralisasi verifikasi: Bagaimana Mira Network membangun lapisan kepercayaan AI untuk melawan ilusi dan bias?
Melihat peluncuran testnet publik Mira Network kemarin. Ini mencoba membangun lapisan kepercayaan untuk AI. Jadi mengapa AI perlu dipercaya? Dan bagaimana Mira mengatasi masalah ini?
Orang-orang lebih sering membahas aspek kekuatan kemampuan AI ketika berdiskusi tentang AI. Namun, yang menarik adalah, AI memiliki "ilusi" atau bias. Orang-orang tidak banyak memperhatikan hal ini. Apa itu "ilusi" AI? Secara sederhana, itu berarti AI kadang-kadang akan "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink? Ia mungkin akan memberikan banyak penjelasan yang tampak masuk akal dengan serius.
Adanya "ilusi" atau bias dalam AI memiliki hubungan tertentu dengan beberapa jalur teknologi AI saat ini, seperti AI generatif akan memprediksi "kemungkinan besar" untuk menghasilkan konten untuk mencapai koherensi dan kewajaran, tetapi terkadang tidak dapat memverifikasi keasliannya; Selain itu, data pelatihan itu sendiri mengandung kesalahan, bias, dan bahkan konten fiktif, yang juga dapat memengaruhi output AI. Artinya, pola bahasa manusia yang dipelajari AI itu sendiri, bukan fakta itu sendiri
Singkatnya, mekanisme generasi probabilitas saat ini + pola berbasis data hampir tidak terhindarkan membawa kemungkinan ilusi AI.
Konten yang memiliki output bias atau ilusi jika hanya berupa pengetahuan umum atau konten hiburan, untuk sementara tidak akan memiliki konsekuensi langsung, tetapi jika terjadi di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, akan langsung menghasilkan konsekuensi besar. Oleh karena itu, bagaimana menyelesaikan ilusi dan bias AI adalah salah satu masalah inti dalam proses evolusi AI. Beberapa menggunakan teknologi peningkatan pencarian untuk generasi (menggabungkan dengan basis data waktu nyata, mengutamakan output fakta yang sudah diverifikasi), beberapa memperkenalkan umpan balik manusia, melalui penandaan manual dan pengawasan manusia untuk memperbaiki kesalahan model, dan sebagainya.
Proyek Mira juga berusaha untuk mengatasi masalah bias dan ilusi AI, yaitu, Mira berupaya membangun lapisan kepercayaan AI, mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Jadi, dari segi kerangka keseluruhan, bagaimana Mira mengurangi bias dan ilusi AI dan pada akhirnya mewujudkan AI yang dapat dipercaya?
Inti dari Mira untuk mencapai hal ini adalah dengan memverifikasi output AI melalui konsensus dari beberapa model AI. Dengan kata lain, Mira sendiri adalah jaringan verifikasi yang memverifikasi keandalan output AI, dan ia memanfaatkan konsensus dari beberapa model AI. Selain itu, satu hal yang sangat penting adalah konsensus terdesentralisasi untuk melakukan verifikasi.
Oleh karena itu, kunci jaringan Mira adalah verifikasi konsensus yang terdesentralisasi. Verifikasi konsensus terdesentralisasi adalah sesuatu yang dikuasai oleh bidang kripto, dan pada saat yang sama, ia juga memanfaatkan kolaborasi multi-model ini, dengan menggunakan model verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, diperlukan pernyataan yang dapat diverifikasi secara independen, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node untuk melakukan verifikasi, dan untuk memastikan kejujuran operator node, insentif/punishment ekonomi kripto akan diterapkan, dengan keterlibatan berbagai model AI + operator node yang terdesentralisasi untuk menjamin keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup transformasi konten, verifikasi terdistribusi, dan mekanisme konsensus untuk mencapai keandalan verifikasi. Transformasi konten adalah bagian penting dari arsitektur ini. Jaringan Mira pertama-tama memecah kandidat (biasanya diajukan oleh pelanggan) menjadi klaim yang dapat diverifikasi yang berbeda (untuk memastikan bahwa model dapat dipahami dalam konteks yang sama), yang didistribusikan oleh sistem ke node untuk verifikasi untuk menentukan validitas klaim dan mengumpulkan hasil untuk konsensus. Hasil dan konsensus ini dikembalikan ke pelanggan. Selain itu, untuk melindungi privasi pelanggan, konten kandidat diubah menjadi pasangan klaim, yang secara acak dipecah ke node yang berbeda untuk mencegah kebocoran informasi selama proses verifikasi.
Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengajukan hasil verifikasi. Mengapa operator node mau terlibat dalam verifikasi klaim? Karena mereka dapat memperoleh imbalan. Dari mana imbalan itu berasal? Dari nilai yang diciptakan untuk klien. Tujuan jaringan Mira adalah untuk mengurangi tingkat kesalahan AI (ilusi dan bias), dan begitu tujuan ini tercapai, maka akan menciptakan nilai, seperti mengurangi tingkat kesalahan di bidang medis, hukum, penerbangan, keuangan, dan lain-lain, yang akan menghasilkan nilai besar. Oleh karena itu, klien akan bersedia membayar. Tentu saja, mengenai keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada klien (mengurangi tingkat kesalahan AI). Selain itu, untuk mencegah perilaku curang dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan mengurangi token yang dipertaruhkan. Singkatnya, ini adalah untuk memastikan bahwa operator node berpartisipasi secara jujur dalam verifikasi melalui permainan mekanisme ekonomi.
Secara keseluruhan, Mira menyediakan pendekatan baru untuk mencapai keandalan AI dengan membangun jaringan verifikasi konsensus terdesentralisasi berdasarkan beberapa model AI, yang membawa keandalan lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan halusinasi AI, untuk memenuhi kebutuhan akurasi dan presisi yang lebih tinggi dari pelanggan. Selain memberikan nilai kepada pelanggan, ini juga memberikan keuntungan bagi peserta jaringan Mira. Jika diringkas dalam satu kalimat, Mira berusaha membangun lapisan kepercayaan untuk AI. Ini berperan dalam mendorong penerapan AI yang lebih mendalam.
Saat ini, kerangka agen AI yang bekerja sama dengan Mira mencakup ai16z, ARC, dan lain-lain. Jaringan publik Mira meluncurkan Testnetnya kemarin, pengguna yang berpartisipasi dalam Testnet publik Mira dapat menggunakan Klok, yang merupakan aplikasi obrolan LLM berbasis Mira. Dengan menggunakan aplikasi Klok, pengguna dapat merasakan keluaran AI yang telah terverifikasi (dapat membandingkan perbedaannya dengan keluaran AI yang belum terverifikasi), dan juga bisa mendapatkan poin Mira. Mengenai apa yang akan dilakukan dengan poin tersebut di masa depan, belum ada informasi yang dirilis.