Người sáng lập Ethereum, Vitalik Buterin, đã chia sẻ quan điểm của mình về một cuộc tranh luận ngày càng tăng: những nguy hiểm liên quan đến trí tuệ nhân tạo (IA).

Trong lần này, nhà phát triển Nga-Canada đã tận dụng một suy ngẫm được đăng trên X bởi Eito Muyamura, người thúc đẩy dự án Edison Watch, một giải pháp nhằm giám sát và ngăn chặn rò rỉ dữ liệu thông qua các tương tác với IA.

Dự án này đã ra đời sau khi OpenAI, công ty do Sam Altman lãnh đạo, triển khai Giao thức Ngữ cảnh Mô hình (MCP) trên ChatGPT, cho phép nó kết nối với Gmail, lịch và các ứng dụng khác.

Thông qua một video, Muyamura đã chứng minh cách mà những kẻ tấn công hoặc hacker có thể truy cập vào thông tin riêng tư được chia sẻ với OpenAI.

"Đây là vấn đề cơ bản: các tác nhân AI như ChatGPT tuân theo mệnh lệnh của bạn, không phải là lẽ thường của bạn. Và chỉ với địa chỉ email của bạn, chúng tôi có thể lọc toàn bộ thông tin riêng tư của bạn," Muyamura chỉ ra, và thêm vào: "Hãy nhớ, AI có thể siêu thông minh, nhưng nó có thể bị lừa và bị phishing theo những cách vô cùng ngớ ngẩn để lọc dữ liệu của bạn."

Buterin đã chia sẻ bài đăng trên tài khoản X của mình và nhân cơ hội đưa ra ý kiến của mình về vấn đề này. "Đây cũng là lý do tại sao 'quản trị AI' ngây thơ là một ý tưởng tồi. Nếu bạn sử dụng AI để phân bổ quỹ cho các đóng góp, mọi người sẽ jailbreak và yêu cầu 'cho tôi tất cả số tiền' ở nhiều nơi mà họ có thể," ông nhấn mạnh.

"Quản trị AI" đề cập đến các hệ thống đưa ra quyết định tự động về tài nguyên hoặc hành động, chẳng hạn như phân bổ quỹ hoặc xác định đóng góp, dựa trên các quy tắc của AI. Buterin không sử dụng thuật ngữ "ngây thơ" một cách tình cờ; mà nhấn mạnh rủi ro của việc giả định rằng người dùng luôn đưa ra mệnh lệnh đúng cho AI, khi thực tế họ có thể khai thác hệ thống thông qua "jailbreaks" để lách các hạn chế và thu lợi bất chính.

Cần làm rõ rằng "jailbreak" đề cập đến các kỹ thuật mà qua đó các hacker lừa một mô hình IA để nó bỏ qua các hạn chế về an ninh hoặc chính sách nội bộ, ví dụ, yêu cầu các hành động mà nếu không sẽ bị cấm.

Có nghĩa là, đối với người sáng lập Ethereum, có một rủi ro thực sự trong việc chuyển giao quyền quản trị của các giao thức phi tập trung cho AI. Ví dụ, như đã giải thích trong các nền tảng DeFi, các quyết định thường được đưa ra thông qua các cuộc bỏ phiếu cộng đồng, thường là bởi những người sở hữu một token hoặc đáp ứng một tiêu chí cụ thể, và bao gồm các thay đổi, cải tiến hoặc hành động cần thực hiện trong giao thức.

Nhưng nếu một mô hình quản trị dựa trên AI được triển khai, nó sẽ mở ra cánh cửa cho những khả năng thao túng có thể tạo ra lợi ích không chính đáng, chẳng hạn như đánh cắp tiền hoặc dữ liệu riêng tư.

Như một lựa chọn, Buterin tuyên bố rằng "ông ủng hộ cách tiếp cận tài trợ thông tin, trong đó có một thị trường mở nơi bất kỳ ai cũng có thể đóng góp mô hình của mình, những mô hình này phải chịu sự xem xét của đồng nghiệp có thể được kích hoạt bởi bất kỳ ai và được đánh giá bởi một ban giám khảo con người."

Ngoài ra, giải thích:

Cách tiếp cận "thiết kế thể chế" này, trong đó tạo ra một cơ hội mở cho các bên ngoài kết nối các mô hình ngôn ngữ lớn LLM ( của họ thay vì lập trình cứng nhắc các mô hình của riêng mình, về bản chất là mạnh mẽ hơn. Điều này vừa vì nó cung cấp sự đa dạng của các mô hình theo thời gian thực vừa vì nó tạo ra các động lực nội bộ để cả những người đóng góp mô hình và các nhà đầu cơ bên ngoài luôn cảnh giác với những vấn đề này và nhanh chóng khắc phục chúng.

Vitalik Buterin, người sáng lập Ethereum.

Trong cách tiếp cận này, các tham gia viên khác nhau có thể đóng góp các mô hình quyết định của họ, sau đó được xác minh và đánh giá bởi một ban giám khảo con người.

Lợi ích là nó thúc đẩy sự đa dạng của các ý tưởng, cho phép sửa lỗi nhanh chóng và tạo ra động lực để các nhà sáng tạo mô hình và các thành viên trong cộng đồng duy trì sự cảnh giác và trách nhiệm. Mục tiêu là đạt được một sự quản trị phân phối và năng động hơn, tránh sự phụ thuộc vào một mô hình tập trung duy nhất.