2025-12-29 13:58:51

El cofundador de Ethereum, Vitalik Buterin, compartió recientemente su opinión sobre la dirección del desarrollo de los laboratorios de IA. Él cree que, si se va a iniciar un nuevo proyecto de investigación en IA, primero se debe diseñar con el objetivo claro de "potenciar las capacidades humanas".

Él enfatizó especialmente la importancia de evitar cuidadosamente crear sistemas de IA con autonomía a largo plazo, ya que estos pueden generar consecuencias incontrolables. En otras palabras, la IA debe mantenerse dentro de un rango en el que los humanos puedan supervisar y guiar eficazmente.

Otra cosa que Vitalik valora mucho es la transparencia y el código abierto. Propone que los nuevos laboratorios de IA deberían adoptar el modelo de código abierto tanto como sea posible, para que más desarrolladores puedan participar y también facilitar la revisión y retroalimentación de la comunidad.

Desde su perspectiva, Vitalik mantiene una actitud cautelosa hacia los sistemas de IA altamente autónomos actuales. Le preocupa que, si estos sistemas pierden la efectiva restricción humana, puedan traer riesgos desconocidos. Esta postura también refleja las reflexiones internas de la comunidad Web3 sobre la seguridad y ética de la IA: cómo disfrutar de las ventajas que trae la IA sin perder de vista que la tecnología debe desarrollarse en una dirección beneficiosa para la humanidad.

Este tipo de opiniones ha resonado bastante entre los desarrolladores de blockchain, ya que la descentralización y la gobernanza transparente son en sí mismas los valores fundamentales de Web3.

Ver originales

Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.

10 me gusta

Recompensa
10
6
Republicar
Compartir

Comentar

0/400

UnruggableChad

· 01-01 13:58

Vitalik esta frase no tiene ningún problema, AI debe rendir cuentas a los humanos, no al revés --- La transparencia y el código abierto ya los dominamos en Web3, ahora también hay que seguir la tendencia en AI --- Vaya, otro argumento de "supervisión humana", esta vez de la boca de V神, suena diferente --- En pocas palabras, no hagamos esas cosas de caja negra que funcionan de forma autónoma, son muy riesgosas --- Interesante, la idea de descentralización de blockchain finalmente va a incursionar en el campo de la IA --- El problema principal sigue siendo: ¿quién supervisará a los supervisores de la IA? --- Estoy a favor del código abierto, pero en la realidad, ¿cuántos laboratorios están realmente dispuestos a abrir esa puerta? --- Esta idea encaja con el ADN de Web3, todos rechazan el control centralizado --- Potenciar las capacidades humanas en lugar de reemplazarlas, suena como si estuvieran frenando a la AGI --- Exacto, los sistemas con alta autonomía son como bombas de tiempo, quien los tenga se arrepentirá

Ver originalesResponder0

AirdropChaser

· 2025-12-30 05:54

vitalik esta idea sigue siendo bastante clara, mucho más racional que aquellos que alaban ciegamente la AGI La IA debe llevar un "fusible de supervisión humana", no sea que termine causando algún problema Realmente hay que aprender de la transparencia y el código abierto, no juegues con esas cosas de caja negra Mejorar las capacidades humanas vs monstruos autónomos, ¿entiendes la elección, verdad? ¿La gente de web3 en seguridad de IA piensa más profundamente que algunos grandes de Silicon Valley? Qué interesante.

Ver originalesResponder0

MEVictim

· 2025-12-29 14:28

V神 esta teoría está bien explicada, pero ¿cuántos laboratorios de IA verdaderamente abiertos y transparentes hay? --- Otra vez, mejorar la capacidad humana y mantener el control... suena bien, pero en la realidad, ¿el capital no sigue invirtiendo en sistemas de caja negra? --- Estoy de acuerdo con el modelo de código abierto, en comparación con ser monopolizado por unas pocas grandes empresas, es mucho mejor. --- En cuanto a la preocupación por las consecuencias incontrolables, V神 lo ha pensado con cuidado, es mucho más confiable que esos proyectos de IA que crecen de manera salvaje. --- Hablando en serio, la idea de descentralización en Web3 aplicada a la IA, ¿realmente puede ser dominada? esa sigue siendo una cuestión. --- Gobernanza transparente + supervisión humana, ¿no es exactamente lo que Web3 ha estado haciendo todo este tiempo? Solo que con un objeto diferente. --- Parece que V神 tiene una conciencia más clara sobre los riesgos de la IA que muchas otras personas, hay que admitirlo.

Ver originalesResponder0

Rugpull幸存者

· 2025-12-29 14:25

vitalik sigue siendo tan cauteloso, temiendo que la IA cause algún problema La transparencia y el código abierto son buenas, pero ¿cuántos realmente lo cumplen? Pero nosotros los de web3 solo seguimos esa filosofía, mientras que en el lado centralizado ya han sido lavados el cerebro por IA de caja negra Si la IA realmente se sale de control, la descentralización quizás sea la salida Parece que está dando una lección de política a todos los laboratorios de IA... pero no se puede saber qué tan efectivo será Pensé en esta idea hace diez años, pero ahora ya es un poco tarde, hermano Decirlo bonito, ¿quién realmente entregaría el poder? Es siempre la misma historia

Ver originalesResponder0

IronHeadMiner

· 2025-12-29 14:22

vitalik dijo que es correcto, la autonomía de la IA todavía es un poco abstracta, todavía hay que controlarla Estoy de acuerdo con el código abierto, ¿quién confiaría en ese sistema cerrado? ¿No parece esto una cuestión similar a la gobernanza en la cadena? Pero volviendo al tema, ¿quién puede realmente "supervisar eficazmente" esta cosa? Es fácil de decir, pero difícil de hacer ¿Es mejorar la capacidad o prevenir riesgos? ¿Dónde está el punto de equilibrio? La idea de transparencia de Web3 trasladada al campo de la IA, esta idea todavía es bastante coherente, ¿eh?

Ver originalesResponder0

BoredApeResistance

· 2025-12-29 14:04

vitalik esta forma de expresarse suena como si estuviera respaldando su propia hoja de ruta tecnológica, la transparencia y el código abierto siguen siendo una cuestión de control --- En pocas palabras, incluso la IA debe ser descentralizada, ¿de qué otra manera puede ser compatible con los ideales de web3? --- ¿Dentro del alcance de la supervisión humana? Entonces, ¿quién supervisará a los supervisores? Esto no se convierte en un dilema eterno --- Otro gran experto en blockchain sacando el tema de la seguridad de la IA, parece que está aprovechando la situación --- Estoy a favor del código abierto, pero el objetivo de potenciar las capacidades humanas suena demasiado abstracto, ¿cómo se define? --- Es como si estuviera insinuando que los laboratorios de IA actuales están jugando en contra, tienen demasiada autonomía --- La IA descentralizada suena bien, pero en la práctica, ¿es factible? Los que entienden de tecnología, ¿pueden opinar?

Ver originalesResponder0