A medida que la IA se acerca a la inteligencia humana, necesita cada vez más un sistema de defensa no humano.
Escrito por: 0xResearcher
Manus ha logrado un rendimiento SOTA (State-of-the-Art) en las pruebas de referencia de GAIA, mostrando que su rendimiento supera a los modelos grandes de nivel similar de Open AI. En otras palabras, puede completar tareas complejas de forma independiente, como negociaciones comerciales internacionales, que implican desglose de cláusulas contractuales, anticipación estratégica, generación de soluciones e incluso coordinación entre equipos legales y financieros. En comparación con los sistemas tradicionales, la ventaja de Manus radica en su capacidad de desglose dinámico de objetivos, capacidad de razonamiento multimodal y capacidad de aprendizaje reforzado de memoria. Puede descomponer tareas grandes en cientos de sub tareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de error mediante el aprendizaje reforzado.
Ante la asombrosa rapidez del desarrollo tecnológico, Manus vuelve a suscitar divergencias en la industria sobre el camino evolutivo de la inteligencia artificial: ¿será AGI el único dominante en el futuro, o MAS liderará de forma coordinada?
Esto debe comenzar con la filosofía de diseño de Manus, que implica dos posibilidades:
Uno de los caminos es el AGI. Mejorar continuamente el nivel de inteligencia individual para que se acerque a la capacidad de toma de decisiones humanas.
Todavía hay otro camino, el camino MAS. Como supercoordinador, comanda a miles de Agentes de dominio vertical para operaciones conjuntas.
En apariencia, estamos discutiendo diferentes divergencias de camino, pero en realidad estamos discutiendo la contradicción subyacente en el desarrollo de la inteligencia artificial: ¿cómo se debe equilibrar la eficiencia y la seguridad? A medida que la inteligencia individual se acerca más a la IA general, el riesgo de opacidad en la toma de decisiones aumenta; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, también puede perder oportunidades clave de decisión debido a retrasos en la comunicación.
La evolución de Manus ha amplificado de forma inadvertida los riesgos inherentes al desarrollo de la inteligencia artificial. Por ejemplo, el agujero negro de la privacidad de los datos: en el ámbito médico, Manus necesita acceder en tiempo real a los datos del genoma de los pacientes; durante negociaciones financieras, puede que se toquen informaciones financieras no divulgadas de la empresa; o el sesgo algorítmico, que podría llevar a Manus a hacer recomendaciones salariales por debajo del promedio para candidatos de ciertas etnias durante procesos de contratación; y durante la revisión de contratos legales, la tasa de error en la interpretación de términos de la industria emergente es cercana al cincuenta por ciento. Otro ejemplo son las vulnerabilidades de seguridad, donde los hackers podrían implantar frecuencias de voz específicas para inducir a Manus a malinterpretar el rango de precios ofrecidos por la contraparte durante las negociaciones.
Nos vemos obligados a enfrentar un doloroso punto débil de los sistemas de inteligencia artificial: cuanto más inteligente es el sistema, mayor es su superficie de ataque.
Sin embargo, la seguridad es un término que se menciona constantemente en web3, y bajo el marco del triángulo imposible de V (la red de blockchain no puede lograr simultáneamente seguridad, descentralización y escalabilidad), han surgido varias formas de cifrado:
Modelo de seguridad de confianza cero (Zero Trust Security Model): El núcleo del modelo de seguridad de confianza cero es "no confiar en nadie, siempre verificar", es decir, no se debe confiar en ningún dispositivo, independientemente de si se encuentra en la red interna. Este modelo enfatiza la estricta autenticación y autorización de cada solicitud de acceso para garantizar la seguridad del sistema.
Identidad descentralizada (Decentralized Identity, DID): DID es un conjunto de estándares de identificación que permite que las entidades obtengan identificaciones de forma verificable y duradera sin necesidad de un registro centralizado. Esto logra un nuevo modelo de identidad digital descentralizada, a menudo comparado con la identidad soberana, y es una parte importante de Web3.
Cifrado completamente homomórfico (Fully Homomorphic Encryption, FHE) es una tecnología de cifrado avanzada que permite realizar cálculos arbitrarios en datos cifrados sin necesidad de descifrarlos. Esto significa que un tercero puede operar sobre el texto cifrado y el resultado obtenido después de descifrar es consistente con el resultado de operar sobre el texto en claro. Esta característica es de gran importancia en escenarios donde se requiere realizar cálculos sin exponer los datos originales, como en la computación en la nube y la externalización de datos.
El modelo de seguridad de cero confianza y el DID tienen un cierto número de proyectos desafiando en el mercado alcista, algunos han tenido éxito, otros se han perdido en la ola criptográfica, y como la forma más joven de criptografía: el cifrado completamente homomórfico (Fully Homomorphic Encryption, FHE) es también un arma poderosa para abordar los problemas de seguridad en la era de la IA. El cifrado completamente homomórfico (FHE) es una técnica que permite realizar cálculos en datos cifrados.
¿Cómo resolver?
En primer lugar, en términos de datos. Toda la información ingresada por el usuario (incluidas las características biológicas y el tono de voz) se procesa en un estado encriptado, y ni siquiera Manus puede descifrar los datos originales. Por ejemplo, en el caso de un diagnóstico médico, los datos del genoma del paciente se analizan en su totalidad en forma de texto cifrado para evitar la divulgación de información biológica.
En el nivel del algoritmo. Con el 'entrenamiento de modelos de cifrado' implementado por FHE, ni siquiera los desarrolladores pueden vislumbrar la ruta de decisión de la IA.
En el nivel de colaboración. La comunicación entre múltiples Agentes utiliza cifrado de umbral, por lo que la violación de un solo nodo no resultará en una filtración de datos global. Incluso en un escenario de ataque y defensa de la cadena de suministro, los atacantes no pueden obtener una vista completa del negocio después de infiltrarse en varios Agentes.
Y debido a restricciones técnicas, la seguridad de web3 puede no tener una relación directa con la mayoría de los usuarios, pero tiene beneficios indirectos entrelazados. En este oscuro bosque, si no te armas al máximo, nunca escaparás del día en que seas un 「pepino」.
uPort fue lanzado en la red principal de Ethereum en 2017, y posiblemente fue el primer proyecto de identidad descentralizada (DID) en ser lanzado en la red principal.
En cuanto al modelo de seguridad de confianza cero, NKN lanzó su mainnet en 2019.
Mind Network es el primer proyecto FHE en línea principal y ha sido el primero en colaborar con ZAMA, Google, DeepSeek, etc.
uPort y NKN ya son proyectos que el autor nunca había escuchado antes, parece que los proyectos de seguridad realmente no son de interés para los especuladores, ¿Podrá Mind Network escapar de esta maldición y convertirse en líder en el campo de la seguridad? Estaremos atentos para verlo.
El futuro ya está aquí. A medida que la IA se acerca a la inteligencia humana, se necesita cada vez más un sistema de defensa no humano. El valor de FHE no solo radica en resolver problemas actuales, sino también en allanar el camino para la era de la IA fuerte. En este difícil camino hacia AGI, FHE no es una opción, sino una necesidad para la supervivencia.
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Manus trae la primera luz de AGI, y la seguridad de la IA experimenta otro cambio
Escrito por: 0xResearcher
Manus ha logrado un rendimiento SOTA (State-of-the-Art) en las pruebas de referencia de GAIA, mostrando que su rendimiento supera a los modelos grandes de nivel similar de Open AI. En otras palabras, puede completar tareas complejas de forma independiente, como negociaciones comerciales internacionales, que implican desglose de cláusulas contractuales, anticipación estratégica, generación de soluciones e incluso coordinación entre equipos legales y financieros. En comparación con los sistemas tradicionales, la ventaja de Manus radica en su capacidad de desglose dinámico de objetivos, capacidad de razonamiento multimodal y capacidad de aprendizaje reforzado de memoria. Puede descomponer tareas grandes en cientos de sub tareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de error mediante el aprendizaje reforzado.
Ante la asombrosa rapidez del desarrollo tecnológico, Manus vuelve a suscitar divergencias en la industria sobre el camino evolutivo de la inteligencia artificial: ¿será AGI el único dominante en el futuro, o MAS liderará de forma coordinada?
Esto debe comenzar con la filosofía de diseño de Manus, que implica dos posibilidades:
Uno de los caminos es el AGI. Mejorar continuamente el nivel de inteligencia individual para que se acerque a la capacidad de toma de decisiones humanas.
Todavía hay otro camino, el camino MAS. Como supercoordinador, comanda a miles de Agentes de dominio vertical para operaciones conjuntas.
En apariencia, estamos discutiendo diferentes divergencias de camino, pero en realidad estamos discutiendo la contradicción subyacente en el desarrollo de la inteligencia artificial: ¿cómo se debe equilibrar la eficiencia y la seguridad? A medida que la inteligencia individual se acerca más a la IA general, el riesgo de opacidad en la toma de decisiones aumenta; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, también puede perder oportunidades clave de decisión debido a retrasos en la comunicación.
La evolución de Manus ha amplificado de forma inadvertida los riesgos inherentes al desarrollo de la inteligencia artificial. Por ejemplo, el agujero negro de la privacidad de los datos: en el ámbito médico, Manus necesita acceder en tiempo real a los datos del genoma de los pacientes; durante negociaciones financieras, puede que se toquen informaciones financieras no divulgadas de la empresa; o el sesgo algorítmico, que podría llevar a Manus a hacer recomendaciones salariales por debajo del promedio para candidatos de ciertas etnias durante procesos de contratación; y durante la revisión de contratos legales, la tasa de error en la interpretación de términos de la industria emergente es cercana al cincuenta por ciento. Otro ejemplo son las vulnerabilidades de seguridad, donde los hackers podrían implantar frecuencias de voz específicas para inducir a Manus a malinterpretar el rango de precios ofrecidos por la contraparte durante las negociaciones.
Nos vemos obligados a enfrentar un doloroso punto débil de los sistemas de inteligencia artificial: cuanto más inteligente es el sistema, mayor es su superficie de ataque.
Sin embargo, la seguridad es un término que se menciona constantemente en web3, y bajo el marco del triángulo imposible de V (la red de blockchain no puede lograr simultáneamente seguridad, descentralización y escalabilidad), han surgido varias formas de cifrado:
El modelo de seguridad de cero confianza y el DID tienen un cierto número de proyectos desafiando en el mercado alcista, algunos han tenido éxito, otros se han perdido en la ola criptográfica, y como la forma más joven de criptografía: el cifrado completamente homomórfico (Fully Homomorphic Encryption, FHE) es también un arma poderosa para abordar los problemas de seguridad en la era de la IA. El cifrado completamente homomórfico (FHE) es una técnica que permite realizar cálculos en datos cifrados.
¿Cómo resolver?
En primer lugar, en términos de datos. Toda la información ingresada por el usuario (incluidas las características biológicas y el tono de voz) se procesa en un estado encriptado, y ni siquiera Manus puede descifrar los datos originales. Por ejemplo, en el caso de un diagnóstico médico, los datos del genoma del paciente se analizan en su totalidad en forma de texto cifrado para evitar la divulgación de información biológica.
En el nivel del algoritmo. Con el 'entrenamiento de modelos de cifrado' implementado por FHE, ni siquiera los desarrolladores pueden vislumbrar la ruta de decisión de la IA.
En el nivel de colaboración. La comunicación entre múltiples Agentes utiliza cifrado de umbral, por lo que la violación de un solo nodo no resultará en una filtración de datos global. Incluso en un escenario de ataque y defensa de la cadena de suministro, los atacantes no pueden obtener una vista completa del negocio después de infiltrarse en varios Agentes.
Y debido a restricciones técnicas, la seguridad de web3 puede no tener una relación directa con la mayoría de los usuarios, pero tiene beneficios indirectos entrelazados. En este oscuro bosque, si no te armas al máximo, nunca escaparás del día en que seas un 「pepino」.
uPort y NKN ya son proyectos que el autor nunca había escuchado antes, parece que los proyectos de seguridad realmente no son de interés para los especuladores, ¿Podrá Mind Network escapar de esta maldición y convertirse en líder en el campo de la seguridad? Estaremos atentos para verlo.
El futuro ya está aquí. A medida que la IA se acerca a la inteligencia humana, se necesita cada vez más un sistema de defensa no humano. El valor de FHE no solo radica en resolver problemas actuales, sino también en allanar el camino para la era de la IA fuerte. En este difícil camino hacia AGI, FHE no es una opción, sino una necesidad para la supervivencia.