À medida que a IA se aproxima da inteligência humana, mais necessita de um sistema de defesa não humano.
Escrito por: 0xResearcher
Manus obteve resultados SOTA (State-of-the-Art) no teste de benchmark GAIA, mostrando que seu desempenho supera os grandes modelos de camadas semelhantes da Open AI. Em outras palavras, ele pode completar tarefas complexas de forma independente, como negociações comerciais internacionais, envolvendo decomposição de termos contratuais, previsão estratégica, geração de planos e até mesmo coordenação entre equipes jurídicas e financeiras. Em comparação com sistemas tradicionais, a vantagem do Manus está em sua capacidade de decomposição dinâmica de metas, raciocínio intermodal e aprendizado reforçado de memória. Ele pode dividir tarefas grandes em centenas de subtarefas executáveis, lidar com vários tipos de dados e melhorar continuamente sua eficiência de tomada de decisão por meio de aprendizado reforçado, reduzindo a taxa de erro.
Ao mesmo tempo em que se maravilha com o rápido desenvolvimento da tecnologia, a Manus mais uma vez provocou divergências na comunidade em relação ao caminho da evolução da IA: será que o futuro pertence exclusivamente à AGI, ou será que a MAS irá liderar em cooperação?
Tudo começa com a ideologia de design da Manus, que contém duas possibilidades implícitas:
Um caminho é o AGI. Elevando continuamente o nível de inteligência individual para se aproximar da capacidade de decisão abrangente humana.
Há também um caminho MAS. Como super-coordenador, comanda milhares de Agentes em áreas verticais para operações conjuntas.
Superficialmente, estamos a discutir diferentes divergências de caminhos, mas na realidade estamos a discutir o conflito subjacente ao desenvolvimento da IA: como equilibrar a eficiência e a segurança? À medida que a inteligência individual se aproxima da IA geral, o risco de opacidade das decisões aumenta; enquanto a colaboração de vários agentes pode dispersar o risco, pode também levar à perda de oportunidades críticas de decisão devido a atrasos de comunicação.
A evolução da Manus amplifica, de forma invisível, os riscos inerentes ao desenvolvimento da IA. Por exemplo, o buraco negro da privacidade dos dados: em cenários médicos, a Manus precisa de acesso em tempo real aos dados genômicos dos pacientes; durante negociações financeiras, pode tocar em informações não divulgadas das demonstrações financeiras da empresa; como a armadilha de preconceitos algorítmicos, em negociações de recrutamento, a Manus pode sugerir salários abaixo da média para candidatos de grupos étnicos específicos; ao revisar contratos legais, a taxa de erro na interpretação de termos de indústrias emergentes chega a quase metade. Outro exemplo é a vulnerabilidade aos ataques: hackers podem inserir frequências vocais específicas para fazer com que a Manus interprete erroneamente os intervalos de preços propostos pelos oponentes durante as negociações.
Temos que enfrentar um ponto doloroso do sistema de IA: quanto mais inteligente o sistema, maior a superfície de ataque.
No entanto, a segurança tem sido uma palavra constantemente mencionada no web3, e sob o framework do triângulo impossível de V (a segurança, a descentralização e a escalabilidade não podem ser alcançadas simultaneamente em redes de blockchain), também surgiram várias formas de criptografia:
Modelo de segurança de confiança zero (Zero Trust Security Model): O cerne do modelo de segurança de confiança zero é "não confiar em ninguém, sempre verificar", ou seja, nenhum dispositivo deve ser automaticamente confiável, independentemente de estar na rede interna. Este modelo enfatiza a rigorosa autenticação e autorização de cada pedido de acesso para garantir a segurança do sistema.
Identidade Descentralizada (Decentralized Identity, DID): DID é um conjunto de padrões de identificação que permite que entidades obtenham identificação de forma verificável e duradoura sem a necessidade de um registro centralizado. Isso representa um novo modelo de identidade digital descentralizada, frequentemente associado à identidade soberana e é uma parte importante do Web3.
Criptografia Totalmente Homomórfica (Fully Homomorphic Encryption, FHE) é uma tecnologia avançada de criptografia que permite a realização de cálculos arbitrários em dados criptografados sem a necessidade de descriptografá-los. Isso significa que terceiros podem operar sobre o texto cifrado e os resultados obtidos após a descriptografia são consistentes com os resultados da mesma operação sobre o texto em claro. Essa característica é de grande importância em cenários que exigem cálculos sem expor os dados originais, como computação em nuvem e terceirização de dados.
O modelo de segurança de confiança zero e o DID têm um certo número de projetos em andamento durante um touro de várias rodadas, alguns deles têm feito progressos, enquanto outros foram afogados na onda criptográfica. Como a forma mais jovem de criptografia: Criptografia Homomórfica Total (Fully Homomorphic Encryption, FHE) também é uma grande arma para resolver problemas de segurança na era da IA. A criptografia homomórfica total (FHE) é uma técnica que permite cálculos em dados criptografados.
Como resolver?
Em primeiro lugar, a nível de dados. Todas as informações inseridas pelos utilizadores (incluindo características biológicas e tom de voz) são processadas em estado criptografado, de forma que nem a Manus possa decifrar os dados originais. Por exemplo, num caso de diagnóstico médico, os dados do genoma do paciente são analisados integralmente em formato cifrado, evitando a revelação de informações biológicas.
Do ponto de vista do algoritmo. Com o 'treino de modelos de criptografia' implementado pelo FHE, nem mesmo os desenvolvedores podem espiar o caminho de decisão da IA.
Em termos de colaboração, a comunicação entre vários Agentes é protegida por criptografia de limite, de modo que a violação de um único nó não resultará em uma violação global de dados. Mesmo durante exercícios de ataque e defesa na cadeia de suprimentos, os invasores não conseguem obter uma visão completa do negócio após penetrarem em vários Agentes.
E devido a restrições técnicas, a segurança do web3 pode não estar diretamente relacionada com a maioria dos utilizadores, mas tem benefícios indiretos intricados. Nesta floresta escura, se não se armar completamente, nunca se livrará do dia em que será um "".
uPort foi lançado na mainnet Ethereum em 2017 e pode ter sido o primeiro projeto de Identidade Descentralizada (DID) a ser lançado na mainnet.
No âmbito do modelo de segurança de confiança zero, NKN lançou a sua mainnet em 2019.
A Mind Network é o primeiro projeto FHE a ser lançado na mainnet e o primeiro a colaborar com ZAMA, Google, DeepSeek, entre outros.
O uPort e o NKN já são projetos que o autor nunca ouviu falar, parece que os projetos de segurança realmente não são a preocupação dos especuladores. Será que a Mind Network pode escapar dessa maldição e se tornar líder no campo da segurança? Vamos esperar para ver.
O futuro já chegou. Quanto mais a IA se aproxima da inteligência humana, mais necessita de um sistema de defesa não humano. O valor do FHE não está apenas em resolver os problemas atuais, mas também em pavimentar o caminho para a era da IA forte. Neste caminho íngreme em direção à AGI, o FHE não é uma opção, mas sim uma necessidade de sobrevivência.
O conteúdo é apenas para referência, não uma solicitação ou oferta. Nenhum aconselhamento fiscal, de investimento ou jurídico é fornecido. Consulte a isenção de responsabilidade para obter mais informações sobre riscos.
Manus traz o nascer do sol AGI, a segurança da IA tem uma reviravolta novamente
Escrito por: 0xResearcher
Manus obteve resultados SOTA (State-of-the-Art) no teste de benchmark GAIA, mostrando que seu desempenho supera os grandes modelos de camadas semelhantes da Open AI. Em outras palavras, ele pode completar tarefas complexas de forma independente, como negociações comerciais internacionais, envolvendo decomposição de termos contratuais, previsão estratégica, geração de planos e até mesmo coordenação entre equipes jurídicas e financeiras. Em comparação com sistemas tradicionais, a vantagem do Manus está em sua capacidade de decomposição dinâmica de metas, raciocínio intermodal e aprendizado reforçado de memória. Ele pode dividir tarefas grandes em centenas de subtarefas executáveis, lidar com vários tipos de dados e melhorar continuamente sua eficiência de tomada de decisão por meio de aprendizado reforçado, reduzindo a taxa de erro.
Ao mesmo tempo em que se maravilha com o rápido desenvolvimento da tecnologia, a Manus mais uma vez provocou divergências na comunidade em relação ao caminho da evolução da IA: será que o futuro pertence exclusivamente à AGI, ou será que a MAS irá liderar em cooperação?
Tudo começa com a ideologia de design da Manus, que contém duas possibilidades implícitas:
Um caminho é o AGI. Elevando continuamente o nível de inteligência individual para se aproximar da capacidade de decisão abrangente humana.
Há também um caminho MAS. Como super-coordenador, comanda milhares de Agentes em áreas verticais para operações conjuntas.
Superficialmente, estamos a discutir diferentes divergências de caminhos, mas na realidade estamos a discutir o conflito subjacente ao desenvolvimento da IA: como equilibrar a eficiência e a segurança? À medida que a inteligência individual se aproxima da IA geral, o risco de opacidade das decisões aumenta; enquanto a colaboração de vários agentes pode dispersar o risco, pode também levar à perda de oportunidades críticas de decisão devido a atrasos de comunicação.
A evolução da Manus amplifica, de forma invisível, os riscos inerentes ao desenvolvimento da IA. Por exemplo, o buraco negro da privacidade dos dados: em cenários médicos, a Manus precisa de acesso em tempo real aos dados genômicos dos pacientes; durante negociações financeiras, pode tocar em informações não divulgadas das demonstrações financeiras da empresa; como a armadilha de preconceitos algorítmicos, em negociações de recrutamento, a Manus pode sugerir salários abaixo da média para candidatos de grupos étnicos específicos; ao revisar contratos legais, a taxa de erro na interpretação de termos de indústrias emergentes chega a quase metade. Outro exemplo é a vulnerabilidade aos ataques: hackers podem inserir frequências vocais específicas para fazer com que a Manus interprete erroneamente os intervalos de preços propostos pelos oponentes durante as negociações.
Temos que enfrentar um ponto doloroso do sistema de IA: quanto mais inteligente o sistema, maior a superfície de ataque.
No entanto, a segurança tem sido uma palavra constantemente mencionada no web3, e sob o framework do triângulo impossível de V (a segurança, a descentralização e a escalabilidade não podem ser alcançadas simultaneamente em redes de blockchain), também surgiram várias formas de criptografia:
O modelo de segurança de confiança zero e o DID têm um certo número de projetos em andamento durante um touro de várias rodadas, alguns deles têm feito progressos, enquanto outros foram afogados na onda criptográfica. Como a forma mais jovem de criptografia: Criptografia Homomórfica Total (Fully Homomorphic Encryption, FHE) também é uma grande arma para resolver problemas de segurança na era da IA. A criptografia homomórfica total (FHE) é uma técnica que permite cálculos em dados criptografados.
Como resolver?
Em primeiro lugar, a nível de dados. Todas as informações inseridas pelos utilizadores (incluindo características biológicas e tom de voz) são processadas em estado criptografado, de forma que nem a Manus possa decifrar os dados originais. Por exemplo, num caso de diagnóstico médico, os dados do genoma do paciente são analisados integralmente em formato cifrado, evitando a revelação de informações biológicas.
Do ponto de vista do algoritmo. Com o 'treino de modelos de criptografia' implementado pelo FHE, nem mesmo os desenvolvedores podem espiar o caminho de decisão da IA.
Em termos de colaboração, a comunicação entre vários Agentes é protegida por criptografia de limite, de modo que a violação de um único nó não resultará em uma violação global de dados. Mesmo durante exercícios de ataque e defesa na cadeia de suprimentos, os invasores não conseguem obter uma visão completa do negócio após penetrarem em vários Agentes.
E devido a restrições técnicas, a segurança do web3 pode não estar diretamente relacionada com a maioria dos utilizadores, mas tem benefícios indiretos intricados. Nesta floresta escura, se não se armar completamente, nunca se livrará do dia em que será um "".
O uPort e o NKN já são projetos que o autor nunca ouviu falar, parece que os projetos de segurança realmente não são a preocupação dos especuladores. Será que a Mind Network pode escapar dessa maldição e se tornar líder no campo da segurança? Vamos esperar para ver.
O futuro já chegou. Quanto mais a IA se aproxima da inteligência humana, mais necessita de um sistema de defesa não humano. O valor do FHE não está apenas em resolver os problemas atuais, mas também em pavimentar o caminho para a era da IA forte. Neste caminho íngreme em direção à AGI, o FHE não é uma opção, mas sim uma necessidade de sobrevivência.