IBM acelerou o modelo de IA com um processador quântico - ForkLog: criptomoedas, IA, singularidade, futuro

# IBM acelerou o modelo de IA com um processador quântico

Pesquisadores da Multiverse Computing anunciaram uma melhoria quântica em um grande modelo de linguagem usando hardware da IBM. Trata-se de uma esquema híbrido com um processador Heron de 156 qubits

Os autores chamaram o experimento de primeira “melhoria quântica de ponta a ponta” de um LLM em um processador supercondutor para geração de texto autorregressiva.

Nos testes, usaram o Llama 3.1 8B da Meta. O modelo base não foi ajustado: os parâmetros foram “congelados” e adaptadores quânticos — adaptadores unitários parametrizados por Cayley (CUA) — foram adicionados. Primeiro, eles foram treinados de forma clássica, depois conectados ao esquema híbrido quântico-clássico.

O experimento foi realizado no IBM Quantum System Two — arquitetura para sistemas quânticos híbridos. Na instalação, foi utilizado um chip Heron de 156 qubits.

A versão híbrida reduziu a perplexidade do Llama 3.1 8B em 1,4%. Para isso, foram adicionados cerca de 6000 parâmetros — aproximadamente 0,000075% do tamanho do modelo

Durante a demonstração, o Llama quânticamente aprimorado respondeu corretamente a perguntas sobre astronomia e biologia, que a versão base não conseguiu (por exemplo, sobre a presença de anéis em todos os planetas gigantes).

Segundo o autor principal da pesquisa, Borja Aispuroa, o trabalho é uma prova de conceito. Os blocos quânticos permitiram prever com maior precisão o próximo token no texto com custos computacionais mínimos

A equipe espera alcançar uma redução adicional na perplexidade e um aumento na precisão com menos parâmetros em comparação com abordagens totalmente clássicas.

Lembre-se de que, em maio, as cotações de empresas quânticas aumentaram após o anúncio do Departamento de Comércio dos EUA de uma alocação de US$ 2 bilhões para empresas americanas no âmbito do programa CHIPS R&D