IBM acelerou o modelo de IA com um processador quântico - ForkLog: criptomoedas, IA, singularidade, futuro

# A IBM acelerou um modelo de IA com um processador quântico

Pesquisadores da Multiverse Computing anunciaram uma melhoria quântica de um grande modelo de linguagem em hardware da IBM. Trata-se de um esquema híbrido usando um processador Heron de 156 qubits

Os autores chamaram o experimento de primeira «melhoria quântica de ponta a ponta» de um LLM em um processador supercondutor para geração de texto autorregressiva.

Nos testes, foi utilizado o Llama 3.1 8B da Meta. O modelo base não foi ajustado: os parâmetros foram «congelados» e adaptadores quânticos — adaptadores unitários parametrizados por Cayley (CUA). Inicialmente, foram treinados de forma clássica, depois conectados ao esquema híbrido quântico-clássico.

O experimento foi realizado no IBM Quantum System Two — arquitetura para sistemas quânticos híbridos. Na instalação, foi utilizado um chip Heron de 156 qubits.

A versão híbrida reduziu a perplexidade do Llama 3.1 8B em 1,4%. Para isso, foram adicionados cerca de 6000 parâmetros — aproximadamente 0,000075% do tamanho do modelo

Na demonstração, o Llama quânticamente aprimorado respondeu corretamente a perguntas sobre astronomia e biologia, com as quais a versão base não conseguiu lidar (por exemplo, sobre a presença de anéis em todos os planetas gigantes).

Segundo o autor principal da pesquisa, Borhi Aispuru, o trabalho é uma prova de conceito. Os blocos quânticos permitiram prever com maior precisão o próximo token no texto com custos computacionais mínimos

A equipe espera alcançar uma redução adicional na perplexidade e um aumento na precisão com um número menor de parâmetros em comparação com abordagens totalmente clássicas.

Lembramos que, em maio, as cotações de empresas quânticas aumentaram após o anúncio do Departamento de Comércio dos EUA de uma alocação de 2 bilhões de dólares para empresas americanas no âmbito do programa CHIPS R&D