Os poderosos novos processadores da Qualcomm destacam-se na inteligência artificial generativa | ENBLE

Os novos e poderosos processadores da Qualcomm se destacam na inteligência artificial generativa | ENBLE

A Qualcomm acaba de anunciar dois novos processadores poderosos que se destacam em IA generativa, um para laptops e outro para telefones. À medida que as aplicações potenciais para a inteligência artificial continuam a expandir-se do texto para imagens, vídeo e além, um processamento mais rápido no seu próprio dispositivo está se tornando mais importante.

O Snapdragon X Elite é o novo e empolgante processador para laptops da Qualcomm, com desempenho de CPU líder de mercado para laptops Windows e velocidade impressionante de GPU. Para telefones, o Snapdragon 8 Gen 3 supera a geração anterior com velocidade 30% maior, ao mesmo tempo em que consome 20% menos energia da sua bateria.

Foz Do Arelho, Portugal, 27 de fevereiro de 2020 - Laptop, câmera, pad e telefone em um banco à beira-mar. Imagem na tela do laptop dizendo nômade digital.
Laptops Qualcomm Snapdragon X Elite devem funcionar bem para fotógrafos. Foz Do Arelho / Qualcomm

Especificações de CPU e GPU são importantes, mas com seu mais recente lançamento de chips, a Qualcomm enfatizou o poder de processamento de IA de seus chips mais recentes. Com esse desempenho aprimorado, a Qualcomm otimizou vários modelos de IA generativa para rodar localmente em laptops e telefones Snapdragon – e suas reivindicações contra a Intel, AMD e Apple são impressionantes.

Então, quão rápido ele é em IA? Bem, de acordo com a Qualcomm, os novos chips Snapdragon X Elite fornecem 45 TOPS (trilhões de operações por segundo) nos testes de benchmark de IA INT4 e 30 tokens por segundo no modelo de IA avançado Llama 2 da Meta. A Qualcomm afirma que isso é 4,5 vezes mais rápido que os concorrentes. O Snapdragon 8 Gen 3 é dito processar 20 tokens por segundo, fornecer segmentação em tempo real para separar objetos em uma imagem para processamento avançado de fotos e executar difusão estável para geração de imagens em menos de um segundo.

O Snapdragon X Elite também é capaz de executar modelos de IA generativa com 13 bilhões de parâmetros no dispositivo. Para telefones, modelos com 10 bilhões de parâmetros podem ser executados no Snapdragon 8 Gen 3. Durga Malladi, vice-presidente sênior e gerente geral de planejamento de tecnologia e soluções avançadas da Qualcomm, diz que o Snapdragon 8 Gen 3 é o primeiro a oferecer suporte multi-modal (imagens, texto e mais) em telefones.

Além do desempenho bruto, a Qualcomm diz que sua IA no dispositivo ajuda a manter as consultas e resultados seguros, garantindo a privacidade do usuário. Como suas selfies, fotos pessoais e vídeos, voz e texto são todos usados nos novos aplicativos de IA multi-modal, suas informações biométricas e dados pessoais estão potencialmente em risco se você os enviar para IA baseada em nuvem.

Enquanto a IA baseada em nuvem enfrenta as dores do crescimento da adoção rápida, bem como a luta para escalar rapidamente o suficiente, o processamento local de IA pode oferecer menor latência, menos consumo de energia e custos mais baixos.

Um telefone com o Snapdragon 8 Gen 3 está mostrado tirando uma foto de uma mulher em um calçadão.
Um telefone com o Snapdragon 8 Gen 3 terá capacidades aprimoradas de processamento de fotos. Qualcomm

A Qualcomm explicou que isso é possível graças à sinergia da tecnologia. Vários dos modelos de IA mais populares foram otimizados para os processadores Snapdragon e fazem uso da CPU, GPU, NPU (processador neural) e hub de sensores trabalhando juntos para fornecer resultados significativamente mais rápidos que a geração anterior. Os novos chips também oferecem suporte à memória super rápida LPDDR5X para remover gargalos de processamento.

À medida que a demanda por IA aumenta, o Snapdragon X Elite da Qualcomm para laptops e o Snapdragon 8 Gen 3 para telefones estão prontos para tornar a geração de imagens mais rápida, o processamento de texto mais rápido e ambos mais seguros, permitindo o processamento no dispositivo. Será interessante ver o que os primeiros laptops e telefones lançados com os novos chips da Qualcomm podem fazer com essas capacidades aprimoradas.