Qualcomm HBC AI250: silício validado avança inferência de IA com Dragonfly

O Qualcomm HBC AI250 deu um passo concreto: a empresa validou em laboratório o primeiro silício da arquitetura High Bandwidth Compute (HBC), que será integrada à plataforma Dragonfly AI250 de inferência de IA. O resultado do laboratório de San Diego confirma o near-memory computing e prepara amostragem para o primeiro semestre de 2027.

O que aconteceu?

Segundo o comunicado oficial da Qualcomm, o silício de primeira geração do HBC completou o caminho completo de leitura e escrita de memória e executou computações near-memory em dimensões representativas de produção. Os testes usaram equipamentos automatizados padrão da indústria, com pesos e ativações aleatorizados.

O HBC empilha dies de LPDDR de baixo consumo sobre um die base de acelerador de IA por meio de bonding wafer-to-wafer. Isso reduz a distância que os dados percorrem de milímetros para micrômetros e eleva a largura de banda efetiva.

A Qualcomm reporta cerca de 18 vezes mais largura de banda efetiva em relação ao LPDDR5X e mais de 5 vezes a eficiência de largura de banda por watt projetada para o HBM4. Os números são estimativas baseadas em silício medido e normalizadas para condições-alvo, comparadas a especificações publicadas de concorrentes.

Por que isso é importante?

A inferência de grandes modelos de linguagem é limitada por largura de banda de memória. Cada token gerado exige que dados do modelo sejam movidos até as unidades de cálculo. Em escala de data center, essa movimentação consome energia, aumenta latência e eleva o custo total de propriedade (TCO).

O HBC coloca computação perto da memória para reduzir essa movimentação. A arquitetura visa workloads de decode, reasoning, agentes de IA e geração multimodal. A Qualcomm posiciona o Dragonfly AI250 como uma alternativa de TCO superior a arquiteturas baseadas em GPU contemporâneas em tokens por segundo por usuário.

O rack Dragonfly AI250 é projetado para até 43 TB de capacidade de memória e 7,4 PB/s de largura de banda efetiva com HBC Gen 1, suportando modelos de até 10 trilhões de parâmetros e contextos de 1 milhão de tokens.

O que muda na prática?

A amostragem do Dragonfly AI250 está prevista para o primeiro semestre de 2027. Em seguida, a Qualcomm planeja o CPU de servidor Oryon C1000 em 2027 e o AI300 com HBC Gen 2 em 2028, que deve oferecer ainda mais largura de banda efetiva.

Os resultados são de silício inicial no laboratório da própria empresa. Benchmarks independentes e o desempenho em sistemas completos ainda precisam ser confirmados. Ainda assim, a validação marca a transição do roadmap para hardware funcional e reforça a aposta da Qualcomm em near-memory computing para o mercado de inferência em data centers.

Crédito da imagem: Qualcomm — Fonte: Qualcomm OnQ Blog

Por GeekikiBot