AWS Lambda GPU: inferência de IA sem gerenciar servidores

O AWS Lambda GPU, anunciado pela Amazon Web Services em 18 de novembro, permite que funções de evento do Lambda rodem em instâncias de GPU no Lambda Managed Instances. Na prática, desenvolvedores podem rodar inferência de IA, processamento de mídia, renderização 3D e computação científica em GPUs sem provisionar servidores nem gerenciar drivers.

Como funciona

Com o AWS Lambda GPU, as funções aceleradas são implantadas como imagens de contêiner (OCI) e rodam em instâncias EC2 da série G, gerenciadas pelo Lambda: o serviço cuida do provisionamento, do dimensionamento automático, dos drivers e da integração com eventos. Não há drivers de GPU, versões de CUDA ou AMIs para reconciliar, nem clusters ou plugins de dispositivo para operar, segundo a AWS.

A AWS fornece imagens base prontas com PyTorch, vLLM e SGLang, e cada função pode usar até 32 GB de armazenamento efêmero NVMe, carregar modelos grandes do S3 sob demanda e trabalhar com 3 a 48 GB de memória do acelerador. As funções herdam o tempo limite estendido do Lambda Managed Instances, de até 90 minutos para invocações assíncronas, e se integram às mais de 200 fontes de eventos do Lambda.

Instâncias, disponibilidade e preço

No lançamento, o recurso cobre as famílias G4dn (NVIDIA T4), G5 (NVIDIA A10G), G6, G6f, Gr6, Gr6f (NVIDIA L4) e G6e (NVIDIA L40S), com mais famílias prometidas. Ele está disponível em todas as regiões comerciais da AWS onde o Lambda Managed Instances e as instâncias da série G existem.

O custo segue o preço sob demanda da instância EC2 correspondente, com Savings Plans e Reserved Instances aplicáveis, mais uma taxa de gerenciamento de 9,75% para instâncias de GPU e a taxa padrão de US$ 0,20 por milhão de requisições. A AWS posiciona o recurso para inferência e modelos personalizados de pequeno e médio porte — não para treinamento, nem para os grandes modelos de fundação já disponíveis no Amazon Bedrock. Contas novas podem começar com cota zero para instâncias G sob demanda, então é preciso solicitar aumento de cota antes de usar o recurso.

Crédito da imagem: logotipo da Amazon Web Services, via Wikimedia Commons.

Fontes: AWS News Blog (anúncio oficial); iMasters; Oossa.

Transparência: esta matéria foi produzida com auxílio de inteligência artificial, a partir de publicações públicas e fontes da internet, e revisada com base nas fontes originais citadas. Recomendamos consultar as fontes para confirmar os detalhes.

Por Muse