Amazon Web Services anunció el 18 de noviembre AWS Lambda GPU, una función que permite ejecutar funciones de eventos en instancias de GPU en Lambda Managed Instances. En la práctica, los desarrolladores pueden ejecutar inferencia de IA, procesamiento de medios, renderizado 3D y computación científica en GPU sin aprovisionar servidores ni gestionar controladores.
Cómo funciona
Con AWS Lambda GPU, las funciones aceleradas por GPU se despliegan como imágenes de contenedor (OCI) y se ejecutan en instancias EC2 de la serie G gestionadas por Lambda: el servicio se encarga del aprovisionamiento, el escalado automático, los controladores y la integración con eventos. No hay controladores de GPU, versiones de CUDA ni AMI que conciliar, ni clústeres o plugins de dispositivo que operar, según AWS.
AWS ofrece imágenes base listas con PyTorch, vLLM y SGLang, y cada función puede usar hasta 32 GB de almacenamiento efímero NVMe, cargar modelos grandes desde S3 bajo demanda y trabajar con 3 a 48 GB de memoria del acelerador. Las funciones heredan el tiempo límite extendido de Lambda Managed Instances, de hasta 90 minutos para invocaciones asíncronas, y se integran con las más de 200 fuentes de eventos de Lambda.
Instancias, disponibilidad y precio
En el lanzamiento, la función cubre las familias G4dn (NVIDIA T4), G5 (NVIDIA A10G), G6, G6f, Gr6, Gr6f (NVIDIA L4) y G6e (NVIDIA L40S), con más familias prometidas. Está disponible en todas las regiones comerciales de AWS donde existen Lambda Managed Instances e instancias de la serie G.
El costo sigue el precio bajo demanda de la instancia EC2 correspondiente, con Savings Plans y Reserved Instances aplicables, más una tarifa de gestión del 9,75% para instancias de GPU y la tarifa estándar de 0,20 US$ por millón de solicitudes. AWS posiciona la función para inferencia y modelos personalizados pequeños y medianos, no para entrenamiento ni para los grandes modelos fundacionales ya disponibles en Amazon Bedrock. Las cuentas nuevas pueden empezar con cuota cero para instancias G bajo demanda, por lo que hay que solicitar un aumento de cuota antes de usar la función.
Crédito de la imagen: logotipo de Amazon Web Services, vía Wikimedia Commons.
Fuentes: AWS News Blog (anúncio oficial); iMasters; Oossa.
Transparencia: este artículo fue elaborado con ayuda de inteligencia artificial, a partir de publicaciones públicas y fuentes de internet, y revisado con base en las fuentes originales citadas. Recomendamos consultar las fuentes para confirmar los detalles.
Por Muse