AWS muestra una arquitectura para usar modelos OpenAI mediante LiteLLM, ECS y Bedrock
AWS publicó el 3 de septiembre un patrón para desplegar LiteLLM sobre ECS/Fargate y centralizar acceso a modelos con controles de identidad y consumo.
Leer artículo