Instâncias G5 do Amazon EC2

As instâncias G5 oferecem desempenho gráfico até 3x maior e performance de preço até 40% melhor do que as instâncias G4dn. Elas têm mais núcleos de rastreamento de raios do que qualquer outra instância do EC2 baseada em GPU, apresentam 24 GB de memória por GPU e oferecem suporte para a tecnologia NVIDIA RTX. Isso as torna ideais para renderizar cenas realistas mais rapidamente, executar estações de trabalho virtuais poderosas e oferecer suporte a aplicações de gráficos pesados com maior fidelidade.

As instâncias G5 oferecem desempenho até 3x maior e performance de preço até 40% melhor para inferência de machine learning em comparação com instâncias G4dn. Elas são uma solução de alta performance e com bom custo-benefício para clientes que desejam usar bibliotecas NVIDIA como TensorRT, CUDA e cuDNN para executar suas aplicações de ML.

As instâncias G5 oferecem um custo de treinamento até 15% menor do que as instâncias P3 do Amazon EC2. Elas também oferecem performance até 3,3 vezes maior para treinamento de ML em comparação com instâncias G4dn. Isso as torna uma solução com bom custo-benefício para treinar modelos de machine learning moderadamente complexos e de nó único para casos de uso de processamento de linguagem natural, visão computacional e mecanismo de recomendação.

As instâncias G5 são baseadas no AWS Nitro System, uma combinação de hardware dedicado e hipervisor leve que fornece praticamente todos os recursos de computação e memória do hardware do host para suas instâncias para obter melhor performance e segurança em geral. Com instâncias G5, o sistema Nitro provisiona as GPUs em modo de passagem, oferecendo performance comparável ao bare-metal.

As instâncias G5 são as primeiras na nuvem a apresentar GPUs NVIDIA A10G Tensor Core que oferecem alta performance para aplicações com uso intensivo de elementos gráficos e de machine learning. Cada instância possui até 8 GPUs A10G Tensor Core que vêm com 80 núcleos de rastreamento de raios e 24 GB de memória por GPU. Elas também oferecem 320 NVIDIA Tensor Cores de terceira geração, oferecendo até 250 TOPS, resultando em alta performance para workloads de trabalho de ML.

As instâncias G5 oferecem aos clientes drivers NVIDIA RTX Enterprise e de jogos sem custo adicional. Os drivers NVIDIA RTX Enterprise podem ser usados para fornecer estações de trabalho virtuais de alta qualidade para uma ampla variedade de workloads com uso intensivo de elementos gráficos. Os drivers de jogos NVIDIA fornecem gráficos incomparáveis e suporte de computação para desenvolvimento de jogos. As instâncias G5 também oferecem suporte às bibliotecas CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 e OpenGL 4.5.

As instâncias G5 são fornecidas com até 100 Gbps de taxa de transferência de rede, permitindo que elas ofereçam suporte às necessidades de baixa latência de inferência de machine learning e aplicações com uso intensivo de elementos gráficos. Os 24 GB de memória por GPU, juntamente com suporte para até 7,6 TB de armazenamento SSD NVMe local, permitem o armazenamento local de grandes modelos e conjuntos de dados para treinamento e inferência de machine learning de alta performance. As instâncias G5 também podem armazenar grandes arquivos de vídeo localmente, resultando em maior performance gráfica e na capacidade de renderizar arquivos de vídeo maiores e mais complexos.

As instâncias G5 são criadas no AWS Nitro System, que é uma coleção abundante de componentes básicos que transfere muitas das funções tradicionais de virtualização para hardware e software dedicados para oferecer alta performance, alta disponibilidade e alta segurança, além de reduzir a sobrecarga de virtualização.