Instans Amazon EC2 G5

Instans G5 menghadirkan performa grafis hingga 3x lebih tinggi dan performa harga hingga 40% lebih baik daripada instans G4dn. Mereka memiliki lebih banyak inti ray tracing daripada EC2 instance berbasis GPU lainnya, memiliki memori 24 GB per GPU, dan mendukung teknologi NVIDIA RTX. Ini membuatnya ideal untuk merender adegan realistis dengan lebih cepat, menjalankan stasiun kerja virtual yang kuat, dan mendukung aplikasi grafis berat dengan fidelitas yang lebih tinggi.

Instans G5 menghadirkan performa hingga 3x lebih tinggi dan performa harga hingga 40% lebih baik untuk inferensi machine learning dibandingkan dengan instans G4dn. Instans ini adalah solusi berperforma tinggi dan hemat biaya bagi pelanggan yang ingin menggunakan perpustakaan NVIDIA seperti TensorRT, CUDA, dan cuDNN untuk menjalankan aplikasi ML mereka.

Instans G5 menawarkan biaya pelatihan hingga 15% lebih rendah daripada instans P3 Amazon EC2. Mereka juga memberikan performa hingga 3,3x lebih tinggi untuk pelatihan ML dibandingkan dengan instans G4dn. Ini menjadikannya solusi hemat biaya untuk melatih model machine learning simpul tunggal yang cukup kompleks untuk pemrosesan bahasa alami, penglihatan komputer, dan kasus penggunaan mesin rekomendasi.

Instans G5 dibangun di AWS Nitro System, kombinasi perangkat keras khusus dan hypervisor ringan yang memberikan hampir semua sumber daya komputasi dan memori perangkat keras host ke instans Anda untuk keseluruhan performa dan keamanan yang lebih baik. Dengan instans G5, sistem Nitro menyediakan GPU dalam mode pass-through, memberikan performa yang sebanding dengan bare-metal.

Instans G5 adalah yang pertama di cloud yang menampilkan GPU NVIDIA A10G Tensor Core yang menghadirkan performa tinggi untuk aplikasi machine learning dan grafis yang intensif. Setiap instans memiliki hingga 8 GPU Tensor Core A10G yang dilengkapi dengan 80 ray tracing core dan memori 24 GB per GPU. Instans ini juga menawarkan 320 NVIDIA Tensor Cores generasi ketiga yang menghadirkan hingga 250 TOPS yang menghasilkan performa tinggi untuk beban kerja ML.

Instans G5 menawarkan driver NVIDIA RTX Enterprise dan driver game kepada pelanggan tanpa biaya tambahan. Driver NVIDIA RTX Enterprise dapat digunakan untuk menyediakan stasiun kerja virtual berkualitas tinggi untuk berbagai beban kerja intensif grafis. Driver game NVIDIA menyediakan grafis tak tertandingi dan dukungan komputasi untuk pengembangan game. Instans G5 juga mendukung pustaka CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1, dan OpenGL 4.5.

Instans G5 hadir dengan throughput jaringan hingga 100 Gbps yang memungkinkannya mendukung kebutuhan latensi rendah dari inferensi machine learning dan aplikasi intensif grafis. Memori 24 GB per GPU bersama dengan dukungan hingga 7,6 TB penyimpanan NVMe SSD lokal memungkinkan penyimpanan lokal model besar dan set data untuk pelatihan dan inferensi machine learning performa tinggi. Instans G5 juga dapat menyimpan file video besar secara lokal yang menghasilkan peningkatan performa grafis dan kemampuan untuk merender file video yang lebih besar dan lebih kompleks.

Instans G5 dibangun di AWS Nitro System, yang merupakan kumpulan blok penyusun yang kaya yang memindahkan banyak fungsi virtualisasi tradisional ke perangkat keras dan perangkat lunak khusus untuk menghadirkan performa tinggi, ketersediaan tinggi, dan keamanan tinggi sekaligus mengurangi kelebihan virtualisasi.