Amazon EC2 ma najszerszą i najbogatszą w chmurze gamę przyspieszanych sprzętowo instancji obejmujących procesory graficzne, układy FPGA oraz nasz własny niestandardowy układ wnioskowania ML, AWS Inferentia. Instancje G4dn oferują najlepszą cenę / wydajność dla modeli wnioskowania ML na podstawie GPU, szkolenia mniej skomplikowanych modeli ML, aplikacji graficznych innych, które potrzebują dostępu do bibliotek NVIDIA, takich jak CUDA, CuDNN i NVENC.
Od dziś instancje Amazon EC2 G4dn są ogólnie dostępne. Instancje Amazon EC2 G4dn są pierwszymi instancjami AWS opartymi na GPU. Te instancje są idealne dla obciążeń wymagających dostępu do zestawu funkcji sprzętowych (takich jak Intel® VT-x), do aplikacji, które muszą działać w środowiskach niezwirtualizowanych w celu uzyskania licencji lub wsparcia, lub dla klientów, którzy chcą korzystać z własnych hiperwizorów.

Instancje G4dn typu bare metal oferują osiem procesorów graficznych NVIDIA T4 Tensor Core, niestandardowe procesory AWS drugiej generacji Intel® Xeon® Scalable (Cascade Lake), przepustowość sieci 100 Gb / s oraz 1,8 TB lokalnej pamięci NVMe. Instancje G4dn typu bare metal obsługują również adapter Elastic Adapter, który może być używany do uruchamiania aplikacji wymagających wysokiego poziomu komunikacji między węzłami na dużą skalę, z mniejszym i bardziej spójnym opóźnieniem i wyższą przepustowością niż tradycyjne kanały TCP.

Zarządzane usługi AWS, takie jak Elastic Container Service (ECS) i Elastic Kubernetes Service (EKS), które obsługują instancje G4dn, obsługują także nowe instancje G4dn innych typów.

Instancje bare metal Amazon EC2 G4dn są dostępne w Stanach Zjednoczonych na Wschodzie (w stanie Wirginia), na Zachodzie w Stanach Zjednoczonych (Oregon) i regionie Azji i Pacyfiku (Tokio). Instancje Amazon EC2 G4dn są dostępne w 6 rozmiarach, z 4, 8, 16, 32, 48 i 64 vCPU, oprócz instancji bare metal, która ma 96 vCPU, i można je kupić jako instancje na żądanie, zarezerwowane, a także jako część planów oszczędnościowych.
Aby rozpocząć korzystanie z instancji bare metal Amazon EC2 G4dn, odwiedź konsolę zarządzania AWS, interfejs wiersza poleceń AWS (CLI) lub zestawy SDK AWS.

Źródło

Więcej o EC2