NVIDIA DGX A100

NVIDIA DGX A100 je 3. generace nejpokročilejšího, účelově postaveného systému umělé inteligence a datové analytiky na světě. Představuje revoluci v oblasti podnikových datových center spočívající v infrastruktuře sjednocující aplikace AI a datové analytiky.

58 752 GPU jader

128 CPU jader

1 TB RAM

17 TB NVMe

10× 200 Gb/s

Hardware

Parametr	NVIDIA DGX A100
GPU	8× NVIDIA A100 SXM4 40 GB
Výkon (tensor operace)	5 PetaFLOPS
GPU paměť	320 GB celkem
CPU	2× AMD Epyc 7742 64 cores 3.6GHz
NVIDIA CUDA jader	55 296
NVIDIA Tensor jader	3456
Multi-instantce GPU	56 instancí
RAM	1 TB
HDD	OS: 2× 1.92 TB NVMe data: 15 TB (4× 3.84 TB) NVMe
Síť	8x 200 Gb/s HDR InfiniBand 2x 200 Gb/s Ethernet
Maximální příkon	6.5 kW
Typ	rack, 6U

Softwarová výbava
Co je ale mnohem zajímavější je již zmiňovaná softwarová výbava nabízených NVIDIA strojů. Všechny shodně nabízí předinstalovaná a především výkonově vyladěná prostředí pro strojové učení (např. Caffe, resp. Cafe 2, Theano, TensorFlow, Torch, nebo MXNet) nebo intuitivní prostředí pro datové analytiky (NVIDIA Digits). To vše elegantně zabalené v Docker kontejnerech, volně ke stažení na NVDIA GPU Cloudu (NGC). Takto vyladěné prostředí poskytuje podle NVIDIE o 30% vyšší výkon pro aplikace v oblasti učení strojů proti aplikacím nasazených jenom čistě na NVIDIA hardwaru. Hlavní výhodou předinstalovaného prostředí je rychlost nasazení, které se pohybuje v jednotkách hodin.

NVIDIA GPU Cloud (NGC)

NVIDIA GPU Cloud (NGC) představuje katalog Docker obrazů nejpoužívanějších prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění na DGX systému a stažení a spuštění v Docker kontejneru. Jednotlivá vývojová prostředí — verze všech obsažených knihoven a frameworků, nastavení parametrů prostředí — jsou aktualizovaná a optimalizovaná NVIDIÍ pro nasazení na DGX systémech. https://ngc.nvidia.com/

Podpora

Silnou stránkou nabízeného řešení NVIDIA je podpora celého systému. Hardwarová podpora (v případě selhání některé z komponent) je samozřejmostí. Zásadní je softwarová podpora pro celé prostředí pro případ, že něco nefunguje tak, jak má. Zákazník má k dispozici stovky vývojářů připravených pomoci. Podpora je součástí nákupu systémů NVIDIA DGX. Je k dispozici na 1 nebo 3 roky a po skončení této doby je možné ji dále prodloužit.

NVIDIA podpora zahrnuje:

Vyslání technika na místo instalace (oprava u zákazníka)
Automatická vzdálená diagnostika a řešení potíží
Vydálená softwarová podpora
Přístup k nejnovějším updatům a upgradům
Přímý kontakt na odbornou podporu společnosti NVIDIA
Soukromé NGC kontejnerové úložiště pro přístup k AI a HPC softwaru v kombinaci s funkcemi pro spolupráci a sdílení napříč vaší organizací
Přístup k databázi znalostí obsahující odborné články, poznámky k aplikacím a produktovou dokumentaci
Rychlá reakce a včasné řešení problémů prostřednictvím portálu podpory a 24 × 7 telefonní linky
Podpora po dobu celáho životního cyklu NVIDIA DGX systémů a AI softwaru
Výměna vadných HW komponent do následujícího pracovního dne
DGX Systems Appliance Support Services Terms and Conditions
End-user license agreement (EULA)

Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:

Applications performance comparison

GPU vs. CPU: Data analysis

A100 vs. V100: Model training

Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:

NVIDIA nabízí na DGX systémy speciální cenové akce a programy pro oblasti vzdělávání (EDU) nebo start-up společností. Díky mezinárodní spolupráci mezi NVIDIA a IBM Global Financing je na modely DGX k dispozici zvýhodněné financování formou operativního leasingu.

Získat cenovou nabídku

NVIDIA Deep Learning Institute

NVIDIA Deep Learning Institute (DLI) nabízí on-line i hands-on školení pro vývojáře, datové analytiky nebo vědecké pracovníky, kteří řeší náročné úlohy umělé inteligence nebo akcelerovaných výpočtů. Získat více informací.

DIGITÁLNÍ GTC 2020

5.-9. října 2020 se koná digitální konference GTC (GPU Technology Conference). Budete mít možnost seznámit se s NVIDIA DGX systémy a příklady jejich nasazení a poslechnout si vizionářské přednášky nejvýznamnějších lidí v oblastech umělé inteligence a učení strojů včetně charizmatického generálního ředitele společnosti NVIDIA Jensena Huanga.

Konference GTC 2020

Testování

Pro otestování výkonnosti a především rychlosti nasazení ML a AI aplikací máme k dispozici systém NVIDIA DGX Station a v rámci NVIDIA Tesla Test Drive programu také 2× NVIDIA Tesla V100 a NVIDIA Tesla T4. V případě Vašeho zájmu o testování prosím vyplňte tento formulář.