128 CPU jader
1 TB RAM
17 TB NVMe
10× 200 Gb/s
Hardware
| Parametr | NVIDIA DGX A100 |
|---|---|
| GPU | 8× NVIDIA A100 SXM4 40 GB |
| Výkon (tensor operace) | 5 PetaFLOPS |
| GPU paměť | 320 GB celkem |
| CPU | 2× AMD Epyc 7742 64 cores 3.6GHz |
| NVIDIA CUDA jader | 55 296 |
| NVIDIA Tensor jader | 3456 |
| Multi-instantce GPU | 56 instancí |
| RAM | 1 TB |
| HDD | OS: 2× 1.92 TB NVMe data: 15 TB (4× 3.84 TB) NVMe |
| Síť | 8x 200 Gb/s HDR InfiniBand 2x 200 Gb/s Ethernet |
| Maximální příkon | 6.5 kW |
| Typ | rack, 6U |
Softwarová výbava
Co je ale mnohem zajímavější je již zmiňovaná softwarová výbava nabízených NVIDIA strojů. Všechny shodně nabízí předinstalovaná a především výkonově vyladěná prostředí pro strojové učení (např. Caffe, resp. Cafe 2, Theano, TensorFlow, Torch, nebo MXNet) nebo intuitivní prostředí pro datové analytiky (NVIDIA Digits). To vše elegantně zabalené v Docker kontejnerech, volně ke stažení na NVDIA GPU Cloudu (NGC). Takto vyladěné prostředí poskytuje podle NVIDIE o 30% vyšší výkon pro aplikace v oblasti učení strojů proti aplikacím nasazených jenom čistě na NVIDIA hardwaru. Hlavní výhodou předinstalovaného prostředí je rychlost nasazení, které se pohybuje v jednotkách hodin.
NVIDIA GPU Cloud (NGC)
NVIDIA GPU Cloud (NGC) představuje katalog Docker obrazů nejpoužívanějších prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění na DGX systému a stažení a spuštění v Docker kontejneru. Jednotlivá vývojová prostředí — verze všech obsažených knihoven a frameworků, nastavení parametrů prostředí — jsou aktualizovaná a optimalizovaná NVIDIÍ pro nasazení na DGX systémech. https://ngc.nvidia.com/
Podpora
Silnou stránkou nabízeného řešení NVIDIA je podpora celého systému. Hardwarová podpora (v případě selhání některé z komponent) je samozřejmostí. Zásadní je softwarová podpora pro celé prostředí pro případ, že něco nefunguje tak, jak má. Zákazník má k dispozici stovky vývojářů připravených pomoci. Podpora je součástí nákupu systémů NVIDIA DGX. Je k dispozici na 1 nebo 3 roky a po skončení této doby je možné ji dále prodloužit.
NVIDIA podpora zahrnuje:
- Vyslání technika na místo instalace (oprava u zákazníka)
- Automatická vzdálená diagnostika a řešení potíží
- Vydálená softwarová podpora
- Přístup k nejnovějším updatům a upgradům
- Přímý kontakt na odbornou podporu společnosti NVIDIA
- Soukromé NGC kontejnerové úložiště pro přístup k AI a HPC softwaru v kombinaci s funkcemi pro spolupráci a sdílení napříč vaší organizací
- Přístup k databázi znalostí obsahující odborné články, poznámky k aplikacím a produktovou dokumentaci
- Rychlá reakce a včasné řešení problémů prostřednictvím portálu podpory a 24 × 7 telefonní linky
- Podpora po dobu celáho životního cyklu NVIDIA DGX systémů a AI softwaru
- Výměna vadných HW komponent do následujícího pracovního dne
- DGX Systems Appliance Support Services Terms and Conditions
- End-user license agreement (EULA)
Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:
GPU vs. CPU: Data analysis
A100 vs. V100: Model training
Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:
NVIDIA nabízí na DGX systémy speciální cenové akce a programy pro oblasti vzdělávání (EDU) nebo start-up společností. Díky mezinárodní spolupráci mezi NVIDIA a IBM Global Financing je na modely DGX k dispozici zvýhodněné financování formou operativního leasingu.
NVIDIA Deep Learning Institute
NVIDIA Deep Learning Institute (DLI) nabízí on-line i hands-on školení pro vývojáře, datové analytiky nebo vědecké pracovníky, kteří řeší náročné úlohy umělé inteligence nebo akcelerovaných výpočtů. Získat více informací.
DIGITÁLNÍ GTC 2020
5.-9. října 2020 se koná digitální konference GTC (GPU Technology Conference). Budete mít možnost seznámit se s NVIDIA DGX systémy a příklady jejich nasazení a poslechnout si vizionářské přednášky nejvýznamnějších lidí v oblastech umělé inteligence a učení strojů včetně charizmatického generálního ředitele společnosti NVIDIA Jensena Huanga.
Testování
Pro otestování výkonnosti a především rychlosti nasazení ML a AI aplikací máme k dispozici systém NVIDIA DGX Station a v rámci NVIDIA Tesla Test Drive programu také 2× NVIDIA Tesla V100 a NVIDIA Tesla T4. V případě Vašeho zájmu o testování prosím vyplňte tento formulář.
Kamila Jeřábková
Product manager
M: +420 734 161 516
kamila.jerabkova@mcomputers.cz