NVIDIA DGX-1

DGX-1 je vlajková loď společnosti NVIDIA. Představuje aktuálně nejvýkonnější hardware pro strojové učení a umělou inteligenci a kompletní softwarový stack včetně všech nejpoužívanějších prostředích (TensorFlow, Caffe, Torch, Theano, …) nasazených v Docker kontejnerech nebo aplikací pro datové analytiky. Jednoduše řečeno, jedná se o superpočítač pro umělou inteligenci v jediném boxu.


NVIDIA DGX-1

NVIDIA DGX-1

Oblast Machine learningu prochází bouřlivým rozvojem a NVIDIA patří mezi světovou špičku v oblasti hadwaru a nově i softwaru pro akceleraci. Výsledkem je specializovaný server NVIDIA DGX-1 a výkonná pracovní stanice NVIDIA DGX Station. Oba stroje jsou postavené na aktuálně nejvýkonnějším železe NVIDIA a vyladěném softwarovém prostředí, které v sobě zahrnuje předinstalované a vyladěné machine learning prostředí. A právě tyto dva technologické skvosty je možné díky naší společnosti pořídit i v České a Slovenské republice.

NVIDIA zrychlení
Zrychlení učící fáze proti tradičnímu CPU výpočetnímu prostředí a GPU prostředí vs. NVIDIA DGX-1.

Hardware

Pojďme se na NVIDA stroje podívat podrobněji, nejprve z pohledu hardware.

ParametrDGX-1DGX Station
GPUs8× Tesla V1004× Tesla V100
Výkon (GPU FP16)1 PetaFLOPS0,5 PetaFLOPS
GPU paměť256* GB celkem64 GB celkem
CPU2× E5-2698 v4 2.2GHz (20 jader)E5-2698 v4 2.2GHz (20 jader)
NVIDIA CUDA cores40 96020 480
NVIDIA Tensor cores5 1202 560
RAM512 GB256 GB
HDD4× 1,92TB SSD4× 1,92TB SSD
NetworkDual 10GbE, 4× 100Gb EDR InfinibandDual 10GbE
Maximální příkon3 200 W1 500 W

* při použití nových Tesla V100 32 GB

NVIDIA DGX-1 i NVIDIA DGX Station jsou vybaveny nejnovějšími a zároveň nejrychlejšími akcelerátory současnosti — NVIDIA Tesla V100 32GB (NVLink verze) — DGX Station čtyřmi kartami, DGX-1 dokonce osmi kartami!

Na konferenci GTC 2018 oznámila NVIDIA novinku — NVIDIA DGX-2 osazený 16 grafickými akcelerátory NVIDIA Tesla V100 32GB. Tento model dosahuje špičkového výkonu až 2 Pflops a představuje tak nejvýkonnější systém pro učení strojů na světě!

Parametry NVIDIA DGX-2:

NVIDIA DGX-2

NVIDIA DGX-2

  • 16× Tesla V100 32GB GPU
  • NVSwitch: 2.4 TB/s bisection bandwidth
  • 24× GPU-GPU Bandwidth
  • 0.5 TB of Unified GPU Memory
  • 10× vyšší výkonnost pro deep learning úlohy

 

Softwarová výbava

Co je ale mnohem zajímavější je již zmiňovaná softwarová výbava nabízených NVIDIA strojů. Oba shodně nabízí předistalované a především výkonnově vyladěná prostředí pro strojové učení (např. Caffe, resp. Cafe 2, Theano, TensorFlow, Torch, nebo MXNet) nebo intuitivní prostředí pro datové analytiky (NVIDIA Digits). To vše elegantně zabalené v Docker kontejnerech. Takto vyladěné prostředí nabizí podle NVIDIE o 30% vyšší výkon pro aplikace v oblasti učení strojů proti aplikacím nasazených jenom čistě na NVIDIA hardware. Hlavní výhodou předinstalovaného prostředí je rychlost nasazení, které se pohybuje v jednotkách hodin.

NVIDIA DGX systems SW stack

NVIDIA DGX systems SW stack

Podpora

Silnou stránkou nabízeného řešení NVIDIA je podpora celého systému. Hardwarová podpora (v případě selhání některé z komponent) je samozřejmostí. Zásadní je softwarová podpora pro celé prostředí pro případ, že něco nefunguje tak jak má. Zákazník má k dispozici stovky vývojářů připravných pomoci. Podpora je součástí nákupu NVIDIA DGX-1 systému. Je k dispozici na 1 a 3 roky a po skončení této doby je možné ji dále prodloužit.

Rozdíl mezi odladěným řešením NVIDIA DGX-1 pro rychlé a výkonné nasazení strojového učení v praxi a variantou poskládejte si vše sami (DIY — Do It Yourself) je patrný z následujícího videa:

Společnost M Computers splnila veškeré podmínky autorizace společnosti NVIDIA pro oblast Machine learning (učení strojů) a její vlajkové lodi DGX-1, která se honosí ozančením — nejrychlejší cesta k učení strojů. Navazujeme tak na naše partnerství s NVIDIÍ v oblasti Accelerated computing (GP GPU akceletárory pro především pro oblast HPC).

NVIDIA DGX Station
NVIDIA DGX Station

V případě zájmu o více informací nebo o vyzkoušení a otestování nejnovějších technologií NVIDIA nás prosím neváhejte kontaktovat.

Odborníkem na NVDIA DGX-1 v naší společnosti je Petr Plodík, 737 264 480, petr.plodik@mcomputers.cz.