[av_heading heading=’14. května 2020 představil zakladatel a generální ředitel společnosti NVIDIA Jensen Huang v průběhu konference GTC novou architekturu akcelerátorů NVIDIA Ampere pro řešení nejnáročnějších úloh v oblastech HPC (High performance computing) nebo umělé inteligence. Souhrn nejzajímavějších postřehů a novinek představíme v následujícím textu.’ tag=’h3′ style=’blockquote modern-quote modern-centered’ subheading_active=” size=” av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” subheading_size=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” color=’meta-heading’ custom_font=” margin=” margin_sync=’true’ padding=’10’ link=” link_target=” id=” custom_class=” av_uid=’av-2fgpboy’ admin_preview_bg=”][/av_heading]
Od grafických karet po AI superpočítače
[av_three_fifth first av_uid=’av-2q00l76′]
Společnost NVIDIA byla vždy synonymem pro výkonné grafické karty (GPU). V roce 2007 uvedla programové prostředí CUDA pro zpracování obecných výpočtů nad grafickými kartami (GP GPU = General Purpose GPU) a stala tak významným hráčem v oblasti akcelerovaných výpočtů pro HPC (High Performance Computing) aplikace, analýzu dat a v poslední době také pro nasazení algoritmů umělé inteligence. NVIDIA od té doby uvedla celou řadu hardwarových i softwarových technologií pro další urychlení výpočtů a její akcelerátory se staly hlavní výpočetní silou nejvýkonnějších superpočítačů na světě — #1 Summit a #2 Sierra od IBM jsou postaveny na čipech NVIDIA Tesla V100.
[/av_three_fifth]
[av_two_fifth av_uid=’av-23fg6s2′]
[/av_two_fifth]
[av_one_full first av_uid=’av-1fy4y36′]
GTC 2020
GPU Technology Conference (GTC) je největší světová konference o grafických kartách, akcelerovaných výpočtech a v posledních letech především umělé inteligenci. Pravidelně největšímu zájmu se těší úvodní prezentace Jensena Hunga, který ve své typické černé kožené bundě představuje novinky a trendy v oblastech, ve kterých nabízí NVIDIA své produkty. Od oznámení přelomového akcelerátoru NVIDIA Tesla V100 uběhly již tři roky, proto se letos s napětím očekávalo, co nového v NVIDII upekli. Jensenova prezentace začíná tradičně… I AM AI.
[/av_one_full]
[av_one_half first av_uid=’av-2agazea’][av_video src=’https://youtu.be/So7TNRhIYJ8′ mobile_image=” attachment=” attachment_size=” format=’16-9′ width=’16’ height=’9′ conditional_play=” id=” custom_class=” av_uid=’av-1kt23ma’][/av_one_half][av_one_half av_uid=’av-1dm0eb6′]
[av_video src=’https://youtu.be/bOf2S7OzFEg’ mobile_image=” attachment=” attachment_size=” format=’16-9′ width=’16’ height=’9′ conditional_play=” id=” custom_class=” av_uid=’av-rkqfw2′]
[/av_one_half]
[av_one_full first av_uid=’av-4dpzyq’]
NVIDIA Ampere
Po shlédnutí videa z Jensenovy kuchyně je zřejmé, že tou největší novinkou letošní prezentace bude GPU architektura NVIDIA Ampere, akcelerátor NVIDIA A100, který je na této architektuře postavený a dále systém DGX A100. DGX A100 je referenční architektura vyladěného systému pro AI a HPC výpočty, osazený osmi akcelerátory NVIDIA A100. Systémovou desku se těmito osmi GPU akcelerátory vyndává Jensen ve svém videu z trouby a hovoří o ni jako o nejvýkonnějším akcelerátoru na světě.
[/av_one_full]
[av_three_fifth first av_uid=’av-1hevyaa’]
NVIDIA A100
Akcelerátor NVIDIA A100 je vyráběn 7 nm technologií v továrně TSMC. Obsahuje přes 54 miliard tranzistorů na ploše 826 mm2. Mezi hlavní technologické inovace nového čipu patří:
- Tensor jádra (3. generace) optimalizované pro HPC výpočty a AI
- 40 GB rychlé HBM2 s propustností 1,6 TB/s, 40 MB L2 cache
- Multi-Instance GPU (MIG) pro práci více uživatelů s jednou kartou
- rychlejší NVLINK pro vzájemné propojení více karet (600 GB/s na kartu)
- PCIe gen4 sběrnice pro připojení k CPU a síťovým kartám (31,5 GB/s)
Vylepšení Tensor jader v FP64 (double precission) výpočtech výrazně pomáhá výpočetnímu výkonu v tradičních HPC výpočtech a simulacích, zatímco podpora TF32 a BF16 akcelerují trénování i následnou aplikaci (inference) neuronových sítí. Maximální teoretická výkonnost pro jednotlivé přesnosti výpočtu je uvedena v tabulce napravo. Uvedené hodnoty počítají s Boost frekvencí výpočetních jader. Pro práci s hlubokými neuronovými sítěmi představila NVIDIA také Fine grained structured sparsity. Díky ní je možné uvedené hodnoty výkonnosti zdvojnásobit!
[/av_three_fifth]
[av_two_fifth av_uid=’av-1bvm642′]
[av_promobox button=’no’ label=’ icon_select=’no’ icon=’ue800′ font=’roboto’ color=’theme-color’ custom_bg=’#444444′ custom_font=’#ffffff’ size=’large’ box_color=’theme-color’ box_custom_font=’#ffffff’ box_custom_bg=’#d30007′ box_custom_border=” label_display=” link=” link_target=” id=” custom_class=” av_uid=’av-qse7hu’ admin_preview_bg=”]
| Přesnost | Výkonnost |
|---|---|
| FP64 | 9,7 TFLOPS |
| FP64 Tensor Core | 19,5 TFLOPS |
| FP32 | 19,5 TFLOPS |
| FP16 | 78 TFLOPS |
| BF16 | 39 TFLOPS |
| TF32 Tensor Core | 156 TFLOPS |
| FP16 Tensor Core | 312 TFLOPS |
| BF16 Tensor Core | 312 TFLOPS |
| INT8 Tensor Core | 624 TOPS |
| INT4 Tensor Core | 1 248 TOPS |
[/av_promobox]
[/av_two_fifth]
[av_one_full first av_uid=’av-mpmuvm’]
Porovnání NVIDIA A100 se stávajícími akcelerátory
Obecně je akcelerátor NVIDIA A100 nejvýkonnější hardware, na kterém je možné zpracovávat náročné výpočetní úlohy.
| Parametr | Tesla T4 | Tesla V100 SXM2 | A100 SXM4 | DGX-1 | DGX-2 | DGX A100 |
|---|---|---|---|---|---|---|
| Architektura karty | Turing | Volta | Ampere | Volta | Volta | Ampere |
| Počet CUDA jader | 2 560 | 5 120 | 6 912 | 40 960 | 81 920 | 55 296 |
| Počet Tensor jader | 320 | 640 | 432 | 5 120 | 10 240 | 3 456 |
| Výkon FP64 | 0,25 TFLOPS | 7,8 TFLOPS | 9,7 TFLOPS | 62 TFLOPS | 125 TFLOPS | 77,6 TFLOPS |
| Výkon Tensor (FP64) | — | — | 19,5 TFLOPS | — | — | 156 TFLOPS |
| Výkon FP32 | 8,1 TFLOPS | 15,7 TFLOPS | 19,5 TFLOPS | 125 TFLOPS | 250 TFLOPS | 156 TFLOPS |
| Výkon Tensor (TF32) | — | — | 156 TFLOPS | — | — | 1,2 PFLOPS |
| Výkon Tensor (FP16) | 65 TFLOPS | 125 TFLOPS | 312 TFLOPS | 1 PFLOPS | 2 PFLOPS | 2,5 PFLOPS |
| GPU paměť | 16 GB | 32 GB | 40 GB | 256 GB | 512 GB | 320 GB |
| Technologie paměti | GDDR6 | HMB2 | HMB2 | HMB2 | HMB2 | HBM2 |
| Propustnost pamětí | 300 GB/s | 900 GB/s | 1 ,5 TB/s | 900 GB/s | 900 GB/s | 1,5 TB/s |
| Propojení GPU karet | Není | NVLink | NVLink3 | NVLink, hypercube topologie | NVSwitch, non-blocking | NVSwitch3, non-blocking |
| Maximální příkon | 70 W | 300 W | 400 W | 3 500 W | 10 kW | 6,6 kW |
| Provedení | PCIe karta | SXM2 karta | SXM4 karta | rack, 3U | rack, 10U | rack |
| Rok uvedení na trh | 2018 | 2017 | 2020 | 2017 | 2018 | 2020 |
Přehledem aktuálních CPU platforem (Intel, AMD, POWER a ARM) jsme se věnovali v březnovém Porovnání serverových procesorů. Připravujeme porovnání akcelerátorů pro oblasti HPC a AI.
[/av_one_full]
[av_one_half first av_uid=’av-30xutv6′]
[av_image src=’https://mcomputers.algaweb.site/wp-content/uploads/2020/05/A100_AI_acceleration.png’ attachment=’12924′ attachment_size=’full’ copyright=” caption=” styling=” align=’center’ font_size=” overlay_opacity=’0.4′ overlay_color=’#000000′ overlay_text_color=’#ffffff’ animation=’no-animation’ hover=” appearance=” link=’lightbox’ target=” id=” custom_class=” av_element_hidden_in_editor=’0′ av_uid=’av-2j8t0ky’ admin_preview_bg=”][/av_image]
[/av_one_half]
[av_one_half av_uid=’av-28b0x2q’]
[av_image src=’https://mcomputers.algaweb.site/wp-content/uploads/2020/05/A100_HPC_acceleration.png’ attachment=’12926′ attachment_size=’full’ copyright=” caption=” styling=” align=’center’ font_size=” overlay_opacity=’0.4′ overlay_color=’#000000′ overlay_text_color=’#ffffff’ animation=’no-animation’ hover=” appearance=” link=’lightbox’ target=” id=” custom_class=” av_element_hidden_in_editor=’0′ av_uid=’av-1fz5dte’ admin_preview_bg=”][/av_image]
[/av_one_half]
[av_one_full av_uid=’av-14vh3f6′]
NVIDIA DGX A100
Při ohlášení předchozí generace Tesla akcelerátorů uvedla NVIDIA i referenční systémy optimalizované pro HPC a AI výpočty — NVIDIA DGX. S uvedením akcelerátoru NVIDIA A100 byl zároveň představen i nový DGX systém — NVIDIA DGX A100.
[av_image src=’https://mcomputers.algaweb.site/wp-content/uploads/2020/05/dgx-a100-exploded-view.png’ attachment=’12930′ attachment_size=’full’ copyright=” caption=” styling=” align=’center’ font_size=” overlay_opacity=’0.4′ overlay_color=’#000000′ overlay_text_color=’#ffffff’ animation=’no-animation’ hover=” appearance=” link=’lightbox’ target=” id=” custom_class=” av_element_hidden_in_editor=’0′ av_uid=’av-vj11gy’ admin_preview_bg=”][/av_image]
Společně se systémem DGX A100 uvedla NVIDIA také systém HGX A100, což je systémová deska osazena čtyřmi nebo osmi akcelerátory NVIDIA A100, kterou OEM i ODM výrobci serverů zaintegrují do svých systémů. Mezi prvními výrobci těchto systémů by měly patřit společnosti HPE, Gigabyte nebo Supermicro.
[/av_one_full]
[av_section min_height=” min_height_px=’500px’ padding=’default’ shadow=’no-border-styling’ bottom_border=’no-border-styling’ bottom_border_diagonal_color=’#333333′ bottom_border_diagonal_direction=” bottom_border_style=” custom_arrow_bg=” id=” color=’main_color’ custom_bg=’#d71923′ src=’https://mcomputers.algaweb.site/wp-content/uploads/2018/08/house-wire-model-fade-white-1500×1085.png’ attachment=’7397′ attachment_size=’full’ attach=’parallax’ position=’center right’ repeat=’stretch’ video=” video_ratio=’16:9′ overlay_opacity=’0.5′ overlay_color=” overlay_pattern=” overlay_custom_pattern=” av_element_hidden_in_editor=’0′ av_uid=’av-17n60gn’]
[av_three_fourth first min_height=’av-equal-height-column’ vertical_alignment=’av-align-middle’ space=” margin=’0px’ margin_sync=’true’ padding=’0px’ padding_sync=’true’ border=” border_color=” radius=’0px’ radius_sync=’true’ background_color=” src=” attachment=” attachment_size=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-15taedj’]
[av_heading heading=’NVIDIA nabízí na Tesla karty i DGX systémy speciální cenové akce a programy pro konkrétní projekty a navíc podporuje instituce v oblasti vzdělávání (EDU) nebo start-upy.’ tag=’h3′ link_apply=” link=’manually,http://’ link_target=” style=’blockquote modern-quote’ size=’25’ subheading_active=” subheading_size=’15’ margin=” margin_sync=’true’ padding=’0′ color=’custom-color-heading’ custom_font=’#ffffff’ av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-js85uejr’ admin_preview_bg=”][/av_heading]
[/av_three_fourth][av_one_fourth min_height=” vertical_alignment=” space=” custom_margin=” margin=’0px’ padding=’0px’ border=” border_color=” radius=’0px’ background_color=” src=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-3w8lfr’]
[av_button label=’Získat nabídku’ link=’manually,[email protected]’ link_target=’_blank’ size=’large’ position=’right’ icon_select=’no’ icon=’ue800′ font=’entypo-fontello’ color=’light’ custom_bg=’#444444′ custom_font=’#ffffff’ admin_preview_bg=” av_uid=’av-10wh353′]
[/av_one_fourth]
[/av_section]
Další novinky z NVIDIE
[av_one_half first av_uid=’av-1rukh02′]A to je jen stručný výčet hlavních novinek, které Jensen ve své kuchyni představil. Jednotlivé části prezentace je možné shlédnout na youtube kánále NVIDIA:
[/av_one_half][av_one_half av_uid=’av-174brde’][av_video src=’https://youtu.be/bOf2S7OzFEg’ mobile_image=” attachment=” attachment_size=” format=’16-9′ width=’16’ height=’9′ conditional_play=” id=” custom_class=” av_uid=’av-qmuvki’][/av_one_half]
Webináře
Připravili jsme pro Vás sérii webinářů k tématu akcelerovaných výpočtů a především novinek z GTC konference a prezentace Jensena Huanga.
- 20. května 2020, 15:00: Úvod do akcelerovaných výpočtů
- 21. května 2020, 9:00: Novinky NVIDIA, architektura Tesla Ampere
- 27. května 2020, 15:00: Novinky NVIDIA, architektura Tesla Ampere (stejný obsah jako 21. května)
- 3. června 2020, 15:00: NVIDIA GPU Cloud (NGC) prakticky
Obsah a podrobný popis jednotlivých webinářů naleznete v sekci Školení a webináře.
Vzdělávání
[av_one_third first min_height=’av-equal-height-column’ vertical_alignment=’av-align-middle’ space=” margin=’0px’ margin_sync=’true’ padding=’0px’ padding_sync=’true’ border=” border_color=” radius=’0px’ radius_sync=’true’ background_color=” src=” attachment=” attachment_size=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-qqkagn’]
[av_image src=’https://mcomputers.algaweb.site/wp-content/uploads/2018/11/deep-learning-education-logo-300×106.png’ attachment=’8509′ attachment_size=’medium’ align=’center’ styling=” hover=” link=” target=” caption=” font_size=” appearance=” overlay_opacity=’0.4′ overlay_color=’#000000′ overlay_text_color=’#ffffff’ animation=’no-animation’ admin_preview_bg=” av_uid=’av-q92kpj’][/av_image]
[/av_one_third][av_two_third min_height=” vertical_alignment=” space=” custom_margin=” margin=’0px’ padding=’0px’ border=” border_color=” radius=’0px’ background_color=” src=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-omtybb’]
[av_textblock size=” font_color=” color=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” admin_preview_bg=” av_uid=’av-mwjspz’]
NVIDIA Deep Learning Institute
NVIDIA Deep Learning Institute (DLI) nabízí on-line i hands-on školení pro vývojáře, datové analytiky nebo vědecké pracovníky, kteří řeší náročné úlohy umělé inteligence nebo akcelerovaných výpočtů. Více zde.
[/av_textblock]
[/av_two_third][av_three_fourth first min_height=’av-equal-height-column’ vertical_alignment=’av-align-middle’ space=” margin=’0px’ margin_sync=’true’ padding=’0px’ padding_sync=’true’ border=” border_color=” radius=’0px’ radius_sync=’true’ background_color=” src=” attachment=” attachment_size=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-l5n4xz’]
[av_textblock size=” font_color=” color=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” admin_preview_bg=” av_uid=’av-idzlpj’]
Testování
[/av_textblock]
[av_textblock size=” font_color=” color=” id=” custom_class=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-i4mgd3′ admin_preview_bg=”]
Pro otestování výkonnosti a především rychlosti nasazení ML a AI aplikací máme k dispozici systém NVIDIA DGX Station a v rámci NVIDIA Tesla Test Drive programu také 2× NVIDIA Tesla V100 a NVIDIA Tesla T4. V případě Vašeho zájmu o testování prosím vyplňte tento formulář.
[/av_textblock]
[av_contact email=’[email protected]’ from_email=” title=” heading_tag=” heading_class=” button=’Odeslat’ on_send=” sent=’Váš zájem o testování byl odeslán.’ link=’manually,http://’ subject=’Testování NVIDIA DGX produktů’ autoresponder_email=’[email protected]’ autorespond=’Mám zájem o testování NVIDIA DGX produktů’ captcha=” captcha_theme=’light’ captcha_size=’normal’ captcha_score=’0.5′ form_align=” color=” alb_description=” id=” custom_class=” aria_label=” av_uid=’av-gccplz’ admin_preview_bg=”]
[av_contact_field label=’NVIDIA produkt’ type=’select’ options=’NVIDIA DGX Station, NVIDIA Testa V100, NVIDIA Tesla T4, NVIDIA Jetson Nano’ check=’is_empty’ width=’element_fourth’ av_uid=’av-1v1s1j’][/av_contact_field]
[av_contact_field label=’Jméno’ type=’text’ options=” check=’is_empty’ width=’element_fourth’ multi_select=” av_contact_preselect=” av_uid=’av-bv6vvb’][/av_contact_field]
[av_contact_field label=’E-Mail’ type=’text’ options=” check=’is_email’ width=’element_fourth’ multi_select=” av_contact_preselect=” av_uid=’av-13grl3′][/av_contact_field]
[/av_contact]
[/av_three_fourth][av_one_fourth min_height=” vertical_alignment=” space=” custom_margin=” margin=’0px’ padding=’0px’ border=” border_color=” radius=’0px’ background_color=” src=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-3w8lfr’]
[av_team_member name=’Kamila Jeřábková’ job=’Product manager’ src=’https://mcomputers.algaweb.site/wp-content/uploads/2019/09/kalca-kulata.png’ attachment=’10713′ attachment_size=’full’ image_width=” description=’M: 734 161 516
[email protected]‘ font_color=” custom_title=” custom_content=” av_uid=’av-k0bh8721′ admin_preview_bg=”]
[av_team_icon title=’Poslat e-mail’ link=’mailto:[email protected]’ link_target=’_blank’ icon=’ue805′ font=’entypo-fontello’ av_uid=’av-rzqilq’]
[/av_team_member]
[/av_one_fourth]
Společnost M Computers s.r.o. je NPN partnerem NVIDIA s nejvyšším stupněm partnerství ELITE pro oblasti nejvýkonnějších akcelerátorů TESLA a kompletních systémů pro AI — NVIDIA DGX Systems. NVIDIA produkty dodává v České republice, na Slovensko i do dalších zemí střední a východní Evropy.