Nvidia Procesor graficzny/GPU Nvidia H200 Tensor Core 141 GB HBM3e-ram PCIe x16 PCIe 5.0 x16, PCIe 4.0 x16

Karta graficzna do generatywnej sztucznej inteligencji i obliczeń o wysokiej wydajności (HPC)
Karta graficzna NVIDIA H200 Tensor Core zapewnia przełomową wydajność i pojemność pamięci dla zadań związanych ze sztuczną inteligencją generatywną i obliczeniami o wysokiej wydajności (HPC). Jako pierwsza karta graficzna z architekturą HBM3e, karta H200 wyposażona jest w większą i szybszą pamięć, która przyspiesza generatywną sztuczną inteligencję oraz duże modele językowe (LLM), a także przyspiesza obliczenia naukowe w przypadku obciążeń HPC.

Wyższa wydajność dzięki większej i szybszej pamięci
Karta graficzna NVIDIA H200 oparta jest na architekturze NVIDIA Hopper™ i jest pierwszą kartą graficzną wyposażoną w 141 gigabajtów (GB) pamięci HBM3e o wydajności 4,8 terabajta na sekundę (TB/s) – niemal dwukrotnie większą pojemność niż karta graficzna NVIDIA H100 Tensor Core i 1,4 razy większą przepustowość pamięci. Większa i szybsza pamięć procesora H200 przyspiesza generatywną sztuczną inteligencję i obliczenia LLM, a jednocześnie umożliwia wykonywanie obliczeń naukowych w zastosowaniach HPC przy lepszej efektywności energetycznej i niższym całkowitym koszcie posiadania.

Uzyskaj wgląd dzięki wydajnemu wnioskowaniu LLM
W ciągle zmieniającym się środowisku sztucznej inteligencji (AI) przedsiębiorstwa wykorzystują modele LLM do zaspokajania różnych potrzeb w zakresie wnioskowania. Akcelerator wnioskowania AI musi zapewniać najwyższą przepustowość przy najniższym możliwym całkowitym koszcie posiadania, gdy jest wdrażany na dużą skalę wśród ogromnej bazy użytkowników.

Procesor H200 charakteryzuje się dwukrotnie większą szybkością wnioskowania przy przetwarzaniu modeli LLM, takich jak Llama2, w porównaniu do procesorów graficznych H100.

Wysokowydajne obliczenia z super turbo
Przepustowość pamięci ma kluczowe znaczenie dla aplikacji HPC, ponieważ umożliwia szybszy transfer danych i redukuje wąskie gardła w złożonych procesach przetwarzania. W przypadku aplikacji HPC wymagających dużej ilości pamięci, takich jak symulacje, badania czy sztuczna inteligencja, większa przepustowość pamięci serwera H200 gwarantuje wydajny dostęp do danych i ich przetwarzanie, co przekłada się na nawet 110-krotnie szybsze uzyskiwanie wyników w porównaniu z procesorami CPU.

Redukcja zużycia energii i całkowitych kosztów operacyjnych
Wprowadzenie systemu H200 pozwoliło na osiągnięcie nowego poziomu efektywności energetycznej i całkowitego kosztu posiadania. Ta przełomowa technologia zapewnia niezrównaną wydajność przy takim samym profilu mocy jak H100. Fabryki sztucznej inteligencji i systemy superkomputerowe, które są nie tylko szybsze, ale również bardziej przyjazne dla środowiska, oferują przewagę ekonomiczną, która przyczynia się do rozwoju sztucznej inteligencji i świata nauki.

Przyspieszenie sztucznej inteligencji dla popularnych serwerów korporacyjnych
Karta graficzna NVIDIA H200 NVL idealnie nadaje się do przedsiębiorstw z systemami rack chłodzonymi powietrzem o niższej wydajności, które wymagają elastycznej konfiguracji, przyspieszając obciążenia związane ze sztuczną inteligencją i obliczeniami o wysokiej wydajności (HPC) niezależnie od ich rozmiaru. Dzięki maksymalnie czterem procesorom GPU połączonym za pomocą technologii NVIDIA NVLink™ i 1,5-krotnemu rozszerzeniu pamięci wnioskowanie z wykorzystaniem dużych modeli językowych (LLM) można przyspieszyć nawet 1,7-krotnie, a aplikacje HPC mogą osiągnąć nawet 1,3-krotną poprawę wydajności w porównaniu z H100 NVL.

Opis tego produktu został przetłumaczony automatycznie.