Το νέο όπλο της εταιρίας παρουσιάστηκε στην GTC 2022 keynote. Είναι το Nvidia H100 accelerator, ένα σύστημα με… τερατώδεις επιδόσεις και μια…
…4nm GH100 GPU με 80 δισεκατομμύρια τρανζίστορ, 4η Γενιάς Tensor cores, αλλά ΚΑΙ την νέα Hopper αρχιτεκτονική.
Η Nvidia με το νέο της μοντέλο στοχεύσει στα datacenters με τον ιδρυτή και CEO της Jensen Huang να λέει πως αυτά γίνονται “…AI factories — processing and refining mountains of data to produce intelligence. Nvidia H100 is the engine of the world’s AI infrastructure that enterprises use to accelerate their AI-driven businesses.”
Η Nvidia μάλιστα παρουσίασε και το whitepaper της με τις λεπτομέριες της Hopper αρχιτεκτονικής, την GH100 GPU, τον H100 accelerator που έχουν σημαντικές αλλαγές σε σχέση με τον προηγούμενης γενιάς Ampere-based A100 accelerator.
Η κατασκευή γίνεται με μια custom έκδοση της TSMC 4nm διαδικασίας κατασκευής και πέρα από τα 80 δις transistor οι νέοι Hopper Tensor cores έχουν τις Transformer Engines, έναν ειδικό tensor core που έχει σχεδιαστεί να επιταχύνει τα ML μοντέλα με νέες DPX οδηγίες και “dynamic programming for GPUs”, NVLink 4 με 900GB/s bandwidth ανά chip.
Μια πλήρης GH100 GPU έχει 144 SM και 18,432 CUDA cores ενώ η GPU έχει 128 FP32 CUDA cores ανά SM και δίνει 80GB HBM3 μνήμης με 3TB/s memory bandwidth.