EO_513

TECH FOCUS GPU lità di apprendimento automatico. Per quanto riguarda le principali caratteristiche tecniche, rispetto ai modelli precedenti mettono a disposizione il doppio del nume- ro di linee PCIe (16), raddoppiano la larghezza di banda della memoria, raggiungendo 384 gigabyte al secondo, e raddoppiano anche il numero di engine AI Xe Matrix Extensions (XMX) dedicati (256) e il numero di unità ray tracing (16). Sono inoltre dotate di supporto completo per la codifica e decodifica multimediale, incluso AV1. Queste caratteristiche ne consentono l’impiego per applicazioni come la progettazione e la modellazione assistita (CAD/ CAM), ma anche per le attività di inferenza IA ed elabo- razione multimediale in ambito aziendale. Le GPU di NVIDIA Uno dei nomi storici legati alle GPU è senza dubbio NVIDIA , che prosegue ininterrottamente da anni lo sviluppo di nuo- ve generazioni sempre più performanti. Una delle GPU NVIDIA più potenti attualmente disponibile è quella siglata AD102, basata sull’architettura Ada (il nome deriva da Ada Lovelace). Gli elementi chiave su cui punta Ada sono diversi, fra cui una nuova microarchitettura che si basa su 18.432 core CUDA capaci di operare con frequenze di clock oltre i 2,5 Ghz, dotazione resa possibile grazie alla disponibilità di oltre 76,3 miliardi di transistor nel chip. Un secondo ele- mento chiave è rappresentato dai nuovi RT Core per il ray tracing in grado di raggiungere velocità doppie rispetto alla precedente generazione e che integrano due nuove unità hardware: gli Opacity Micromap Engine e i Displa- ced Micro-Mesh Engine. Un’altra funzionalità in grado di migliorare le perfor- mance è quella per lo Shader Execution Reordering (SER) che organizza dinamicamente e riordina le operazioni di shading RT. L’architettura Ada dispone inoltre del DLSS 3, una versio- ne completamente rinnovata del sistema di Optical Flow Accelerator che migliora le prestazioni conservando la qualità delle immagini. Nel segmento delle GPU focalizzate sull’intelligenza ar- tificiale e HPC, NVIDIA ha realizzato l’architettura Hop- per (in questo caso il nome deriva da Grace Hopper). NVIDIA sottolinea che per le applicazioni AI mainstream e modelli HPC, una GPU H100 con Infiniband è in grado di fornire prestazioni anche 30 volte maggiori rispetto a quelle delle GPU A100. Dal punto di vista delle innovazioni, i nuovi Streaming Multiprocessor (SM) di Hopper comprendono Tensor Core di quarta generazione, nuove istruzioni DPX per accele- rare gli algoritmi di Dynamic Programming, ma anche funzionalità Thread Block Cluster che consente di lavo- rare con una granularità maggiore rispetto a quella di un singolo Thread Block su un singolo SM. Un altro componente determinante, chiamato Tran- sformer Engine, invece, utilizza una combinazione di software e tecnologia dei Tensor Core progettata speci- ficamente per accelerare training e inferenza dei Tran- sformer model. A livello hardware, il sottosistema di memoria HMB3 of- fre una larghezza di banda raddoppiata rispetto alla pre- cedente generazione e l’architettura prevede anche 50 MB di cache al secondo livello per ospitare ampie porzio- ni di modelli e dataset per accessi ripetitivi. La tecnologia MIG (Multi-Instance GPU) di seconda gene- razione offre inoltre una capacità di elaborazione, preci- sa NVIDIA, circa tre volte maggiore rispetto alla versione precedente. Le GPU A100 di NVIDIA si basano sull’architettura Ada e offrono alte prestazioni grazie anche all’elevato numero di core disponibili La GPU NVIDIA H100 collocata sul modulo SXM5 Le GPU Data Center Max di Intel sono destinate ad applicazioni di calcolo intensivo e IA nei data center ELETTRONICA OGGI 513 - OTTOBRE 2023 54