Arrow Electronics ha contribuito significativamente allo sviluppo della Network Addressable Processing Unit (NAPU) a 7 nm utilizzata nell’appliance di inferenza AI NR1-S di NeuReality. NR1 NAPU è un server-on-a-chip personalizzato che fornisce le prestazioni complete di un acceleratore AI dedicato.
Secondo i dati di NeuReality, NR1-S, abbinato agli acceleratori AI in un server di inferenza AI, riduce i costi del data center fino al 90% e aumenta l’efficienza energetica fino a quindici volte, offrendo nello stesso tempo una scalabilità lineare senza cali di prestazioni o ritardi, via via che vengono aggiunti ulteriori acceleratori AI.
L’architettura del sistema NeuReality elimina il collo di bottiglia delle prestazioni causato dalla tradizionale architettura di sistema CPU-centric su cui si basano i sistemi di inferenza AI attuali.
Gli esperti di Arrow hanno fornito una guida alla progettazione firmware e hardware, sviluppando e convalidando il firmware per la gestione dell’alimentazione. Arrow ha gestito anche il debug del microcontrollore e dei flussi di alimentazione della piattaforma.
“Il nostro NAPU affronta i principali colli di bottiglia che limitano le prestazioni degli attuali acceleratori AI, come la gestione dell’alimentazione e il trasferimento dei dati dalla rete all’acceleratore AI, in genere una GPU, un FPGA o un ASIC”, ha affermato Erez Cohen, Senior Hardware System Engineer di NeuReality. “Il supporto di Arrow con l’hardware e il firmware per la gestione dell’alimentazione e l’ingegneria termica ci ha permesso di concentrare le risorse su una soluzione completa di inferenza IA silicio-software che ridurrà le barriere del mercato dell’IA per i governi e le aziende di tutto il mondo”.
Vitali Damasevich, direttore tecnico per l’Europa Orientale e del centro soluzioni tecniche EMEA di Arrow ha dichiarato:”Questo entusiasmante progetto può potenzialmente rendere più conveniente e veloce l’inferenza AI aziendale cloud e on-premise, aumentando in tal modo l’accesso a servizi di valore nei settori sanitario e dell’imaging medico, bancario e assicurativo, e nei call center e assistenti virtuali basati sull’intelligenza artificiale”.