EO531
ELETTRONICA OGGI 531 - gennaio | febbraio 2026 19 mercati L’AI Generativa sbarca sull’edge. I microcon- trollori Ensemble E4/E6/E8 di Alif Semicon- ductor sono i primi a usare l’accelerazione hardware per le reti transformer. Si tratta di una rivoluzione per i dispositivi a batteria. Facciamo il punto con Henrik Flodell, Senior marketing director dell’azienda. Alif afferma che la sua continua innovazione si estende nell’era dell’intelligenza artificiale Generativa all’edge. Potrebbe spiegarci come la serie di microcontrollori e processori di fusione Ensemble E4/E6/E8 portano l’inferenza di intelligenza artificiale generativa ad un livello superiore, soprattutto essendo i primi MCU sul mercato a offrire accelerazione hardware per le reti transformer? Le reti transformer sono un tipo di architettu- ra di rete neurale che consente all’intelligenza artificiale di creare nuovi contenuti come te- sti, immagini e suoni elaborando e compren- dendo grandi insiemi di dati. L’architettura “transformer” utilizza un meccanismo di “au- toattenzione” per valutare l’importanza delle diverse parole in una sequenza, consenten- dogli di comprendere il contesto e le relazio- ni, una capacità cruciale per compiti come la generazione di testi simili a quelli umani. Gli MCU Ensemble E4/E6/E8 e i processori Fu- sion di Alif sono i primi prodotti della loro ca- tegoria sul mercato a incorporare l’accelera- zione hardware per gli operatori transformer, consentendo l’utilizzo di tali reti nei dispositivi edge ed endpoint alimentati a batteria. Alif ha annunciato il supporto nativo di ExecuTorch Runtime sui suoi microcontrollori Ensemble. Perché accelerare via hardware le reti transformer, necessarie per supportare i carichi di lavoro dell’intelligenza artificiale generativa. Exe- cuTorch può essere utilizzato per distribuire reti convoluzionali e ricorrenti, e la versione di Alif di ExecuTorch può essere implemen- tata sia sull’NPU Ethos-U55 che sull’NPU Ethos-U85, disponibili nelle famiglie di pro- dotti Balletto ed Ensemble. Mettete in evidenza un piccolo modello linguistico che genera storie e modelli speech-to-text in tempo reale su dispositivo, dimostrati alla conferenza PyTorch. Quali sono i dispositivi e le applicazioni endpoint alimentati a batteria più interessanti che i produttori di dispositivi embedded stanno realizzando oggi e che sfrutteranno questa nuova capacità di AI generativa? L’intelligenza artificiale generativa su di- spositivi alimentati a batteria consente agli sviluppatori di creare prodotti altamente personalizzati e consapevoli del contesto, che operano con maggiore privacy e au- tonomia. L’elaborazione locale dei dati forni- Henrik Flodell Senior marketing director di Alif Semiconductor ExecuTorch Runtime, un’estensione di quantizzazione del framework PyTorch ML, è un elemento fondamentale per gli sviluppatori che realizzano applicazioni di intelligenza artificiale per dispositivi edge ed endpoint con risorse limitate? Sebbene il framework TensorFlow manten- ga ancora un vantaggio nelle soluzioni già implementate, negli ultimi anni abbiamo as- sistito a un crescente interesse per PyTorch tra ricercatori e data scientist nello sviluppo di nuovi casi d’uso basati sull’intelligenza arti- ficiale (google trends, industry adoption vs research interest study), ed è generalmente previsto che le implementazioni di PyTorch supereranno presto quelle di TensorFlow nei prodotti commerciali. L’obiettivo principale di ExecuTorchs è semplificare lo sviluppo e il deployment su dispositivi con risorse limi- tate, consentendo agli sviluppatori di ese- guire modelli creati in PyTorch direttamente su dispositivi edge come indossabili e micro- controllori, senza perdita di precisione del modello durante conversioni intermedie in formati come TFLite o Onnx. I prodotti Ensemble E4, E6 ed E8 includono la NPU Arm Ethos-U85. Quanto è essenziale questa NPU e il suo supporto per le reti ML basate su transformer per consentire agli sviluppatori di utilizzare ExecuTorch per costruire applicazioni di AI generativa per l’inferenza locale? L’Ethos-U85 rappresenta l’ultima genera- zione di NPU Ethos di Arm, e i microcon- trollori E4/6/8 e i processori Fusion di Alif sono i primi dispositivi che portano questa tecnologia sul mercato del silicio di uso ge- nerale. Ethos-U85 include la possibilità di
Made with FlippingBook
RkJQdWJsaXNoZXIy Mzg4NjYz