Si chiama Jalapeño il primo acceleratore per l’inferenza LLM di OpenAI e Broadcom. L’azienda precisa che si tratta di un chip completamente nuovo e non di un acceleratore generico adattato da precedenti carichi di lavoro di AI. Questo processore nasce con l’obiettivo di combinare la potenza e la velocità di elaborazione dei principali acceleratori di AI odierni con una latenza più vicina a quella dei sistemi di inferenza specializzati più veloci.
Secondo i progetti di OpenAI, Jalapeño è il primo passo di una piattaforma di calcolo multigenerazionale progettata per essere implementata inizialmente entro la fine del 2026. L’azienda intende ampliare questa piattaforma negli anni successivi facendo leva sugli acceleratori progettati da OpenAI, combinati con le tecnologie di implementazione, rete e connettività dei chip Broadcom, aggiungendo l’esperienza di Celestica in materia di schede, rack e sistemi.
I prototipi del nuovo acceleratore sono attualmente in fase di test in laboratorio con carichi di lavoro di machine learning come GPT-5.3-Codex-Spark.
OpenAI dichiara che i primi test dimostrano che Jalapeño offrirà prestazioni per watt sostanzialmente superiori rispetto agli attuali chip e che un rapporto tecnico dettagliato sulle prestazioni sarà presentato nei prossimi mesi. L’azienda comunque idica che l’architettura utilizzata riduce il trasferimento dei dati e bilancia le risorse di calcolo, memoria e rete per raggiungere un utilizzo effettivo molto più vicino alle prestazioni di picco teoriche.
L’implementazione su silicio e le tecnologie di rete di Broadcom, tra cui il chip di rete Tomahawk, contribuiscono a portare la piattaforma alla produzione su larga scala.