OpenAI e Broadcom hanno presentato Jalapeño

Si chiama Jalapeño il primo acceleratore per l’inferenza LLM di OpenAI e Broadcom. L’azienda precisa che si tratta di un chip completamente nuovo e non di un acceleratore generico adattato da precedenti carichi di lavoro di AI. Questo processore nasce con l’obiettivo di combinare la potenza e la velocità di elaborazione dei principali acceleratori di AI odierni con una latenza più vicina a quella dei sistemi di inferenza specializzati più veloci.

Secondo i progetti di OpenAI, Jalapeño è il primo passo di una piattaforma di calcolo multigenerazionale progettata per essere implementata inizialmente entro la fine del 2026. L’azienda intende ampliare questa piattaforma negli anni successivi facendo leva sugli acceleratori progettati da OpenAI, combinati con le tecnologie di implementazione, rete e connettività dei chip Broadcom, aggiungendo l’esperienza di Celestica in materia di schede, rack e sistemi.

I prototipi del nuovo acceleratore sono attualmente in fase di test in laboratorio con carichi di lavoro di machine learning come GPT-5.3-Codex-Spark.

OpenAI dichiara che i primi test dimostrano che Jalapeño offrirà prestazioni per watt sostanzialmente superiori rispetto agli attuali chip e che un rapporto tecnico dettagliato sulle prestazioni sarà presentato nei prossimi mesi. L’azienda comunque idica che l’architettura utilizzata riduce il trasferimento dei dati e bilancia le risorse di calcolo, memoria e rete per raggiungere un utilizzo effettivo molto più vicino alle prestazioni di picco teoriche.

L’implementazione su silicio e le tecnologie di rete di Broadcom, tra cui il chip di rete Tomahawk, contribuiscono a portare la piattaforma alla produzione su larga scala.

Contenuti correlati

• 
  Tre SoC Wi-Fi 8 altamente integrati da Broadcom

  Broadcom ha annunciato l’ampliamento del suo portfolio Wi-Fi 8 con tre nuovi dispositivi system-on-chip altamente integrati. I dispositivi ospitano il processore applicativo, il processore di rete, i moduli Wi-Fi 8 a 2,4 GHz e 5 GHz e...
• 
  Broadcom si prepara al VMware Explore 2024 Barcelona

  Broadcom organizzerà il VMware Explore 2024 Barcelona, evento che si terrà dal 4 al 7 novembre al Fira Gran Via. L’azienda, che ha acquisito VMware, precisa che la manifestazione sarà caratterizzata da diverse sessioni tematiche, corsi di...
• 
  Raspberry PI: è arrivata la quinta generazione

  Raspberry Pi 5 è realizzato con una nuova architettura basata su un processore ad alte prestazioni di Broadcom e un nuovo chip realizzato “in house” Leggi l’articolo completo su Embedded 90
• 
  GlobalData: GPT-4 ignites race for artificial general intelligence

  The recent launch of GPT-4 by OpenAI is likely to open the chase for developing stronger AI systems accelerating the evolution towards artificial general intelligence (AGI), says GlobalData. Kiran Raj, Practice Head of Disruptive Tech at GlobalData,...
• 
  Rohde & Schwarz e Broadcom estendono la collaborazione per i test sul Wi-Fi 7

  Rohde & Schwarz e Broadcom hanno validato con successo l’utilizzo del tester per radiocomunicazioni R&S CMP180 con i più recenti chipset per access point Wi-Fi 7 di Broadcom. Lo strumento R&S CMP180 supporta i tool per il...
• 
  Broadcom acquisirà VMware per circa 61 miliardi di dollari

  Broadcom e VMware hanno annunciato un accordo in base al quale Broadcom acquisirà tutte le azioni di VMware in una transazione cash-and-stock che valuta VMware circa 61 miliardi di dollari. Inoltre, Broadcom assumerà 8 miliardi di dollari...
• 
  Farnell: disponibili gli spettroscopi compatti di Broadcom

  Farnell ha aggiunto alla sua offerta di prodotti per test e misurazioni una nuova gamma di spettrometri Broadcom e relativi kit di valutazione. La famiglia di spettrometri modulari compatti Broadcom può essere utilizzata per effettuare misurazioni accurate...
• 
  Cadence amplia la collaborazione con Broadcom per i progetti a 5nm e 7nm

  Cadence Design Systems ha ampliato la collaborazione con Broadcom per lo sviluppo di soluzioni a semiconduttore destinate al networking di prossima generazione, alla banda larga, all’archiviazione aziendale e alle applicazioni wireless e industriali. Basandosi sul successo dei...
• 
  Otto aziende insieme per i ricetrasmettitori a 800Gb/s

  Recentemente è stato presentato il nuovo gruppo MSA (Multi-Source Agreement) QSFP-DD800 finalizzato allo sviluppo di moduli Quad Small Form Factor ad alta velocità e Doppia Densità (QSFP-DD800) in grado di supportare una connettività a 800Gb/s. Il gruppo...
• 
  Broadcom acquisisce CA Technologies per 18,9 miliardi di dollari

  Broadcom ha recentemente annunciato l’acquisizione di CA Technologies, società specializzata in soluzioni software per la gestione IT. Secondo i termini dell’accordo, che è stato approvato dai consigli di amministrazione di entrambe le società, gli azionisti di CA...