Microsoft, i chip Maia 200 entrano in produzione e i Maia 300 arriveranno nel 2027

Microsoft ha annunciato che nel 2027 estenderà l'installazione dei suoi chip Azure Maia su scala di più gigawatt, rendendoli il principale sistema di inferenza per i suoi prodotti e servizi. L'obiettivo è ridurre i costi operativi delle funzioni di Copilot, come la riassunzione di riunioni o i suggerimenti di codice. Ogni richiesta a un modello di intelligenza artificiale, infatti, comporta costi per l'esecuzione del modello, lo spostamento dei dati e l'alimentazione delle memorie. Su milioni di richieste, l'efficienza di queste operazioni incide notevolmente sui bilanci dell'intelligenza artificiale.

I chip Maia servono a gestire l'inferenza, ovvero il lavoro che un modello già addestrato compie per rispondere a una richiesta, usando le capacità acquisite durante l'addestramento. Con l'uso di "agenti" che interrogano più volte il modello e usano strumenti esterni, il costo può aumentare significativamente. Il nuovo piano Azure Maia mira a ottimizzare proprio questa voce di spesa. Microsoft ha dichiarato che Maia 200 è già in produzione e Maia 300, progettato con otto stack di memoria HBM4 e un TDP di 950 watt per acceleratore, arriverà nel 2027. Questo sistema completo, sviluppato con software, memorie e reti, punta a ridurre i tempi di attesa tra le unità di calcolo e i dati, destinando più energia all'elaborazione.