Microsoft sta utilizzando il lancio del suo nuovo Surface e la conferenza degli sviluppatori Build di questa settimana come piattaforma per lanciare la sua nuova iniziativa PC “Copilot+”, che viene fornita con requisiti hardware specifici che i sistemi dovranno soddisfare per essere idonei. I PC Copilot+ saranno in grado di gestire alcuni carichi di lavoro accelerati dall’IA come chatbot e generazione di immagini localmente anziché fare affidamento sul cloud, ma sarà necessario generalmente un nuovo hardware per eseguire questi carichi di lavoro in modo rapido ed efficiente dal punto di vista energetico.
Avete già saputo che Microsoft porta l’IA di Copilot su Xbox
Requisiti da rispettare per avere Copilot+ su PC
Come minimo, i sistemi avranno bisogno di 16 GB di RAM e 256 GB di storage, per poter soddisfare sia i requisiti di memoria che quelli di archiviazione su disco necessari per cose come i modelli di lingua di grandi dimensioni (LLM; anche i cosiddetti “piccoli modelli di lingua” come il Phi-3 di Microsoft, utilizzano comunque diversi miliardi di parametri). Microsoft afferma che tutti i PC Snapdragon X Plus ed Elite annunciati oggi verranno forniti con le funzionalità Copilot+ preinstallate e che inizieranno a essere spediti il 18 giugno.
Ma il requisito più importante, e l’ostacolo per virtualmente ogni PC Windows attualmente in uso, sarà per un’unità di elaborazione neurale integrata, o NPU. Microsoft richiede un’NPU con prestazioni valutate a 40 trilioni di operazioni al secondo (TOPS), una cifra di prestazioni di alto livello che Microsoft, Qualcomm, Apple e altri utilizzano per confrontare le prestazioni dell’NPU. Attualmente, tale requisito può essere soddisfatto solo da un singolo chip nell’ecosistema dei PC Windows, uno che non è nemmeno ancora disponibile: i Snapdragon X Elite e X Plus di Qualcomm, lanciati nel nuovo Surface e in una serie di PC di Dell, Lenovo, HP, Asus, Acer e altri importanti produttori di PC nei prossimi mesi. Tutti quei chip hanno NPUs capaci di 45 TOPS, solo un po’ più del requisito minimo di Microsoft.
Il problema per Intel e AMD è che nessuno dei loro chip della generazione attuale si avvicina minimamente a soddisfare questo requisito, anche quelli che hanno NPUs in primo luogo: i Core Ultra NPUs basati su Meteor Lake di Intel raggiungono al massimo (ehm) 10 TOPS, e un pugno di processori desktop e laptop Ryzen 7000 e Ryzen 8000 di AMD con NPUs offrono tra i 12 e i 16 TOPS. Questo è particolarmente imbarazzante per Intel, che per decenni è stata così sinonimo di PC Windows che il loro portmanteau ha una voce su Wikipedia piuttosto approfondita.
Sia Intel che AMD hanno prodotti nel loro piano di sviluppo che aumenteranno le prestazioni dell’NPU al livello richiesto da Microsoft per i PC Copilot+, ma nessuno dei centinaia di milioni di PC Windows basati su x86 attivi, compresi i modelli che è possibile acquistare oggi, sarà idoneo per l’etichetta. Le NPUs che soddisfano il requisito di Microsoft per i PC Copilot+ verranno utilizzate per alimentare (tra le altre cose) un gruppo di funzionalità che Microsoft chiama “Recall”, una raccolta di funzioni AI che cercheranno di fornire suggerimenti utili tenendo traccia di tutto ciò che hai fatto sul tuo PC, compresi incontri, apertura di file e ricerche web. Forse consapevole del fatto che questo sembra un incubo per la privacy e la sicurezza, l’EVP di Microsoft Yusuf Medhi afferma che l’NPU gestirà tutto questo processo localmente, consentendo ai dati dell’utente di rimanere “privati, locali e sicuri solo sul dispositivo”. Su un PC Copilot+ con il minimo SSD da 256 GB, Microsoft afferma che Recall occuperà circa 25 GB di spazio su disco e memorizzerà circa tre mesi di eventi.
Anche le CPU e le GPU di Intel e AMD possono contribuire al numero totale di TOPS che un determinato sistema può eseguire. Ma le NPUs sono hardware specializzati, progettati per eseguire carichi di lavoro AI più rapidamente e utilizzando meno energia. Si potrebbe utilizzare una CPU per rendere giochi 3D o altri carichi di lavoro, ma di solito non lo si farebbe; si lascerebbe quel lavoro alla GPU. L’hardware dedicato alla codifica e decodifica video consente a processori ARM lenti e economici in scatole Roku o stick Fire di riprodurre flussi video 4K. L’NPU svolge un ruolo simile per i carichi di lavoro AI: non è disonesto pubblicare cifre di TOPS che raggruppano CPU, GPU e NPU insieme, ma raggiungere quel livello di prestazioni utilizzando una CPU e una GPU significa utilizzare molta più energia e ridurre la durata della batteria.
Microsoft vede i PC Copilot+ come dispositivi “premium” che esistono al di sopra dei vecchi PC Windows o dei sistemi alimentati da Intel, AMD e Qualcomm con NPUs a prestazioni inferiori. I requisiti di sistema principali di Windows 11 non stanno cambiando, e tutte le funzionalità AI alimentate dal cloud (e i carichi di lavoro accelerati dalle NPUs esistenti come Windows Studio Effects per le webcam) continueranno a funzionare sui PC esistenti come fanno attualmente.
