Per anni, l'idea di un'intelligenza artificiale potente è stata legata indissolubilmente al cloud, a server remoti e a una connessione internet costante. In realtà, per operazioni che richiedono grande potenza di calcolo ciò è ancora vero, e soprauttutto quando si parla di AI generativa, lo sarà ancora per molto tempo. Chi ha provato a generare immagini, o ancora peggio video, con qualche tool AI di ultima generazione, sa bene che si tratta di operazioni esose ed energivore, adatte solo a schede grafiche top gamma e computer prestanti. Tuttavia, un passo significativo è stato compiuto recentemente da OpenAI, la celebre casa madre di ChatGPT.
L'azienda ha infatti rilasciato un nuovo modello linguistico, chiamato gpt-oss-20b, con una caratteristica fondamentale: è "aperto", ovvero liberamente utilizzabile e modificabile, e soprattutto è progettato per poter funzionare direttamente su un personal computer, senza bisogno di appoggiarsi a infrastrutture esterne. Questa mossa segna una svolta importante, aprendo le porte a scenari d'uso fino a ieri impensabili, specialmente in contesti dove la connettività è limitata o la privacy dei dati è una priorità assoluta. Il modello è stato ottimizzato in particolare per l'esecuzione di codice e l'interazione con altri strumenti software, rendendolo ideale, secondo Microsoft, per la creazione di assistenti autonomi o per integrare l'AI in flussi di lavoro complessi.
Microsoft, partner di lunga data di OpenAI, non ha perso tempo e ha immediatamente reso questo nuovo strumento accessibile agli utenti del suo sistema operativo. Attraverso la piattaforma Windows AI Foundry, la società di Redmond ha distribuito una versione del modello gpt-oss-20b pre-ottimizzata per l'inferenza locale, facilitandone l'installazione e l'utilizzo.
Tuttavia, per poter sfruttare questa tecnologia non basta un computer qualsiasi,come anticipato in apertura. I requisiti hardware sono piuttosto esigenti: è necessario disporre di un PC o di un portatile equipaggiato con almeno 16GB di VRAM. Questo significa che solo i possessori di schede grafiche di fascia alta, come le più recenti proposte di Nvidia o le soluzioni Radeon di AMD più performanti, potranno far girare il modello in locale. Microsoft ha inoltre annunciato che il supporto verrà esteso a breve anche all'universo macOS, allargando ulteriormente la platea di potenziali utenti e sviluppatori.
Quasi in contemporanea, infatti, anche Amazon ha annunciato l'adozione dei nuovi modelli GPT-OSS per i suoi servizi cloud. Di fatto è la prima volta che un modello di OpenAI può essere eseguito nativamente su Windows, ma è anche la prima volta che il più grande rivale di Microsoft nel settore cloud, Amazon Web Services, ha accesso diretto e immediato alle ultime tecnologie di OpenAI. Nel frattempo, Microsoft ha lasciato intendere che il supporto per altri dispositivi è in arrivo, alimentando le speculazioni su una possibile versione ancora più ottimizzata per i PC Copilot Plus.