La RAM che usi il 5% del tempo non è uno spreco

Il piano di lavoro di una cucina resta vuoto quasi tutto il giorno. Serve un’ora a pranzo, un’ora la sera, e nessuno lo considera pietra buttata. Sam Altman, l’amministratore delegato di OpenAI, ha appena detto una cosa molto simile della memoria dei nostri computer, solo che lui la chiama spreco.

Parlando con John Collison nel podcast Cheeky Pint, Altman ha sostenuto che la memoria di un computer, quando ci si fa girare l’intelligenza artificiale in casa, lavora circa il 5% del tempo. La frase intera, riportata da Notebookcheck il 30 ottobre, dice che dal punto di vista dell’allocazione globale è “piuttosto terribile” che ognuno tenga nel proprio computer un pezzo della scarsa riserva mondiale di memoria, usato il 5% del tempo. Meglio concentrarla nei data center, dove serve più persone e più lavori senza pause.

Mi ha dato fastidio, poi ho dovuto ammettere che una parte del ragionamento regge. Resto convinto che sbagli lo stesso, e provo a spiegare perché.

Di che cosa parlava davvero

La RAM è il piano di lavoro del computer. Non è la dispensa dove stanno i file (quella è il disco): è la superficie dove il computer appoggia le cose mentre ci lavora. Più è larga, più cose puoi tenere aperte insieme senza dover rimettere a posto e riprendere.

Altman non ce l’aveva con chi tiene aperte trenta schede del browser o con chi gioca. Parlava di una cosa precisa: l’inferenza locale, cioè far girare un modello di intelligenza artificiale sul proprio computer invece di mandare la domanda a un server lontano. Lo stesso Notebookcheck fa notare che il suo ragionamento riguarda solo l’IA in locale e lascia fuori tutti gli altri motivi per cui in un PC serve memoria.

Il momento non è casuale. Secondo Notebookcheck, i produttori di memoria stanno dando la precedenza ai data center, e questo pesa sul mercato dei consumatori e fa salire i prezzi dei PC. Un redattore di Tom’s Guide racconta che un kit di memoria DDR5 da 32 GB è passato da 400 a 500 dollari tra un suo articolo di aprile e quello di ottobre.

Il suo ragionamento è anche il mio mestiere

Prima di dargli torto devo ammettere una cosa. Il principio di Altman è quello su cui si regge buona parte del mio lavoro.

Quando costruisco un gestionale per una piccola impresa, lo faccio girare su un server e non sui computer dell’ufficio. Le persone lo aprono dal browser, da qualunque macchina, anche da quella vecchia della reception. Il calcolo pesante lo fa una macchina sola, condivisa, e i dati stanno in un posto invece che in sei copie diverse sparse tra le scrivanie. È esattamente la logica della lavanderia a gettoni contro una lavatrice in ogni appartamento: meno macchine, usate di più. Chi si chiede quanto costa un gestionale personalizzato sta in fondo scegliendo quanta parte del lavoro spostare su un computer che non ha in ufficio.

E la scarsità è vera, anche se riguarda la memoria ancora da produrre e non quella già montata nei nostri PC, che in un server non finirà comunque. Detta così, l’obiezione ad Altman suona come un capriccio: voglio la mia RAM perché è mia.

Il 5% misura la cosa sbagliata

Il piano della cucina non vale per le ore in cui ci tagli le verdure. Vale perché quando ti serve è lì, libero, e non devi prenotarlo. La percentuale di utilizzo è il modo giusto per misurare un camion di un’azienda di trasporti. Per uno strumento personale dice poco: un estintore usato lo 0% del tempo non è uno spreco.

Quello che il 5% non conta è il permesso. Una memoria sul tuo computer funziona anche quando il servizio cambia prezzo, cambia condizioni o chiude il tuo account. Su Tom’s Guide lo dicono in una riga: chi vuole l’IA in locale la vuole per la privacy, per non avere limiti di utilizzo e per non dipendere da un abbonamento. Un servizio in cloud può prometterle per contratto, ma non sei tu a poterle controllare. La settimana scorsa ho scritto di chi si è trovato con l’account WhatsApp bloccato e i rapporti con i clienti su quel numero: cambia l’oggetto, ma anche lì il problema era dipendere da un servizio che si può perdere da un giorno all’altro.

Poi c’è chi lo dice. Notebookcheck osserva che la posizione di Altman è allineata con il modello di business di OpenAI, che vende soprattutto accesso a modelli che girano nei suoi data center. Questo da solo non rende sbagliato il ragionamento: anche chi gestisce una lavanderia a gettoni può avere ragione sulle lavanderie a gettoni. Rende però strano sentirsi dire “è meglio per tutti” da chi, secondo PC Gamer, ha contribuito a creare quella scarsità.

La differenza con il gestionale sul server, a pensarci, è una sola. Lì il cliente può portarsi via i dati e cambiare fornitore, ed è tra le cose da farsi consegnare quando si deve cambiare sviluppatore del sito. Il cloud mi va bene finché posso uscirne. Senza quella porta, il cloud diventa una finestra che si apre solo se qualcuno, dall’altra parte, la tiene aperta.

Dove non so rispondere

Ho un dubbio che non riesco a chiudere. Per la maggior parte delle persone che usano un assistente IA due volte a settimana, comprare un computer con tanta memoria solo per farlo girare in casa ha poco senso. Per chi la usa così poco, Altman ha ragione.

Quindi la linea passa da qualche parte, e non so dire esattamente dove. La mia ipotesi migliore è questa: in locale le cose che non vorresti leggesse nessun altro, come i documenti dei clienti o le cartelle di casa, e nel cloud tutto il resto. Ma è un’ipotesi, e la cambierei volentieri.

Intanto il piano della cucina resta vuoto per ventidue ore al giorno, e quando rientri con le buste della spesa hai dove appoggiarle.

Se hai spostato tutto nel cloud e non sei mai tornato indietro, scrivimi: voglio sapere cosa ti ha convinto.