IA locale su hardware di recupero: la serie

Nell’estate del 2026 mi sono messo in testa una domanda sola: un PC del 2013 recuperato può far girare un’intelligenza artificiale in locale, e ne vale la pena? Non in teoria — su quella macchina lì, con quei componenti, misurando tutto.

L’hardware è quello che avevo in casa: un AMD FX-6350 del 2013 e una GTX 750 Ti da 2 GB del 2014, dentro un case che fa già da server per una quindicina di servizi. Stavo per spendere 350 euro per sostituirlo. Questa serie è il racconto di cosa è successo quando, invece di comprare, ho misurato.

La risposta breve, se non hai voglia di leggere tutto

Sì, gira — e il collo di bottiglia non è quasi mai dove te lo aspetti. Non è il processore: è la banda di memoria, al punto che la velocità si prevede con una divisione. Non è la quantità di VRAM in senso graduale: o il modello ci entra tutto o tanto vale non avere la scheda. E nel sistema che ho costruito alla fine, il pezzo che fa il lavoro pesante non è il modello: è il filtro deterministico che decide cosa fargli leggere.

I 350 euro non li ho spesi. Il tempo per scoprirlo: tre pomeriggi.

Prima parte — serve davvero comprare hardware nuovo?

La serie nasce da un annuncio aperto e una carta pronta. Ogni articolo di questa parte è un pezzo della risposta.

• PC ricondizionato per homelab: quando conviene (e quando no) — il punto di partenza, prima ancora dell’IA: cosa si compra davvero quando si compra ricondizionato.
• i7 ricondizionato vs FX-6350: il processore basta? — la scoperta che ha cambiato tutta la serie. Il processore era al massimo e il risultato non si muoveva: il muro è la banda di memoria. Ne è uscita una regola che regge su tre modelli con quantizzazioni diverse: token al secondo ≈ 7,15 ÷ GB del modello.
• Quanta RAM serve davvero — la RAM decide cosa carichi, non quanto vai veloce. Due cose diverse che vengono confuse in continuazione.
• Quanta VRAM serve per un LLM? Il test su una GPU da 2 GB del 2014 — la risposta non è una scala di grigi, è una scogliera: se il modello entra tutto il guadagno è 5,7×, se non entra crolla a 1,27×. E c’è una sezione sul perché non è 11,3×, che è quanto direbbe il rapporto fra le bande.
• L’auto-fit di Ollama spreca la GPU — la scogliera ha un secondo gradino: quanti layer mandare alla scheda lo decide Ollama da solo, e quasi sempre sbaglia per difetto. Forzando il numero a mano si arriva fino a +278%, e ne è uscita una correzione a un numero che avevo già pubblicato.
• Quantizzazione del modello: Q3 vs Q4 vs Q8, quanto cambia davvero — fra i due estremi dello stesso modello ci sono 2,38× di differenza, e la ragione non è solo il file più leggero da leggere: a parità di VRAM, Q3 fa entrare 24 layer su 29 dove Q8 ne fa entrare 12.
• Ho deciso: perché non ho comprato il PC ricondizionato — la decisione, con i conti in mano.

Seconda parte — quanto costa tenerlo acceso

• Quanto consuma davvero un homelab acceso 24/7 — misurato alla presa, non stimato dalle schede tecniche. Durante un’inferenza il gradino è +91 W, e solo il 4,5% viene dalla GPU: il resto è CPU, RAM e alimentazione che salgono di regime insieme a lei. C’è anche il motivo per cui uso la tariffa della bolletta e non il prezzo di mercato dell’energia.
• Quanto costa davvero far girare un’IA in locale — il confronto con i listini delle API cloud, fatto onestamente. Sul costo per token il cloud vince e non c’è partita: da 5 a 13 volte meno della sola corrente che consumo io.

Terza parte — cosa ci fai davvero

Far girare un modello è la parte facile. La parte che vale la pena raccontare è cosa succede quando gli si dà un lavoro vero.

• Un assistente AI locale su hardware di recupero funziona davvero? — la misura che quasi nessuno fa prima di montare tutto: quanto è affidabile un modello piccolo nel chiamare gli strumenti. Due modelli fanno lo stesso identico punteggio, 90,6%, con comportamenti opposti: uno sbaglia inventando azioni che nessuno ha chiesto, l’altro no. Sul punteggio sono pari; su un assistente che agisce, non lo sono affatto.
• Ho messo un LLM locale a leggere i log del mio homelab ogni notte — il primo servizio vero, in produzione da agosto. Nato da un audit manuale che aveva trovato otto guasti silenziosi, fra cui un backup che non era ripristinabile. La conclusione è controintuitiva: il lavoro pesante lo fa il filtro, non il modello.
• OpenClaw in homelab o su hosting — quando conviene non tenerlo in casa.

In arrivo

Gli articoli già scritti che escono nelle prossime settimane, in ordine. I link compaiono qui man mano che vanno online.

• Un assistente RAG per interrogare l’homelab via Telegram — e tutto quello che si è rotto quando l’ho usato per davvero.
• Ho trovato password in chiaro nel mio docker-compose — non stavo facendo un audit di sicurezza.
• Perché un LLM locale non sa che giorno è — un modello che esegue comandi alla perfezione e sbaglia l’anno su «domani».
• Mosquitto senza autenticazione — un default pericoloso che funziona lo stesso, ed è il problema.

La regola di questa serie

Ogni numero che trovi in questi articoli l’ho misurato io, su hardware mio. Quando una cosa non l’ho misurata, sta scritto che non l’ho misurata. Quando un numero pubblicato si è rivelato sbagliato o è invecchiato, l’articolo viene corretto con una nota datata invece di essere sistemato in silenzio — è già successo più di una volta, e le note sono ancora lì.

È l’unica cosa che distingue questa serie da una guida compilativa: non che sia più completa, ma che i numeri vengono da una macchina vera con i suoi difetti, accesa in una casa vera.