Ferragosto è uno dei pochi momenti dell’anno in cui si rallenta davvero. Ed è il momento buono per una curiosità rimandata da mesi: l’intelligenza artificiale, di cui parlano tutti e che quasi nessuno ha capito fino in fondo.
Per una volta non parliamo di computer da riparare. Ti proponiamo tre letture molto diverse tra loro, una mappa ragionata degli strumenti (compresi due che quasi nessuno conosce e che valgono più dei soliti) e soprattutto la parte che di solito manca: perché l’intelligenza artificiale sbaglia, come lo fa, e cosa sta già costando a chi si fida senza controllare.
Tutto in italiano, perché per capire una cosa nuova non si deve anche combattere con la lingua.
Tre libri, tre modi diversi di entrarci
Non sono tre libri simili: sono tre porte diverse. Scegli quella che ti somiglia.
Il divertente: Non siamo mai stati sulla Terra
Rocco Tanica (il Saggiatore, 2022)
Rocco Tanica, il tastierista di Elio e le Storie Tese, ha scritto un libro insieme a un’intelligenza artificiale, accreditata in copertina come co-autore. Le due voci si alternano, una in un carattere e una nell’altro, e si rincorrono tra racconti surreali, parodie e digressioni che vanno dalla fondazione di Milano agli antichi egizi fino a Sanremo.
Perché leggerlo per capire l’AI: qui la vedi all’opera davvero, e vedi soprattutto dove sbanda. Ridi e nel frattempo ti fai un’idea molto più concreta di cento articoli entusiasti.
Il serio: Armi di distruzione matematica
Cathy O’Neil (Bompiani, 2017)
Sottotitolo: Come i big data aumentano la disuguaglianza e minacciano la democrazia. O’Neil è una matematica che ha lavorato nella finanza, e racconta cosa succede quando affidiamo a un algoritmo decisioni che riguardano le persone: chi assumere, a chi dare un mutuo, quale insegnante licenziare, chi tenere in carcere.
È il libro che rende concreta la parola “bias”, quella di cui parliamo più sotto. Fu finalista al National Book Award.
Il tecnico: Intelligenza artificiale. Un approccio moderno
Stuart Russell e Peter Norvig (Pearson, edizione italiana a cura di Francesco Amigoni del Politecnico di Milano)
Questo è il manuale: adottato in oltre 1500 università nel mondo, due volumi, la vera base teorica.
Due avvertenze oneste: è un testo universitario, quindi impegnativo, e l’edizione italiana si basa sulla terza edizione dell’originale, che precede l’esplosione dell’AI generativa. Serve per le fondamenta, non per capire ChatGPT. Ma le fondamenta restano quelle.
Non solo ChatGPT: chi è bravo a fare cosa
Quasi tutti ormai hanno provato ChatGPT e si sono fermati lì. È un peccato, perché gli strumenti non sono intercambiabili: ognuno ha un carattere.
Una premessa doverosa: questa fotografia vale oggi. Si superano a vicenda nel giro di settimane, e quello che scriviamo ad agosto potrebbe non valere più a Natale. Prendila come una bussola, non come una classifica.
- ChatGPT (OpenAI), il più conosciuto e il più generalista. Buon tuttofare, ottimo per iniziare.
- Claude (Anthropic), il più forte sulla scrittura e sui testi lunghi: mantiene lo stile e regge documenti interi senza perdersi.
- Gemini (Google), integrato con Gmail, Drive e il resto dei servizi Google: comodo se vivi già lì dentro.
- Copilot (Microsoft), integrato in Windows e in Office, utile su Word ed Excel.
- Perplexity, cerca sul web in tempo reale e cita le fonti di ogni affermazione.
I due che quasi nessuno prova (e che varrebbe la pena)
Perplexity merita una riga in più proprio per quel dettaglio: risponde indicandoti da dove ha preso l’informazione. Puoi cliccare e controllare. Come vedrai tra poco è esattamente il punto debole degli altri, quindi è lo strumento giusto quando la risposta deve essere verificabile: una norma, una data, un dato.
NotebookLM (Google) è la vera chicca, e funziona al contrario di tutti gli altri. Invece di chiedere all’AI quello che sa lei, le carichi i tuoi documenti, PDF, pagine web, perfino video di YouTube, e lei risponde soltanto basandosi su quelli.
Il vantaggio è enorme: riduce moltissimo il rischio che si inventi le cose, perché non può andare oltre le fonti che le hai dato. È gratis per un uso normale, gestisce bene l’italiano, e come extra sa trasformare i tuoi documenti in una specie di podcast di una decina di minuti in cui due voci ne discutono.
Un esempio concreto: ci carichi il regolamento del condominio, il contratto della luce e la circolare della scuola, e poi gli fai le domande in italiano corrente.
Il lato che quasi nessuno ti racconta
Qui arriva la parte importante, quella che al banco spieghiamo tutti i giorni. Perché il rischio vero non è che l’intelligenza artificiale sia inutile: è che sia affascinante, e che questo ci faccia abbassare la guardia.
Il punto di partenza è capire una cosa sola: l’AI non “sa” niente. Non consulta un archivio di verità. Prevede, parola dopo parola, quale sia la continuazione più probabile. Il risultato è spesso giusto. Ma quando è sbagliato viene detto con lo stesso identico tono sicuro. Ed è lì che si fanno i danni.
I problemi hanno due nomi, e conviene conoscerli entrambi.
Come ci siamo arrivati: i casi che ci hanno insegnato il problema
Questi episodi sono ormai storia, e vale la pena leggerli come tappe di un percorso: sono serviti a capire che il problema esisteva.
I curricula di Amazon. L’azienda sviluppò uno strumento per selezionare i candidati, addestrandolo sui curricula ricevuti negli anni precedenti in un settore a fortissima maggioranza maschile. Il sistema imparò la lezione sbagliata e cominciò a penalizzare i curricula femminili. Il progetto fu abbandonato. Fu uno dei primi casi a rendere evidente il meccanismo del bias.
COMPAS e i tribunali americani. Un software usato per stimare il rischio che un imputato tornasse a delinquere. Un’inchiesta della testata giornalistica ProPublica rilevò che il sistema classificava in modo sproporzionato gli imputati neri come “ad alto rischio”, sottovalutando invece quelli bianchi. Da quelle valutazioni dipendevano cauzioni e pene.
I sussidi olandesi. Il fisco dei Paesi Bassi usò un sistema di profilazione per individuare possibili frodi sui sussidi per l’infanzia. I criteri finirono per colpire in modo sproporzionato famiglie in base a origine etnica e doppia cittadinanza. Migliaia di famiglie furono accusate ingiustamente e costrette a restituire somme enormi. Lo scandalo portò nel 2021 alle dimissioni del governo.
Gli avvocati di New York, 2023. In una causa contro la compagnia aerea Avianca, due legali depositarono in tribunale una memoria che citava sei sentenze precedenti. Nessuna delle sei esisteva: le aveva inventate ChatGPT, complete di numeri e nomi di giudici. Il giudice federale Castel li sanzionò con 5.000 dollari. All’epoca sembrò un episodio bizzarro e isolato.
Il chatbot di Air Canada, 2024. Un passeggero doveva volare per la morte della nonna e chiese al chatbot della compagnia come funzionassero le tariffe per lutto. Il chatbot gli rispose che poteva chiedere il rimborso dopo il volo. Non era vero. Air Canada rifiutò di pagare sostenendo in giudizio di non essere responsabile, perché il chatbot sarebbe stato «un’entità legale separata, responsabile delle proprie azioni». Il tribunale della British Columbia definì l’argomentazione «notevole» e la condannò: quello che dice il tuo chatbot lo dici tu.
Dove siamo oggi: il problema non è stato risolto, è cresciuto
Se pensi che nel frattempo abbiano sistemato tutto, i numeri raccontano il contrario. E questa è la parte che rende l’articolo utile oggi, non nel 2023.
Le allucinazioni nei tribunali sono diventate un fenomeno di massa. Esiste un archivio pubblico, curato dal ricercatore Damien Charlotin, che raccoglie i casi in cui un tribunale nel mondo si è trovato davanti a materiale inventato dall’AI. La progressione è impressionante: circa 200 casi a metà 2025, 719 a gennaio 2026, 1.227 a inizio aprile, 1.598 al 9 giugno 2026, di cui oltre mille solo negli Stati Uniti.
Sono cresciute di conseguenza anche le sanzioni: dai 5.000 dollari del 2023 si è arrivati a 15.000 dollari per avvocato e alla sospensione dall’albo, con un record di circa 109.700 dollari tra sanzioni e spese in un caso in Oregon. E non si tratta più di tribunali di primo grado: sono intervenute corti d’appello federali e corti supreme statali.
Il dettaglio che dice tutto: in un caso arrivato davanti alla Corte suprema dell’Alabama, un avvocato richiamato per aver citato un precedente inesistente promise che non sarebbe più accaduto, e citò un altro caso inventato nella frase immediatamente successiva. Diversi giudici hanno messo a verbale che richiami e ammonizioni non stanno funzionando.
Sul fronte del bias, si è passati dagli esperimenti alle cause collettive. Il caso più grande è Mobley contro Workday, che riguarda il software usato da moltissime aziende per filtrare le candidature. Secondo l’accusa il sistema di raccomandazione avrebbe penalizzato i candidati sopra i quarant’anni. Nel maggio 2025 una giudice federale della California ha ammesso la causa come azione collettiva a livello nazionale, e nel febbraio 2026 il tribunale ha autorizzato l’avviso a tutti i potenziali interessati: chiunque, negli Stati Uniti, abbia inviato candidature tramite quella piattaforma dal settembre 2020 avendo più di quarant’anni. È un procedimento ancora in corso, quindi parliamo di accuse da provare, ma la scala è enorme.
Stesso schema nel settore sanitario americano, dove diverse cause accusano grandi assicurazioni di aver usato algoritmi per rifiutare in massa richieste di rimborso, in un caso con tempi di valutazione di pochi secondi per pratica. Anche qui si tratta di accuse in fase processuale, ma la reazione dei legislatori è già arrivata: la California dal gennaio 2025 vieta di negare una copertura sanitaria sulla sola base di un algoritmo, e il Colorado ha introdotto regole specifiche contro la discriminazione algoritmica.
La conclusione da portarsi a casa è semplice: non è un problema del passato, è lo stato dell’arte. E se capita a studi legali, compagnie aeree e multinazionali, che di consulenti ne hanno, può capitare benissimo a noi.
Come usarla senza restarne vittima
Non è un invito a diffidare: è un invito a usarla da adulti. Cinque regole che valgono per chiunque.
- Verifica sempre nomi, date, cifre e norme. Sono esattamente le cose che inventa meglio.
- Chiedi le fonti, o usa strumenti che te le mostrano. Se non può indicarti da dove viene un’informazione, trattala come una chiacchiera al bar.
- Usala per riformulare, spiegare, riassumere, dare idee. Lì è davvero brava e ti fa risparmiare tempo.
- Non delegarle decisioni che riguardano persone o soldi. Non sostituisce il medico, il commercialista, l’avvocato o il tecnico.
- Non scriverci dentro dati personali o riservati. Niente codici fiscali, referti medici, password, documenti aziendali. Consideralo un luogo pubblico.
E una regola in più, la più utile di tutte: diffida della sicurezza del tono. Quando una risposta ti sembra troppo perfetta e troppo sicura, è il momento di controllare, non di rilassarti.
A settembre, se ti va, ne parliamo di persona
Se dopo l’estate ti resta la curiosità e preferisci provarla con qualcuno accanto che ti spiega le cose senza farti sentire fuori posto, siamo qui. Facciamo corsi di informatica anche individuali, costruiti su quello che ti serve davvero.
Siamo a Montecatini Terme e seguiamo tutta la Valdinievole. Passa in negozio in Via Biscolla 33/C, chiama lo 0572 773791 oppure scrivici su WhatsApp.
Buon Ferragosto, e buone letture.
Approfondimenti
- Non siamo mai stati sulla Terra, scheda del libro (il Saggiatore)
- Armi di distruzione matematica, scheda del libro (Bompiani)
- Perché gli avvocati continuano a citare casi inventati dall’AI (Scientific American)
- Le sanzioni per uso improprio dell’AI nei processi, aggiornamento 2026 (Norton Rose Fulbright)
- La causa collettiva sulla selezione del personale con AI (Holland & Knight)
- Mata contro Avianca, il primo caso delle sentenze inventate
- Le aziende restano responsabili di ciò che dice il loro chatbot, il caso Air Canada (American Bar Association)
- Bias algoritmico: come riconoscerlo e ridurlo (Brookings Institution)