Un saggio necessario, ora più che mai, sui pericoli dell'IA. Murgia mette noi esseri umani al centro del problema.


                                                            



                            
                                                                                                        
Essere umani. L'impatto dell'intelligenza artificiale sulle nostre vite
di Madhumita Murgia
Neri Pozza editore, 2025

Traduzione di Simonetta Frediani

pp. 320
€ 20,00 (cartaceo)
€   9,99 (ebook)


Madhumita Murgia è un'appassionata di tecnologie a tal punto da comprendere, prima di altri, quale sarebbe stato l'impatto della raccolta dati e dell'intelligenza artificiale sulle popolazioni di ogni parte del mondo. In particolare, Murgia si è occupata di IA fin dalla sua nascita, quando la tecnologia si è sviluppata grazie all'utilizzo dei big data. Dopo studi, ricerche e articoli scritti con piglio giornalistico ma con la freddezza dell'investigatrice, l'autrice ha sentito il bisogno di riunire in questo libro i risultati delle sue ricerche. 
L'erede del business dei big data è una singola tecnologia che ho imparato a conoscere per la prima volta nel 2014: l'intelligenza artificiale (IA). Negli ultimi anni il significato dell'espressione è cambiato, ma essenzialmente l'IA è un software statistico complesso applicato alla ricerca di schemi e relazioni in grandi dataset del mondo reale. (p. 12)

E ne viene fuori una descrizione dell'IA dalle mille facce, un mostro, come una divinità avida e insaziabile, capace di ingurgitare un'incredibile quantità di dati su di noi. Una divinità che ha i suoi terribili dei minori nelle aziende tecnologiche che raccolgono i dati cercando lavoratori a basso costo ovunque nel mondo. Questo è il tema di fondo del saggio. Le aziende che sono immerse nello sviluppo dell'IA e che per anni, attraverso i social, i portali, i siti, hanno raccolto dati sui nostri comportamenti, i nostri gusti, le nostre tendenze, passioni, interessi, trasgressioni ecc., ora stanno rielaborando – e mentre scrivo sono ancora più avanti – questa mostruosa quantità di informazioni per utilizzarle, venderle, interpretarle a fini commerciali. Lo scopo è fare una montagna di soldi. Oltre quelli che hanno già guadagnato. Ma chi raccoglie questi dati? Gli schiavi del Terzo Mondo.

Oggi i sistemi di IA possono aiutare gli esperti umani a prendere decisioni importanti in settori quali la diagnostica medica, l'assistenza pubblica, le richieste di mutui e di prestiti, le assunzioni e i licenziamenti. [...] Tutto ciò ha segnato un profondo cambiamento nel nostro rapporto con le macchine. Poiché la nuova generazione di IA è in grado di esprimersi con parole e immagini ed è addestrata sulla nostra produzione accademica e creativa, può facilmente manipolare i nostri stati d'animo e le nostre emozioni e convincerci a pensare e a comportarci in certi modi e non in altri come nulla aveva mai fatto prima. (pp. 13-14)

Partendo da questo presupposto, l'autrice ha cominciato a viaggiare in giro per il mondo e a incontrare, nei contesti più disparati, i lavoratori che analizzano i dati per le aziende del settore e li catalogano allo scopo di incamerarli in un sistema che lavora sulla specificità dei profili. Ma non è solo questo. Il libro raccoglie tutta una serie di inchieste che hanno permesso a Madhumita Murgia di scoprire come l'IA influenzi le nostre vite.

Come ci si sente a parlare con una scatola nera? Come ci si appella a una decisione presa da un'app? E soprattutto, come ci si fa a fidare? Se anche non ci fa più effetto il fatto che interagiamo con un chatbot, dovremmo però riflettere – e questo è lo scopo del libro – che non esiste più alcun ambito umano che non sia colonizzato da sistemi automatizzati. In ambiti quali il lavoro, la salute, l'istruzione, l'economia, i diritti, esistono sistemi che stanno soppiantando l'essere umano e più pericolosamente il libero arbitrio. 

Facendo parlare persone comuni, dando loro voce attraverso interviste e inchieste, Murgia riesce a toccare il nocciolo della questione, smascherando la silenziosa violenza quotidiana di potentissime tecnologie che stanno penetrando in tutti i tessuti della convivenza sociale. Come gli algoritmi verranno governati in futuro, quali regole verranno poste, affinché non arrivino a creare uno scenario nel quale saremo solo degli schiavi è un problema enorme. Ma ancora più importante e sofisticato è il problema che riguarda il modo in cui stiamo studiando l'impatto di queste tecnologie sulla nostra vita quotidiana. Ce ne stiamo accorgendo? Oppure la velocità con cui ci stiamo approcciando a tutte queste novità ci farà superare la linea rossa senza che ce ne renderemo conto? 

Oltre a questi interrogativi, che questo saggio ci permette di porci proprio perché affronta il problema degli algoritmi, dell'IA e delle tecnologie dal punto di vista umano, individuando le prime vittime di questo cambiamento, dovremmo però anche porci il problema di chi farà le regole. E per ora la confusione regna sovrana, soprattutto sulle regole condivise. 

Infine, il pregio di Essere umani è proprio la sua capacità di non limitarsi a individuare il problema ma scrivere una sorta di Manifesto implicito in cui immaginare come rivendicare la nostra umanità.

Fulvio Caporale

Essere umani è stato consigliato in anteprima da Neri Pozza in una delle puntate del nostro podcast: ecco qui il collegamento alla rubrica: