€ 20,00 (cartaceo)
€ 9,99 (ebook)
L'erede del business dei big data è una singola tecnologia che ho imparato a conoscere per la prima volta nel 2014: l'intelligenza artificiale (IA). Negli ultimi anni il significato dell'espressione è cambiato, ma essenzialmente l'IA è un software statistico complesso applicato alla ricerca di schemi e relazioni in grandi dataset del mondo reale. (p. 12)
E ne viene fuori una descrizione dell'IA dalle mille facce, un mostro, come una divinità avida e insaziabile, capace di ingurgitare un'incredibile quantità di dati su di noi. Una divinità che ha i suoi terribili dei minori nelle aziende tecnologiche che raccolgono i dati cercando lavoratori a basso costo ovunque nel mondo. Questo è il tema di fondo del saggio. Le aziende che sono immerse nello sviluppo dell'IA e che per anni, attraverso i social, i portali, i siti, hanno raccolto dati sui nostri comportamenti, i nostri gusti, le nostre tendenze, passioni, interessi, trasgressioni ecc., ora stanno rielaborando – e mentre scrivo sono ancora più avanti – questa mostruosa quantità di informazioni per utilizzarle, venderle, interpretarle a fini commerciali. Lo scopo è fare una montagna di soldi. Oltre quelli che hanno già guadagnato. Ma chi raccoglie questi dati? Gli schiavi del Terzo Mondo.
Oggi i sistemi di IA possono aiutare gli esperti umani a prendere decisioni importanti in settori quali la diagnostica medica, l'assistenza pubblica, le richieste di mutui e di prestiti, le assunzioni e i licenziamenti. [...] Tutto ciò ha segnato un profondo cambiamento nel nostro rapporto con le macchine. Poiché la nuova generazione di IA è in grado di esprimersi con parole e immagini ed è addestrata sulla nostra produzione accademica e creativa, può facilmente manipolare i nostri stati d'animo e le nostre emozioni e convincerci a pensare e a comportarci in certi modi e non in altri come nulla aveva mai fatto prima. (pp. 13-14)
Partendo da questo presupposto, l'autrice ha cominciato a viaggiare in giro per il mondo e a incontrare, nei contesti più disparati, i lavoratori che analizzano i dati per le aziende del settore e li catalogano allo scopo di incamerarli in un sistema che lavora sulla specificità dei profili. Ma non è solo questo. Il libro raccoglie tutta una serie di inchieste che hanno permesso a Madhumita Murgia di scoprire come l'IA influenzi le nostre vite.
Come ci si sente a parlare con una scatola nera? Come ci si appella a una decisione presa da un'app? E soprattutto, come ci si fa a fidare? Se anche non ci fa più effetto il fatto che interagiamo con un chatbot, dovremmo però riflettere – e questo è lo scopo del libro – che non esiste più alcun ambito umano che non sia colonizzato da sistemi automatizzati. In ambiti quali il lavoro, la salute, l'istruzione, l'economia, i diritti, esistono sistemi che stanno soppiantando l'essere umano e più pericolosamente il libero arbitrio.
Facendo parlare persone comuni, dando loro voce attraverso interviste e inchieste, Murgia riesce a toccare il nocciolo della questione, smascherando la silenziosa violenza quotidiana di potentissime tecnologie che stanno penetrando in tutti i tessuti della convivenza sociale. Come gli algoritmi verranno governati in futuro, quali regole verranno poste, affinché non arrivino a creare uno scenario nel quale saremo solo degli schiavi è un problema enorme. Ma ancora più importante e sofisticato è il problema che riguarda il modo in cui stiamo studiando l'impatto di queste tecnologie sulla nostra vita quotidiana. Ce ne stiamo accorgendo? Oppure la velocità con cui ci stiamo approcciando a tutte queste novità ci farà superare la linea rossa senza che ce ne renderemo conto?
Oltre a questi interrogativi, che questo saggio ci permette di porci proprio perché affronta il problema degli algoritmi, dell'IA e delle tecnologie dal punto di vista umano, individuando le prime vittime di questo cambiamento, dovremmo però anche porci il problema di chi farà le regole. E per ora la confusione regna sovrana, soprattutto sulle regole condivise.
Infine, il pregio di Essere umani è proprio la sua capacità di non limitarsi a individuare il problema ma scrivere una sorta di Manifesto implicito in cui immaginare come rivendicare la nostra umanità.
Fulvio Caporale