L’intelligenza artificiale con le sue sfide e le sue opportunità è un tema scottante, intrigante e di grande interesse per tutti, dai più giovani ai meno giovani. Sono davvero tante le domande che questo argomento ci spinge a porci: le nuove tecnologie riusciranno a creare cervelli artificiali quasi del tutto simili a quelli biologici? Gli esseri umani saranno sostituiti prima o poi nel mondo del lavoro e nei servizi sociali dall’automazione o ciò non è possibile? In un futuro non troppo remoto davvero la tecnologia si rivolterà contro l’essere umano facendogli rischiare addirittura l’estinzione?
Emily M. Bender e Alex Hanna nel loro saggio L’inganno dell’intelligenza artificiale, alla luce delle loro competenze ed esperienze nel campo dell’IA, provano a rispondere a queste e a tante altre domande invitandoci a riflettere sull’impatto e sui rischi dell’uso massiccio delle nuove tecnologie nella vita pubblica e privata delle persone per proporre poi alla fine del saggio indicazioni per resistere a quello che loro chiamano con grande lucidità (e anche coraggio) «l’inganno dell’intelligenza artificiale». Bender è una linguista computazionale, Hanna è una ex-ricercatrice di Google e ora direttrice della ricerca al Distributed AI Research Institute, entrambi sono docenti universitarie e voci autorevoli nel campo dell’intelligenza artificiale. E, cosa che non guasta, presentano un’ironia affilata e un piglio fresco, accattivante, che rendono un’opera che tratta un tema, pur così complesso, godibile e accessibile a chiunque.
L’intelligenza artificiale, a essere sinceri, è un inganno: qualcosa che ci viene venduto con un raggiro solo perché qualcuno si riempia le tasche. Pochi attori principali, ben posizionati, sono determinati ad accumulare una ricchezza considerevole grazie all’estrazione di valore dalla creatività, dai dati personali, dal lavoro di altre persone, per rimpiazzare servizi di qualità con riproduzioni artificiali. […]
Per dirlo senza mezzi termini, “IA” è un’espressione di marketing. Non si riferisce a un insieme coerente di tecnologie. Piuttosto, l’espressione “intelligenza artificiale” viene usata nel momento in cui coloro che costruiscono o vendono un particolare tipo di tecnologie traggono vantaggio dal far credere agli altri che la loro tecnologia sia simile agli esseri umani, cioè sia capace di fare cose che, in realtà, hanno intrinsecamente bisogno del giudizio, della percezione e creatività umane. (pp. 20-21)
Le due autrici sostengono, sin dalle prime pagine, che le tecnologie chiamate “intelligenza artificiale” non possono avere un pensiero superiore a quello dell’essere umano, poiché mancano di coscienza, di empatia, capacità di giudizio e creatività che rendono unici e irripetibili gli esseri umani. In altre parole, una macchina, una tecnologia come ChatGPT di OpenAI e altri modelli di chatbox, non possono e non potranno mai avere un pensiero autonomo. Perché? Semplice: dietro alle risposte più o meno lunghe e articolate che vengono rilasciate, dietro alle immagini create c’è il lavoro degli esseri umani. Non sto parlando del lavoro di chi “vende” la tecnologia e fa ricerche usando capitali di rischio (cioè quelle somme di denaro investite senza garanzia di restituzione) nel campo dell’intelligenza artificiale, ma di quei lavoratori sfruttati e sottopagati, provenienti dai paesi più poveri del mondo. Vi siete scandalizzati? Leggete qui:
I lavoratori la cui storia è raccontata dal reportage di «Time» citato in precedenza sono stati messi sotto contratto da un’azienda chiamata Sama (conosciuta anche come Samasource) che impiega lavoratori in Kenya, Uganda e India. A questi lavoratori era affidato il compito di etichettare contenuti terribili presi da internet per addestrare un sistema a filtrare l’output di modelli come ChatGPT. Il lavoro giornalistico di Karen Hao e Deepa Seetharaman e le ricerche degli stessi lavoratori hanno messo in evidenza come essi devono sopportare un lavoro traumatico senza un accompagnamento psicologico appropriato. (p. 105)
Non tutti sanno, e neppure io lo sapevo prima di leggere il saggio, che l’addestramento di questi modelli linguistici come ChatGPT, Gemini e altri, avviene a discapito di uomini e donne costretti a sorbirsi video, immagini, testi violenti, truci, disturbanti. Questo tipo di esposizione prolungata può avere conseguenze psicologiche rilevanti e gravi ripercussioni sulla vita sociale e familiare. Accanto a queste figure, l’intelligenza artificiale che noi da fuori vediamo così servizievole e perfetta, si serve di un’altra tipologia di lavoratore, quella del “red-teamer”, la cui attività «consiste nel fornire un input provocatorio a un modello linguistico o di immagini e valutare se l’output contiene pregiudizi o è offensivo» (p. 106). Anche in questo caso si tratta di un lavoro alienante che impone la gestione di un carico mentale enorme.
L’entusiasmo per l’ipertecnologia, o hype, come più volte la chiamano le autrici, non è così recente, poiché già sessant’anni fa si facevano affermazioni entusiastiche e quasi fantascientifiche sulla natura dell’intelligenza informatica, ma è negli ultimi tempi che si è creata una vera e propria bolla di aspettative e convinzioni che non trova riscontro nella realtà. Ecco perché Bender e Hanna sin dalle premesse mettono in guardia il lettore: le nuove tecnologie chiamate intelligenza artificiale non sono forme di vita artificiale come vogliono farci credere i giganti del Big Tech della Silicon Valley. Le stesse previsioni di future catastrofi dove l’uomo verrà soppiantato dalla macchina sono tutte affermazioni che contribuiscono a ingrandire la bolla dell’hype allo scopo di vendere tecnologie e coprono con un’area di potenza sovrumana i proprietari di queste piattaforme e i ricercatori che attingono da finanziamenti dalle origini opache e poco etiche.
Il libro è diviso in sette capitoli, rigorosamente e riccamente documentati, scritti con chiarezza e intelligenza. Dopo la prefazione che funziona da manifesto di intenti che conquista il lettore sin da subito, le autrici portano avanti un’analisi sia linguistica che sociologica, accompagnata da un’umorismo tagliente, sull’argomento dell’intelligenza artificiale partendo prima da una presentazione dell’hype creatasi attorno a queste tecnologie e poi toccano argomenti come l’automazione del lavoro, i danni che negli USA l’utilizzo dell’IA ha fatto nell’ambito dei servizi sociali (la gestione degli affidi, i tempi di ricovero ospedaliero, il disbrigo di pratiche legali) fino ad arrivare al mondo della ricerca scientifica e della creatività come arte, cinema, letteratura. Ho trovato ogni capitolo estremamente interessante. Non si tratta dei soliti discorsi sui danni dell’intelligenza artificiale alle nuove generazioni che non hanno avuto la “fortuna” di vivere senza le nuove tecnologie, ma di danni che impattano profondamente sulla realtà del cittadino e del lavoratore di qualsiasi età, ogni giorno. La credulità dell’essere umano è la causa dei suoi danni peggiori: le autrici non esitano a dire che
[…] nel momento in cui attribuiamo una coscienza fittizia a questi sistemi, stiamo implicitamente svalutando cosa vuol dire essere umani e stiamo dando credito a una corrente di pensiero molto più ampia sulla natura dell’intelligenza che ha radici nell’eugenetica e nelle teorie della razza. (p. 46)
Dalle pagine nelle quali vengono illustrati i processi con cui vengono addestrati i modelli linguistici di grandi dimensioni come le chatbox attuali al capitolo dedicato all’impatto ambientale (l’unico vero grande rischio per la nostra stessa vita!) L’inganno dell’intelligenza artificiale è una lettura quanto mai attuale, e - uso un termine abusato - necessaria, da portare tra i giovani a scuola, per sensibilizzare ad un uso consapevole di queste nuove tecnologie, ma da far leggere anche a coloro che prendono le decisioni politiche che impattano profondamente sulla nostra vita, la nostra creatività e il nostro pensiero. Informarsi e rimanere critici di fronte all’hype sull’intelligenza artificiale è l’unica strada da percorrere.
Marianna Inserra