L'inganno dell'intelligenza artificiale di Emily M. Bender e Alex Hanna (Fazi)
Si può resistere a Big Tech?
L’inganno dell’intelligenza artificiale di Emily M. Bender e Alex Hanna è un antidoto prezioso alla retorica trionfalistica che accompagna l’IA da qualche anno. Il merito dello studio di queste due studiose, rispettivamente linguista computazionale e professoressa all’università di Washington la prima e sociologa, già ricercatrice di Google, direttrice della ricerca del DAIR Distributed AI Research Institute, e docente a Berkeley la seconda, sta soprattutto nella sua chiarezza, evidenziata anche da Brian Eno nel suo blurb, che in compagnia Yanis Varoufakis e dell’informatica etiope Timnit Gebru popola la quarta di copertina. Anziché alimentare il consueto bipolarismo tra entusiasmo messianico e catastrofismo apocalittico (sempreverdi gli apocalittici e integrati di Umberto Eco!), le autrici riportano la discussione sul terreno concreto dei processi, degli interessi economici e delle conseguenze sociali. L’IA, come ormai sappiamo, non è una mente che pensa, ma un insieme di sistemi statistici addestrati su enormi quantità di dati, capaci di produrre testi e immagini senza comprensione. È qui che la formula dei “pappagalli stocastici” mostra tutta la sua forza: dietro la promessa di un’intelligenza autonoma si nasconde spesso un dispositivo di ripetizione, estrazione e riorganizzazione al quale manca stile, volontà, forse gusto, responsabilità, intento.
Il libro proposto dall’editore Fazi nella traduzione di Roberto Laghi (pp. 324, euro 20) è efficace nello smontaggio dei miti più appiccicosi e non si rifugia in tecnicismi difensivi. Varoufakis sostiene che è un libro che “immunizza la mente dall’esaltazione utopistica dell’IA promossa dalle Big Tech”. Bender e Hanna spiegano, a larghe campate, che cosa fanno davvero i modelli generativi, ma soprattutto che cosa non fanno: non sono neutrali, non sono inevitabili, non sono magici. Intorno a loro opera invece un sistema di narrazioni molto redditizie, utili a giustificare raccolta di dati, sfruttamento del lavoro umano invisibile, centralizzazione del potere e nuove forme di dipendenza tecnologica. In questo senso, il bersaglio del libro non è la tecnologia in sé, ma il racconto ideologico che la presenta come destino.
Uno dei punti più convincenti è l’ampiezza dello sguardo, alla quale il libro non rinuncia: sanità, scuola, giustizia, giornalismo, arte, lavoro. In ciascun ambito l’IA viene mostrata come strumento che può amplificare diseguaglianze, opacità e soprattutto l’irresponsabilità. Il tono, brillante e accessibile, evita di tramutare l’opera in pamphlet rabbioso o in un precipitato di accademismo. Resta una posizione molto netta, che talvolta sacrifica le zone grigie e le possibilità d’uso realmente utili, che di fatto però non rappresentato l’oggetto di questo studio. In verità è proprio questa fermezza a rendere il libro necessario: obbliga a chiedersi non se l’IA sia inevitabile, bensì chi la decide, a vantaggio di chi, e a quale prezzo. Insomma, il libro mette in atto una torsione di prospettiva che solitamente ci dimentichiamo di compiere nelle nostre giornate, dove la presenza dell’IA è sempre più pervasiva.
Uno degli aspetti curiosamente sfuggente dell’IA è l’impatto ambientale. Ciò stupisce enormemente se pensiamo a quanto risalto le tematiche di questo ambito detengano nei dibattiti degli ultimi anni. Eppure c’è un gigante fabbisogno energetico e di risorse naturali necessario per sfamare queste tecnologie. Il perno di tutta l’opera è l’hype che tocca l’intelligenza artificiale. Il termini hype, oggi così in voga, deriva da hyperbole, e la stessa espressione “intelligenza artificiale” poggia le basi su un’iperbole quantomeno dubbia, forse una sabbia mobile dove un novello Barone di Münchhausen cerca di salvarsi alzandosi da solo per i capelli. Forse, più che il fascino di questa espressione dalle origini assai discutibili, potremmo iniziare a sentire il fascino di un’espressione pari e contraria che da sempre accompagna la vicenda umana: la stupidità naturale.