Intelligenza artificiale? Si può, anzi si deve, discuterne

Le macchine plasmeranno noi o saremo noi a plasmare loro?

Direi che c’è un rapporto circolare. Noi produciamo le macchine, ma le macchine contribuiscono a produrre noi. Le tecnologie modificano le nostre pratiche, le nostre abitudini, le forme della cultura; e queste trasformazioni, a loro volta, cambiano il modo in cui immaginiamo, progettiamo e usiamo le tecnologie.

Attenzione però: c’è anche una questione di potere. I grandi modelli di intelligenza artificiale sono nelle mani di poche aziende, che possiedono le infrastrutture, i dati, la capacità di calcolo e l’accesso ai mercati globali. Queste aziende hanno interesse a rendere i loro strumenti sempre più presenti nelle nostre vite quotidiane, fino a creare forme di dipendenza.

Vittime dell’Ai ci sono già, sia in ambito civile che militare: chi risponde quando un sistema di intelligenza artificiale causa un danno o, peggio, una morte?

Bruno Latour si chiedeva chi fosse responsabile nel caso di una pistola: chi spara? La pistola? La legge che permette di comprarla? Il sistema sociale che ne organizza la circolazione? L’azione è il risultato di una rete di attori umani e non umani.

Questo modo di pensare è utile perché ci impedisce di attribuire tutta la responsabilità a un solo individuo, come se la tecnologia fosse uno strumento neutro nelle sue mani. Tuttavia presenta anche un rischio. Se tutti sono in qualche modo responsabili, nessuno lo è davvero. È qui che la responsabilità distribuita può trasformarsi in un alibi.

Per questo il diritto deve intervenire e l’Europa l’ha fatto, perché cerca di identificare i soggetti responsabili lungo la catena di produzione, distribuzione e uso dei sistemi di Ai. Allo stesso tempo, dobbiamo riconoscere che nessuna soluzione giuridica potrà eliminare del tutto la complessità morale della questione. La responsabilità dell’intelligenza artificiale è insieme tecnica, giuridica, politica e sociale. Nel caso militare, questa difficoltà diventa estrema. 

Serve dunque una regolazione pubblica dell’intelligenza artificiale?

Trovo sorprendente che una tecnologia così potente e così decisiva per il futuro delle società contemporanee sia in larghissima parte nelle mani di attori privati. Quando pensiamo alla bomba atomica, pensiamo agli Stati, quando pensiamo all’intelligenza artificiale, invece, pensiamo a grandi aziende private.

Si potrebbe certamente immaginare un’intelligenza artificiale pubblica, ma dobbiamo essere lucidi: competere sui grandi modelli linguistici richiede investimenti enormi. La potenza economica di una singola grande azienda tecnologica può superare quella di molti Stati. Per questo una regolazione pubblica è necessaria, ma da sola non basta.

Cosa possiamo fare, dunque?

Bisogna agire anche su altri livelli. Si può lavorare localmente, riaddestrare o adattare modelli a contesti specifici, sviluppare strumenti più piccoli, più trasparenti, più controllabili. Dipende dalla capacità delle istituzioni, dei cittadini e delle comunità locali di non limitarsi a consumare questi sistemi, ma di comprenderli, modificarli e usarli in modo critico.

Quanto contano i lavoratori umani dietro l’Ai?

Dietro l’intelligenza artificiale c’è una quantità enorme di lavoro umano. Non solo il lavoro altamente qualificato di chi progetta i modelli, scrive codice o sviluppa architetture computazionali, ma anche un lavoro molto più invisibile, frammentato e spesso precario: annotare dati, classificare immagini, correggere output, moderare contenuti, filtrare materiali violenti o problematici. Per dirla con Jacques Ellul, il rischio è che l’essere umano diventi un ingranaggio della macchina tecnica. 

Nel libro dedicate un capitolo agli immaginari dell’Ai, a come viene rappresentata e al modo in cui viene raccontata. In che modo tutto questo influenza la nostra percezione di queste tecnologie?

Esiste un immaginario visivo molto riconoscibile: sfondi blu, cervelli metà biologici e metà elettronici, robot umanoidi, mani umane e robotiche che si sfiorano come in una nuova “Creazione di Adamo”. Queste immagini producono fiducia, familiarità, senso di controllo, e questa rassicurazione può avere effetti politici. Se l’intelligenza artificiale ci viene presentata come una tecnologia affidabile, pulita, luminosa, quasi inevitabile, saremo più inclini ad accettarne l’uso anche in contesti delicati, come la sanità, il welfare, l’accesso agli assegni di disoccupazione o familiari.

La scelta del colore blu non è casuale: comunica calma, fiducia, sicurezza, competenza. In questo senso, l’immaginario dell’intelligenza artificiale è spesso anestetizzante. Non ci invita a discutere, ma a fidarci. Ma una comunicazione democratica dell’Ai non dovrebbe tranquillizzarci troppo rapidamente. Dovrebbe aiutarci a porre domande migliori.

Nel libro si propone l’idea di un certo “agonismo”. Di cosa si tratta?

Nell’antagonismo ci sono nemici da eliminare o sconfiggere; nell’agonismo, invece, ci sono avversari che si riconoscono reciprocamente come legittimi, pur restando in disaccordo. 

Oggi si parla spesso di Ai in termini estremi. Da una parte la promessa di un progresso straordinario, dall’altra la paura dell’intelligenza artificiale generale, della sostituzione dell’essere umano, dei Terminator. Ma le questioni più urgenti non sono solo quelle che potrebbero verificarsi fra dieci o vent’anni, sono quelle che stanno già accadendo, o che potrebbero accadere domani: l’uso dell’Ai nel lavoro, nella scuola, nell’università, nella sanità, nel welfare, nella sorveglianza, nella guerra, nella produzione culturale. Una comunicazione agonistica dovrebbe portare alla luce queste tensioni concrete. Dovrebbe mostrare le contraddizioni, i casi controversi, gli effetti inattesi, le resistenze sociali.

Nel nostro piccolo possiamo fare qualcosa anche noi nel quotidiano?

Possiamo avere un rapporto più agonistico con questi sistemi: non dobbiamo accontentarci della prima risposta. Possiamo rilanciare, dubitare, chiedere alternative, confrontare modelli diversi, verificare le fonti, mettere alla prova le risposte. È un po’ come accadeva con Wikipedia. C’era chi copiava la prima pagina trovata e chi invece la usava come punto di partenza per approfondire, cercare bibliografia, seguire collegamenti, confrontare fonti.

Cosa ci aspetta nel futuro? L’Ai scalzerà l’essere umano o ci aspetta un futuro di progresso eccezionale?

I filosofi non hanno una macchina del tempo, e quando si occupano di tecnologia dovrebbero diffidare sia delle profezie catastrofiste sia delle promesse salvifiche. L’intelligenza artificiale sta già cambiando il lavoro, l’apprendimento, la ricerca, la comunicazione, la creatività. Sono queste trasformazioni presenti che dobbiamo osservare e discutere.

Se invece, per un attimo, osassimo pensare al futuro?

Direi che ho fiducia nella capacità degli esseri umani non solo di adattarsi, ma anche di trasformare le condizioni in cui si trovano. La storia della rivoluzione industriale è stata segnata da ingiustizie enormi, sfruttamento, conflitti sociali, ma anche dalla nascita di diritti, organizzazioni collettive e nuove forme di protezione. Non c’è nessuna garanzia che accada lo stesso con l’intelligenza artificiale. Potrebbero essere necessari conflitti sociali e politici molto forti. Ma proprio per questo bisogna parlarne ora.

L’alternativa non è tra entusiasmo e paura. L’alternativa è tra subire l’intelligenza artificiale come destino o discuterla come questione pubblica. E io credo che si possa, anzi si debba, discuterne.