Etica e Intelligenza Artificiale: il fattore imprevedibilità va sempre considerato

Nel rapporto tra etica e Intelligenza Artificiale il fattore della imprevedibilità è sempre da considerare.

Gli algoritmi da cui oramai dipende la nostra vita “sono strumenti assolutamente efficienti e che hanno risolto molti problemi altrimenti incalcolabili, ma assieme, come per l’Intelligenza artificiale, hanno una perentorietà nel dare i risultati cui noi ci affidiamo con tranquillità, in modo quasi ancillare, ma in realtà è molto complicato sapere se ha davvero risposto alle nostre aspettative o ha prodotto risultati incerti, distorti”, spiega Paolo Zellini, ex docente di analisi numerica a Tor Vergata e uno dei grandi matematici italiani.

Quello su cui insiste è la propagazione e l’ampliarsi dell’errore. “Si tratta di comandi complicatissimi – spiega – con algoritmi che hanno milioni di numeri, che poi elaborano con miliardi di operazioni di cui noi non abbiamo alcuna possibilità di conoscenza. Basta vi sia un minimo errore di partenza o nella richiesta che è stata fatta che questo andrà moltiplicandosi e ingrandendosi senza che noi lo si possa sapere, perché i suoi calcoli sfuggono alla nostra comprensione”.

Quindi invita a accogliere sempre i risultati con una qualche diffidenza e a avere coscienza che nei suoi processi può produrre risultati collaterali imprevisti inadeguati, da noi imprevedibili. “Efficienza e incertezza convivono nel calcolo digitale su larga scala – conclude – l’una ha bisogno dell’altra, una provvidenziale complementarietà che ha anche il risultato di scongiurare posizioni unilaterali e massimaliste”.

I problemi dell’IA sono tra le questioni più attuali del nostro tempo

I problemi della rete, dell’informatica e soprattutto dell’ IA sono naturalmente una delle questioni più proposte in questo Festivalfilosofia il cui tema quest’anno è Caos. Del resto Guido Tonelli, ex docente dell’università di Pisa e oggi fisico al Cern di Ginevra, ricorda che davanti al caos gli umani hanno in genere paura, temono di non riuscire più a stabilire un ordine, e quindi la perentorietà appunto delle risposte dell’IA sono viste come provvidenziali.

Però, se abbiamo chiamato cosmo, che vuol dire etimologicamente ordine, armonia, sentendoci tranquillizzati dal sole e i pianeti col loro millenario, regolare svolgersi e ruotare, a inizio secolo abbiamo realizzato che l’ordinario non si confà alle distanze più infinite e che sotto l’apparente stabilità dei corpi macroscopici si sviluppa la danza frenetica delle particelle elementari, una sarabanda caotica di minuscoli componenti evanescenti.

A questo aggiunge come il caos domini anche realtà come i buchi neri e i blazar, le stelle quasar e così via, dicendoci che “ci sovrasta un caos grandioso nascosto nelle profondità del cielo sopra le nostre teste e sotto i nostri piedi cui dobbiamo quindi guardare con occhi diversi al caos, da quelli che ci illudono dal nostro placido punto di osservazione che tutto sia ordinato e tranquillo”.

Il rischio del ‘Cigno nero’, l’avvenimento che non si può pronosticare

Hanno allora un senso quei Cigni neri, quegli avvenimenti imprevedibili, anche se con una loro essenza preordinata che a noi però sfugge, che vanno da certe crisi economiche alla pandemia a accadimenti minori ma importanti, di cui ha parlato, ma con atteggiamento positivo, Elena Esposito, sociologa dei processi culturali all’università di Bologna. Negli ultimi tempi questi sono andati intensificandosi e acquistando una valenza dirompente.

Non si tratta – sottolinea – di eccezioni alle regole statistiche, perché non si tratta di eccezioni che confermano le regole, ma eventi che le mettono in dubbio. A aiutarci arrivano gli algoritmi di machine learning, capaci di elaborare previsioni diverse da quelle probabilistiche che nascono dal cercar di capire variabili e reazioni relativamente stabili, così da poterci costruire sopra delle regole. Gli algoritmi infatti non si preoccupano e non sanno spiegare, ma elaborano una tale quantità di dati che eccedono le nostre capacità di comprensione elaborando configurazioni e correlazioni operando su strutture inconoscibili.

In questo caso, nonostante possano amplificare distorsioni e confondere correlazioni, per la studiosa, questa non è una debolezza, perché possono anche produrre previsioni corrette anche se noi non siamo in grado di spiegarle, dandoci comunque una possibilità di prevenzione e di preparazione.

L’IA ci spossessa dei nostri saperi e capacità

In tutto questo è appena uscito un libro di Anne Alombert, studiosa dei rapporti tra vita e tecnologia e docente all’università di Parigi VIII, ‘La stupidità artificiale’ (ed. Vita e Pensiero) che mette in guardia dal nostro quotidiano delegare all’Ia le nostre scelte, da una strada a un ristorante e così via, spossessandoci dai nostri saperi e capacità, come Platone temeva sarebbe accaduto con la nascita della scrittura, che nella sua adozione sociale e individuale a visto gli scritti sottrarsi ai pericoli di un monopolio: anzi questa è stata messa al servizio della democrazia, mentre gli utenti odierni sono passivi davanti alle macchine che utilizzano di cui non sano nulla e che altri comandano, finendo per controllare il nostro pensiero.

Dovremmo quindi, invita la studiosa, utilizzare tecnologie digitali che esistono e “non riposano su modelli affaristici tossici e piattaforme che non cercano di automatizzare i nostri comportamenti individuali, ma di favorire la condivisione dei saperi e la deliberazione collettiva”.