Che cosa accade quando non sono gli umani ma le macchine a decidere?

 1. Introduzione

“Secondo Luciano Floridi […] ci sono state tre rivoluzioni che hanno alterato la nostra visione del mondo e la nostra autocomprensione: la rivoluzione copernicana; la teoria di Darwin sulla selezione naturale; la pretesa di Freud che le nostre azioni quotidiane siano controllate dalla mente inconscia. Floridi ritiene che siamo di fronte a una quarta rivoluzione. Quello che facciamo on line e off line si fonde con la nostra fisica. La nostra società diventa sempre più un mix di esperienze fisiche e virtuali; stiamo acquisendo una personalità onlife: un mix tra on line e life”.^[1]

Questa quarta rivoluzione sta capovolgendo la comprensione dell’uomo nelle sue molteplici relazioni. La nostra attenzione sarà mirata su un aspetto preciso del vasto mondo, dell’informazione: le Intelligenze Artificiali (IA). Vedremo in che cosa la quarta rivoluzione cambia il quadro di riferimento nelle nostre relazioni (con il simile, con il creato, con Dio).

In questo lavoro cercheremo di rispondere ad alcune domande. Che impatto hanno le IA sull’uomo? L’IA senza le norme etiche a cosa potrebbe condurre? L’IA che non è al servizio, ma contro l’umano cosa può causare? Cosa dicono le religioni in questo nuovo confine di evangelizzazione? Quali sono i suoi limiti? Cosa vuol dire che una intelligenza artificiale può scegliere in autonomia? “Cosa vogliamo che queste macchine possano fare e cosa non vogliamo?”^[2]

2. La quarta rivoluzione in corso

Secondo il Parlamento europeo, “l’intelligenza artificiale (IA) è l’abilità di una macchina di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività. L’intelligenza artificiale permette ai sistemi di capire il proprio ambiente, mettersi in relazione con quello che percepisce e risolvere problemi, e agire verso un obiettivo specifico. Il computer riceve i dati (già preparati o raccolti tramite sensori, come una videocamera), li processa e risponde.”^[3] Cosa caratterizza questo cambiamento di epoca?

Non ci percepiamo come entità isolate, ma come organismi informazionali interconnessi che condividono con agenti biologici e artefatti ingegnerizzati un ambiente globale costituito dalle informazioni: l’infosfera. Questa quarta rivoluzione sta portando alla luce la natura intrinsecamente informazionale degli umani. Stiamo passando da una metafisica materialista a una metafisica che ruota attorno all’informazione.^[4]

La tecnologia non è più uno strumento nelle mani dell’uomo per fare qualche cosa. È diventata un ambiente che determina il nostro modo di essere, vivere, interpretare la realtà. Basterebbe vedere il viso di uno che ha perso il suo cellulare.

Se la rivoluzione industriale ha trasformato gli utensili in macchine che usavano prevalentemente energia umana per realizzare compiti anche complessi, oggi tante macchine sono diventate machinae sapientes.^[5] Le intelligenze artificiali segnano tanti settori della nostra vita: veicoli connessi (guida automatica), medicina predittiva (sistemi di radiochirurgia, seguire un paziente a distanza, chirurgia assistita),^[6] servizio cliente e marketing personalizzato, cybersecurezza nella difesa e nell’aeronautica, assistente personale nel turismo, chatbot e robot advisers nella banca, rilevamento della tendenza online nello shopping;^[7] nei sistemi di gestione sostituendo i server e gli analisti, negli smartphone (cortana, siri, google hello),^[8] droni telepilotati/automatici, esploratori robotizzati o sistemi di fuoco robotici nell’ambito di sicurezza nazionale e guerra con potere decisionale. Robot destinati ad affiancare l’uomo nei processi produttivi in fabbrica; i programmi di risk assessement per prevedere il rischio di commettere crimini in futuro. ^[9]

3. Quale etica per le intelligenze artificiali?

Un algoritmo d’intelligenza artificiale, un computo statistico sofisticato il cui esito non è prevedibile a priori, può essere un modo oggettivo? Può questo modo essere più affidabile dell’uomo e della sua esperienza? Possiamo affidare a una macchina la selezione di chi è degno di nascere e chi no? Può un sistema statistico decidere quali vite sono degne di essere vissute e quali no? Non stiamo forse realizzando alcune delle peggiori distopie che la letteratura ha ipotizzato nei racconti di fantascienza.^[10] “Questi algoritmi hanno la responsabilità di decidere chi verrà sottoposto all’attenzione del medico e chi invece no. In altri termini, possono arrivare a selezionare chi può avere possibilità di ricevere cure e chi invece ne verrà escluso”.^[11] Nel sistema giudiziario americano, “di coloro che erano stati indicati come possibili recidivi, solo il 61% è stato arrestato nei due anni seguenti. Ancora più sconcertante è stata la valutazione dei dati scomposti per gruppi etnici: l’algoritmo è particolarmente fallace nell’indicare i giovani neri accusati come futuri criminali.”^[12] Riguardo al sistema cinese del social credit, “viviamo già in un mondo di algoritmi predittivi che determinano se siamo una minaccia, un rischio, un buon cittadino e anche se siamo affidabili”.^[13] Un drone che in un’operazione militare uccida dei civili innocenti è responsabile di quelle morti? Si può parlare per una macchina di bene o male morale? In casi come questo la responsabilità di chi è?^[14] Come sarebbe la gestione del softwar nell’ambito della giustizia se al potere c’è un governante autoritario o razzista? Come sarebbe la gestione delle armi di punta se al capo dello stato o dell’esercito ci fosse un tiranno? E nell’ambito del lavoro misto, la priorità sarà data in primis all’umano? Trasportare le IA nei paesi poveri non toglierebbe il lavoro agli autoctoni causando di più una massa di poveri ed un piccolo nucleo di ricchi?

L’umano deve essere al centro di tutti gli sviluppi/evoluzioni tecnologiche. “Le intelligenze artificiali (machinae sapientes) non sono degli avversari evolutivi dell’homo sapiens bensì strumenti (artefatti) che devono essere pensati come cooperativi alla persona per aumentare la capacità cognitiva, che è prerogativa unica e peculiare dell’uomo.”^[15] In un ambiente misto uomo-robot, le IA devono intuire cosa vogliono fare gli uomini e adattarsi alle loro intenzioni. La macchina deve adattarsi all’uomo. Viceversa, l’umano, in un ambiente misto, sarà in grado di intuire l’azione che la macchina sta per compiere. Il robot deve sapere adeguare il suo agire in funzione all’agire e all’obiettivo della persona con cui coopera.^[16] Tutta l’etica delle intelligenze artificiali riposa sulla centralità della priorità sull’umano e la tutela della sua dignità.

4. Le religioni e le sfide delle intelligenze artificiali

Quale ruolo possono giocare le religioni in questo cambiamento d’epoca? Il progetto del Transumanesimo ci servirà d’esempio. “Il Transumanesimo, quel movimento intellettuale e culturale che si propone l’alterazione della condizione umana attraverso la ragione e la tecnologia, desidera utilizzare queste nuove scoperte per aiutare l’umanità a entrare in una nuova fase della sua evoluzione, una fase caratterizzata non più dalla selezione naturale ma dalla selezione intenzionale, non più dall’evoluzionismo darwiniano ma dall’evoluzionismo del miglioramento”.^[17] Per i transumanisti l’evoluzione è andata avanti fino all’homo sapiens. Si chiedono: “L’evoluzione si è fermata? Non va più avanti? La portiamo avanti noi.” Vogliono compiere un passaggio successivo, dall’homo sapiens all’homo technologicus considerando così la natura umana non tanto in maniera “fissa” ma come un lavoro in corso, come un inizio incompleto che si deve imparare a modellare nella maniera a loro conveniente.^[18]

Per arrivarci, si servono della tecnologia per tendere verso un superamento dei limiti che l’evoluzione ha impresso sulla natura umana, lasciando il posto a esseri superiori, presumibilmente più longevi, sani e intelligenti di quelli attuali.^[19] I transumanisti vogliono trasformare l’uomo per dirigere/pilotare l’evoluzione dove vogliono loro. E sarà un’evoluzione prodotta dall’ingenuo umano fino a raggiungere l’immortalità. “Secondo i transumanisti, dobbiamo approfittare della tecnologia per esplorare nuove possibilità e forme esistenziali, per espandere il numero delle scelte a nostra disposizione, per dare finalmente all’uomo l’abilità di pianificare, scegliersi la propria vita e progredire verso un più perfetto (o perfettibile) stato di esistenza.”^[20]

La tecnologia sta diventando la nuova ontologia. Anzitutto propone una nuova antropologia, un nuovo modo di veder l’uomo. Ad esempio, si può bloccare il processo d’invecchiamento per durare un po’ di più, (120/130/140 anni).   Una nuova morale. I transumanisti si oppongono alla morte perché la morte vittimizza la nostra condizione umana. Propongono una nuova escatologia, cioè una nuova trasformazione del nostro uomo cercando di trasferire la nostra identità personale su un supporto digitale. Possiamo dire che il Transumanesimo è una religione immanente e imminente. Dinanzi a questo progetto dei Transumanisti, che cosa dicono le religioni alcune religioni?

Il Buddhismo pare che condivida non pochi punti con il Transumanesimo. Sia nel Transumanesimo sia nel Buddhismo c’è il desiderio di liberarsi dalla sofferenza. Inoltre, sia nel Transumanesimo che nel Buddhismo c’è la convinzione che la condizione umana attuale non è l’ultima o la più perfetta condizione a cui ci ha condotto l’evoluzione o il ciclo di rinascite. La condizione umana, per entrambi deve essere migliorata fino a raggiungere quel livello in cui il soggetto non ritorna più in vita (l’immortalità per i transumanisti e il nirvana per il buddhismo). Per entrambi al raggiungimento dell’ideale ultimo il corpo non è più necessario. Per i transumanisti il corpo, e le sue funzioni, verrà rimpiazzato da altri supporti artificiali molto più durevoli su cui impiantare i dati del nostro cervello. Nel Buddhismo, conseguendo il nirvana, la fiamma del desiderio si è finalmente estinta (come quando si spegne una fiamma). ^[21]

Tuttavia, per il Buddhismo, lo scopo finale della sua dottrina non è la longevità ma l’estinzione di ogni desiderio. Per di più, per il Buddhismo “la vita è degna di essere vissuta solo se l'individuo si sforza di generare la compassione, di coltivare la saggezza, e di raggiungere la buddhità. Se la vita che si conduce è frivola e trascura di esercitare le virtù e la saggezza, sostiene il buddhismo, perché viverla, anche se per sempre?”^[22]

La religione islamica. In Arabia Saudita nel 2017 accadde un fatto molto singolare: a Sophia, uno dei robot della Hanson Robotics Limited dotati di intelligenza artificiale, venne concessa la cittadinanza onoraria del Paese. La stessa Sophia, nell’accettare questo riconoscimento, affermò con voce metallica: “Sono molto onorata e orgogliosa: è un evento storico l’attribuzione della cittadinanza a un robot.”^[23] L’islam promuove la dimensione sociale (umma) e la ricerca di cure alle malattie. Queste due dimensioni possono essere utilizzate per giustificare una delle idee che stanno molto a cuore al Transumanesimo, e cioè quella di potere estendere la durata della vita umana per un tempo indefinito. L’Islam non si riferisce, però, al supporto digitale.^[24] Inoltre l’Islam confessa pure che Dio, secondo la tradizione profetica, ha fornito una cura per ciascuna malattia.^[25]

“Il mormonismo transumanistico”, scrive Lincoln Cannon, uno dei quattordici fondatori, nel 2006, della Mormon Transhumanist Association, “sostiene l’idea che l’umanità debba imparare a diventare Dio, ma non un Dio qualsiasi, non un Dio che si erge con superbia al di sopra degli altri, bensì un Dio che ci elevi assieme a Lui come creatori compassionevoli. L’umanità dovrebbe imparare ad essere Cristo.”^[26] Siccome Dio ci ordina di usufruire dei mezzi a nostra disposizione per partecipare alla sua opera creatrice. La liberazione del Signore arriverà tramite l’uso dei mezzi che lui stesso ci fornisce (Alma 60,21). Dio comanda di utilizzare la scienza e la tecnologia per partecipare alla sua opera, per giungere alla propria theosis (divinizzazione), per aiutarci a raggiungere dei corpi gloriosi e immortali.

Da ciò che precede, si vede una netta somiglianza tra il progetto transumanistico e il mormonismo. In primis il tempo presente è tempo di un rapido avanzamento scientifico; è immanente una trasformazione della natura umana e del mondo; sia noi che il mondo trascenderemo le nostre attuali limitazioni; la fede nella trasfigurazione e nell’immortalità umana equivale alla nozione di singolarità sostenuta dal Transumanesimo.^[27] Alcuni mormoni vedono le divergenze tra le due visioni. Il corpo umano, per il mormonismo, è stato creato a immagine di Dio. Dio è materia. Ogni tipo di miglioramento che miri a rendere il corpo superfluo separa da Dio in quanto possiede un corpo; annulla la sua proposta salvifica; ogni “transfer” dei dati informatici su un substrato biologico diverso da quello del corpo diminuisce il carattere di quel che è trasferito visto che le nostre memorie e la nostra intelligenza sono già da sempre tutt’uno con il nostro corpo.^[28]

“Il taoismo è conosciuto in occidente soprattutto per il suo simbolo […] e per i due principi yin e yang a cui esso rinvia e che furono dedotti dall’osservazione della luce e dell’ombra intese come due qualità opposte e complementari.”^[29] Riguardo al nostro argomento, “i taoisti sono anche consapevoli che la raggiunta immortalità del Transumanesimo, ottenuta con un semplice transfer dei dati del cervello su un supporto meno incline al disfacimento, metterebbe in discussione molte delle loro convinzioni e delle loro pratiche: se la maggior parte delle persone fosse in grado di raggiungere in maniera così semplice e automatica un’esistenza virtuale, non ci sarebbe alcun bisogno di ritirarsi dalla società per vivere a stretto contatto con la natura e di adeguarsi alle sue leggi; i rituali di purificazione, gli esorcismi e i vari ritrovati alchemici diventerebbero del tutto superflui, perché nessuno ne avrebbe più bisogno; le precise ordinate cosmologiche che separano gli universi abitati dagli immortali dal mondo di coloro che ancora sperano di raggiungerli sarebbero ridotte a pura insignificanza (visto il venir meno di esserci immortali…)”.^[30]

Possiamo descrivere lo shintoismo come una spiritualità autoctona del Giappone che affonda le sue radici in un’antichità senza tempo, ma che tuttora rappresenta il sostrato della religiosità popolare giapponese.^[31] In rapporto con il progetto del Transumanesimo, gli shintoisti si distaccano da esso per due ragioni. Una persona shintoista è formata e plasmata dalla stessa energia e forza divina che ha generato il mondo e tutto ciò che esso contiene. Perciò non sentirebbe il bisogno di diventare altro da sé o desiderare di durare in eterno. La morte non pone fine all’esistenza, ma introduce l’essere umano nella sfera degli antenati, ritenuti viventi e parte integrante del gruppo familiare. Qui si colloca la religione tradizionale africana. Trasferire, inoltre, la propria identità personale su un altro supporto meccanico produrrebbe una specie di schizofrenia nel (s)oggetto ospitante. Quando i robot decideranno di ribellarsi e di rivoltarsi contro l’uomo, si potranno offrire delle preghiere per rappacificare i loro spiriti; ma se ciò non producesse alcun risultato positivo? Se i robot violenti continuassero la loro opera di distruzione, incuranti delle invocazioni di coloro che sono oggetto della loro violenza?^[32]

Nell’ebraismo e nel cristianesimo, la più radicale critica al Transumanesimo, oltre all’idea di felicità, è data dalla diversa visione escatologica della storia e del destino dell’umanità. Per il Transumanesimo il futuro ideale è immanente e imminente tramite una rottura radicale e irreversibile con il presente grazie all’evento della Singolarità tecnologica; per la fede giudeo cristiana il futuro è promessa, attesa, inconoscibile perché non prodotto dall’uomo, è il non-ancora da viversi nella speranza, nell’umiltà, nella modestia e nella fede che porta a riconoscersi una creatura scelta, amata da Dio con un amore eterno (Geremia 31,3).^[33]

5. Conclusione e considerazioni personali

In quest’ultimo argomento di questo elaborato voglio fare una analisi personale e critica.   La prima riguarda la percentuale di persone escluse perché impossibilitate ad entrare nel nuovo paradigma come protagonisti attivi. La seconda analisi riguarda l’apporto della evangelizzazione in questa nuova frontiera.  

Secondo Ansa, solo un terzo (2,7 miliardi di persone) della popolazione mondiale non è connesso a Internet. Solo il 63% delle donne utilizza Internet nel 2022, rispetto al 69% degli uomini. Il divario di genere è ancora più preoccupante nei paesi a basso reddito, dove il 21% delle donne è connesso, rispetto al 32% degli uomini, una cifra che non è migliorata dal 2019.^[34] In Africa il 67% della popolazione è offline (circa 738 milioni di persone). Ma, “in percentuale – chiarisce il report – l’Africa è la regione meno connessa, con il 67% della popolazione offline (dati 2020), seguita dall’Asia-Pacifico (39%) e dagli Stati arabi (34%).^[35]

Questi dati svelano una disuguaglianza nell’accesso alle nuove tecnologie. Questo vuol dire che circa tre miliardi di persone nel mondo non hanno accesso alla cura di qualità, all’interconnessione digitale, all’informazione, allo sviluppo nell’ambito del trasporto, della sicurezza nazionale. Una buona fetta dell’umanità è assente a questo appuntamento. Due altri aspetti rilevanti riguardano il mondo del lavoro e il campo scolastico. Molti stanno perdendo lavoro in questa competizione aziendale con i robot. Inoltre, le intelligenze artificiali non aiutano sempre a sviluppare la capacità intellettuale degli studenti che richiede fatica della ricerca e lungo tempo di elaborazione mentale. Oggi addirittura esistono – pare - alcune tesi scritte dall’intelligenza artificiale.

Dal punto di vista religioso, mi risuonano in mente le splendide parole di papa Benedetto XVI nell’enciclica Deus Caritas est, n.28b.: “L'amore — caritas — sarà sempre necessario, anche nella società più giusta. Non c'è nessun ordinamento statale giusto che possa rendere superfluo il servizio dell'amore. Chi vuole sbarazzarsi dell'amore si dispone a sbarazzarsi dell'uomo in quanto uomo. Ci sarà sempre sofferenza che necessita di consolazione e di aiuto. Sempre ci sarà solitudine. Sempre ci saranno anche situazioni di necessità materiale nelle quali è indispensabile un aiuto nella linea di un concreto amore per il prossimo.”

In questa frontiera nuova – il mondo digitale e le nuove tecnologie –, il missionario del vangelo ha il compito di metterci l’amore di Dio che dà Felicità. Le intelligenze artificiali fanno parte dei componenti del sesto continente, il mondo digitale. Questo continente va abitato anche da Dio perché ci sia giustizia per tutti, uguaglianza, pari opportunità per tutti, centralità della persona umana. La Felicità, la gioia, la Pace non ce le danno le tecnologie ma Cristo Risorto. L’homo sapiens ha custodito il desiderio di Dio. L’homo technologicus anela a Dio con le sue domande di senso e di significato. Cambiano i paradigmi, cambiano le antropologie: il desiderio di Felicità rimane. Il desiderio di Dio è stabile nel crescere. Qualunque sia l’evoluzione/scoperta possibile deve essere al centro la centralità/primato/dignità dell'uomo relazionale di fronte a tutte le invenzioni perché quello che troviamo in un algoritmo/software, robot è frutto dell’intelligenza umana.

Emmanuel Adili Mwassa sx

^[1] Paolo Benanti, Le macchine sapienti. Intelligenze artificiali e decisioni umane, Marietti, Bologna 2022, pp.40-41. Luciano Floridi è professore di filosofia e di etica dell’informazione all’università di Oxford Internet Institute.

^[2] Paolo Benanti, Le macchine sapienti, p.11.

^[3] https://www.europarl.europa.eu/news/it/headlines/society/20200827STO85804/che-cos-e-l-intelligenza-artificiale-e-come-viene-usata

^[4] Cfr. Paolo Benanti, Le macchine sapienti, pp.93-94.

^[5] Cfr. Paolo Benanti, Le macchine sapienti, p.11.

^[6] Cfr. Paolo Benanti, Le macchine sapienti, p.17.

^[7] Cfr. https://www.intelligence-artificielle-school.com/alternance-et-entreprises/les-secteurs-impactes/

^[8] Cfr. Paolo Benanti, Le macchine sapienti, p.16.

^[9] Cfr. Paolo Benanti, Le macchine sapienti, p.16.

^[10]Cfr. Paolo Benanti, Le macchine sapienti, p.26.

^[11] Paolo Benanti, Le macchine sapienti, p.22.

^[12] Paolo Benanti, Le macchine sapienti, p.28.

^[13] Paolo Benanti, Le macchine sapienti, p.43.

^[14] Cfr. Paolo Benanti, Le macchine sapienti, pp.49-50.

^[15] Paolo Benanti, Le macchine sapienti, pp.113-114.

^[16] Cfr. Paolo Benanti, Le macchine sapienti, pp.117-122.

^[17] TIZIANO TOSOLINI, A nostra immagine, p. 11.

^[18]Cfr. TIZIANO TOSOLINI, A nostra immagine, pp.11-12.

^[19] Cfr. TIZIANO TOSOLINI, A nostra immagine, p.9.

^[20] TIZIANO TOSOLINI, A nostra immagine, p.12.

^[21] Cfr. TIZIANO TOSOLINI, A nostra immagine, pp.18-19.

^[22] TIZIANO TOSOLINI, A nostra immagine, p.20.

^[23] TIZIANO TOSOLINI, A nostra immagine, p.21.

^[24] Cfr. TIZIANO TOSOLINI, A nostra immagine, pp.24-25.

^[25] Cfr. TIZIANO TOSOLINI, A nostra immagine, p.24.

^[26] TIZIANO TOSOLINI, A nostra immagine, p.28.

^[27] Cfr. TIZIANO TOSOLINI, A nostra immagine, pp. 32-33.

^[28] Cfr. TIZIANO TOSOLINI, A nostra immagine, pp.33-34.

^[29] TIZIANO TOSOLINI, A nostra immagine, p.43.

^[30] TIZIANO TOSOLINI, A nostra immagine, pp.48-49.

^[31] Cfr. TIZIANO TOSOLINI, A nostra immagine, p. 50.

^[32] Cfr. TIZIANO TOSOLINI, A nostra immagine, pp.57-59.

^[33] Cfr. TIZIANO TOSOLINI, A nostra immagine, pp.67-69.

^[34]Cfr. Un terzo della popolazione mondiale non è connessa a Internet - Internet e Social - ANSA

Le disuguaglianze nell'accesso a Internet | Il Bo Live UniPD

Utenti Internet in tutto il mondo per regione 2022 | Statista

Numero di utenti Internet per paese 2023 | Statista

^[35] Cfr. Divario digitale: in Africa offline il 67% della popolazione - Nigrizia