Papa Francesco e algoretica

Quest’anno, durante il Vertice del G7 - l’incontro dei leader di alcune potenze mondiali- il papa è stato invitato per discutere di intelligenza artificiale e algoritmi. I due concetti vengono spesso usati insieme perché gli algoritmi sono la base dei sistemi di intelligenza artificiale (AI, dall'inglese Artificial Intelligence). Con il suo discorso, Papa Francesco ha dato occasione di riflettere sul rapporto tra tecnologia e umano, dicendo che «Parlare di tecnologia è parlare di cosa significhi essere umani» e ha nominato un concetto recentemente coniato: algoretica. Questo termine (algor-etica, composto di algoritmo ed etica), di cui sentiremo sempre più spesso parlare, è comparso per la prima volta nel libro Oracoli (2018), del frate francescano Paolo Benati e si definisce come la discussione etica sull'utilizzo di tecnologie basate su algoritmi. L’algoretica nasce come necessità da un mondo che è sempre più regolato attraverso algoritmi, come dice il papa riguardo l’AI: «il suo uso influenzerà sempre di più il nostro modo di vivere, le nostre relazioni sociali e nel futuro persino la maniera in cui concepiamo la nostra identità di esseri umani». La nostra società, ormai basata sull’utilizzo di algoritmi per moltissime operazioni, inizia a diventare ciò che viene chiamata algocrazia “dominio degli algoritmi”. Per questa ragione, è necessario interrogarsi sul corretto, responsabile e umano utilizzo di tecnologie che si basano su algoritmi, come l’intelligenza artificiale, che egli definisce «uno strumento affascinante e tremendo».

I rischi dell'AI

Le preoccupazioni che esprime il papa sono condivise anche all’esterno della Chiesta, poiché la discussione sull’etica dell’utilizzo dell’intelligenza artificiale è affrontata da parecchi anni anche dagli esperti e dai membri dell’Unione Europea. Ad esempio, nel maggio 2024 è stata approvata definitivamente l’Artificial Intelligence Act, la prima legge in assoluto in materia di AI. All’interno di questa legge si parla anche dei rischi di queste tecnologie, che includono i diritti fondamentali umani e la capacità di scelta umana. A riguardo, Papa Francesco fa un’interessante considerazione al G7, separando la scelta dalla decisione: la macchina «può produrre delle scelte algoritmiche», tuttavia «l ’essere umano, non solo sceglie, ma in cuor suo è capace di decidere». Quindi, il papa ci ricorda che «di fronte ai prodigi delle macchine, che sembrano saper scegliere in maniera indipendente, dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita». Con questo, il papa vuole ricordare che la tecnologia deve rimanere uno strumento che serve l’uomo, non decidere al posto suo, poiché la decisione appartiene agli umani.
La questione della scelta non è l’unico pericolo di cui discute Papa Francesco.

Nel suo discorso infatti, egli parla di come una tecnologia così sviluppata può produrre violenza se utilizzata nel modo sbagliato. E può farlo in più modi. «La tecnologia nasce per uno scopo e, nel suo impatto con la società umana, rappresenta sempre una forma di ordine nelle relazioni sociali e una disposizione di potere, che abilita qualcuno a compiere azioni e impedisce ad altri di compierne altre». L’AI rischia quindi di creare delle differenze di potere tra chi può accedervi e chi non può accedervi, oltre che basarsi sulla visione del mondo di chi l’ha creata. Un esempio lampante dell’utilizzo disumano di tali tecnologie è lo sviluppo di armi letali autonomi in conflitti armati, che possono riconoscere e seguire un bersaglio, colpendo senza possibilità di errore. «Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano» denuncia il papa, poiché queste armi allontanano dall’uomo la responsabilità dell’omicidio.

Anche se non tutti i rischi sono così gravi, ce ne sono alcuni comunque degni di interesse che riguardano ogni quotidianità. L’intelligenza artificiale funziona rielaborando informazioni trovate nel web e adattandole alla domanda fatta. Viene chiamato AI generativa lo strumento che permette di creare immagini o testi. Tuttavia questa funzione in realtà non genera nuovi contenuti, rielabora materiale già esistente. Il Papa, nel suo discorso afferma: «Più che “generativa”, essa è quindi “rafforzativa”». Rafforzativa nel senso che le informazioni che vengono proposte non sono selezionate in base alla qualità, ma in base alla quantità di fonti che citano la stessa informazione. La quantità dovrebbe garantire una determinata affidabilità, tuttavia il rischio è che le fake news vengano prese e proposte dall’AI, cosa che spesso accade. Oltretutto, l’AI è anche in grado di generare fake news, attraverso il deepfake: la produzione o modifica di foto o video che ritraggono persone reali in condizioni\azioni che non sono vere.  Questa funzione è pericolosa e mina alla dignità, sicurezza e privacy delle persone.
Infine, lo stesso processo “generativo” (o “rafforzativo”) è possibilmente nocivo nell’ambiente dell’educazione, perché l’utilizzo spropositato dell’intelligenza artificiale da parte degli studenti per scrivere testi mina la loro capacità di generare nuove informazioni. «L’educazione che dovrebbe fornire agli studenti la possibilità di una riflessione autentica rischia di ridursi a una ripetizione di nozioni» commenta Papa Francesco.

Perchè ci serve l'algoretica

Con questo discorso ricco di critiche, il papa ha sottolineato i rischi dell’AI non per opporsi al suo utilizzo, ma per ricordare che con lo sviluppo di tecnologie così avanzate è necessario soffermarsi sull’etica del come verranno usate e per quali fini. Per questo, egli ha firmato nel 2020 la Call for AI Ethics a Roma. Egli afferma che accanto allo sviluppo umano deve affiancarsi anche una buona politica, che non si ferma all’oggi, ma che intervenga per le basi di un futuro sicuro e migliore. Il messaggio più fondamentale è che l’uomo e la tecnologia sono profondamente connessi, per cui è importante trovare dei principi ed equilibri per mantenere l’uomo al centro e per rispettare la vita e i diritti di tutti. Se sviluppata attraverso questa riflessione, l’AI ha un potenziale incredibile per il mondo ed il bene comune.