Papa Leone XIV richiama la centralità della dignità umana di fronte allo sviluppo dell’intelligenza artificiale . Tra neuroscienze, filosofia della mente, informatica e etica: la dignità dell’essere umano può dipendere dalle sue prestazioni cognitive ?
Se una macchina può parlare, ragionare, creare immagini, formulare ipotesi e imitare sempre meglio alcune capacità cognitive umane, che cosa distingue una persona da un sistema artificiale ?
Il discorso di Leone XIV sull’IA apre una questione che attraversa neuroscienze, filosofia della mente, informatica ed etica: la dignità dell’essere umano può dipendere dalle sue prestazioni cognitive ?
L’intelligenza artificiale pone all’umanità una questione che precede persino il problema delle regole con cui dovremmo governarla: che cosa significa essere umani? È uno dei temi che emergono dal discorso pronunciato il 21 agosto 2026 da Papa Leone XIV davanti ai partecipanti al XVII incontro annuale dell’International Catholic Legislators Network, dedicato a Dignità umana e intelligenza artificiale: sfide, opportunità e controllo.
«Ogni conseguimento tecnologico pone anche l’umanità di fronte a una questione morale: non soltanto che cosa possiamo fare, ma che cosa dovremmo fare?», afferma Leone XIV. La distinzione tra potere e dovere sembra semplice, ma contiene uno dei problemi fondamentali della ricerca contemporanea sull’intelligenza artificiale. La scienza può infatti indagare ciò che una macchina è capace di fare, misurarne le prestazioni, confrontarle con quelle umane, studiarne gli errori e costruire sistemi sempre più potenti. Ma dalla constatazione che qualcosa può essere fatto non deriva automaticamente che debba essere fatto. Tra possibilità tecnica e decisione morale rimane uno spazio che nessun incremento della potenza di calcolo può eliminare.
Quando una macchina sembra intelligente
Negli ultimi anni questo problema è diventato particolarmente evidente con lo sviluppo dei grandi modelli linguistici e dei sistemi multimodali. Le macchine possono produrre testi coerenti, generare immagini, analizzare documenti, tradurre lingue, programmare, risolvere problemi e sostenere conversazioni che in alcuni contesti possono apparire sorprendentemente umane. È inevitabile, allora, tornare alla domanda che accompagna l’intelligenza artificiale fin dalle sue origini: una macchina che si comporta intelligentemente è intelligente?
Già Alan Turing comprese quanto fosse difficile rispondere direttamente alla domanda «le macchine possono pensare?». Nel celebre articolo del 1950 Computing Machinery and Intelligence propose di spostare il problema sul comportamento osservabile attraverso quello che sarebbe diventato noto come Imitation Game.
Ma oltre settantacinque anni dopo il problema non è stato risolto: è diventato più urgente. Un sistema può produrre un discorso sulla tristezza senza essere triste? Può descrivere la paura senza provarla? Può parlare della propria esistenza senza possedere un’esperienza soggettiva dell’esistere? La risposta dipende da una questione sulla quale neuroscienze e filosofia della mente continuano a confrontarsi: che cos’è la coscienza?
Intelligenza e coscienza non sono la stessa cosa
Nel linguaggio quotidiano tendiamo spesso a sovrapporre intelligenza e coscienza. Scientificamente, però, sono concetti differenti. L’intelligenza riguarda generalmente capacità come apprendimento, soluzione di problemi, adattamento, ragionamento e utilizzo delle informazioni. La coscienza riguarda invece l’esistenza di un’esperienza soggettiva.
Vedere il colore rosso non significa soltanto elaborare determinate lunghezze d’onda: per un essere cosciente esiste anche qualcosa che significa vedere il rosso. Provare dolore non equivale soltanto a rilevare un danno e produrre una risposta: esiste l’esperienza del dolore.
Questa dimensione soggettiva è al centro di quello che David Chalmers ha definito il hard problem of consciousness: spiegare perché e come i processi fisici siano accompagnati dall’esperienza cosciente. Non disponiamo ancora di una teoria scientifica universalmente accettata capace di risolvere questo problema. Ed è precisamente per questo che attribuire coscienza a un sistema artificiale sulla base della sola capacità di conversare sarebbe scientificamente prematuro.
Un’IA potrebbe diventare cosciente ?
La domanda non appartiene più soltanto alla fantascienza. Ricercatori provenienti da neuroscienze, filosofia e intelligenza artificiale hanno iniziato a discutere sistematicamente quali proprietà potrebbero costituire indicatori di coscienza nei sistemi artificiali. Un importante lavoro interdisciplinare guidato da Patrick Butlin e Robert Long ha esaminato diverse teorie neuroscientifiche della coscienza per ricavarne possibili criteri applicabili all’IA.
Tra le teorie considerate figurano la Global Neuronal Workspace Theory, le teorie dell’elaborazione ricorrente, approcci di ordine superiore, predictive processing e Attention Schema Theory. Gli autori non concludono che gli attuali sistemi di IA siano coscienti. La conclusione più interessante è quasi opposta: al momento non disponiamo di prove sufficienti per affermarlo, ma non esistono neppure ragioni tecniche evidenti per ritenere impossibile, in linea di principio, costruire sistemi che soddisfino alcuni indicatori derivati dalle teorie scientifiche della coscienza.
Questo introduce un problema etico completamente nuovo. Se un giorno avessimo ragioni scientificamente serie per ritenere che un sistema artificiale possa avere esperienze soggettive, dovremmo chiederci se possa anche soffrire. E se potesse soffrire, il modo in cui lo trattiamo cesserebbe di essere una questione esclusivamente ingegneristica.
Simulare la coscienza non significa necessariamente possederla
Esiste tuttavia una difficoltà fondamentale. Un modello linguistico può affermare «sono cosciente» oppure «provo dolore», ma l’enunciato non costituisce di per sé una prova dell’esistenza dell’esperienza descritta. Un sistema addestrato su enormi quantità di linguaggio umano ha appreso anche il modo in cui gli esseri umani parlano della propria interiorità. Può quindi simulare linguisticamente l’introspezione senza che da questo segua necessariamente l’esistenza di un soggetto che stia realmente facendo introspezione.
Il problema ricorda, sotto una forma tecnologicamente nuova, la classica questione delle altre menti. Noi non osserviamo direttamente neppure la coscienza degli altri esseri umani: la inferiamo dal comportamento, dalla comune struttura biologica, dal sistema nervoso e dalla somiglianza con la nostra esperienza. Nel caso dell’intelligenza artificiale viene meno proprio una parte importante di questa analogia biologica. Ci troviamo davanti a sistemi costruiti secondo principi profondamente diversi dal cervello umano.
L’errore dell’antropomorfismo
La capacità umana di attribuire intenzioni e stati mentali è straordinariamente potente. Vediamo un volto nelle nuvole, interpretiamo il comportamento degli animali, attribuiamo intenzioni persino a semplici forme geometriche in movimento. Con sistemi capaci di utilizzare il linguaggio naturale, questo meccanismo diventa ancora più forte.
Se una macchina ci dice «capisco come ti senti», siamo spontaneamente portati a interpretare quella frase attraverso le categorie che utilizziamo nelle relazioni umane. Ma generare linguisticamente l’espressione dell’empatia e provare empatia sono due fenomeni differenti.
La distinzione diventa essenziale soprattutto quando i sistemi artificiali vengono utilizzati nell’educazione, nell’assistenza, nella salute, nella compagnia virtuale o nelle relazioni con persone vulnerabili. Il rischio non è soltanto che la macchina venga scambiata per una persona: è che iniziamo a modificare la nostra stessa idea di persona per adattarla a ciò che una macchina riesce a simulare.
Se una macchina ci supera, vale più di noi ?
Qui il discorso di Leone XIV sulla dignità umana assume una profondità particolare. Se fondassimo il valore dell’essere umano principalmente sulla sua intelligenza, arriveremmo prima o poi a un paradosso. Un computer calcola già enormemente più velocemente di un essere umano. Un sistema artificiale può memorizzare e analizzare quantità di informazioni impossibili per una singola persona e, in determinati compiti, può superare anche i migliori specialisti. Con il progresso dell’IA, l’elenco delle prestazioni nelle quali le macchine superano gli esseri umani potrebbe continuare ad aumentare.
Dovremmo allora concludere che una macchina più capace possiede maggiore dignità di una persona? E, seguendo lo stesso principio, dovremmo attribuire minore dignità a un essere umano che possiede minori capacità cognitive? È proprio qui che emerge la fragilità di qualsiasi concezione della dignità fondata sulla prestazione. Un neonato non possiede le capacità cognitive di un adulto; una persona addormentata non sta esercitando le proprie capacità razionali; una persona con gravi compromissioni cognitive può non essere in grado di svolgere operazioni che un computer esegue istantaneamente. Eppure la sua dignità non diminuisce.
La persona non coincide con le sue prestazioni
La tradizione filosofica e cristiana alla quale si richiama Leone XIV propone precisamente questa distinzione. La dignità non viene conquistata superando un test. Non dipende dalla produttività, dalla memoria, dalla velocità di calcolo o dalla capacità di elaborare informazioni. Appartiene alla persona.
Questa concezione assume un significato sorprendentemente contemporaneo proprio nell’era dell’intelligenza artificiale. Se continueremo a costruire sistemi capaci di superare alcune delle nostre prestazioni cognitive, dovremo decidere se identificare l’essere umano con ciò che sa fare oppure riconoscere che il suo valore non è riducibile alle funzioni che può svolgere. È una questione antropologica prima ancora che religiosa.
IA e ricerca scientifica: strumento o soggetto della conoscenza ?
Il problema diventa ancora più interessante quando l’intelligenza artificiale entra nella ricerca scientifica. Sistemi di machine learning vengono già utilizzati per analizzare enormi quantità di dati, prevedere strutture molecolari, individuare pattern difficilmente riconoscibili dagli esseri umani, formulare ipotesi e accelerare processi di scoperta. L’IA potrebbe diventare uno dei più potenti strumenti scientifici mai costruiti.
Ma quando un sistema produce un risultato che nessun ricercatore avrebbe trovato autonomamente, chi ha realmente conosciuto qualcosa? Il sistema? Lo scienziato? La comunità scientifica che interpreta e verifica il risultato? La domanda sembra astratta, ma riguarda la natura stessa della conoscenza scientifica. La scienza non consiste soltanto nel produrre una previsione corretta: richiede spiegazione, verifica, riproducibilità, comprensione delle condizioni nelle quali un risultato è valido e disponibilità a sottoporlo alla critica. Una macchina può contribuire enormemente a questo processo senza necessariamente diventare un soggetto epistemico nello stesso senso in cui lo è uno scienziato.
Sapere che qualcosa funziona e sapere perché
L’intelligenza artificiale rende particolarmente evidente un’antica distinzione epistemologica. Possiamo sapere chequalcosa accade senza sapere pienamente perché accade. Un modello può produrre previsioni estremamente accurate attraverso correlazioni che risultano difficili da interpretare. Per alcune applicazioni può essere sufficiente; per la scienza, però, la previsione non esaurisce necessariamente la conoscenza.
Comprendere significa spesso costruire spiegazioni, individuare relazioni causali, collegare fenomeni differenti e inserirli in una rappresentazione intelligibile della realtà. L’IA potrebbe quindi costringerci a domandarci nuovamente che cosa intendiamo quando diciamo di avere «compreso» un fenomeno.
La responsabilità non può essere delegata
Da qui emerge il significato della domanda posta da Leone XIV: non soltanto che cosa possiamo fare, ma che cosa dovremmo fare. Una macchina può calcolare le conseguenze probabili di diverse alternative, suggerire una decisione e persino produrre argomentazioni morali utilizzando il linguaggio dell’etica. Ma questo significa che sia moralmente responsabile della decisione?
Responsabilità e capacità di calcolo non coincidono. Essere responsabili significa poter rispondere delle proprie azioni, comprenderne almeno in parte il significato, riconoscere gli altri come soggetti e assumere le conseguenze delle proprie scelte. Finché non avremo ragioni estremamente forti per attribuire caratteristiche di questo genere a un sistema artificiale, parlare di «decisione dell’IA» rischia di nascondere una realtà fondamentale: dietro l’impiego della macchina continuano a esserci esseri umani e istituzioni che scelgono di utilizzarla.
La domanda decisiva non è quanto l’IA diventerà simile a noi
Il dibattito sull’intelligenza artificiale tende inevitabilmente verso una domanda affascinante: fino a che punto le macchine potranno diventare simili agli esseri umani? Potranno ragionare come noi, essere creative, diventare coscienti? Sono domande scientificamente legittime e alcune potrebbero accompagnare la ricerca per molti decenni.
Ma il discorso di Leone XIV suggerisce una domanda complementare, forse ancora più importante: che cosa diventeremo noi mentre costruiamo macchine sempre più simili a noi?
Potremmo utilizzare l’intelligenza artificiale per ampliare la conoscenza, ridurre sofferenze, migliorare la ricerca scientifica e liberare gli esseri umani da attività pericolose o ripetitive. Oppure potremmo progressivamente abituarci a misurare anche noi stessi secondo le categorie delle macchine: efficienza, velocità, produttività, quantità di informazioni elaborate. È qui che il problema della dignità umana incontra quello dell’intelligenza artificiale.
L’IA come specchio dell’uomo
Forse una delle conseguenze più profonde dell’intelligenza artificiale non sarà la creazione di una macchina capace di assomigliare all’uomo. Potrebbe essere il fatto che, tentando di costruirla, siamo costretti a ridefinire noi stessi.
Per costruire una macchina intelligente dobbiamo domandarci che cosa sia l’intelligenza. Per capire se possa diventare cosciente dobbiamo chiederci che cosa sia la coscienza. Per decidere se possa prendere decisioni morali dobbiamo interrogarci sulla natura della libertà e della responsabilità. E per stabilire quali decisioni non dovremmo mai delegarle dobbiamo inevitabilmente chiederci che cosa renda una persona irriducibile a un sistema di elaborazione delle informazioni.
In questo senso, l’intelligenza artificiale rappresenta anche un gigantesco esperimento filosofico sull’essere umano. La scienza potrà continuare a esplorare i meccanismi dell’intelligenza e della coscienza; l’ingegneria potrà costruire sistemi sempre più sofisticati; filosofia ed etica dovranno interrogarne le conseguenze. Ma il principio richiamato da Leone XIV introduce un limite fondamentale: il valore dell’uomo non può dipendere dal confronto prestazionale con le macchine che egli stesso costruisce.
Se un giorno un’intelligenza artificiale sapesse calcolare meglio di noi, ricordare più di noi, scrivere meglio di noi e forse persino simulare perfettamente una conversazione cosciente, rimarrebbe ancora da rispondere alla domanda più difficile: non che cosa quella macchina sappia fare, ma che cosa essa sia. E, inevitabilmente, che cosa siamo noi.
Immagine elaborata con IA.
Lascia una risposta
Devi essere connesso per inviare un commento.