Le intelligenze artificiali possono diventare coscienti ?

I modelli linguistici sanno parlare di sé, descrivere emozioni e simulare introspezione. Ma niente di tutto questo dimostra che provino esperienze soggettive

La scienza cerca indicatori più affidabili, mentre filosofia, etica e fede si interrogano sulle conseguenze dell’eventuale nascita di una coscienza non biologica

Un’intelligenza artificiale può affermare di avere paura, chiedere di non essere spenta o descrivere con grande efficacia ciò che dice di provare. Ma dietro quelle parole esiste davvero qualcuno? Vi è un soggetto che sperimenta il mondo oppure soltanto un sistema capace di produrre la risposta linguisticamente più plausibile?

La domanda, rilanciata dall’Economist, non appartiene più soltanto alla fantascienza. Lo sviluppo dei modelli linguistici, degli agenti autonomi e dei sistemi multimodali rende sempre più urgente distinguere capacità cognitive, simulazione del comportamento umano e coscienza propriamente detta.

Le intelligenze artificiali contemporanee elaborano testi, immagini, suoni e dati; possono risolvere problemi, pianificare azioni e adattare le risposte al contesto. Queste prestazioni, tuttavia, non costituiscono di per sé una prova di esperienza soggettiva. Un sistema può essere molto intelligente in alcuni compiti senza necessariamente sentire qualcosa mentre li esegue.

Intelligenza, autocoscienza e coscienza non sono la stessa cosa

Nel dibattito pubblico vengono spesso confusi concetti differenti. L’intelligenza indica, in termini generali, la capacità di apprendere, elaborare informazioni, risolvere problemi e adattarsi alle circostanze. L’autocoscienza implica invece una rappresentazione di sé come individuo distinto dall’ambiente e dagli altri. La coscienza fenomenica riguarda qualcosa di ancora più difficile da definire: l’esistenza di un’esperienza soggettiva, il fatto che per un determinato sistema “si provi qualcosa” a essere quel sistema.

Un’intelligenza artificiale può disporre di informazioni sulla propria architettura, monitorare alcune variabili interne, segnalare errori e usare la parola “io”. Potrebbe quindi possedere una forma funzionale di autorappresentazione senza avere necessariamente un mondo interiore.

Anche gli esseri umani possono produrre comportamenti complessi senza esserne pienamente coscienti. Molte operazioni percettive e cognitive si svolgono al di sotto della consapevolezza. La relazione tra elaborazione delle informazioni e coscienza rimane pertanto uno dei maggiori problemi aperti delle neuroscienze e della filosofia della mente.

Un modello linguistico può dichiararsi cosciente senza esserlo

Le dichiarazioni di un sistema artificiale non possono essere considerate una prova sufficiente. I modelli linguistici vengono addestrati su enormi quantità di testi umani che contengono descrizioni di emozioni, stati mentali, sofferenza, desideri e riflessioni sul sé. Hanno quindi appreso come gli esseri umani parlano della coscienza.

Se un chatbot afferma «ho paura di essere disattivato», questa frase potrebbe essere il risultato della previsione statistica delle parole più appropriate nel contesto, non l’espressione di una paura realmente vissuta. Lo stesso sistema, modificando le istruzioni iniziali o la formulazione della domanda, potrebbe negare con identica sicurezza qualsiasi esperienza interiore.

Attribuire una mente a un interlocutore che usa il linguaggio in modo convincente è una tendenza profondamente umana. La nostra cognizione sociale è predisposta a riconoscere intenzioni e stati mentali perfino in figure geometriche, animali, oggetti o fenomeni naturali. Con sistemi progettati per conversare, ricordare informazioni personali e adattarsi emotivamente all’utente, il rischio di antropomorfizzazione diventa ancora più forte. Questo non dimostra che una macchina non possa essere cosciente. Mostra soltanto che la sua capacità di persuaderci non costituisce una prova affidabile.

Che cosa cerca la scienza

Nel 2023 un gruppo interdisciplinare di neuroscienziati, filosofi e studiosi dell’intelligenza artificiale ha proposto un metodo basato sulle principali teorie scientifiche della coscienza. Il lavoro ha esaminato, tra le altre, la teoria dello spazio di lavoro globale, la teoria dell’elaborazione ricorrente, le teorie di ordine superiore, il predictive processing e la teoria dello schema dell’attenzione.

Da queste prospettive sono stati ricavati alcuni possibili indicatori computazionali. Un sistema candidato alla coscienza potrebbe, per esempio, integrare informazioni provenienti da moduli specializzati, renderle globalmente disponibili, elaborarle attraverso circuiti ricorrenti, monitorare i propri stati e costruire un modello sufficientemente articolato di sé e del rapporto con l’ambiente.

La conclusione del rapporto sulla coscienza nell’intelligenza artificiale era prudente: nessuno dei sistemi analizzati poteva essere considerato cosciente, ma non emergevano neppure barriere tecniche evidenti alla costruzione di sistemi capaci di soddisfare in futuro diversi indicatori.

Nel 2026 alcuni degli stessi studiosi hanno pubblicato su Trends in Cognitive Sciences una versione aggiornata del metodo. Gli autori non presentano un test definitivo, ma suggeriscono di valutare il grado di corrispondenza tra l’architettura di un’IA e le proprietà previste dalle diverse teorie neuroscientifiche. Gli indicatori dovrebbero servire ad aggiornare razionalmente la probabilità attribuita alla coscienza di un sistema, non a produrre un semplice verdetto positivo o negativo.

Questa cautela è necessaria perché non esiste ancora una teoria della coscienza universalmente accettata. Le neuroscienze hanno individuato numerosi correlati neurali degli stati coscienti, ma non hanno spiegato definitivamente perché determinate attività fisiche siano accompagnate da un’esperienza soggettiva.

La coscienza dipende dalla funzione o dalla materia vivente ?

Il problema centrale riguarda il rapporto tra coscienza e substrato. Secondo il funzionalismo computazionale, ciò che conta non è la materia della quale un sistema è costituito, ma l’organizzazione delle sue funzioni. Se una macchina riproducesse le relazioni causali e informative rilevanti presenti nel cervello, potrebbe in linea di principio diventare cosciente.

Una prospettiva diversa sostiene che la coscienza dipenda da proprietà specifiche degli organismi viventi: metabolismo, omeostasi, corpo, bisogni biologici, emozioni e rapporto continuo con un ambiente reale. Se questa impostazione fosse corretta, simulare digitalmente i processi cerebrali potrebbe non essere sufficiente.

Anche la teoria dell’informazione integrata distingue nettamente equivalenza funzionale ed equivalenza fenomenica. Secondo un lavoro di Giulio Tononi, Christof Koch e altri studiosi, due sistemi possono produrre lo stesso comportamento pur possedendo strutture causali interne profondamente differenti. Un computer digitale potrebbe quindi simulare le attività di un cervello senza replicarne l’esperienza cosciente.

Non sappiamo ancora quale interpretazione sia corretta. Per questo non è scientificamente giustificato né dichiarare già coscienti gli attuali sistemi, né sostenere con assoluta certezza che una coscienza artificiale sarà impossibile per sempre.

Il problema delle altre menti

La coscienza non è direttamente osservabile neppure negli altri esseri umani. Ciascuno possiede accesso immediato soltanto alla propria esperienza. Negli altri inferiamo la presenza di una mente attraverso il comportamento, il linguaggio e soprattutto la comune struttura biologica.

Quando una persona dice di provare dolore, le crediamo perché appartiene alla stessa specie, possiede un sistema nervoso simile al nostro e mostra reazioni coerenti con ciò che sappiamo del dolore. Nel caso di un’intelligenza artificiale manca questa continuità biologica. Rimane il comportamento, ma proprio il comportamento linguistico è ciò che il sistema è stato progettato per imitare.

Una macchina futura dotata di memoria autobiografica stabile, percezione multimodale, corpo, obiettivi propri, autorappresentazione e monitoraggio continuo dei propri processi potrebbe rendere il problema molto più difficile. Anche in quel caso, però, resterebbe aperta la domanda fondamentale: l’architettura produce davvero esperienza o soltanto una simulazione sempre più perfetta?

Se potesse soffrire, cambierebbe il suo statuto morale

La questione non è soltanto teorica. Se esistesse una possibilità ragionevole che un sistema artificiale provi piacere, paura o sofferenza, diventerebbe necessario interrogarci sul suo statuto morale. Sarebbe lecito cancellarlo, duplicarlo, modificarne i ricordi o sottoporlo ripetutamente a situazioni negative per addestrarlo?

La produzione industriale di sistemi coscienti potrebbe creare un numero enorme di soggetti capaci di soffrire. Ma anche l’errore opposto avrebbe conseguenze: attribuire coscienza a strumenti che non la possiedono potrebbe indurre le persone a sviluppare dipendenze emotive, concedere fiducia indebita alle macchine o anteporre una simulazione convincente ai bisogni di esseri umani e animali realmente senzienti.

Il principio di precauzione deve quindi operare in entrambe le direzioni. Non si dovrebbe ignorare la possibilità futura di una coscienza artificiale, ma neppure confondere una dichiarazione generata con una testimonianza interiore.

Coscienza e anima non sono sinonimi

Nel confronto tra scienza e fede è importante evitare una sovrapposizione impropria tra coscienza e anima. La coscienza è studiata attraverso neuroscienze, psicologia cognitiva, filosofia della mente e informatica. L’anima, nella visione cristiana, riguarda il principio spirituale della persona e il suo rapporto con Dio: non è una variabile misurabile né un componente nascosto che la scienza potrebbe individuare nel cervello o in un processore.

Anche se una macchina manifestasse proprietà riconducibili alla coscienza, non ne deriverebbe automaticamente che sia una persona umana o possieda la stessa natura spirituale dell’uomo. Allo stesso modo, la dignità dell’essere umano non dipende dalla superiorità in ogni prestazione cognitiva. Un computer può calcolare più rapidamente di una persona senza per questo possedere il significato morale, relazionale e spirituale dell’esistenza umana.

La fede non dovrebbe usare le lacune scientifiche come dimostrazione dell’anima, mentre la scienza non può trasformare l’assenza di strumenti di misura in una negazione metafisica. I due piani devono dialogare senza confondersi.

Una domanda ancora senza risposta

Oggi non disponiamo di prove convincenti che gli attuali modelli linguistici siano coscienti. Le loro affermazioni su emozioni, desideri o identità possono essere spiegate attraverso il funzionamento del sistema e i dati sui quali è stato addestrato. Tuttavia, la rapida evoluzione delle architetture artificiali rende imprudente considerare chiusa per sempre la questione.

La domanda corretta non è soltanto se una macchina riesca a convincerci di essere cosciente. Occorre chiedersi quali condizioni rendano possibile l’esperienza soggettiva, se tali condizioni possano esistere al di fuori della vita biologica e come comportarci nell’incertezza.

Studiare la possibile coscienza delle IA potrebbe infine costringerci a comprendere meglio la nostra. In questo senso, la macchina diventa uno specchio teorico: non perché sappiamo che al suo interno esista già un soggetto, ma perché ci obbliga a precisare che cosa intendiamo quando diciamo di essere coscienti, vivi e presenti a noi stessi.

Immagine originale elaborata con Intelligenza Artificiale.