Da Philippa Foot a Judith Jarvis Thomson : L’etica dell’intelligenza artificiale ci ricorda che alcune scelte non possono essere ridotte a un semplice calcolo
Quando nel 1967 la filosofa britannica Philippa Foot formulò quello che sarebbe diventato il celebre “dilemma del tram”, probabilmente non immaginava che, a distanza di decenni, il suo esperimento mentale sarebbe stato discusso dagli ingegneri che progettano sistemi di intelligenza artificiale. Eppure oggi quella domanda apparentemente teorica è diventata sorprendentemente concreta.
Immaginiamo un tram fuori controllo. Sul binario principale stanno lavorando cinque persone che non possono mettersi in salvo. È però possibile azionare uno scambio, deviando il tram su un secondo binario, dove si trova una sola persona. È moralmente giusto sacrificare una vita per salvarne cinque?
Anni dopo, la filosofa americana Judith Jarvis Thomson rese il problema ancora più complesso proponendo una variante altrettanto famosa. Invece di azionare uno scambio, una persona si trova sopra un ponte e potrebbe fermare il tram spingendo sui binari un uomo molto robusto. Anche in questo caso si salverebbero cinque vite, ma il gesto richiederebbe un’azione diretta contro un innocente.
Perché molti considerano accettabile il primo caso e profondamente sbagliato il secondo? È questa la domanda che continua a interrogare filosofi, giuristi, psicologi e, oggi, anche gli sviluppatori di sistemi intelligenti.
Dalla filosofia alle automobili autonome
Per molti anni il dilemma del tram è rimasto confinato nelle aule universitarie. L’arrivo dell’intelligenza artificiale ha però trasformato questo esperimento mentale in una questione tecnologica.
Un’automobile a guida autonoma potrebbe trovarsi, almeno teoricamente, davanti a situazioni nelle quali qualsiasi decisione comporta conseguenze drammatiche. Sterzare per evitare un pedone potrebbe mettere in pericolo i passeggeri; mantenere la traiettoria potrebbe invece colpire chi attraversa la strada.
Naturalmente situazioni così estreme sono rarissime e non rappresentano il funzionamento ordinario dei sistemi di guida autonoma. Tuttavia la domanda resta inevitabile: chi decide quale criterio morale dovrà seguire l’algoritmo?
Gli ingegneri possono programmare milioni di righe di codice, ma non esiste una formula matematica capace di trasformare automaticamente una scelta etica in un algoritmo universale.
La morale non è un’equazione
L’intelligenza artificiale eccelle nell’analizzare dati, individuare correlazioni e ottimizzare processi. Ma l’etica appartiene a una dimensione diversa. Una macchina può calcolare probabilità, stimare rischi, prevedere scenari. Ciò che non può fare è attribuire un significato umano al valore di una persona.
Il dilemma del tram mostra con straordinaria chiarezza che le decisioni morali non dipendono soltanto dal numero delle vite coinvolte. Entrano in gioco intenzioni, responsabilità, dignità della persona, libertà, proporzionalità delle azioni e persino la coscienza di chi decide. Sono elementi che nessun algoritmo può realmente “comprendere”. Può simularne gli effetti, ma non viverne il significato.
Il rischio del riduzionismo algoritmico
Uno dei pericoli dell’attuale dibattito sull’intelligenza artificiale consiste nel credere che ogni problema possa essere trasformato in un problema di ottimizzazione. Se una decisione produce il maggior beneficio statistico, allora sarebbe automaticamente quella giusta.
Ma la storia dell’etica insegna il contrario. La persona non può essere ridotta a una variabile numerica. Nessun essere umano possiede un valore “calcolabile”. La dignità non aumenta o diminuisce in base all’utilità sociale.
Questo rappresenta uno dei contributi più importanti della tradizione filosofica occidentale, successivamente approfondito anche dalla riflessione cristiana: ogni persona possiede un valore intrinseco che precede qualsiasi valutazione utilitaristica.
Una lezione ancora attuale
L’intelligenza artificiale ci costringe a tornare alle grandi domande della filosofia. Chi è responsabile di una decisione presa da una macchina? È sufficiente programmare regole oppure serve una cultura etica condivisa? Possiamo delegare completamente il giudizio morale ai sistemi intelligenti?
Domande che riguardano non soltanto le automobili autonome, ma anche la medicina, la giustizia, la finanza, la sicurezza pubblica e perfino gli algoritmi che ogni giorno selezionano le informazioni che leggiamo.
La persona umana rimane al centro
Le recenti riflessioni del Magistero della Chiesa sull’intelligenza artificiale insistono proprio su questo punto: la tecnologia rappresenta uno strumento straordinario, ma non può sostituire la responsabilità morale dell’essere umano. L’algoritmo può assistere le decisioni; non può però diventarne il fondamento etico.
In questo senso il dilemma del tram continua a parlare anche nel XXI secolo. Non tanto perché dobbiamo preparare le macchine a scegliere tra due tragedie, quanto perché ci ricorda una verità più profonda: ogni progresso tecnologico rende ancora più urgente la formazione della coscienza umana.
Una domanda che riguarda tutti
Forse il vero insegnamento di Philippa Foot e Judith Jarvis Thomson non consiste nell’indicare quale sia la risposta corretta. Il valore del loro esperimento mentale è un altro: ricordarci che esistono decisioni davanti alle quali nessuna soluzione è perfetta e nessun algoritmo può eliminare il peso della responsabilità.
Nell’epoca dell’intelligenza artificiale, il compito più importante non è costruire macchine sempre più intelligenti, ma persone sempre più capaci di discernere il bene. Perché la tecnologia può accelerare le nostre decisioni, ma solo una coscienza formata può renderle davvero umane.
Immagine elaborata con Intelligenza Artificiale.
Lascia una risposta
Devi essere connesso per inviare un commento.