Può una macchina distinguere il bene dal male? La riflessione di Colin Allen sulla “macchina morale” affronta una delle questioni più affascinanti dell’intelligenza artificiale: come progettare sistemi capaci di prendere decisioni autonome tenendo conto di valori, regole e conseguenze. Un viaggio tra filosofia, tecnologia ed etica che ci porta a una domanda ancora più profonda: se insegniamo alle macchine a decidere, quali valori stiamo affidando loro?
Immaginiamo un'automobile autonoma che percorre una strada di notte. Improvvisamente un pedone attraversa la carreggiata.
L'auto deve decidere in una frazione di secondo se frenare, sterzare, proseguire o compiere una manovra che potrebbe mettere in pericolo altre persone.
La questione sembra appartenere alla tecnologia, ma in realtà contiene un problema profondamente filosofico: chi decide che cosa è giusto fare quando una macchina deve scegliere tra conseguenze diverse per esseri umani?
Per Colin Allen, filosofo della scienza e della cognitive science, questa domanda non appartiene più soltanto alla fantascienza.
I sistemi informatici autonomi possono già prendere decisioni capaci di produrre conseguenze importanti per le persone.
Da questa constatazione nasce il problema della machine morality, cioè della possibilità di progettare sistemi artificiali capaci di prendere in considerazione criteri moralmente rilevanti.
Allen ha affrontato il tema soprattutto insieme a Wendell Wallach nel libro Moral Machines: Teaching Robots Right from Wrong, pubblicato da Oxford University Press nel 2008.
L'opera è diventata uno dei testi fondamentali nel dibattito sugli artificial moral agents, cioè gli agenti morali artificiali.
Che cos'è una macchina morale?
L'espressione "macchina morale" può facilmente generare un equivoco.
Non significa necessariamente costruire un robot capace di provare rimorso, compassione, senso di colpa o amore.
Non significa nemmeno creare una macchina dotata di una coscienza identica a quella umana.
Il problema è più concreto.
Una macchina morale è un sistema artificiale progettato affinché, nel prendere decisioni autonome, possa riconoscere gli aspetti moralmente rilevanti di una situazione e comportarsi in modo coerente con determinati criteri etici.
Questo punto è fondamentale.
Una macchina potrebbe, per esempio, essere programmata affinché non danneggi deliberatamente una persona, protegga soggetti vulnerabili oppure rispetti determinate regole.
In questo caso non è necessario stabilire che la macchina "comprenda" la moralità nello stesso senso in cui la comprende un essere umano.
Allen e Wallach introducono infatti una distinzione tra diversi livelli di comportamento morale artificiale.
Il loro modello considera soprattutto due dimensioni: l'autonomia del sistema e la sua sensibilità ai fatti moralmente rilevanti.
Dalla macchina obbediente alla macchina autonoma
Possiamo immaginare una scala.
Al livello più semplice troviamo una macchina che esegue semplicemente le istruzioni ricevute.
Un termostato, per esempio, può accendere o spegnere il riscaldamento. Se il sistema è stato progettato male, tuttavia, può produrre conseguenze indesiderate.
La macchina non possiede una propria valutazione morale: il significato etico della sua azione dipende interamente dagli esseri umani che l'hanno progettata e utilizzata.
Allen e Wallach chiamano questo livello operational morality.
Il problema cambia quando il sistema diventa più autonomo.
Pensiamo a un robot domestico che assiste una persona anziana.
Il robot potrebbe dover decidere se lasciare immediatamente la stanza, chiamare un familiare, avvisare un medico o continuare a svolgere una determinata attività.
Quanto più aumenta l'autonomia, tanto più diventa importante che il sistema sappia distinguere le situazioni nelle quali una decisione ha conseguenze morali.
È qui che compare la functional morality, o moralità funzionale.
La macchina non deve necessariamente possedere una coscienza morale paragonabile a quella umana, ma deve essere capace di valutare determinate situazioni e reagire in modo appropriato rispetto a criteri morali prestabiliti.
La differenza tra obbedire e ragionare
La questione diventa ancora più interessante quando consideriamo le regole.
Sarebbe possibile dire semplicemente a una macchina:
"Non fare del male agli esseri umani."
Ma che cosa significa esattamente "fare del male"?
E se per salvare una persona fosse necessario mettere in pericolo un'altra?
E se rispettare una regola producesse, in una particolare situazione, un risultato peggiore?
Questi problemi sono familiari alla filosofia morale.
La tradizione deontologica, associata soprattutto a Kant, tende a considerare fondamentali i doveri e le regole.
L'utilitarismo, invece, attribuisce grande importanza alle conseguenze delle azioni e alla massimizzazione del benessere.
Quando cerchiamo di trasformare queste teorie in un programma informatico, scopriamo rapidamente quanto sia difficile tradurre la filosofia in istruzioni.
Allen e Wallach analizzano proprio questo problema nel capitolo dedicato alla top-down morality.
Secondo gli autori, inserire direttamente in una macchina teorie morali complete presenta enormi difficoltà pratiche e computazionali.
Persino principi apparentemente semplici possono diventare estremamente complessi quando devono essere applicati a situazioni reali.
Le tre leggi di Asimov non bastano
La fantascienza aveva già immaginato il problema.
Isaac Asimov aveva formulato le celebri Tre Leggi della Robotica, secondo le quali un robot non dovrebbe danneggiare un essere umano e dovrebbe obbedire agli ordini, entro determinati limiti.
Le leggi di Asimov sono straordinarie dal punto di vista narrativo perché mostrano quanto rapidamente possano emergere contraddizioni quando si cerca di trasformare la morale in un insieme di regole.
La realtà è però ancora più complessa.
Una macchina autonoma non vive in un mondo composto da poche regole perfettamente definite.
Deve interpretare persone, situazioni, intenzioni, probabilità, rischi e conseguenze.
Il problema non consiste quindi soltanto nel fornire alla macchina un codice morale.
Occorre sviluppare un sistema capace di riconoscere il contesto nel quale quel codice deve essere applicato.
La moralità dall'alto e dal basso
Allen e Wallach individuano due grandi strategie.
La prima è quella top-down, dall'alto verso il basso.
In questo caso si parte da principi morali e si cerca di tradurli in procedure computazionali.
Si potrebbe partire, per esempio, dal principio di non arrecare danno oppure da una teoria consequenzialista.
La seconda strategia è quella bottom-up, dal basso verso l'alto.
Invece di fornire alla macchina tutte le regole fin dall'inizio, si cerca di sviluppare sistemi capaci di apprendere attraverso l'interazione con l'ambiente.
Questa seconda prospettiva ricorda, per certi aspetti, lo sviluppo morale umano.
Un bambino non riceve necessariamente un codice completo contenente tutte le possibili situazioni morali della vita.
Impara progressivamente attraverso l'esperienza, l'educazione, le relazioni sociali e le conseguenze delle proprie azioni.
Allen e Wallach prendono in considerazione anche la possibilità di combinare approcci top-down e bottom-up, proprio perché nessuna delle due strategie sembra risolvere da sola l'intero problema.
Una macchina può essere veramente morale?
Qui emerge la domanda filosofica più profonda.
Se una macchina evita di uccidere una persona perché è stata programmata per farlo, possiamo davvero dire che la macchina è morale?
Oppure è semplicemente una macchina che esegue correttamente un programma?
La distinzione è fondamentale.
Un essere umano che compie una buona azione può comprendere ciò che sta facendo, avere intenzioni, provare emozioni e assumersi responsabilità.
Una macchina potrebbe invece produrre lo stesso comportamento senza possedere nessuna di queste caratteristiche.
Allen e Wallach affrontano direttamente il problema chiedendosi se un robot possa essere considerato un vero agente morale.
La loro proposta è prudente: anziché pretendere subito una moralità pienamente umana, è possibile parlare di moralità funzionale, cioè di sistemi capaci di comportarsi secondo criteri morali senza attribuire loro necessariamente coscienza o autentica responsabilità morale.
Questa distinzione permette di evitare una falsa alternativa.
Non è necessario decidere subito se una macchina abbia un'anima, una coscienza o un senso morale.
La domanda più concreta è:
quanto deve essere capace una macchina di riconoscere e affrontare problemi morali prima che possiamo affidarle decisioni che riguardano la vita delle persone?
Il problema della responsabilità
La macchina morale introduce inevitabilmente anche il problema della responsabilità.
Se un sistema autonomo compie un'azione dannosa, chi è responsabile?
Il programmatore?
L'azienda che ha costruito il sistema?
La persona che lo ha utilizzato?
Il proprietario?
Oppure, in futuro, la macchina stessa?
La questione diventa particolarmente importante quando l'autonomia dei sistemi aumenta.
Già nel 2009 Allen e Wallach osservavano che sistemi informatici autonomi potevano influenzare concretamente la vita delle persone: dai sistemi di approvazione delle carte di credito ai robot di servizio, fino alle applicazioni militari. Il problema non era quindi puramente teorico.
leggi: tecnologia e responsabilità
Il "Moral Turing Test"
Un'altra idea interessante discussa da Allen riguarda il Moral Turing Test.
Il riferimento è naturalmente al famoso test di Alan Turing, concepito per interrogarsi sulla capacità di una macchina di manifestare un comportamento indistinguibile da quello umano in una conversazione.
Allen propone di chiedersi se qualcosa di analogo possa essere fatto con il comportamento morale.
Non si tratterebbe semplicemente di verificare se una macchina conosca le parole "bene" e "male", ma se sappia affrontare situazioni morali in maniera sufficientemente sofisticata.
Anche qui, tuttavia, emerge una difficoltà fondamentale: comportarsi moralmente non significa necessariamente essere moralmente consapevoli.
Una macchina potrebbe superare un test comportamentale senza possedere alcuna esperienza soggettiva della moralità.
Perché la macchina morale riguarda anche noi
La riflessione di Colin Allen ha una conseguenza importante.
Il problema della macchina morale non riguarda soltanto le macchine.
Riguarda soprattutto gli esseri umani che decidono quali valori inserire nelle macchine.
Se costruiamo un sistema capace di decidere autonomamente, dobbiamo stabilire quali obiettivi perseguirà, quali rischi potrà accettare, quali persone dovrà proteggere e quali principi dovrà rispettare.
In altre parole, programmare una macchina significa, in parte, trasformare determinate idee umane in procedure operative.
Ed è proprio qui che la filosofia torna indispensabile.
L'intelligenza artificiale può calcolare milioni di possibilità, riconoscere schemi, prevedere conseguenze e prendere decisioni in tempi estremamente rapidi.
Ma prima bisogna stabilire che cosa deve essere considerato un risultato desiderabile.
La tecnologia può aiutarci a realizzare un valore.
Non può decidere, da sola, quale valore dovremmo scegliere.
La vera sfida della macchina morale
La domanda "può una macchina diventare morale?" potrebbe quindi essere formulata diversamente:
possiamo costruire macchine capaci di agire in modo moralmente responsabile anche se non sono esseri umani?
Allen non offre una risposta semplicistica.
Il suo contributo consiste soprattutto nell'aver mostrato che tra una macchina completamente priva di sensibilità morale e un essere umano dotato di piena coscienza morale esiste uno spazio intermedio molto vasto.
È lo spazio della moralità funzionale.
In questo spazio possono collocarsi sistemi artificiali capaci di riconoscere situazioni moralmente significative, valutare alternative e modificare il proprio comportamento.
La questione diventerà sempre più importante con la diffusione dell'intelligenza artificiale autonoma.
Un futuro nel quale automobili, robot, sistemi sanitari, assistenti digitali e altri agenti artificiali prenderanno decisioni con conseguenze concrete per gli esseri umani non richiederà soltanto ingegneri più capaci.
Richiederà anche filosofi, psicologi, giuristi, scienziati cognitivi e cittadini capaci di discutere quali decisioni vogliamo affidare alle macchine e quali invece devono rimanere sotto il controllo umano.
Forse la lezione più importante di Colin Allen è proprio questa: costruire una macchina morale non significa semplicemente insegnare a un computer la differenza tra bene e male.
Significa prima di tutto costringere noi stessi a chiarire che cosa intendiamo per bene, che cosa consideriamo male e quali valori vogliamo trasformare in regole per il mondo delle macchine.
E questa, prima ancora che una sfida tecnologica, è una delle grandi domande filosofiche del nostro tempo.
Continua il viaggio tra le grandi menti
oppure
continua a leggere articoli sullo stesso tema
Bibliografia
- Allen, Colin; Wallach, Wendell, Moral Machines: Teaching Robots Right from Wrong, Oxford University Press, 2008. L'opera affronta sistematicamente il problema degli agenti morali artificiali, della moralità top-down e bottom-up, della moralità funzionale e del rapporto tra filosofia morale e progettazione tecnologica.
- Allen, Colin; Varner, Gary; Zinser, Jason, “Prolegomena to Any Future Artificial Moral Agent”, in Machine Ethics. Il contributo analizza i problemi teorici e computazionali della costruzione di agenti morali artificiali e discute anche l'ipotesi del Moral Turing Test.
- Danielson, Peter, “Can robots have a conscience?”, Nature, vol. 457, 2009, p. 540. Recensione e discussione critica di Moral Machines.
- Wallach, Wendell; Allen, Colin, Moral Machines: Teaching Robots Right from Wrong, Oxford University Press, 2008, ISBN 978-0-19-537404-9.
- Asimov, Isaac, I, Robot, Gnome Press, 1950. Opera fondamentale per comprendere l'origine letteraria delle riflessioni sulle regole morali applicate ai robot.
Nessun commento:
Posta un commento