La tecnologia non è mai soltanto uno strumento: incorpora valori, orienta comportamenti e contribuisce a plasmare la società in cui viviamo. Il filosofo Philip Brey invita a interrogarsi sulle responsabilità morali che accompagnano l'innovazione, dall'intelligenza artificiale agli algoritmi decisionali, sostenendo la necessità di integrare l'etica nella progettazione tecnologica. Ma come possiamo garantire che il progresso scientifico sia davvero al servizio dell'uomo? E quali principi dovrebbero guidare la costruzione del nostro futuro digitale?
La tecnologia non è mai soltanto uno strumento che l'uomo utilizza per raggiungere i propri obiettivi.
Ogni innovazione modifica, in misura maggiore o minore, il modo in cui viviamo, lavoriamo, comunichiamo e interpretiamo la realtà.
Una piattaforma digitale può avvicinare persone lontane, ma anche favorire nuove forme di controllo; un algoritmo può rendere più efficiente una decisione, ma rischia di riprodurre pregiudizi e discriminazioni; l'intelligenza artificiale può ampliare le nostre capacità cognitive, ma solleva interrogativi sulla responsabilità, sull'autonomia e sul futuro del lavoro.
È proprio all'interno di queste contraddizioni che si colloca il pensiero di Philip Brey, filosofo della tecnologia che ha dedicato una parte importante della propria ricerca alle implicazioni etiche e sociali dell'innovazione.
Professore di filosofia della tecnologia ed etica all'Università di Twente, nei Paesi Bassi, Brey ha studiato i problemi morali associati alle tecnologie informatiche, alla realtà virtuale, ai sistemi intelligenti e alle tecnologie emergenti.
Il suo contributo si distingue per un'idea fondamentale: non dobbiamo limitarci a domandarci se una tecnologia funzioni correttamente, ma dobbiamo anche chiederci quali valori incorpori, quali conseguenze produca e quale tipo di società contribuisca a costruire.
La tecnologia non è neutrale
Uno dei punti centrali della riflessione di Brey riguarda la presunta neutralità della tecnologia. Siamo abituati a considerare gli strumenti tecnici come mezzi privi di intenzioni morali, il cui valore dipenderebbe esclusivamente dall'uso che ne facciamo.
Un martello, per esempio, può servire a costruire una casa oppure a danneggiare qualcosa. Da questa osservazione ricaviamo facilmente l'idea che sia sempre l'essere umano a determinare il significato morale di uno strumento.
Brey invita a considerare una questione più complessa: le tecnologie possono incorporare valori e orientare i comportamenti attraverso le proprie caratteristiche progettuali.
Un sistema informatico non si limita a eseguire operazioni, ma stabilisce possibilità, impone vincoli e distribuisce opportunità.
Il modo in cui viene progettato può favorire alcuni interessi e penalizzarne altri, anche quando chi lo utilizza non ne è consapevole.
Pensiamo ai social network. Le loro interfacce possono essere progettate per incoraggiare la permanenza sulla piattaforma, stimolare le interazioni e aumentare il tempo trascorso davanti allo schermo.
Le notifiche, i suggerimenti automatici e gli algoritmi di raccomandazione contribuiscono a orientare l'attenzione degli utenti.
Non si tratta semplicemente di strumenti passivi: le loro caratteristiche influenzano concretamente le abitudini, le scelte e le relazioni sociali.
Questo non significa che la tecnologia determini completamente il comportamento umano. Gli individui conservano capacità di scelta e possono utilizzare gli strumenti in modi differenti. Significa, piuttosto, che la libertà personale si esercita anche all'interno di ambienti progettati da altri. Comprendere questi ambienti diventa quindi una condizione indispensabile per valutarne la legittimità morale.
leggi: perchè la tecnologia non può essere neutrale
L'etica informatica e i valori nascosti nei sistemi
Nel saggio Disclosive Computer Ethics, pubblicato nel 2000, Brey propone un approccio all'etica informatica orientato a individuare e valutare i valori e le norme incorporati nei sistemi digitali.
Il termine disclosive richiama l'idea di rendere visibile ciò che normalmente rimane nascosto: le scelte progettuali, le regole operative e le conseguenze sociali che possono avere un significato morale.
Un programma può sembrare tecnicamente efficiente e, nello stesso tempo, produrre risultati ingiusti.
Un algoritmo impiegato nella selezione del personale, per esempio, potrebbe penalizzare determinati candidati se fosse addestrato su dati storici che riflettono discriminazioni precedenti.
Il problema non sarebbe necessariamente un errore di calcolo, ma la presenza di distorsioni nei dati, nei criteri di valutazione o negli obiettivi assegnati al sistema.
Per Brey, l'analisi etica deve quindi andare oltre l'esame superficiale delle applicazioni.
Occorre comprendere come funziona la tecnologia, quali valori orientano il suo sviluppo e quali conseguenze derivano dal suo impiego.
Questo lavoro richiede una collaborazione tra filosofi, informatici, ingegneri e studiosi delle scienze sociali.
Tra i valori rilevanti per questa analisi figurano la giustizia, l'autonomia, la democrazia e la riservatezza.
Sono principi che assumono un'importanza crescente in una società nella quale informazioni personali, decisioni economiche e relazioni sociali dipendono sempre più da infrastrutture digitali.
La questione, dunque, non consiste soltanto nel costruire sistemi capaci di funzionare bene. Consiste nel comprendere che cosa significhi farli funzionare bene per gli esseri umani.
Anticipare i problemi prima che diventino irreversibili
Un altro contributo importante di Brey riguarda l'etica anticipatoria delle tecnologie emergenti, sviluppata nel suo lavoro Anticipatory Ethics for Emerging Technologies, pubblicato nel 2012.
Tradizionalmente, molte valutazioni morali intervengono quando una tecnologia è già stata introdotta e i suoi effetti sono diventati visibili. Si osservano i danni, si individuano le responsabilità e si cercano soluzioni.
Questo approccio, tuttavia, può risultare insufficiente quando l'innovazione produce conseguenze difficili da correggere.
Brey propone di anticipare la riflessione etica alle fasi di ricerca, progettazione e sviluppo.
Prima che una tecnologia venga ampiamente diffusa, dovremmo cercare di immaginare i suoi possibili impieghi, i benefici attesi, i rischi e gli effetti indiretti sulla società.
L'obiettivo non è prevedere con certezza il futuro, impresa spesso impossibile, ma costruire scenari plausibili che consentano di riconoscere tempestivamente i problemi.
La valutazione deve tenere conto dell'incertezza, delle diverse possibilità di sviluppo e degli interessi dei soggetti coinvolti.
L'intelligenza artificiale rappresenta un esempio particolarmente significativo.
Prima di affidare a sistemi automatici decisioni relative alla salute, al credito, all'istruzione o all'accesso al lavoro, è opportuno domandarsi quali errori possano verificarsi, chi ne sopporterà le conseguenze e quali strumenti di controllo saranno disponibili.
Una volta che un sistema diventa parte integrante di un'organizzazione, correggerlo può essere costoso e complesso.
Inoltre, le persone possono sviluppare una dipendenza pratica dalle sue funzioni.
Intervenire prima della diffusione su larga scala permette, almeno in linea di principio, di integrare considerazioni etiche nelle scelte tecniche anziché limitarsi a riparare i danni.
Dalla filosofia che interpreta alla filosofia che costruisce
Brey ha sostenuto anche la necessità di passare da una filosofia della tecnologia prevalentemente riflessiva a un approccio costruttivo.
La prima cerca soprattutto di comprendere il significato della tecnologia e le sue conseguenze; il secondo mira a partecipare attivamente ai processi attraverso i quali le tecnologie vengono progettate, regolate e utilizzate.
Questa prospettiva modifica il ruolo del filosofo. Non basta descrivere criticamente una trasformazione sociale dopo che si è verificata. Occorre contribuire, insieme agli altri soggetti coinvolti, a individuare alternative e a orientare le decisioni.
L'etica, in questo senso, non dovrebbe essere considerata un controllo esterno che interviene soltanto per vietare determinate applicazioni.
Può diventare una componente del processo creativo, capace di suggerire soluzioni migliori già durante la progettazione.
Un sistema di riconoscimento facciale, per esempio, dovrebbe essere valutato non soltanto sulla base della sua precisione, ma anche considerando la tutela della privacy, il rischio di identificazioni errate e le condizioni nelle quali il suo impiego può essere giustificato.
Analogamente, un assistente basato sull'intelligenza artificiale dovrebbe essere progettato tenendo conto della trasparenza delle sue risposte, della protezione dei dati e della possibilità per l'utente di contestarne le conclusioni.
Questa impostazione non garantisce automaticamente risultati eticamente corretti. Richiede procedure verificabili, partecipazione degli interessati e una chiara attribuzione delle responsabilità.
Tuttavia, permette di riconoscere che le questioni morali non sono estranee all'ingegneria: fanno parte delle decisioni che determinano la forma concreta degli strumenti.
leggi: IA ha bisogno dei filosofi
La tecnologia e la qualità della società
Nel suo saggio The Strategic Role of Technology in a Good Society, pubblicato nel 2018, Brey affronta una domanda più ampia: quale ruolo dovrebbe svolgere la tecnologia nella costruzione di una buona società?
La questione supera la semplice valutazione dell'efficienza. Una tecnologia può aumentare la produttività senza migliorare necessariamente la qualità della vita; può generare ricchezza senza distribuirne equamente i benefici; può semplificare le comunicazioni senza favorire relazioni umane più profonde.
Per valutare il contributo dell'innovazione al benessere collettivo occorre quindi chiarire che cosa intendiamo per società buona.
Quali condizioni rendono una comunità desiderabile?
Quanto contano la libertà individuale, la giustizia, la partecipazione democratica, la sicurezza e le possibilità di realizzazione personale?
Brey propone di collegare la valutazione delle tecnologie a criteri più generali relativi alla qualità della società, analizzando come differenti progetti e modalità d'uso possano promuovere o ostacolare tali obiettivi.
Consideriamo l'automazione del lavoro. L'introduzione di sistemi intelligenti può ridurre attività ripetitive e pericolose, migliorare la produttività e liberare tempo per compiti più creativi.
Ma può anche provocare la perdita di occupazione, accentuare le disuguaglianze o concentrare il potere economico nelle mani di pochi soggetti.
Non è sufficiente, pertanto, domandarsi se l'automazione sia tecnicamente possibile.
Dobbiamo chiederci come distribuire i suoi benefici, quali tutele garantire ai lavoratori e come accompagnare le trasformazioni professionali.
La stessa innovazione può contribuire a costruire società differenti, a seconda delle decisioni economiche, politiche e progettuali che ne accompagnano l'introduzione.
L'intelligenza artificiale come prova della nostra responsabilità
Le riflessioni di Brey acquistano particolare attualità con la diffusione dell'intelligenza artificiale generativa.
Questi sistemi possono produrre testi, immagini e analisi, assistere la ricerca scientifica e ampliare l'accesso alle conoscenze.
Nello stesso tempo, possono generare informazioni false, riprodurre pregiudizi, esporre dati personali e rendere meno chiara la distinzione tra contenuti autentici e artificiali.
Il problema filosofico non è stabilire se l'intelligenza artificiale sia buona o cattiva in assoluto.
È comprendere quali obiettivi ne orientino lo sviluppo, quali interessi vengano privilegiati e quali forme di responsabilità debbano accompagnarne l'impiego.
La responsabilità non può essere attribuita esclusivamente all'utente finale. Coinvolge anche chi progetta i sistemi, chi decide di adottarli, chi li commercializza e chi stabilisce le regole del loro utilizzo.
Quando una decisione automatizzata produce un danno, è necessario poter ricostruire il processo che l'ha generata e individuare chi abbia il dovere di risponderne.
L'approccio di Brey suggerisce quindi di integrare l'etica nella progettazione, valutare preventivamente i rischi e considerare gli effetti sociali dell'innovazione.
La responsabilità tecnologica non coincide con il rifiuto del progresso, ma con la capacità di orientarlo verso obiettivi umanamente giustificabili.
Conclusione: progettare la tecnologia significa progettare il futuro
Il pensiero di Philip Brey ci invita a superare una concezione ingenua del progresso, secondo la quale ogni nuova possibilità tecnica rappresenterebbe automaticamente un miglioramento.
La tecnologia amplia le capacità umane, ma non stabilisce da sola quali fini meritino di essere perseguiti.
Gli strumenti possono rendere possibili nuove forme di libertà, ma anche rafforzare il controllo; possono migliorare la vita collettiva, ma anche distribuire in modo diseguale opportunità e rischi.
La domanda decisiva non è dunque soltanto che cosa possiamo costruire, ma che cosa dovremmo costruire e per quale società.
È una domanda che coinvolge ingegneri, filosofi, imprese, istituzioni e cittadini, perché le conseguenze dell'innovazione raramente rimangono confinate a chi l'ha progettata.
L'insegnamento più importante che possiamo ricavare dalla riflessione di Brey è che l'etica non deve arrivare dopo la tecnologia, quando i suoi effetti sono ormai difficili da modificare.
Deve accompagnarla fin dall'inizio, rendendo visibili i valori incorporati nei sistemi e anticipando i possibili rischi.
Il futuro tecnologico non è una destinazione inevitabile verso la quale siamo trascinati dall'innovazione. È anche il risultato delle scelte che compiamo nel presente.
Per questo, progettare una tecnologia significa assumersi una responsabilità che va oltre il laboratorio e il mercato: significa partecipare alla costruzione del mondo nel quale vivremo.
Continua a leggere articoli sul tema
Consulta l'atlante della tecnologia e IA
Fonti e approfondimenti
- Philip Brey, “Disclosive Computer Ethics: The Exposure and Evaluation of Embedded Normativity in Computer Technology” (2000).Un testo fondamentale per comprendere come i valori morali possano essere incorporati nei sistemi informatici.
- Philip Brey, “Anticipatory Ethics for Emerging Technologies” (2012).Approfondisce la necessità di valutare preventivamente i problemi etici associati alle tecnologie emergenti.
- Philip Brey, “Philosophy of Technology after the Empirical Turn” (2010).Esamina gli sviluppi della filosofia della tecnologia e le prospettive per il suo ulteriore sviluppo.
- Philip Brey, “The Strategic Role of Technology in a Good Society” (2018).Analizza come valutare il contributo della tecnologia alla qualità della società.
- Philip Brey e B. Dainow, “Ethics by Design for Artificial Intelligence” (2024).Approfondisce l'integrazione dei principi etici nella progettazione dell'intelligenza artificiale.
- Profilo accademico di Philip Brey, 4TU Centre for Ethics and Technology.Per consultare le sue aree di ricerca e la bibliografia completa.
Nota: l'articolo è una sintesi divulgativa del pensiero di Brey, non una citazione letterale delle sue opere. Le interpretazioni e gli esempi applicativi sono stati sviluppati per collegare i suoi contributi ai problemi contemporanei dell'intelligenza artificiale e della responsabilità tecnologica.
Nessun commento:
Posta un commento