Il Principio di Precauzione, pur avendo radici nel diritto ambientale, trova la sua più profonda formulazione filosofica nel pensiero di Hans Jonas (1903–1993).
Nel suo saggio capolavoro del 1979, Il principio responsabilità.
Un'etica per la
civiltà tecnologica, Jonas ha gettato le basi concettuali che oggi
guidano l'Unione Europea nella regolamentazione delle tecnologie di frontiera,
in primis l'Intelligenza Artificiale attraverso l'AI Act.
1. Il Principio
di Precauzione nel pensiero di Hans Jonas
Jonas parte da una constatazione radicale: la tecnologia moderna ha alterato la natura stessa dell'agire umano.
Le etiche tradizionali (come quella kantiana o cristiana) erano pensate per
azioni a corto raggio, i cui effetti erano immediati, prevedibili e
circoscritti nello spazio e nel tempo.
La macro-tecnologia contemporanea possiede invece un potere cumulativo e globale, capace di generare effetti a lunghissimo termine e, nei casi più estremi, irreversibili.
Di
fronte a questo scenario, Jonas introduce tre pilastri filosofici:
A.
L'imperativo categorico della civiltà tecnologica
Rielaborando Kant, Jonas formula un
nuovo imperativo per l'era tecnologica:
"Agisci in modo che le conseguenze
della tua azione siano compatibili con la permanenza di un'autentica vita umana
sulla Terra".
In altre parole, non abbiamo il diritto
di scommettere l'esistenza o l'essenza delle generazioni future in nome del
progresso o del profitto presente.
-
leggi: Hans Jonas e la tecnologia: il progresso ha bisogno di responsabilità
B.
L'euristica della paura
Poiché le conseguenze della tecnologia avanzata sono spesso imprevedibili, Jonas sostiene che, nel dubbio, dobbiamo dare più ascolto alla prognosi peggiore (malum) rispetto a quella migliore (bonum).
Questa non è una codardia
paralizzante, ma uno strumento euristico (di scoperta): è la paura del danno estremo che ci rivela quali sono i valori
fondamentali da proteggere.
C. La
priorità del timore sulla speranza
Se gli esiti di una tecnologia presentano anche una minima probabilità di essere catastrofici o di alterare irreversibilmente la dignità umana, lo sviluppo di quella specifica applicazione deve essere fermato o rigorosamente limitato.
La scommessa sul
"tutto andrà bene" è eticamente inaccettabile quando la posta in
gioco è l'umanità stessa.
2. Come
il principio influenza l'approccio legislativo europeo
L'Unione Europea ha interiorizzato il
pensiero di Jonas prima di qualunque altra macro-regione, inserendo il
Principio di Precauzione nei suoi trattati istitutivi (Art. 191 del Trattato
sul Funzionamento dell'UE) e utilizzandolo come vera e propria stella polare
per il mercato unico digitale.
Mentre l'approccio americano
(pragmatico/utilitarista) tende a intervenire solo ex-post — ovvero dopo che un danno si è
manifestato concretamente sul mercato — l'Europa adotta una logica ex-ante: interviene prima che il rischio si
materializzi, proprio in virtù dell'imprevedibilità degli effetti a lungo
termine.
3.
L'impronta di Jonas nell'EU AI Act
L'AI Act è la
traduzione giuridica più pura dell'euristica della paura e della priorità del
timore sulla speranza descritte da Jonas. Questa influenza si manifesta
chiaramente in tre aspetti strutturali della legge:
1. La
categoria dei "Rischi Inaccettabili" (Il divieto assoluto)
L'AI Act proibisce categoricamente
sistemi di IA che violano la dignità umana in modo sistemico (es. la
classificazione sociale o i sistemi di polizia predittiva basati su tratti
psicologici). Qui l'Europa applica l'imperativo di Jonas: anche se questi sistemi
potessero ottimizzare la sicurezza pubblica (argomento utilitaristico), il
rischio di derive distopiche e irreversibili per i diritti individuali impone
un veto assoluto.
2. Gli
obblighi ex-ante per i sistemi ad "Alto Rischio"
I sistemi di IA utilizzati in settori
critici (sanità, infrastrutture, giustizia, gestione del lavoro) non possono
essere liberamente immessi sul mercato. Gli sviluppatori devono superare severe
valutazioni di conformità che dimostrino:
·
La robustezza tecnica e la
cybersicurezza del modello.
·
La tracciabilità e la qualità dei dati
di addestramento per evitare bias.
·
La presenza di una supervisione umana costante (human-in-the-loop).
Questo impianto normativo accetta il
presupposto jonasiano secondo cui, non potendo prevedere con certezza come
agirà un modello complesso di Deep Learning in ogni scenario, è necessario
ingabbiarlo preventivamente in protocolli di sicurezza rigidissimi.
leggi: L'ontologia dell'operatività: l'intelligenza artificiale come agente privo di emotività
3. La
regolamentazione dei Modelli di IA per scopi generali (GPAI)
Nei successivi aggiornamenti dell'AI Act dedicati ai modelli di base (come i Large Language Models), l'UE ha introdotto regole stringenti per i modelli con "rischio sistemico".
Quando la potenza di calcolo di un modello supera determinate soglie, i legislatori temono che l'impatto sociale ed economico possa sfuggire al controllo umano.
La
richiesta di audit indipendenti e di continui test di vulnerabilità risponde
esattamente alla necessità di mitigare scenari futuri potenzialmente
catastrofici.
Conclusione
Se Hans Jonas fosse vivo, vedrebbe nell'AI Act il primo tentativo geopolitico su larga scala di applicare la sua "etica della responsabilità". L'Europa ha scelto di non essere un faro di pura deregolamentazione economica, preferendo il ruolo di custode dei confini dell'umano.
Il Principio di Precauzione, applicato all'IA, ci ricorda che la libertà di innovare non può mai sovrascrivere il dovere di preservare una società libera ed equa per chi verrà dopo di noi.
Potrebbero interessarti temi puri fiolosofici?
- Henri Bergson e la durata: perché il tempo
che viviamo è diverso da quello dell'orologio
- Ci accorgiamo della vita solo quando rischiamo di perderla
- Chi era Max Stirner? La metafora della
fortezza per comprendere la sua filosofia
- Il segreto della trasformazione interiore (Rudolf Steiner)
- Relazioni umane: comprendere sé stessi attraverso gli altri
"La riflessione è più ricca quando incontra altre riflessioni."
Nessun commento:
Posta un commento