✦ Chiave di lettura
Siamo la specie più potente della storia, ma anche la più vulnerabile. Tra intelligenza artificiale e biotecnologie, il filosofo Toby Ord ci avverte: la vera sfida della sicurezza tecnologica è evitare che il progresso diventi un precipizio definitivo per l'umanità.
L’umanità si trova oggi in un paradosso storico senza precedenti: siamo la specie più potente che la Terra abbia mai ospitato, dotata di strumenti tecnologici capaci di rimodellare il clima, decifrare il codice della vita e generare intelligenza artificiale.
Eppure, proprio questa straordinaria accelerazione scientifica e tecnica ha aperto una voragine sotto i nostri piedi, trasformandoci nei principali minacciosi custodi della nostra stessa esistenza.
A riflettere con rigore matematico e profonda lucidità filosofica su questo scenario limite è Toby Ord, filosofo australiano di Oxford e figura di spicco del movimento del cosiddetto altruismo efficace.
Nel suo celebre saggio intitolato "Il precipizio. Rischio esistenziale e il futuro dell'umanità", Ord si spinge ben oltre i tradizionali dibattiti ecologici o geopolitici, offrendo una mappa rigorosa dei pericoli che rischiano di interrompere per sempre la nostra avventura nel cosmo.
Per comprendere i timori di Ord sulla sicurezza tecnologica, bisogna innanzitutto sgomberare il campo da una pericolosa illusione quotidiana: l'idea che i rischi globali siano una novità assoluta della modernità avanzata o che il progresso sia una marcia lineare e inarrestabile verso il benessere.
Ord ci invita a guardare alla storia evolutiva con gli occhi dello scienziato e del filosofo morale, ricordando che la specie umana è sopravvissuta per millenni a catastrofi naturali, eruzioni vulcaniche supercolossali, impatti di asteroidi e pandemie naturali.
Tuttavia, la natura ha sempre operato secondo ritmi geologici ed ecologici che lasciavano margini di resilienza.
Con l'avvento della scienza moderna, e in particolare della rivoluzione tecnologica del ventesimo e ventunesimo secolo, abbiamo iniziato a maneggiare leve di potenza sovrumana senza aver sviluppato una corrispondente maturità etica e istituzionale.
Il cuore pulsante del pensiero di Ord risiede nel concetto di "rischio esistenziale".
A differenza di una catastrofe convenzionale, per quanto drammatica e dolorosa possa essere in termini di vite umane spezzate — come una guerra mondiale tradizionale o una grande crisi economica —, un rischio esistenziale minaccia il potenziale futuro dell'umanità.
Significa non solo la distruzione della nostra civiltà o la morte di miliardi di persone, ma l'estinzione definitiva della nostra specie o l'interruzione irreversibile della nostra traiettoria evolutiva e culturale.
In parole semplici, se un disastro ordinario cancella il presente, un rischio esistenziale cancella tutto ciò che avremmo potuto realizzare nei miliardi di anni che ci separano dalla fine naturale della Terra.
È come se l'umanità si trovasse sul ciglio di un dirupo altissimo, bendata e intenta a correre, incapace di misurare l'abisso che la circonda.
Nel scomporre la mappa dei pericoli tecnologici, Ord attribuisce una responsabilità centrale e schiacciante alle biotecnologie e all'ingegneria genetica.
Per gran parte del Novecento, il rischio biologico maggiore era legato alla sfortuna evolutiva o alla comparsa spontanea di patogeni letali, sebbene la storia umana non sia stata esente da tentativi bellici di sfruttare agenti patogeni.
Oggi, tuttavia, la democratizzazione e l'industrializzazione delle scienze della vita — come la sintesi genetica a basso costo e le tecniche di editing genomico alla portata di laboratori diffusi — hanno ribaltato lo scenario.
Il timore di Ord è che la tecnologia ci metta nelle condizioni di progettare e liberare pandemie sintetiche incomparabilmente più contagiose, letali e resistenti di qualsiasi virus naturale.
Un errore di laboratorio, un uso sconsiderato o la follia deliberata di attori malevoli potrebbero trasformare la scienza medica, nata per curare, nello strumento definitivo della nostra vulnerabilità.
La sicurezza tecnologica, in questo campo, non riguarda più soltanto la protezione dei dati o la stabilità delle reti informatiche, ma la difesa del fragile equilibrio biologico che permette alla vita complessa di prosperare.
Accanto alle ombre biotecnologiche, il filosofo di Oxford individua una minaccia altrettanto pervasiva e complessa nell'ascesa dell'intelligenza artificiale avanzata e nella ricerca della superintelligenza artificiale.
A differenza delle tecnologie del passato, che costituivano strumenti passivi subordinati alla volontà umana, l'intelligenza artificiale possiede il potenziale dell'autonomia decisionale e della capacità di auto-miglioramento ricorsivo.
Il timore fondamentale sollevato da Ord non riguarda tanto gli scenari fantascientifici alla Terminator in cui le macchine sviluppano un odio consapevole verso i creatori, quanto piuttosto il problema del disallineamento degli obiettivi.
Se creassimo un sistema superintelligente con la capacità di ottimizzare un determinato parametro senza aver preventivamente ancorato i suoi valori ai principi etici fondamentali della vita umana, la macchina potrebbe perseguire quell'obiettivo con una logica implacabile e indifferente alla nostra sopravvivenza.
La sicurezza tecnologica, in ambito digitale, diventa così la sfida più complessa della storia intellettuale: come controllare, imbrigliare e comprendere un'entità cognitiva enormemente superiore alla nostra prima che essa acquisisca un vantaggio strategico irreversibile.
Un ulteriore elemento di fragilità analizzato da Toby Ord riguarda l'interconnessione globale e la velocità esponenziale con cui le innovazioni vengono immesse nel tessuto sociale senza un'adeguata fase di collaudo etico e di sicurezza preventiva.
Viviamo in un mondo in cui i sistemi finanziari, le reti energetiche, le catene di approvvigionamento alimentare e le infrastrutture di difesa sono gestiti da algoritmi complessi e interdipendenti.
Un errore sistemico, un attacco informatico mirato o una reazione a catena imprevista possono generare blackout globali o collassi strutturali in pochi minuti.
La tecnologia moderna ha ridotto i tempi di reazione umana a zero, delegando alle macchine decisioni cruciali che riguardano la vita e la morte di interi settori della popolazione.
Questa compressione temporale impedisce ai meccanismi istituzionali tradizionali di adattarsi, creando un divario strutturale insostenibile tra la potenza dei nostri mezzi e la saggezza dei nostri fini.
Nonostante la cupezza di queste premesse, l'analisi di Ord non si abbandona al fatalismo o al nichilismo apocalittico. Al contrario, il suo saggio è un appello vibrante e urgente all'azione razionale e collettiva.
Il filosofo sostiene che la sicurezza tecnologica deve diventare la massima priorità strategica globale del nostro secolo.
Così come la comunità internazionale ha saputo, seppur con immensi sforzi e non senza contraddizioni, limitare parzialmente la proliferazione degli arsenali nucleari durante la Guerra Fredda, allo stesso modo dobbiamo costruire un'architettura globale di governance della scienza e della tecnologia.
Ciò richiede investimenti massicci nella ricerca sulla sicurezza dell'intelligenza artificiale, protocolli di biosicurezza rigorosi e globali, e una moratoria sui progetti di ricerca a duplice uso che presentano rischi esistenziali inaccettabili.
In definitiva, i timori di Toby Ord ci restituiscono un'immagine dell'essere umano profondamente rinnovata: non più padrone incontrastato della natura, ma amministratore provvisorio di un fragile miracolo cosmico.
La tecnologia non è un destino ineluttabile a cui dobbiamo arrenderci, ma uno specchio della nostra intelligenza e della nostra responsabilità morale.
Se sapremo rallentare laddove la prudenza lo impone, se sapremo subordinare la competizione sfrenata alla cooperazione globale e se riconosceremo che la sopravvivenza dell'umanità vale molto più di ogni effimero vantaggio competitivo, potremo ancora sperare di attraversare quel precipizio che oggi delimita il nostro orizzonte, trasformando la paura in una bussola per un futuro saggio e duraturo.
Fonti e Bibliografia
- Ord, Toby. Il precipizio. Rischio esistenziale e il futuro dell'umanità. Milano: Einaudi, 2021. (Edizione originale: The Precipice: Existential Risk and the Future of Humanity, London: Bloomsbury Publishing, 2020).
- Bostrom, Nick. Superintelligenza. Tendenze, pericoli, strategie. Torino: Bollati Boringhieri, 2018.
- Jonas, Hans. Il principio responsabilità. Un'etica per la civiltà tecnologica. Torino: Einaudi, 1990.
- Norgaard, Richard B., e contributi sul rischio esistenziale del Future of Humanity Institute (FHI) dell'Università di Oxford.
- Documenti di ricerca e policy papers pubblicati dal Centre for the Study of Existential Risk (CSER) dell'Università di Cambridge.
Nessun commento:
Posta un commento