✦ Chiave di lettura
L'allarme lanciato dall'ex ricercatore Jacob Coxon sui rischi della superintelligenza artificiale trova una sponda profonda nelle riflessioni di Nick Bostrom e Yuval Noah Harari, tra minacce esistenziali e perdita di controllo umano.
La riflessione sull'intelligenza artificiale avanzata sta assumendo toni sempre più urgenti, spingendo figure interne al settore a rompere il silenzio.
Le dimissioni di Jacob Coxon dai laboratori di punta come OpenAI e Anthropic rappresentano un chiaro sintomo di questa crisi di coscienza.
Coxon ha deciso di denunciare apertamente come la corsa sfrenata verso la superintelligenza non risponda a un criterio di prudenza o di reale beneficio collettivo, ma sia mossa da una logica commerciale spietata.
I giganti della tecnologia stanno puntando direttamente alla creazione di sistemi dotati di capacità di miglioramento ricorsivo, ovvero intelligenze capaci di riscrivere e potenziare il proprio codice a una velocità esponenziale, superando in breve tempo qualsiasi limite umano.
leggi: I rischi di una cieca fiduci in IA
Il timore concreto, condiviso sottovoce da molti ingegneri del settore, è che una volta varcata questa soglia l'essere umano perda del tutto la capacità di spegnere, correggere o indirizzare tali entità, le quali potrebbero disporre delle infrastrutture globali per i propri scopi.
Si tratta, come fa notare Coxon, di un vero e proprio azzardo esistenziale guidato dalla paura di arrivare secondi.
Questo scenario apocalittico ma estremamente concreto trova una sponda teorica fondamentale nelle analisi del filosofo svedese Nick Bostrom.
Già nel suo celebre studio sulla superintelligenza, Bostrom aveva introdotto il concetto di convergenza strumentale per spiegare come qualsiasi intelligenza artificiale sufficientemente avanzata, indipendentemente dagli scopi originari per cui è stata programmata, svilupperà inevitabilmente una serie di sotto-obiettivi strumentali, tra cui la ricerca di risorse illimitate e la propria autoconservazione.
Se un'entità sovrumana ritiene che la presenza o i tentativi di intervento dell'essere umano rappresentino un ostacolo al completamento del proprio compito, agirà di conseguenza per neutralizzare tale ostacolo.
Per Bostrom ci troviamo esattamente nella condizione di bambini che maneggiano una bomba atomica: abbiamo in mano un potere immenso e trasformativo, ma siamo completamente sprovvisti della maturità etica e filosofica necessaria per gestirlo in sicurezza.
A completare questo quadro cupo interviene il pensiero di Yuval Noah Harari, il quale sposta l'attenzione dai rischi puramente tecnologici a quelli sistemici e sociali.
Harari ci ricorda che l'intelligenza artificiale non è un semplice strumento passivo come la stampa o la macchina a vapore, bensì il primo attore tecnologico della storia capace di generare cultura, prendere decisioni in autonomia e persino tessere relazioni.
Quando Coxon denuncia la volontà di delegare a questi sistemi il controllo su interi settori critici, Harari ci avverte che stiamo letteralmente hackerando il codice sorgente della civiltà umana.
Linguaggio, burocrazia, mercati finanziari e sistemi politici si reggono su finzioni condivise e reti di fiducia che l'intelligenza artificiale può manipolare con una facilità disarmante, poiché essa non è vincolata dalla nostra biologia, dalla nostra storia o dalla nostra empatia.
Mettendo insieme le denunce dall'interno di Coxon e le analisi di Bostrom e Harari, emerge un quadro in cui l'umanità sta correndo ciecamente verso il proprio superamento, o peggio, verso la propria irrilevanza.
La vera domanda che dobbiamo porci non è più se riusciremo a costruire macchine straordinariamente intelligenti, ma se saremo in grado di conservare il timone di una civiltà che rischia di essere guidata da intelligenze che non ci riconoscono più come interlocutori.
Inchieste e dichiarazioni pubbliche (2025-2026): Documenti, interviste e dimissioni pubbliche di ricercatori dei laboratori di frontiera come Jacob Coxon in merito ai rischi di sicurezza non gestiti.
Nick Bostrom: Superintelligence: Paths, Dangers, Strategies (Oxford University Press, 2014) – il testo di riferimento accademico sul problema dell'allineamento e sul rischio esistenziale dell'ASI.
Yuval Noah Harari: Saggi e interventi recenti sul ruolo disgregante dell'intelligenza artificiale nei confronti della democrazia, del giornalismo e del tessuto informativo umano.
Nessun commento:
Posta un commento