La recente alleanza annunciata a Shanghai tra Cina, Russia, Cuba e altri Paesi orientata allo sviluppo di tecnologie di intelligenza artificiale non rappresenta soltanto un accordo economico o tecnologico.
Essa è il segnale di una trasformazione molto più profonda: la nascita di un nuovo ordine mondiale in cui il potere non si esercita soltanto attraverso il controllo dei territori, delle risorse o delle armi, ma mediante il controllo degli algoritmi.
È da prendere in seria considerazione che gli algoritmi non sono neutrali, ma possiedono una natura prescrittiva.
leggi: Perché la tecnologia non è mai neutrale
Essi stabiliscono ciò che è visibile, ciò che è rilevante, ciò che merita attenzione e persino il modo in cui le persone interpretano il mondo.
È proprio qui che il pensiero di Michel Foucault appare sorprendentemente attuale.
Dall'ordine disciplinare al governo degli algoritmi
Foucault dedicò gran parte della sua ricerca a comprendere come il potere cambi forma nel corso della storia.
Contrariamente alla concezione tradizionale, secondo cui il potere è concentrato nelle mani di un sovrano o di uno Stato, Foucault mostrò che esso è diffuso, invisibile e presente nelle istituzioni, nei linguaggi, nelle pratiche quotidiane e perfino nei modi di pensare.
Secondo il filosofo francese, il potere moderno non costringe principalmente con la violenza; esso orienta, organizza e produce comportamenti.
L'intelligenza artificiale sembra rappresentare una delle espressioni più sofisticate di questa intuizione.
Ogni algoritmo seleziona informazioni.
Ogni motore di ricerca decide quali risultati mostrare.
Ogni social network sceglie quali contenuti rendere virali.
Ogni sistema di raccomandazione influenza preferenze, consumi e opinioni.
Il potere non ordina esplicitamente.
Suggerisce.
Ed è proprio questa la sua forza.
Gli algoritmi come nuovi dispositivi disciplinari
Foucault utilizzava il termine dispositivo per indicare l'insieme di strumenti, pratiche e conoscenze capaci di orientare il comportamento collettivo.
La scuola.
L'ospedale.
La caserma.
La prigione.
Tutte queste istituzioni producono individui conformi a determinate regole.
Oggi possiamo domandarci se gli algoritmi non costituiscano un nuovo dispositivo disciplinare.
Quando un'applicazione decide quale percorso seguire, quale musica ascoltare, quale notizia leggere o quale video guardare, essa non impone un comportamento con la forza.
Lo rende semplicemente il più probabile.
Il potere algoritmico è estremamente efficace proprio perché si presenta come servizio.
La nuova Via della Seta digitale
La Cina sembra aver compreso con largo anticipo che esportare tecnologia significa esportare anche modelli culturali.
Così come l'antica Via della Seta trasportava merci, religioni e idee, oggi la cosiddetta "Via della Seta digitale" trasporta infrastrutture informatiche, reti 5G, piattaforme cloud, sistemi di sorveglianza e modelli di intelligenza artificiale.
Chi adotta tali tecnologie spesso adotta anche standard tecnici, protocolli e criteri decisionali definiti altrove.
Il risultato è che il software diventa uno strumento di influenza geopolitica.
La competizione tra Stati Uniti e Cina non riguarda soltanto il primato tecnologico, ma anche la definizione delle regole con cui le macchine prenderanno decisioni.
Sapere e potere: il cuore della riflessione foucaultiana
Uno dei concetti fondamentali di Foucault è quello di sapere-potere.
Per il filosofo, non esiste conoscenza completamente indipendente dal potere.
Ogni forma di sapere produce una particolare visione del mondo.
L'intelligenza artificiale si alimenta di enormi quantità di dati.
Chi controlla questi dati controlla anche il modo in cui gli algoritmi apprendono.
Di conseguenza, controlla indirettamente il tipo di realtà che essi saranno in grado di rappresentare.
Un modello linguistico addestrato prevalentemente su determinate fonti svilupperà inevitabilmente alcune prospettive più di altre.
La neutralità assoluta diventa quindi un ideale difficilmente raggiungibile.
Il panopticon digitale
In Sorvegliare e punire, Foucault riprende il celebre progetto del Panopticon di Jeremy Bentham.
Nel carcere ideale immaginato da Bentham, il detenuto non sa mai quando viene osservato.
Per questo motivo finisce per controllarsi da solo.
Oggi viviamo una situazione sorprendentemente simile.
Smartphone.
Telecamere.
Cronologia di navigazione.
Assistenti vocali.
Geolocalizzazione.
Acquisti online.
Ogni attività lascia tracce digitali.
Questi dati alimentano algoritmi sempre più sofisticati capaci di prevedere comportamenti futuri.
La sorveglianza non è più soltanto statale.
È distribuita tra piattaforme digitali, aziende tecnologiche e istituzioni.
Il Panopticon è diventato una rete globale.
leggi: Hans Jonas e la tecnologia: il progresso ha bisogno di responsabilità
L'Europa davanti a una scelta
L'Europa non dovrebbe limitarsi a creare grandi "campioni nazionali" dell'intelligenza artificiale, ma puntare sul pluralismo degli standard e sul decentramento.
Questa prospettiva appare coerente con una visione democratica della tecnologia.
Se il potere tende naturalmente a concentrarsi, la risposta potrebbe essere la distribuzione delle competenze, l'interoperabilità delle piattaforme, la trasparenza degli algoritmi e la possibilità per cittadini, università e imprese di partecipare alla definizione delle regole.
Una governance aperta riduce il rischio che un unico modello culturale si imponga come universale.
L'algoritmo come nuova forma di governo
Foucault parlava di governamentalità per descrivere le tecniche attraverso cui gli Stati guidano la popolazione senza ricorrere continuamente alla coercizione.
L'intelligenza artificiale porta questa logica a un livello superiore.
Un algoritmo può suggerire cure mediche.
Concedere un prestito.
Selezionare candidati per un lavoro.
Valutare studenti.
Gestire il traffico urbano.
Attribuire punteggi di affidabilità.
In ciascuno di questi casi esso esercita una forma di governo.
Non attraverso decreti.
Attraverso decisioni automatizzate.
Più questi sistemi diventano invisibili, maggiore diventa la loro influenza.
La libertà nell'era algoritmica
Foucault non invitava semplicemente a denunciare il potere.
Invitava soprattutto a renderlo visibile.
Comprendere il funzionamento degli algoritmi significa poterli discutere, correggere e controllare democraticamente.
La vera sfida del XXI secolo non consiste soltanto nel costruire intelligenze artificiali sempre più potenti, ma nel decidere quale idea di uomo, di società e di libertà esse dovranno servire.
Se gli algoritmi diventeranno il principale strumento di organizzazione della vita collettiva, allora la filosofia non sarà un lusso per specialisti, ma una necessità civile.
leggi: Heidegger e la tecnica: una riflessione ancora
attuale
Conclusione
L'alleanza tecnologica che si sta delineando attorno alla Cina mostra come l'intelligenza artificiale sia ormai parte integrante della competizione geopolitica globale.
Ma, come avrebbe probabilmente osservato Michel Foucault, la questione decisiva non riguarda soltanto chi possiede la tecnologia, bensì quale forma di potere essa rende possibile.
Gli algoritmi non sono semplici strumenti matematici: sono dispositivi che organizzano il sapere, orientano le decisioni e contribuiscono a definire ciò che una società considera vero, utile o legittimo.
Per questo motivo, il confronto sull'intelligenza artificiale non può essere ridotto a una gara per la supremazia tecnologica. È, prima di tutto, un confronto tra modelli di società.
L'Europa, se vuole conservare la propria tradizione di pluralismo e tutela delle libertà, dovrà evitare tanto la dipendenza tecnologica quanto la tentazione di concentrare il potere in pochi attori.
La lezione di Foucault rimane attuale: ogni tecnologia incorpora una forma di governo. Il compito dei cittadini e delle istituzioni democratiche è fare in modo che quel governo resti trasparente, criticabile e sottoposto al controllo pubblico.
Potrebbero interessarti temi puri fiolosofici?
- Henri Bergson e la durata: perché il tempo
che viviamo è diverso da quello dell'orologio
- Ci accorgiamo della vita solo quando rischiamo di perderla
- Chi era Max Stirner? La metafora della
fortezza per comprendere la sua filosofia
- Il segreto della trasformazione interiore (Rudolf Steiner)
- Relazioni umane: comprendere sé stessi attraverso gli altri
"La riflessione è più ricca quando incontra altre riflessioni."
Nessun commento:
Posta un commento