Perché l'Intelligenza Artificiale ci sta accecando? La profezia di Simondon

 

Conversazione con una classe di liceo

Buongiorno ragazzi. Sedetevi pure. Vedo che la metà di voi ha le mani incollate a uno schermo touch e l'altra metà sta tenendo d'occhio le notifiche sullo smartwatch. 

Nessun problema, non sono qui per farvi la solita predica sui telefoni che vi rovinano il cervello o per dirvi di spegnere i dispositivi. 

Quella è la solita noiosa nostalgia degli adulti.

Io sono venuto fin qui per farvi una proposta diversa: volevo chiedervi di smettere di guardare le macchine come semplici utensili o, peggio ancora, come vostri schiavi.

Vi hanno insegnato a pensare alla tecnologia come a una pura estensione delle vostre mani o come a dei servitori invisibili che devono obbedire a ogni vostro comando. 

"Ehi Siri", "OK Google", "Generami questo tema". 

Pensiamo che il progresso tecnologico consista nel liberarci dalla fatica e delegare tutto il lavoro pesante a degli automi. 

Ma questo modo di pensare nasconde un malinteso profondo e dannoso: stiamo trattando gli oggetti tecnici come semplici mezzi per i nostri fini, riducendoli a strumenti inerti, o li temiamo come mostri alieni pronti a sostituirci.

In realtà, tra noi e la macchina esiste una continuità profonda. 

E finché non capirete davvero che cos'è un oggetto tecnico, sarete esposti a un rischio enorme. 

Un rischio che oggi viene mascherato da un velo di comodità accecante.

leggi: Intelligenza artificiale e scuola: una rivoluzione educativa da comprendere, non da temere

Che cos'è davvero una macchina?

Facciamo un passo indietro. Un oggetto tecnico non è solo un pezzo di metallo, di plastica o di codice assemblato per caso. 

È il deposito del pensiero umano.

Quando guardate un motore a scoppio, un circuito stampato o una rete neurale artificiale, non state guardando una cosa morta. 

State guardando informazione cristallizzata. Ogni ingranaggio, ogni algoritmo porta dentro di sé le decisioni, le intuizioni e la realtà degli esseri umani che l'hanno inventato, e al tempo stesso porta le leggi della natura che quell'oggetto ha dovuto imparare a rispettare per funzionare.

Un oggetto tecnico non è perfetto fin da subito; si traspone nel tempo attraverso un processo che io chiamo individuazione o concretizzazione.

Pensate ai primi motori a combustione: avevano parti separate che facevano cose distinte. 

Poi, col tempo, le varie parti hanno iniziato a svolgere più funzioni contemporaneamente. Il monoblocco del motore ha iniziato non solo a contenere i cilindri, ma anche a condurre il calore e a strutturare l'intero telaio. 

L'oggetto si è "concretizzato", diventando sempre più coerente con se stesso e con l'ambiente circostante.

Le macchine non sono cose aliene: sono parte della nostra natura. 

L'uomo è un essere che inventa oggetti per mediare il suo rapporto con il mondo. 

Per questo il nostro legame con loro non è di dominio, ma di simbiosi.

leggi: Il rapporto tra Intelligenza Artificiale, creatività, anima e percezione dell'umano

La grande illusione dell'Automa e della Comodità

Veniamo a voi e al vostro presente. 

Oggi vivete circondati dall'Intelligenza Artificiale. 

Vi basta scrivere una riga di testo e un modello linguistico vi sforna un saggio, un'immagine, un codice informatico o la soluzione a un problema di matematica.

Sembra la vittoria definitiva, vero? 

È il vantaggio accecante di cui parliamo: l'azzeramento dello sforzo.

Ma fate attenzione. L'industria moderna e la cultura di consumo vi vendono un'idea sbagliata di progresso. 

Vi dicono che la macchina ideale è l'automa perfetto, la scatola nera (black box) completamente chiusa a cui voi date un input e che vi restituisce un output senza che voi sappiate cosa sia successo nel mezzo. 

Più l'interfaccia è semplice, più l'utente è considerato "soddisfatto".

Questa è una trappola drammatica.

Quando la tecnologia diventa una scatola nera impenetrabile, l'essere umano si riduce a due ruoli contrapposti e parimenti sterili:

• L'utente alienato, che sa solo premere tasti e consumare servizi senza capire nulla del funzionamento sottostante.
• Il padrone tiranno, che pretende di comandare la macchina come se fosse un servo, salvo poi trovarsi del tutto impotente appena qualcosa si rompe o si inceppa.

Quando l'AI vi dà la risposta pronta senza che voi facciate l'esperienza del dubbio, dell'errore e della scoperta, vi sta offrendo una comodità immediata in cambio della vostra impalcatura cognitiva. 

Il rischio non è che le macchine diventino umane e prendano il sopravvento come nei film di fantascienza; il rischio reale è che gli umani si infantilizzino, perdendo la capacità di comprendere i processi tecnici che li circondano.

leggi: Perché la tecnologia non è mai neutrale

L'alienazione moderna e i rischi futuri

Se lasciamo che la tecnologia sia gestita solo dal mercato e dal mito della comodità, andiamo incontro a tre grandi rischi:

1. Atrofia dell'invenzione

L'essere umano non è superiore alla macchina perché accumula più dati. Un server sarà sempre più veloce nel calcolare di quanto potrete mai esserlo voi. 

La superiorità dell'uomo sta nell'invenzione, cioè nella capacità di risolvere problemi attraverso un salto d'immaginazione, mettendo in relazione contesti differenti. 

Se delegate all'AI la fase inventiva perché è più comodo, atrofizzerete la qualità fondamentale che vi rende umani.

2. Asservimento al sistema aperto

Un'AI moderna non è un oggetto isolato; è un nodo dentro una gigantesca rete infrastrutturale controllata da pochissimi attori. 

Se non sapete come funziona l'informazione, come vengono strutturati i dati e quali bias sono codificati negli algoritmi, credete di essere voi a usare la macchina, ma in realtà siete voi a essere usati dal sistema per alimentare i suoi modelli. 

La comodità dell'interfaccia vi acceca rispetto alla vostra perdita di autonomia.

3. Tecnofobia e Tecnofilia cieca

L'ignoranza sulla natura della tecnologia genera due mostri opposti: da un lato chi rifiuta la tecnologia per paura e vuole tornare a un passato ideale mai esistito; dall'altro chi idolatra ogni nuovo gadget senza alcun senso critico. 

Entrambi gli atteggiamenti nascono dalla stessa radice: non capire cos'è un oggetto tecnico.

Il vero ruolo dell'Uomo: L'Uomo come Direttore d'Orchestra

Qual è allora la soluzione? Dobbiamo distruggere i computer e tornare alle penne d'oca? Absit iniuria verbis, assolutamente no! Sarebbe una follia.

La vera rivoluzione culturale consiste nel superare sia il rifiuto sia il servilismo. L'uomo non deve essere né il servo né il padrone della macchina. 

L'uomo deve essere il suo coordinatore, il suo direttore d'orchestra.

Un direttore d'orchestra non suona tutti gli strumenti al posto dei musicisti. 

Non soffia nel clarinetto né sfrega l'archetto sul violino. 

Ma conosce le possibilità di ogni strumento, ne capisce la timbrica, la natura e i limiti, e permette a tutti gli strumenti di integrarsi in un'armonia che nessuno di essi potrebbe produrre da solo.

La macchina ha una sua forma di memoria e di coerenza operativa. 

L'Intelligenza Artificiale può gestire immensi volumi di informazione con una precisione che noi non avremo mai. Ma spetta a voi fornire la sensibilità culturale, la capacità di contestualizzare, il senso etico e l'intuizione che connette ciò che la macchina non può connettere.

La tecnologia non deve sostituire il pensiero, ma estendere il nostro margine di libertà. Per farlo, però, dovete aprire quelle scatole nere. Dovete studiare come funzionano i linguaggi di programmazione, come si strutturano le architetture dei dati, come la fisica e la logica si incontrano nel silicio.

dai una occhiata all'elenco di tutti gli articoli sull'Intelligenza artificiale

Una sfida per il vostro futuro

Ragazzi, guardatevi attorno. La scuola vi insegna la letteratura, la storia, la filosofia e la matematica, ma spesso tratta la tecnologia come un semplice argomento "tecnico" da lasciare ai periti o agli informatici. 

Questo è un errore gravissimo. La cultura deve integrare l'oggetto tecnico.

Un uomo colto del ventunesimo secolo che non capisce come funziona la tecnologia che usa è come un uomo del Medioevo che non sa leggere né scrivere.

Non accontentatevi dei vantaggi accecanti di un'applicazione che vi risolve un problema in tre secondi. 

Chiedetevi sempre: Cosa sta succedendo sotto la superficie? Che tipo di relazione sto costruendo con questa macchina? Sto diventando più libero e capace, o sto solo diventando più pigro e dipendente?

Non siate semplici consumatori di tecnologia. Siate gli interpreti, i custodi e i direttori d'orchestra del mondo tecnico che vi circonda. 

Solo così la tecnologia smetterà di essere una minaccia silenziosa nascosta dietro un display luminoso, e diventerà ciò che è sempre stata destinata ad essere: la più alta espressione dell'invenzione e della libertà umana.

Avvicinati ad altri temi di filosofia