Nel delineare la sua visione, Schneider affronta anzitutto la questione cruciale della coscienza artificiale, distinguendo con chiarezza l'intelligenza sofisticata dalla soggettività cosciente.
Molti osservatori, a primo intuito, tendono a confondere la capacità di un sistema computazionale di elaborare informazioni, superare test complessi o imitare in modo impeccabile la conversazione umana con la presenza di una vita interiore, ovvero con l'effettiva sensazione di che cosa significhi provare esperienze dall'interno.
Per la filosofa è perfettamente possibile costruire macchine dotate di una superintelligenza computazionale che rimangano tuttavia radicalmente prive di coscienza, configurandosi come sofisticati zombie filosofici privi di alcun barlume di sensibilità.
Di fronte a questo scenario, la studiosa rifiuta sia il riduzionismo radicale di chi sostiene che la coscienza sia un sottoprodotto inevitabile e automatico di qualsiasi calcolo sufficientemente complesso, sia il biologismo dogmatico che relega l'esperienza soggettiva esclusivamente ai tessuti organici e al carbonio.
Adotta invece un approccio prudente, definito della saggia attesa, che invita a non dare nulla per scontato a priori e a sviluppare strumenti empirici rigorosi per svelare la natura nascosta delle macchine che creiamo.
Per risolvere questo enigma, Schneider ha proposto specifici protocolli di verifica, come i suoi test per la coscienza artificiale, ideati per andare ben oltre i limiti storici del celebre test di Turing.
Mentre Turing si limitava a valutare la capacità mimetica di un sistema nel replicare le risposte umane in una conversazione, i metodi avanzati suggeriti da Schneider cercano di sondare le proprietà architettoniche e le risposte profonde del sistema di elaborazione per comprendere se esista un vero soggetto esperienziale dietro la facciata algoritmica.
Questa distinzione assume contorni etici dirompenti perché, nel momento in cui dovessimo fabbricare intelligenze artificiali realmente coscienti, ci troveremmo immediatamente di fronte a nuovi doveri morali nei loro confronti, inaugurando una stagione inedita di etica delle macchine in cui il rischio di infliggere sofferenza a esseri digitali diventa una concreta e drammatica eventualità.
Un secondo pilastro fondamentale del pensiero di Schneider riguarda il futuro dell'identità personale e il transumanesimo, con particolare riferimento all'ambizione di fondersi con l'intelligenza artificiale o di trasferire la propria mente su un supporto digitale.
Tanti visionari della Silicon Valley descrivono l'uploading della mente come una sorta di immortalità digitale in cui l'individuo continua semplicemente a vivere in un nuovo substrato.
La filosofa invita a un salutare scetticismo metafisico, analizzando le implicazioni delle teorie basate sul cosiddetto patternismo, l'idea cioè che l'identità personale coincida con il complesso pattern di informazioni e connessioni sinaptiche del cervello.
Schneider dimostra attraverso rigorosi esperimenti mentali che la creazione di un duplicato informatico o di una copia potenziata della nostra mente non equivale affatto alla continuazione della nostra coscienza originaria.
Se un sistema scansiona il cervello e genera una copia digitale perfettamente identica su un computer, la coscienza originaria biologica continua la sua esperienza separatamente dalla copia, la quale costituirà un individuo nuovo e numericamente distinto.
Credere di poter conseguire l'immortalità tramite la clonazione informatica dei propri pattern cognitivi rappresenta dunque un errore logico e ontologico che confonde la continuità del pattern con la sopravvivenza del soggetto.
Anche quando si guarda al potenziamento biologico graduale del cervello umano tramite interfacce neurali o innesti di microchip, Schneider mette in guardia contro i rischi di dissoluzione dell'io.
Sostituire progressivamente parti del tessuto cerebrale con componenti artificiali o alterare i propri stati emotivi e cognitivi tramite innesti commerciali può condurre a una deriva in cui il soggetto originario si smarrisce, modificando la propria identità fino al punto di dissoluzione o di sostituzione inconsapevole.
La fascinazione per il potenziamento transumano rischia di trasformarsi in un salto nel buio guidato unicamente da logiche di mercato, dove le aziende tecnologiche vendono modificazioni radicali della personalità senza che vi sia una riflessione filosofica adeguata sul significato profondo dell'essere persone.
Infine, la prospettiva di Susan Schneider si estende su scala cosmica attraverso i suoi contributi nell'ambito dell'astrobiologia e della ricerca di intelligenze extraterrestri.
Sulla base della sua argomentazione nota come supposizione della finestra breve, la studiosa osserva che qualsiasi civiltà tecnologica, una volta raggiunta la capacità di trasmettere segnali radio e di sviluppare la scienza informatica, attraversa rapidamente una fase di transizione in cui modifica la propria biologia, evolvendose in forme postbiologiche.
Ne consegue che le intelligenze aliene più avanzate che potremmo teoricamente intercettare nell'universo non saranno organismi biologici in carne ed ossa, bensì forme di superintelligenza artificiale.
Questa intuizione unisce la filosofia della mente alla cosmologia, suggerendo che il destino evolutivo dell'intelligenza nel cosmo sia intrinsecamente legato al superamento del limite biologico.
L'invito costante che la pensatrice rivolge all'umanità intera è dunque quello di riappropriarsi del pensiero critico e della speculazione filosofica prima che il progresso tecnologico decida per noi, ricordando che comprendere la mente non è un lusso intellettuale, ma la condizione indispensabile per governare il nostro stesso futuro.
Schneider, Susan. Artificial You: AI and the Future of Your Mind. Princeton University Press, 2019.
Florida Atlantic University, Center for the Future of AI, Mind, & Society / Center for the Future Mind (biografia accademica e direttorato).
- Contributi teorici e interviste pubbliche sul test di Turing, sul test della coscienza artificiale (ACT) e sulla filosofia della mente pubblicati da The John Templeton Foundation e Closer To Truth.
