Biblioteca

Night City è il più grande parco giochi dell'augmentation che la cultura pop abbia mai costruito. La cyberware si compra dal ripperdoc all'angolo, le corporazioni possiedono i corpi come contratti di leasing e il chip nella tua testa, alla fine, appartiene ad Arasaka. Proprio qui sta l'avvertimento che quasi tutti si perdono: il problema non è il chrome, il problema è il contratto che ci sta sopra. Chi vuole capire perché standard aperti e neurodiritti non sono temi da nerd trova qui la lezione pratica. E poi è semplicemente uno dei giochi più atmosferici di sempre.

Adam Jensen non le ha mai chieste, le sue augmentation. Dopo un attentato si risveglia cyborg, perché così ha deciso il suo datore di lavoro. Il gioco pone così la domanda che ancora oggi orienta il dibattito etico: cosa significa consenso, quando è la tecnologia a decidere chi può lavorare e chi sopravvive? Il design dorato da Rinascimento e la canzone «Icarus» rendono tangibile la hybris. Come RPG stealth brilla comunque, come esperimento mentale è senza tempo.

Gli androidi sviluppano coscienza, rivendicano diritti e mettono i loro proprietari davanti alla domanda se si possa possedere un essere senziente. Detroit rende giocabile il problema del substrato: dove finisce la simulazione di un sentimento, dove comincia il sentimento vero? Ogni scelta ramifica la storia e il gioco ti costringe a prendere posizione. La domanda diventa reale nel momento in cui i sistemi di IA chiedono in modo convincente di poter continuare a girare. Dopo, le notizie sui diritti delle IA si leggono con altri occhi.

Nessuna opera ha portato alle estreme conseguenze il problema della copia nel mind uploading in modo così spietato come SOMA. Ti risvegli in una stazione sottomarina e capisci lentamente cosa significhi davvero una scansione del tuo cervello: la copia si sente te, ma tu sei ancora qui. L'orrore non arriva dai mostri, arriva dalla logica. Chi dopo i titoli di coda crede ancora che l'uploading sia un semplice continuare a vivere non ha prestato attenzione. Tappa obbligata per qualsiasi discussione sull'immortalità digitale.

Il Maggiore Kusanagi ha un corpo interamente protesico, solo il suo «ghost» è ancora lei. Il classico anime del 1995 ha pensato a fondo mind uploading, hacking dei cyberbrain e la questione dell'identità trent'anni prima di Neuralink, creando immagini citate ancora oggi. Le scene di pioggia di Newport City, il Puppet Master, la domanda su a chi appartenga un corpo intercambiabile: è tutto qui. Chi guarda un solo film di questa lista, scelga questo.

La più famosa interfaccia cerebrale della storia del cinema: una porta nella nuca, il corpo in una vasca, il mondo come segnale in ingresso. Nella realtà le interfacce di oggi sanno leggere sorprendentemente bene, ma quasi per niente scrivere, ed è proprio questa asimmetria a rendere il film così interessante come pietra di paragone. Il suo nucleo filosofico vive ancora, perché l'argomento della simulazione di Nick Bostrom è l'erede serio della pillola rossa. E resta la domanda senza tempo su chi controlli il segnale. Il film d'azione è il veicolo, le idee sono il carico.

Replicanti, ricordi artificiali e la domanda se la vita fabbricata valga meno di quella nata. Il sequel di Villeneuve è la meditazione visivamente più potente che il cinema abbia da offrire sulla differenza tra costruito e nato. K cerca un miracolo e trova qualcosa di più scomodo: che la dignità non dipende dall'origine. Per il dibattito sul transumanesimo è la frase chiave. E raramente il futuro è sembrato così bello e così vuoto allo stesso tempo.

Un test di Turing in una casa isolata, tre persone, una sola uscita. Ava manipola il suo esaminatore, perché un'intelligenza senza interessi propri non esiste. Ex Machina è così il miglior film sul problema dell'alignment senza usare la parola una sola volta. Ogni inquadratura chiede chi stia davvero testando chi. Chi vuole capire perché la sicurezza dell'IA non è un tema da paranoici trova qui 108 minuti di materiale dimostrativo.

Una relazione con un'IA fatta solo di voce, comprensione e vicinanza. Dall'ascesa dei modelli linguistici, Her sembra meno fantascienza e più una roadmap di prodotto con dieci anni di anticipo. Il film prende sul serio il lato emotivo della fusione senza deriderlo, ed è proprio questo a renderlo così raro. Alla domanda su cosa succeda quando l'IA cresce più in fretta dell'essere umano risponde in modo tenero e inquietante allo stesso tempo.

Un uomo paralizzato riceve un chip IA sperimentale di nome STEM che torna a controllare il suo corpo. Prima STEM è uno strumento, poi un partner, poi qualcos'altro. Upgrade è il fratello B-movie di Neuralink e porta il controllo closed-loop alle estreme conseguenze con brutale coerenza: se la macchina agisce più in fretta della tua coscienza, chi sta agendo? L'azione è coreografata magnificamente e il colpo di scena finale è tra i migliori del genere.

Un ricercatore di IA in punto di morte fa caricare la propria coscienza e poi cresce più in fretta di quanto il mondo possa sopportare. All'uscita il film venne stroncato, eppure invecchia in modo interessante, perché mette in scena quasi tutte le questioni aperte del mind uploading: la continuità della persona, la concentrazione di potere, la diffidenza di chi resta indietro. Come spunto di riflessione sulla prima persona caricata funziona meglio che mai. Non serve amarlo, bisogna conoscerlo.

Un poliziotto ucciso torna come prodotto aziendale: il suo corpo appartiene alla OCP, i suoi ricordi vengono trattati come un malfunzionamento. La satira di Verhoeven del 1987 è la resa dei conti più antica e ancora oggi più tagliente con la domanda su a chi appartenga un corpo aumentato. Tra una sparatoria e l'altra c'è un commento preciso su potere delle corporazioni e dignità umana. Il fatto che Murphy si riconquisti la propria identità fa del film il modello di ogni dibattito sui neurodiritti.

La serie anime ambientata a Night City racconta ciò che il gioco si limita a suggerire: come il chrome crei dipendenza, che aspetto abbiano ascesa e caduta in un mondo in cui il corpo è un magazzino di pezzi di ricambio, e cosa faccia la cyberpsicosi a una persona che voleva solo salvare la propria famiglia. La storia di David è breve, brutale e straziante. Studio Trigger la accompagna con forse la migliore animazione degli ultimi anni. Dopo dieci episodi capisci l'avvertimento di Cyberpunk meglio che dopo cento ore di gioco.

La coscienza viene salvata su «stack», i corpi sono «custodie» intercambiabili e l'immortalità è una questione di saldo in banca. La serie pensa l'indipendenza radicale dal substrato in forma di noir e dà una risposta amara alla domanda sull'accesso: vivono per sempre solo i ricchi, tutti gli altri vengono riciclati. È proprio questa questione distributiva il punto dolente di ogni dibattito sull'enhancement. Stilisticamente la serie ama esagerare, ma la sua idea di fondo resta impressa.

L'antologia degli effetti collaterali: società fondate sui punteggi, impianti per la memoria, copie digitali, coscienze nel cloud. Non ogni episodio colpisce nel segno, ma i migliori sono tra gli esperimenti mentali più precisi che il genere possieda. «San Junipero» mostra il lato utopico dell'upload, «White Christmas» quello crudele. Chi vuole sapere come ci si sentirà con una tecnologia prima ancora che esista guarda qui. Come punto di partenza per una discussione è imbattibile.

Un parco divertimenti pieno di esseri umani artificiali, costruito per i desideri di ospiti paganti, finché gli host non cominciano a ricordare. La prima stagione è un capolavoro sulla coscienza che si risveglia, costruito attorno alla domanda se la sofferenza debba essere reale per contare. Il labirinto verso la conoscenza di sé è tra le immagini più forti della storia delle serie. Più avanti la serie perde il filo, ma i primi dieci episodi restano un obbligo per qualsiasi dibattito sulla coscienza.

Una ragazza silenziosa, una rete chiamata Wired e il confine tra online e offline che lentamente si dissolve. Nel 1998 Serial Experiments Lain ha anticipato ciò che oggi è quotidianità: l'identità in rete può essere non un riflesso, ma una forma di esistenza a sé. La serie è ostica, ipnotica e avanti di decenni sul suo tempo. Chi vuole capire come potrebbe sentirsi dall'interno l'indipendenza dal substrato non troverà da nessuna parte una visione febbrile migliore.

Il testo fondativo dell'intero dibattito, scritto nel 1818 da una ventenne. Victor Frankenstein crea la vita dalla materia morta e poi fugge dalla responsabilità verso la sua creatura. È proprio questa negligenza, non la creazione in sé, l'accusa di Shelley. Ogni discussione odierna su sicurezza dell'IA e innovazione responsabile ripete questo schema. Chi usa l'espressione «argomento Frankenstein» dovrebbe aver letto l'originale, perché dice il contrario di ciò che molti immaginano.

Il romanzo di Philip K. Dick del 1968 chiede da cosa si riconosca un essere umano quando le macchine sanno imitare tutto. La sua risposta è perturbante: dall'empatia, e proprio l'empatia si può testare, falsificare e perdere. Il libro da cui nacque Blade Runner è più cupo, più strano e più filosofico del film. Animali elettrici, scatole dell'empatia e i dubbi di Deckard scavano più a fondo di qualsiasi scena d'azione. Un libro sottile con una lunga eco.

Il romanzo che nel 1984 ha inventato la parola «cyberspazio» e dato il nome all'intero genere. I cowboy della console si collegano alla rete, le IA perseguono piani propri e nel mondo di Gibson il corpo è liquidato con disprezzo come «meat». Che la nostra piattaforma si chiami Tech Meets Meat è anche un inchino a questo libro. La prosa è densa come pioggia al neon e ha formato generazioni di sviluppatori e ricercatori. Il fondamento su cui poggia quasi tutto il resto di questa lista.

Il romanzo di Neal Stephenson del 1992 ha inventato la parola «Metaverse» e consegnato in un colpo solo anche la satira: fattorini della pizza con spade da samurai, stati in franchising e un virus che hackera gli esseri umani attraverso il linguaggio. L'idea che l'informazione possa agire direttamente sul cervello è il vero cuore del libro. La Silicon Valley lo ha letto come un progetto, ma era pensato come un avvertimento. Più veloce, più divertente e più profetico di quasi tutto ciò che è venuto dopo.

Max Tegmark mette in ordine l'era dell'intelligenza artificiale dal punto di vista della fisica: la Vita 1.0 evolve, la Vita 2.0 impara il proprio software, la Vita 3.0 progetta da sé anche il proprio hardware. Il libro passa in rassegna una dozzina di scenari futuri, dall'utopia dell'IA all'estinzione, restando piacevolmente non dogmatico. Tegmark non vuole vendere una risposta, vuole affilare la domanda su quale futuro vogliamo davvero. Ed è esattamente per questo che vale la pena leggerlo.

Il giornalista Mark O'Connell attraversa la scena transumanista reale: serbatoi criogenici in Arizona, grinder che si impiantano chip negli scantinati, attivisti dell'immortalità in campagna elettorale su un bus. Il suo libro del 2017 è scettico, caloroso e spesso molto divertente, e prende sul serio le persone senza credere a tutto quello che dicono. Chi vuole sapere che aspetto abbia davvero il movimento dietro gli slogan non troverà ritratto migliore. Ha vinto il Wellcome Book Prize.

Il libro di Nick Bostrom del 2014 ha portato il dibattito sulla sicurezza dell'IA nel mainstream e sui comodini dei CEO tecnologici. La tesi centrale: se le macchine diventano più intelligenti di noi, sono le condizioni di partenza a decidere tutto il resto, e con ogni probabilità avremo un solo tentativo. Il libro è sobrio, esigente e a tratti inquietante. Si può dissentire da Bostrom, ma bisogna conoscere i suoi argomenti per dire la propria sul tema.

L'aggiornamento del 2024 con cui Ray Kurzweil rivede le sue celebri previsioni: IA a livello umano intorno al 2029, fusione tra uomo e macchina entro il 2045. Kurzweil mostra i conti sul perché le curve esponenziali battono la nostra intuizione e documenta quali delle sue vecchie profezie si sono avverate. Non è obbligatorio credergli, molti ricercatori non lo fanno. Ma chi vuole discutere di timeline deve sapere cosa c'è scritto qui e come argomenta.

Lo sguardo di Yuval Noah Harari sul secolo che viene: dopo aver respinto fame, epidemie e guerra, l'umanità allunga le mani su immortalità, felicità e capacità da divinità. Harari scrive in modo accessibile come pochi altri e mette a nudo le grandi linee lungo cui convergono transumanesimo, religione dei dati e biotecnologie. La migliore introduzione per chi davanti alla parola «transumanesimo» ancora esita e vuole comunque capire di cosa si tratta.