Biblioteca

Night City é o maior parque de diversões das aumentações que a cultura pop já construiu. Cyberware se compra no Ripperdoc da esquina, corporações são donas de corpos como quem administra contratos de leasing, e o chip na sua cabeça, no fim das contas, pertence à Arasaka. É exatamente aí que está o alerta que quase todo mundo deixa passar: o problema não é o cromo, o problema é o contrato em cima dele. Quem quer entender por que padrões abertos e neurodireitos não são assunto de nerd encontra aqui a aula prática. E, de quebra, é simplesmente um dos jogos mais atmosféricos de todos os tempos.

Adam Jensen nunca pediu por suas aumentações. Depois de um atentado, ele acorda como ciborgue porque seu empregador decidiu assim. Com isso, o jogo coloca a pergunta que dá a direção ao debate ético até hoje: o que significa consentimento quando a tecnologia decide sobre capacidade de trabalho e sobrevivência? O design dourado de Renascença e a canção “Icarus” tornam a húbris palpável. Como RPG stealth, o jogo brilha de qualquer maneira. Como experimento mental, é atemporal.

Androides desenvolvem consciência, exigem direitos e colocam seus donos diante da pergunta sobre se é possível ser dono de um ser que sente. Detroit torna o problema do substrato jogável: onde termina a simulação do sentimento, onde começa o sentimento em si? Cada decisão ramifica a história, e o jogo obriga você a tomar posição. A pergunta se torna real no momento em que sistemas de IA pedem, de forma convincente, para continuar rodando. Depois disso, você lê as notícias sobre direitos da IA com outros olhos.

Nenhuma obra levou o problema da cópia no mind uploading às últimas consequências de forma tão impiedosa quanto SOMA. Você acorda numa estação submarina e compreende aos poucos o que um escaneamento do seu cérebro realmente significa: a cópia se sente como você, mas você continua aqui. O horror não vem dos monstros, vem da lógica. Quem, depois dos créditos, ainda acredita que o upload é uma simples continuação da vida não prestou atenção. Programa obrigatório para qualquer discussão sobre imortalidade digital.

A Major Kusanagi tem um corpo totalmente protético, só o seu “ghost” ainda é ela mesma. O clássico do anime de 1995 pensou a fundo o mind uploading, o hacking de cyberbrain e a questão da identidade trinta anos antes do Neuralink, e criou imagens citadas até hoje. As cenas de chuva em New Port City, o Puppet Master, a pergunta sobre a quem pertence um corpo substituível: está tudo aqui. Se você for assistir a um único filme desta lista, que seja este.

A interface cerebral mais famosa da história do cinema: uma porta na nuca, o corpo num tanque, o mundo inteiro como um sinal injetado. Na realidade, as interfaces de hoje conseguem ler surpreendentemente bem, mas quase não conseguem escrever, e é justamente essa assimetria que torna o filme tão interessante como régua de comparação. Seu núcleo filosófico segue vivo, porque o argumento da simulação de Nick Bostrom é o herdeiro sério da pílula vermelha. Soma-se a isso a pergunta atemporal sobre quem controla o sinal. O filme de ação é o veículo, as ideias são a carga.

Replicantes, memórias artificiais e a pergunta sobre se a vida fabricada vale menos que a vida nascida. A continuação de Villeneuve é a meditação visualmente mais impressionante que o cinema tem a oferecer sobre a diferença entre ser construído e nascer. K procura um milagre e encontra algo mais incômodo: a descoberta de que a dignidade não depende da origem. Para o debate sobre o transumanismo, essa é a frase central. E raramente o futuro pareceu tão bonito e tão vazio ao mesmo tempo.

Um teste de Turing numa casa isolada, três pessoas, uma saída. Ava manipula seu examinador, porque não existe inteligência sem interesses próprios. Isso faz de Ex Machina o melhor filme sobre o problema do alinhamento sem usar a palavra uma única vez. Cada plano pergunta quem, afinal, está testando quem aqui. Quem quer entender por que segurança de IA não é tema de paranoia ganha aqui 108 minutos de material ilustrativo.

Uma relação com uma IA feita apenas de voz, compreensão e proximidade. Desde a ascensão dos modelos de linguagem, Her parece menos ficção científica e mais um roadmap de produto com dez anos de antecedência. O filme leva a sério o lado emocional da fusão sem zombar dele, e é exatamente isso que o torna tão raro. E à pergunta sobre o que acontece quando a IA cresce mais rápido que o humano ele responde de um jeito terno e inquietante ao mesmo tempo.

Um homem paralisado recebe um chip experimental de IA chamado STEM, que volta a controlar o corpo dele. Primeiro o STEM é ferramenta, depois parceiro, depois outra coisa. Upgrade é o irmão de filme B do Neuralink e leva o controle em closed loop às últimas consequências com uma brutalidade rara: se a máquina age mais rápido que a sua consciência, quem é que está agindo? A ação tem coreografia excelente, e a virada final está entre as melhores do gênero.

Um pesquisador de IA à beira da morte manda fazer o upload da própria consciência e, a partir daí, cresce mais rápido do que o mundo consegue suportar. O filme foi massacrado no lançamento e, mesmo assim, envelhece de forma interessante, porque percorre quase todas as controvérsias do mind uploading: a continuidade da pessoa, a concentração de poder, a desconfiança de quem ficou para trás. Como provocação sobre a primeira pessoa a ser transferida para a máquina, funciona melhor do que nunca. Você não precisa amá-lo, mas deveria conhecê-lo.

Um policial assassinado volta como produto corporativo, seu corpo pertence à OCP, suas memórias são tratadas como defeito de funcionamento. A sátira de Verhoeven de 1987 é o acerto de contas mais antigo, e ainda o mais afiado, com a pergunta sobre a quem pertence um corpo aumentado. Entre os tiroteios há um comentário preciso sobre poder corporativo e dignidade humana. O fato de Murphy reconquistar a própria identidade faz do filme o modelo de qualquer debate sobre neurodireitos.

A série de anime ambientada em Night City conta o que o jogo apenas insinua: como o cromo vicia, como são a ascensão e a queda num mundo em que o corpo é um estoque de peças de reposição, e o que a ciberpsicose faz com alguém que só queria salvar a família. A história de David é curta, brutal e de partir o coração. E o Studio Trigger entrega talvez a melhor animação dos últimos anos. Depois de dez episódios, você entende o alerta de Cyberpunk melhor do que depois de cem horas de jogo.

A consciência é gravada em “stacks”, os corpos são “sleeves” intercambiáveis, e a imortalidade é uma questão de saldo bancário. A série pensa a independência radical de substrato em forma de noir policial e dá uma resposta amarga à pergunta do acesso: só os ricos vivem para sempre, todos os outros são reciclados. É exatamente essa questão distributiva o ponto sensível de qualquer debate sobre aprimoramento. No estilo, a série gosta de exagerar, mas a ideia central fica na cabeça mesmo assim.

A antologia dos efeitos colaterais: sociedades de avaliação, implantes de memória, cópias digitais, consciência na nuvem. Nem todo episódio acerta, mas os melhores estão entre os experimentos mentais mais precisos que o gênero já produziu. “San Junipero” mostra o lado utópico do upload, “White Christmas” mostra o lado cruel. Quem quer saber qual será a sensação de uma tecnologia antes de ela existir vem procurar aqui. Como ponto de partida para debates, é imbatível.

Um parque de diversões cheio de humanos artificiais, construído para os desejos de visitantes pagantes, até que os anfitriões começam a se lembrar. A primeira temporada é uma obra-prima sobre o despertar da consciência, construída em torno da pergunta sobre se o sofrimento precisa ser real para contar. O labirinto rumo ao autoconhecimento está entre as imagens mais fortes da história das séries. Mais tarde a produção perde o fio da meada, mas os dez primeiros episódios continuam obrigatórios em qualquer debate sobre consciência.

Uma garota quieta, uma rede chamada Wired e a fronteira entre o online e o offline se desfazendo aos poucos. Serial Experiments Lain antecipou em 1998 o que hoje é cotidiano: a identidade na rede pode ser não um reflexo, mas uma forma própria de existência. A série é árida, hipnótica e está décadas à frente do seu tempo. Quem quer entender como a independência de substrato poderia ser sentida por dentro não encontra em nenhum outro lugar uma visão febril melhor que esta.

O texto fundador de todo o debate, escrito em 1818 por uma autora de vinte anos. Victor Frankenstein cria vida a partir de matéria morta e depois foge da responsabilidade pela própria criação. É exatamente essa negligência, e não a criação em si, a acusação de Shelley. Toda discussão atual sobre segurança de IA e inovação responsável repete esse padrão. Quem usa a expressão “argumento Frankenstein” deveria ter lido o original, porque ele diz o contrário do que muita gente imagina.

O romance de Philip K. Dick de 1968 pergunta como reconhecer um ser humano quando as máquinas conseguem imitar tudo. A resposta dele é perturbadora: pela empatia, e é justamente ela que pode ser testada, falsificada e perdida. O livro que inspirou Blade Runner é mais sombrio, mais estranho e mais filosófico que o filme. Animais elétricos, caixas de empatia e as dúvidas de Deckard cavam mais fundo que qualquer cena de ação. Um livro fino com um longo eco.

O romance que inventou em 1984 o termo “ciberespaço” e deu nome ao gênero inteiro. Cowboys de console se plugam na rede, IAs perseguem planos próprios, e o corpo, no mundo de Gibson, é tratado com desprezo como “meat”. O fato de a nossa plataforma se chamar Tech Meets Meat também é uma reverência a este livro. A prosa é densa como chuva de néon e marcou gerações de desenvolvedores e pesquisadores. O alicerce sobre o qual se apoia quase tudo o que está aqui.

O romance de Neal Stephenson de 1992 inventou o termo “metaverso” e já entregou junto a sátira: entregadores de pizza com espadas de samurai, Estados-franquia e um vírus que hackeia pessoas por meio da linguagem. A ideia de que a informação pode agir diretamente sobre o cérebro é o verdadeiro núcleo do livro. O Vale do Silício o leu como manual de construção, quando ele tinha sido pensado como alerta. Mais rápido, mais engraçado e mais profético que quase tudo o que veio depois.

Max Tegmark organiza a era da inteligência artificial a partir do ponto de vista da física: a Vida 1.0 evolui, a Vida 2.0 aprende seu próprio software, a Vida 3.0 projeta até o próprio hardware. O livro percorre uma dúzia de cenários de futuro, da utopia da IA à extinção, e permanece agradavelmente livre de dogmas. Tegmark não quer vender uma resposta, quer afiar a pergunta sobre qual futuro nós realmente queremos. É exatamente por isso que a leitura vale a pena.

O jornalista Mark O'Connell viaja pela cena transumanista real: tanques de criônica no Arizona, biohackers grinders em porões, ativistas da imortalidade em ônibus de campanha eleitoral. O livro dele, de 2017, é cético, afetuoso e muitas vezes muito engraçado, e leva as pessoas a sério sem acreditar em tudo o que elas dizem. Quem quer saber qual é a cara real do movimento por trás das palavras de ordem não encontra retrato melhor. Venceu o Wellcome Book Prize.

O livro de Nick Bostrom de 2014 levou o debate sobre segurança de IA ao mainstream e às mesas de cabeceira dos CEOs de tecnologia. A tese central: se as máquinas ficarem mais inteligentes que nós, as condições iniciais decidem tudo o que vem depois, e provavelmente teremos uma única tentativa. O livro é sóbrio, exigente e, em alguns trechos, inquietante. Você pode discordar de Bostrom, mas precisa conhecer os argumentos dele para participar da conversa.

A atualização que Ray Kurzweil publicou em 2024 para suas previsões famosas: IA em nível humano por volta de 2029, fusão entre humano e máquina até 2045. Kurzweil demonstra nas contas por que as curvas exponenciais vencem a nossa intuição e documenta quais das suas previsões antigas se confirmaram. Você não precisa acreditar nele, muitos pesquisadores não acreditam. Mas quem quer discutir cronogramas precisa saber o que está escrito aqui e como ele argumenta.

O olhar de Yuval Noah Harari sobre o século que vem: depois de empurrar para longe a fome, as epidemias e a guerra, a humanidade parte em busca da imortalidade, da felicidade e de capacidades divinas. Harari escreve com uma acessibilidade que pouquíssimos têm e expõe as grandes linhas em que transumanismo, religião dos dados e biotecnologia convergem. A melhor introdução para quem ainda hesita diante da palavra “transumanismo” e mesmo assim quer entender do que se trata.