O lado oculto das tecnofantasias de IA

Por: Philip Ball, na Aeon | Tradução: Antonio Martins | Crédito Foto: Outras Palavras

Em 2000, Bill Joy, cofundador e cientista-chefe da empresa de informática Sun Microsystems, soou um alarme sobre a tecnologia. Em um artigo na revista Wired, intitulado “Por Que o Futuro Não Precisa de Nós” Joy escreveu que devemos “limitar o desenvolvimento de tecnologias que são perigosas demais, moderando nossa busca por certos tipos de conhecimento”. Ele temia um futuro no qual nossas invenções casualmente nos varram da face do planeta.

As preocupações expressas no artigo, que provocaram acusações de ludismo por parte de defensores da tecnologia, soam notavelmente similares àquelas que estão sendo vocalizadas agora por alguns empresários do Vale do Silício sobre como a inteligência artificial pode em breve nos superar em inteligência e decidir que nós, humanos, somos dispensáveis. No entanto, embora “robôs sencientes” fizessem parte do que assustou Joy, sua principal preocupação era com outra tecnologia que segundo seus cálculos poderia tornar essa perspectiva iminentemente possível. Ele estava perturbado pela nanotecnologia: a engenharia da matéria na escala de nanômetros, comparável ao tamanho de moléculas.

Seria mais preciso dizer que Joy estava perturbado pela versão da nanotecnologia sobre a qual ele havia lido no livro Motores da Criação (1986), do engenheiro K. Eric Drexler, um graduado do Instituto de Tecnologia de Massachusetts (MIT). No final do século XX, era a nanotecnologia, e não a IA (que não parecia estar indo muito longe), que se surgia como fonte de utopias e distopias. O livro de Drexler descrevia uma visão da nanotecnologia que poderia operar maravilhas, prometendo, nas palavras de Joy, “energia solar incrivelmente barata, curas para o câncer e para o resfriado comum”, bem como “[voos] espaciais de baixo custo … e a restauração de espécies extintas”.

Mas Joy tinha ouvido, do inventor Ray Kurzweil (atualmente conselheiro científico da Google), que a nanotecnologia de Drexler prometia algo ainda mais notável: a singularidade, um ponto em que nossa capacidade tecnológica acelerada atinge velocidade de escape e maravilhas literais se tornam possíveis – em particular, a imortalidade por meio da fusão entre humano e máquina, que tornaria possível fazer o upload de nossas mentes para computadores e viver para sempre em um nirvana digital.

“Dispositivos industriais baseados em nanotecnologia serão capazes, na década de 2020, de criar quase qualquer produto físico a partir de matérias-primas e informações baratas”, escreveu Kurzweil em seu livro A Singularidade Está Próxima (2005). A tecnologia “fornecerá ferramentas para combater efetivamente a pobreza, limpar nosso meio ambiente, superar doenças, estender a longevidade humana e muitas outras empreitadas valiosas”.

Mas, Joy soube, havia um lado negativo em tudo isso. A nanotecnologia de Drexler poderia sair do controle, desencadeando enxames de nanorrobôs invisivelmente minúsculos que começam cegamente a desmontar tudo, átomo por átomo, até reduzirem o mundo ao que Drexler chamou de “gosma cinza” (grey goo). No final dos anos 1990, o problema da gosma cinza era o golem que, como a “IA superinteligente” de hoje, poderia causar nossa queda arrogante.

Você deve ter notado que nada disso aconteceu. Nenhuma cura para o câncer, nenhuma imortalidade por upload da mente, mas também nenhuma gosma cinza. Isso porque a visão de nanotecnologia de Drexler era uma quimera. Era como a pedra filosofal dos alquimistas: magia vestida com a ciência de seu tempo, por meio da qual quase tudo se torna possível. Eu as chamo de tecnologias oníricas: elas não existem e muito provavelmente não podem existir, mas realizam um sonho profundamente arraigado, ou um pesadelo, ou ambos.

Elas não são simplesmente tecnologias do futuro, que ainda não temos os meios para realizar, como as tecnologias superavançadas que, segundo Arthur C. Clarke, seríamos incapazes de distinguir da magia. Em vez disso, a tecnologia onírica toma um desejo (ou um terror) e o veste com uma roupagem que se assemelha à científica, de modo que o observador não iniciado, e talvez o sonhador, não consiga mais distingui-la do que está genuinamente à beira do possível. O moto perpétuo é uma das mais antigas tecnologias oníricas, embora só desde o século XIX saibamos por que ele não funciona (esse conhecimento não desencoraja tentativas modernas, que supostamente exploram, por exemplo, o “vácuo quântico”). Os escudos antigravitacionais são provavelmente outra.

As tecnologias oníricas atualmente em voga no Vale do Silício incluem a noção de terraformar outros planetas, transformando sua geosfera e atmosfera para torná-los habitáveis; o congelamento criônico de sua cabeça após a morte, para que sua consciência possa um dia ser retomada; e a ideia relacionada de upload da mente para circuitos computacionais. Essas tecnofantasias são centrais para as utopias regularmente previstas por bilionários da tecnologia. Elas se interconectam em um nexo para o qual a nanotecnologia drexleriana é central.

Vale a pena examinar esse sonho em particular, não apenas por causa dos paralelos com as alegações e medos fantásticos sobre a IA hoje, mas porque os nanorrobôs drexlerianos ainda não desapareceram. Kurzweil ainda os cita como a razão pela qual sua singularidade está ainda “mais próxima”. Em 2024, ele a situou em 2045, ponto em que será possível entrar (isto é, enviar nanorrobôs) “dentro do cérebro e capturar tudo que há lá”. Esta forma implausível de nanotecnologia ainda é parte do pensamento mágico do Vale do Silício, cujo objetivo, como diz o escritor científico Adam Becker em seu livro More Everything Forever (2025), é “domar o universo, transformá-lo em um playground almofadado”. Nenhum sofrimento, nenhuma morte, nenhum limite físico: um paraíso moldado por uma política ultra-liberal – alguns dizem quase fascista – na qual ninguém lhe dirá que algo é proibido ou impossível.

Entusiasta dos sonhos de colonização espacial dos anos 1970, Drexler começou a pensar em nanotecnologia como estudante de graduação no MIT em 1977. Ele foi inspirado por uma palestra do físico Richard Feynman intitulada “Há Muito Espaço Lá Embaixo” (1959), na qual Feynman imaginou a engenharia em escalas extremamente minúsculas, pequenas demais para ser vistas a olho nu – e talvez tão pequenas quanto se poderia conceber. “O que aconteceria se pudéssemos arranjar os átomos um a um da maneira que quisermos?”, perguntou Feynman. Foi o mesmo que , Drexler ponderou.

Em 1981, ele publicou sua visão central no artigo acadêmico “Molecular Engineering: An Approach to the Development of General Capabilities for Molecular Manipulation” [“Engenharia Molecular: Uma Abordagem para o Desenvolvimento de Capacidades Gerais para Manipulação Molecular”]. Mas foi seu livroEngines of Creation [Motores da Criação], cinco anos depois, um relato popular e não técnico do que essa capacidade poderia levar, que tornou Drexler a sensação dos empreendedores de tecnologia.

Drexler imaginou criar um “montador molecular”, um dispositivo mecânico para agarrar átomos e empurrá-los uns contra os outros como tijolos de Lego. Pode soar absurdamente difícil alcançar esse nível de controle e precisão, mas Drexler argumentou que já temos prova de sua possibilidade. Pois não é exatamente isso o que a biologia faz, usando máquinas feitas de moléculas de proteína para ler instruções de montagem codificadas no DNA e transformá-las nas partes de células vivas? Você pode se perguntar que tipo de manufatura prática poderia ser feita de forma útil com uma máquina em escala molecular, mas a chave para a visão de Drexler era uma ampliação progressiva: máquinas pequenas fazem outras maiores, que fazem outras ainda maiores. A ampliação de escala também emprestaria outro truque da natureza: essas máquinas moleculares seriam autorreplicantes, sendo capazes de montar cópias de si mesmas. Você precisa fazer apenas uma, e ela pode se multiplicar exponencialmente. Após publicar Engines of Creation, Drexler obteve seu doutorado no MIT sob a supervisão do guru da IA Marvin Minsky. Sua tese forneceu um livro mais técnico, Nanosystems (1992), pretendido como o projeto científico para realizar as maravilhas prometidas em Engines.

Com a manipulação em escala atômica e a replicação dos montadores, disse Drexler, poderíamos criar qualquer coisa – não, como fazemos atualmente, por meio de processamento químico rudimentar ou da laboriosa gravação e escultura “de cima para baixo” (top down) necessária para moldar dispositivos em miniatura, como chips de silício, mas de baixo para cima (bottom up), átomo por átomo. E enquanto as máquinas da natureza – as proteínas – são delicadas e propensas a se desfazer se ficarem muito quentes ou frias, os montadores moleculares podem ser feitos de material mais resistente. Idealmente, nós os faríamos de átomos de carbono, cada componente sendo então, efetivamente, um pequeno pedaço moldado de diamante puro. Essas nanomáquinas “diamantoides” – braços robóticos em nanoescala, pinças, rotores, filtros e assim por diante – não quebrariam nem se corroeriam, e “serão capazes de construir virtualmente qualquer coisa que possa ser projetada”. Em seu livro Where Is My Flying Car? (2021), o associado e defensor de Drexler, o cientista da computação e escritor J. Storrs Hall, estimou que com nano montadores seria possível recriar toda a infraestrutura física dos Estados Unidos – estradas, pontes, cidades – em uma única semana.

O sonho nanotecnológico de Drexler, com robôs em nanoescala patrulhando nossa corrente sanguínea, eliminando patógenos e removendo depósitos escleróticos das paredes dos vasos sanguíneos, parecia exatamente o que Kurzweil precisava para realizar sua aspiração de escapar da morte. Tal nanotecnologia, disse Kurzweil, “promete as ferramentas para reconstruir o mundo físico – nossos corpos e cérebros incluídos”. Kurzweil imagina nanorrobôs zunindo em nossas cabeças lendo os estados elétricos dos neurônios e, assim, coletando todas as informações contidas em nosso circuito neural, transmitindo-as a detectores para criar uma réplica virtual de nossas memórias e pensamentos – um clone digital do nosso estado consciente, que se experimentaria como não diferente da versão carnal de nós. Os escritores de ficção científica adoraram. Neal Stephenson baseou seu romance The Diamond Age (1995) em uma versão steampunk dos “compiladores de matéria” drexlerianos, citando Drexler e Feynman no livro.

Os cientistas, no entanto, não ficaram tão encantados. O químico norte-americano Julius Rebek disse à Scientific American em 2004: “Isso não é ciência – é show business”. O laureado com o Nobel de Química Richard Smalley envolveu-se em uma troca de cartas com Drexler publicada em 2003 na revista da American Chemical Society, Chemical & Engineering News, na qual Smalley insistiu que a ideia de Drexler era analfabeta em termos químicos.

A ideia de manipular átomos um a um não era inerentemente louca em si. Durante os anos 1980, cientistas dos laboratórios de pesquisa da IBM desenvolveram os chamados microscópios de varredura por sonda (scanning probe microscopes) que movem agulhas de metal ultrafinas sobre superfícies para criar imagens de átomos e moléculas individuais presentes nelas. Em 1989, uma equipe da IBM na Califórnia usou tal instrumento para escrever o nome da empresa em letras com cinco nanômetros de altura, usando uma ponta para empurrar, individualmente, 35 átomos do elemento xenônio para posição na superfície de níquel.

Drexler também não estava errado em pensar que a montagem química em escala molecular é possível. Nos últimos anos, outra equipe da IBM na Suíça fez moléculas únicas bastante complexas – algumas delas difíceis de criar por métodos químicos convencionais – empurrando seus fragmentos uns contra os outros em uma superfície, com um microscópio de varredura por sonda até que reagissem e se unissem.

Trabalhos como estes tornam bastante fácil apresentar a nanotecnologia drexleriana como plausível. Mas há vários problemas fundamentais em usar tal abordagem para sintetizar montadores moleculares que possam se replicar e construir qualquer coisa. Primeiro, a química não é arbitrária: você não pode juntar átomos de qualquer jeito. A maioria dos arranjos simplesmente não é estável e, portanto, eles se reorganizarão espontaneamente em arranjos mais estáveis. Livrar-se da energia liberada quando uma nova ligação química é feita também pode ser um grande desafio. E, talvez acima de tudo, tratar objetos moleculares como se fossem apenas dispositivos de engenharia em escala reduzida – rolamentos rotativos, alavancas, fivelas etc. – ignora as realidades do mundo molecular, que é cheio de forças fortes e incontroláveis entre moléculas e agitação aleatória e generalizada devido à energia térmica, e onde os líquidos parecem tão viscosos quanto melaço. Como o falecido químico escocês James Fraser Stoddart, que ganhou o Prêmio Nobel de 2016 por seu trabalho em máquinas moleculares artificiais, disse a Becker: “Toda a ideia de extrapolar do mundo macroscópico, de um carro ou uma bicicleta ou algo assim, para os fundamentos de como você constrói máquinas moleculares artificiais simplesmente não faz sentido. Nunca vai funcionar”.

O trabalho premiado com o Nobel de Stoddart, em contraste, estava firmemente baseado na química regular e conhecida. Ele e outros encontraram maneiras engenhosas de conectar moléculas em estruturas que podem realizar operações mecânicas sem precisar suspender as leis físicas e químicas. A invenção revolucionária de Stoddart foi um “ônibus molecular” (molecular shuttle) no qual uma molécula em forma de anel era enfiada em um eixo molecular semelhante a uma haste, tampado com grupos químicos volumosos que impedem seu desenfileiramento. O anel pode saltar entre duas posições de ancoragem no eixo, um pouco como uma conta de um ábaco. É divertido imaginar tal montagem molecular sendo usada para fazer computação no estilo do ábaco – mas, como Stoddart sabia, na prática seria quase impossível evitar que o anel fizesse saltos espontâneos devido aos seus movimentos térmicos, de modo que a configuração média de muitos desses ônibus será determinada não por onde inicialmente os colocamos, mas pelas leis estatísticas da termodinâmica. A mesma história vale para as “máquinas biomoleculares” que foram a inspiração de Drexler: elas não funcionam como versões em nanoescala de motores elétricos ou braços robóticos, mas são governadas por leis termodinâmicas que injetam ruído aleatório em seu comportamento. Na escala molecular, a natureza não se parece muito com a engenharia mecânica.

Drexler tentou evitar tais críticas em Nanosystems, argumentando que seus críticos estavam meramente inventando nanotecnologias mal projetadas e descartando todo o campo da “manufatura molecular” por causa desse projeto ruim. Se ele parecia menosprezar as dificuldades experimentais, disse: “Só posso alegar que logo se tornaria tedioso dizer, a cada momento, que o trabalho de laboratório é difícil e que o trabalho árduo ainda está por ser feito”. Claro, será difícil, mas de alguma forma vamos conseguir.

Nanosystems exemplificou a estratégia dos tecnólogos oníricos. Você começa com o que parece ciência sólida – Drexler fala sobre movimento térmico, ligações químicas, forças intermoleculares. Mas você se move quase imperceptivelmente para a pura fantasia, ao mesmo tempo que aumenta a excitação do leitor impressionável. A segunda metade do livro apresenta dispositivos como classificadores moleculares – rodas que separam diferentes tipos de átomos ou moléculas – junto com correias transportadoras moleculares, braços robóticos e conjuntos de engrenagens interligadas. Há computadores mecânicos em nanoescala feitos de hastes móveis, efetivamente versões em miniatura da Máquina Analítica de Charles Babbage, seu projeto steampunk para uma máquina calculadora de propósito geral, que ele esperava criar com componentes de latão no século XIX. A essa altura, não há mais moléculas à vista: pede-se que assumamos que essas máquinas maravilhosas foram de alguma forma moldadas e montadas a partir de peças diamantoides, embora ninguém jamais tivesse feito nada do tipo.

Talvez seja melhor que isso seja fantasia, porque nesse caso o problema da gosma cinza também será. Nesse cenário de nanotecnologia descontrolada, os nanorrobôes montadores moleculares escapam de nosso controle e se replicam sem freio, desmontando cada fragmento de matéria que conseguem colocar suas nanomãos e transformando-o em mais deles mesmos. Como cada nanorrobô é menor que um grão de poeira, o mundo acaba sendo desmontado – em uma velocidade assustadora, se você acreditar nos cálculos – em uma papa informe.

O problema da gosma cinza tornou a nanotecnologia – que muitos assumiram que seria criada no modelo de Drexler – um bicho-papão de tecnocéticos e ambientalistas nos anos 1990. Entre eles estava o príncipe Charles, agora monarca britânico, cujas preocupações expressas em 2003 levaram a Royal Society a produzir um relatório sobre os benefícios e riscos da nanotecnologia que mal mencionou Drexler e tentou redirecionar a discussão de volta para a ciência real. A narrativa da gosma cinza era, no entanto, boa demais para os escritores de ficção científica resistirem: Michael Crichton, famoso por Jurassic Park, chegou primeiro com seu thriller Presas (2002).

O pesadelo da gosma cinza pode soar familiar aos aficionados pelos “riscos existenciais” da IA, pois é o precursor do “problema do clipe de papel” do filósofo Nick Bostrom. Imagine, disse Bostrom em 2003, que projetemos uma IA superinteligente e toda-poderosa à qual atribuamos a tarefa de fazer clipes de papel. (Seria difícil imaginar um uso mais ridículo para uma tecnologia tão poderosa, mas essa não é a questão – ou melhor, a pura banalidade é parte da questão.) A IA pode decidir que sua tarefa designada é tão importante que não parará por nada para fazer mais clipes de papel. E como nós lhe demos tanto poder e engenhosidade, ela superará qualquer esforço nosso para desviá-la desse objetivo – e prontamente transformará tudo, incluindo a nós, em clipes de papel. O ponto de Bostrom era que seria extremamente difícil, talvez impossível, garantir que uma IA superinteligente tenha objetivos que permaneçam alinhados com os nossos. “O futuro para o qual a IA estaria tentando se orientar seria um no qual houvesse muitos clipes de papel, mas nenhum humano”, disse ele ao HuffPost em 2014.

O cenário de Bostrom tem sido muito debatido, mas seu problema central está exposto de forma clara. Como a gosma cinza, ele envolve uma tecnologia onírica. Não podemos simplesmente desligá-la? Não, ela é “indesligável”. Se é superinteligente, ela não vai perceber que não queremos nos tornar clipes de papel? Não, ela é superinteligente o suficiente para ser imparável, mas não o suficiente para perceber nosso desejo. E como ela transforma tudo em clipes de papel, afinal? Ela pode desmontar tudo em átomos e depois remontá-los à vontade: é Drexleriana! Magicamente, ela tem precisamente as capacidades e falhas que o cenário exige, concedidas por uma Ciência (com C maiúsculo) não especificada.

Mais de três décadas após a publicação de Nanosystems, a nanotecnologia de Drexler não está um nanômetro mais próxima. Não é que fazer um montador molecular diamantoide autorreplicante tenha se mostrado um pouco mais difícil do que Drexler imaginou. É que nunca houve nenhum programa real para como isso pudesse ser feito, nem qualquer razão para pensar que fosse possível. Nem um único átomo de carbono foi colocado no lugar na tentativa. Nenhum cientista considerou que valesse a pena tentar.

No entanto, a nanotecnologia em si é agora uma ciência madura. Peças de matéria de todos os tipos em escala nanométrica podem ser montadas usando processos químicos e são usadas em áreas que vão desde células fotovoltaicas até técnicas de imageamento biomédico. Além do Nobel de Stoddart por máquinas moleculares sintéticas, o Prêmio Nobel de Química de 2023 foi concedido por trabalhos sobre aglomerados de átomos em escala nanométrica chamados “pontos quânticos” (quantum dots), que têm uma panóplia de aplicações da biomedicina às tecnologias da informação. Os químicos descobriram como “programar” fitas de DNA para que elas se dobrem espontaneamente, no estilo origami, em formas e padrões complexos menores que uma bactéria, incluindo um mapa minúsculo das Américas. Microscópios de varredura por sonda são agora usados regularmente como ferramentas para manipulação molecular. Tubos ocos e ultra-resistentes de carbono com cerca de um nanômetro de largura, descobertos em 1991, são as fibras de carbono definitivas e têm sido amplamente usados em dispositivos biomédicos, eletrônicos vestíveis e materiais compostos resistentes. O material de carbono com espessura de um átomo, o grafeno, é outra estrela dessa “nanotecnologia do carbono”, da qual Smalley foi um pioneiro. O sequenciamento de DNA, como o usado para rastrear novas variantes do vírus COVID-19, agora é frequentemente feito arrastando as fitas através de poros proteicos em nanoescala embutidos em membranas, um método desenvolvido pela empresa Oxford Nanopore. Nenhum desses trabalhos, no entanto, usa qualquer coisa parecida com a abordagem defendida por Drexler. Em vez disso, depende da química como sempre a conhecemos.

Isso não quer dizer que a visão de Drexler não teve valor. Ela ajudou a estimular o interesse inicial na área, e até o próprio Smalley atestou que inicialmente ficou entusiasmado com as possibilidades que ela esboçava para a engenharia da matéria em escalas minúsculas. Drexler atraiu capital de risco suficiente para estabelecer em 1986 uma organização chamada Foresight Institute, sediada em San Francisco, que hoje continua a oferecer bolsas e apoio a pesquisas sobre nanotecnologia convencional e a conceder prêmios (batizados em homenagem a Feynman) a cientistas líderes que trabalham na área. O instituto organiza conferências que atraem muitos cientistas respeitáveis, trabalhando em temas como o design de proteínas, que ganhou o Prêmio Nobel de Química de 2024. À primeira vista, o instituto parece ter silenciosamente deixado de lado a própria versão onírica da nanotecnologia de Drexler.

Mas será que deixou? Seu logotipo continua sendo uma das engrenagens diamantoides imaginárias de Drexler. Ele diz que agora apoia trabalhos em neurotecnologia, biotecnologia da longevidade, espaço e “esperança existencial”. Para qualquer pessoa alerta às tecnologias oníricas das tecnoutopias e distopias, estas são bandeiras vermelhas. Neurotech – pense na iniciativa muito divulgada de Elon Musk, a Neuralink, para conectar cérebros a máquinas – conecta-se à fantasia do upload da mente, que Musk acredita ser possível. “Poderíamos baixar as coisas que acreditamos nos tornar tão únicos”, disse ele em uma entrevista em 2022. “Acho que poderíamos fazê-lo no que diz respeito a preservar nossas memórias, nossa personalidade”. Musk diz que um objetivo de longo prazo da Neuralink é “armazenar suas memórias como um backup”. É importante reconhecer que essas ideias não devem ser confundidas com extrapolações ambiciosas das capacidades científicas atuais; elas nem mesmo são conceitos coerentes.

Longevidade? Drexler tornou-se intimamente associado à comunidade que se autodenominava Extropianos, uma referência à ideia de que podemos impor cada vez mais ordem e design (extropia) ao Universo, em vez de nos rendermos à dissolução da entropia aparentemente exigida pela segunda lei da termodinâmica. O Extropianismo tem uma enorme intersecção com o transumanismo, a ideia de que nós, humanos, podemos nos transcender com ajuda tecnológica, eventualmente nos fundindo com máquinas ou redesenhar completamente a forma humana.

Espaço? Não se trata de fazer telescópios ou espaçonaves robóticas melhores. Tecnoutopistas como Musk, Jeff Bezos e o influente engenheiro de software e capitalista de risco Marc Andreessen acreditam no destino manifesto da colonização do espaço pela humanidade. Como Becker explica em More Everything Forever, Kurzweil vislumbra enviar frotas de nanorrobôs replicantes drexlerianos que transformam planetas e, por fim, transformam todo o universo acessível em um supercomputador gigantesco com “formas de inteligência estranhas e sublimes”. Novamente, nada disso está ancorado em tecnologias atuais, mas requer invenções essencialmente mágicas.

Esperança existencial? Aqui, o Foresight Institute direciona você ao Abundance and Growth Fund [Fundo de Abundância e Crescimento] da organização de financiamento e assessoria filantrópica Open Philanthropy, em São Francisco, que visa “acelerar o crescimento econômico e impulsionar o progresso científico e tecnológico” e se opor a “regulamentações governamentais (mesmo bem-intencionadas)” que atrasem o progresso. Em outras palavras, este conceito de “esperança existencial” está alinhado com o tipo de projeto ultra-libertário e anti-regulamentação sonhado por Andreessen, Musk e outros bilionários da tecnologia.

É notável a ausência, Entre tais objetivos utópicos, de qualquer menção às mudanças climáticas, ameaças à democracia, proliferação de armas, ou lucro corporativo — ou qualquer dos problemas urgentes que o mundo enfrenta aqui e agora. Tais questões não interessam aos tecnólogos oníricos, porque não há nada de transcendente nelas. Elas não dialogam com imortalidade, crescimento infinito, futuros galácticos, aquele universo reduzido a um playground almofadado. Bill Joy resumiu a questão em seu artigo de 2000. “Lembro-me de me sentir bem com a nanotecnologia depois de ler Engines of Creation“, escreveu ele. “Se a nanotecnologia era o nosso futuro, eu não me sentia pressionado a resolver tantos problemas no presente. Eu chegaria ao futuro utópico de Drexler no devido tempo; eu poderia muito bem aproveitar mais a vida no aqui e agora.”

O que estragou tudo para Joy não foi o fato de a nanotecnologia drexleriana ser um sonho irrealizável (como qualquer cientista bem-informado poderia ter-lhe dito). Como todos os barões da tecnologia, ele permaneceu dentro do clube, conversando com Kurzweil (“No bar do hotel, Ray me deu uma prévia parcial de seu então próximo livro The Age of Spiritual Machines“, diz Joy, não sugerindo nenhum lampejo de desconfiança com aquele título) e com o futurista da robótica Hans Moravec (título do livro: Robot: Mere Machine to Transcendent Mind). Joy ficou sabendo da gosma cinza, e isso o fez pensar em Hiroshima, e sua visão de uma utopia imaginária se transformou numa de apocalipse imaginário.

Joy estava tentando fazer a coisa certa: pensar eticamente sobre tecnologias poderosas. Mas carecia dos recursos para saber por quê se entusiasmar e o que temer. Ele fez sua fortuna por atuando na invenção de tecnologia de computação que mudou o mundo. Quando escrevi uma resenha crítica de Nanosystems como editor da Nature em 1993, eu estava a meros cinco anos de ter concluído meu doutorado e ainda era muito jovem. Como pude perceber que aquela visão não ia a lugar nenhum, mas Joy não? Certamente não era porque eu era algum tipo de garoto-prodígio. Não era por quem eu era, mas por quem eu não era. Meu círculo social não incluía outros líderes de tecnologia; eu não estava no bar com Kurzweil; eu não estava na bolha onírica do Vale do Silício. Ao contrário, tive a sorte de beneficiar do contato com cientistas fazendo pesquisa de bancada, com gente parecida a Smalley e Stoddart.

Com a IA, estamos fazendo tudo isso de novo. Estamos aceitando as profecias fantásticas de pessoas como o ex-CEO do Google, Eric Schmidt, que previu que “em três a cinco anos teremos … inteligência geral [artificial], que pode ser definida como um sistema tão inteligente quanto o matemático, físico, artista, escritor, pensador, político mais inteligente” (sendo “o artista mais inteligente” um conceito que aparentemente significa algo dentro do Vale do Silício). Sem nenhum traço de ironia, Schmidt acrescenta que “eu chamo isso … de consenso de São Francisco, porque todos que acreditam nisso estão em São Francisco”. Como parte do pacote, somos solicitados a aceitar não apenas os sonhos fantásticos dessa comunidade, mas também sua escatologia, na qual uma superinteligência maquínica nos elimina. Ficamos encantados com tal discurso de “risco existencial” quando vem de um Musk, um Bezos ou outros que caíram na órbita do consenso de São Francisco. E se aceitamos o sonho deles, temos que aceitar seu pesadelo também.

Mas nós não somos obrigados. Nós não temos que comprar os mitos das tecnologias oníricas. Podemos dar uma olhada no que aconteceu com a nanotecnologia drexleriana e captar os sinais de alerta. Podemos escolher recusar essa distração, dar ouvidos a especialistas humildes em vez de gênios aclamados pela mídia. Talvez não seja tão emocionante, e pode exigir que pensemos em riscos chatos e regulamentação mundana da pesquisa em vez de fantasia científica. Mas é aqui que vivemos.