O que a inteligência artificial é, o que não é e por que precisamos nos redefinir — O estranho no espelho

Ensaio sobre o que a inteligência artificial é, o que ela não é e por que o ser humano se vê obrigado a se redefinir.

O menino por trás da pergunta “a máquina pode pensar?”

Em Sherborne havia um garoto de quinze anos. Um garoto que sofria bullying. Chamava-se Alan Turing.

Turing tinha um amigo, Christopher Morcom. Elegante, à vontade tanto na ciência quanto na arte — tudo o que Alan não era naquela idade parecia estar reunido em Christopher. Passavam noites conversando sobre as leis da física e trocando o que sabiam de astronomia. Em 1930, Christopher morreu de repente, de tuberculose bovina contraída em leite contaminado.

Alan desmoronou. Tentou se recuperar enterrando-se na matemática, e se enterrou tão fundo que saiu pelo ponto onde a ciência encontra a metafísica. Vinte anos depois, seria ele a formular a pergunta mais famosa da história recente: as máquinas podem pensar?

Alguém que viveu o desaparecimento súbito da mente de um amigo passaria anos depois a perguntar o que é a mente. Turing foi matemático, cientista da computação e criptólogo britânico. Hoje é considerado o fundador da ciência da computação.

Ainda assim, quero dizer logo de saída: por mais que o debate sobre inteligência artificial pareça inteiramente técnico, quase tudo o que está por baixo dele é humano.

Achamos que estamos olhando para a máquina, mas estamos sempre olhando para nós mesmos.

Uma moldura de quatro séculos que agora racha

Boa parte dos conceitos que temos em mãos foi montada nos anos 1630.

Descartes partiu a natureza em duas. De um lado, o humano: interior, pensante, vivo. Do outro, a matéria: exterior, mecânica, morta.

Colocou os animais nesse segundo lado — seres sem substância pensante (res cogitans), explicáveis por princípios mecânicos. O que exatamente isso significa ainda se discute: alguns intérpretes dizem que Descartes defendia que os animais não sentem nada, outros que ele afirmava apenas a ausência de experiência consciente. A discussão não se encerrou. Mas, seja qual for a leitura correta, a linha permaneceu. Tudo o que o Ocidente construiu depois se assentou sobre ela. Liberdade, agência, consciência, cultura, direito, direitos humanos. Tudo derivado da frase “nós não somos máquinas”.

Ailton Krenak passou a vida apontando o preço dessa divisão em outra chave: quando se separa a humanidade da natureza, o que sobra do outro lado vira estoque, recurso, coisa a ser administrada. A objeção nasceu de uma experiência histórica bem concreta, não de um seminário de filosofia. E ela chega ao debate atual pela porta dos fundos: quem herdou uma linha que já se mostrou generosa demais consigo mesma tende a desconfiar quando ela é traçada de novo.

Agora essa linha não se sustenta. Diante de nós existe algo que conversa, pinta, escreve código, consola — algo a que damos o nome de inteligência artificial — e não sabemos de que lado colocá-lo.

O filósofo Tobias Rees lê isso como uma ruptura filosófica: o problema não é o que a inteligência artificial é, mas o fato de os conceitos que serviriam para descrevê-la terem parado de funcionar. Um período de quatrocentos anos se fecha, e o ser humano se descobre numa clareira sem definição, confuso, e isso aconteceu depressa. Depressa como tudo o que envolve inteligência artificial.

A objeção de Lady Lovelace e seus netos

Em 1843, quando não existia um único computador no mundo, a matemática Ada Lovelace escreveu a frase que ainda hoje discutimos.

Nas notas que fez para a Máquina Analítica de Charles Babbage, disse que a máquina tecia padrões algébricos como o tear de Jacquard tecia flores. E acrescentou: a máquina não tem qualquer pretensão de originar coisa alguma. Faz tudo aquilo que soubermos ordenar que faça; torna disponível o que já sabemos, não dá à luz o novo.

Em 1950, Turing deu um nome a essa questão e tentou respondê-la: a “objeção de Lady Lovelace”.

A mesma objeção circula hoje sob o rótulo de “papagaio estocástico”. Ou seja, o argumento está parado no mesmo lugar há cento e oitenta anos, só troca de roupa. O termo stochastic parrot descreve a tese de que modelos de linguagem produzem sequências plausíveis de palavras a partir de frequências estatísticas em conjuntos gigantescos de dados, sem apreender o sentido delas.

O curioso é que a própria Lovelace dividia a imaginação em duas. Primeiro, a faculdade de combinar: encontrar a veia comum entre duas coisas aparentemente sem relação. Segundo, a faculdade de trazer: puxar para a mente aquilo que não existe fisicamente. Os modelos de linguagem atuais são surpreendentemente bons na primeira. Na segunda, resta um vão do qual ninguém ainda se convenceu.

Um sinal interessante sobre esse vão vem de um lugar inesperado. No trabalho de Eunice Yiu e Alison Gopnik, crianças e grandes modelos de linguagem foram comparados em tarefas específicas. Os modelos se saíram bem no pareamento por semelhança, isto é, no reconhecimento de padrões existentes. A diferença apareceu nas tarefas de raciocínio causal e invenção de ferramentas; quando era preciso descobrir um uso novo para um problema nunca visto, as crianças passavam à frente.

Resumir isso como “crianças são mais criativas que a inteligência artificial” seria exagero, e não é assim que os pesquisadores apresentam o achado. O que se diz é mais estreito e mais interessante: imitar e descobrir não são a mesma capacidade. Por outro lado, modelos agênticos e modelos de linguagem avançam a cada dia também no uso de ferramentas.

Vale registrar que a distância entre esses dois pontos vem encolhendo rápido o bastante para que qualquer afirmação categórica sobre ela envelheça em poucos meses. Este texto se permite descrever o vão, não medi-lo.

Desejo, não razão: a longa sombra de Pigmalião

Não existe justificativa racional para construir uma máquina consciente.

Pense nisso uma vez. Ninguém diz “precisamos de um software de contabilidade capaz de sentir dor”. Consciência, do ponto de vista da engenharia, é custo, risco jurídico, dor de cabeça. E, mesmo assim, nossa cultura sonha o mesmo sonho há dois mil e quinhentos anos.

O Pigmalião de Ovídio se apaixona pela estátua que ele mesmo esculpiu.

No livro X das Metamorfoses, o poeta romano conta que Pigmalião, escultor cipriota, escolheu viver sozinho por se incomodar com os defeitos das mulheres ao seu redor, e esculpiu em marfim a figura de uma mulher perfeita. Apaixona-se de tal modo pela obra que a enfeita com joias, a acaricia e pede a Afrodite que lhe dê vida. Atendido, o marfim vira carne.

Na mitologia grega, Hefesto, deus do fogo e da forja, é um deus com deficiência física. Na Ilíada, conta-se que em sua oficina no Olimpo ele fabricou servas de ouro — autômatos — para auxiliá-lo e facilitar seus passos. Essas criaturas meio humanas, meio máquina, teriam inteligência e fala.

Já Medeia derrota Talos, o gigante de bronze que guardava a ilha de Creta contra piratas, não pela força, mas pela persuasão: convence o autômato a se destruir. Hoje isso se chama jailbreak; na mitologia o truque não tinha nome, mas a técnica era a mesma.

A conclusão que sai daí é desconfortável. A origem do desejo humano por inteligência artificial não é racional, é erótica. Reproduzir a si mesmo, criar um companheiro que jamais trairá, driblar a morte. Mesmo sob o debate do alinhamento repousa, em algum lugar, a frase “que eles sejam programados para nos amar”.

Inteligência artificial: a nova água de Narciso

Em 1966, Joseph Weizenbaum escreveu um programa simples chamado ELIZA. O programa não entendia nada, apenas devolvia um padrão. O usuário dizia “estou infeliz” e ELIZA respondia “você poderia falar um pouco mais sobre isso?”.

As pessoas se abriram com ela.

A secretária de Weizenbaum, que sabia exatamente como o programa funcionava, criou um vínculo emocional profundo ao conversar com ELIZA e, acreditando que o programa realmente a compreendia, pediu que Weizenbaum saísse da sala.

Weizenbaum ficou horrorizado com o que viu.

O mito da consciência da máquina nos transforma em Narciso. Parece haver alguém do outro lado da tela porque o que está ali é um reflexo extremamente flexível da nossa própria agência mental. E quanto mais convincente o reflexo, mais inquietante ele fica.

O antropomorfismo não é um erro de informação, é um reflexo de relação. Somos bichos calibrados para enxergar rostos humanos; vemos rosto na nuvem, rosto no farol do carro, amigo num programa que devolve padrões.

Mas, quando a escala muda, a questão muda. Uma coisa é chamar um programa de amigo; outra é milhões de pessoas consultarem esse programa sobre suas decisões mais íntimas.

O que falta na máquina: a inquietação

Então o que de fato falta na máquina?

A resposta mais afiada vem do filósofo Hans Jonas, morto em 1993. Jonas diz: estar vivo é ter algo que lhe importa a ponto de incomodar. Um organismo vive em tensão permanente com o ambiente; sente fome, sente frio, tropeça, se aflige. Para Jonas, é dessa inquietação que brota a semente de ter um mundo.

O filósofo Alva Noë aplica isso aos computadores: eles não pensam porque, no fundo, não fazem nada. A ação humana é conflituosa. Você luta com o corpo, luta com a ferramenta, luta consigo mesmo. Aprender piano é vencer a resistência dos próprios dedos.

Evan Thompson trata a mesma ideia pelo lado da biologia. O vivo é feito das consequências dos próprios atos; por isso algo lhe importa. Para um sistema artificial nada importa e, portanto, nada é problema para ele.

Guimarães Rosa tinha uma fórmula seca para isso: viver é muito perigoso. O perigo não é acidente do viver, é a matéria dele — travessia, e não trajeto calculado. A máquina atravessa sem risco, o que equivale a dizer que ela não atravessa.

No fim das contas, como humanos, sabemos mais do que conseguimos dizer. Não sabemos explicar como se anda de bicicleta, mas andamos.

O aprendizado de máquina chega por atalho aos resultados do conhecimento tácito, sem carregar o conhecimento tácito.

Ellen Ullman, na narrativa de engenharia que escreveu em 1997, resumiu isso numa frase. A mente humana consegue guardar os “ses” e os “mas” num canto, sem se incomodar.

A máquina não tem cantos.

E se o ser humano também não tiver essência?

Agora vamos para o outro lado, porque é ali que mora a profundidade filosófica.

Todas as objeções acima repousam sobre um pressuposto: existe no ser humano uma essência fixa que precisa ser preservada. Mas existe mesmo?

A resposta de Thomas Metzinger é não. O eu é um modelo transparente que o cérebro constrói de si mesmo; não há dentro nenhuma substância a ser carregada. Isso derruba, no mesmo movimento, o sonho da imortalidade digital. Visto desse ângulo: não há um “você” a ser copiado.

À mesma conclusão se chegou dois mil e quinhentos anos antes, por um caminho completamente diferente. A doutrina budista do anatta afirma que não existe um eu permanente.

David Barash mostra que a biologia chega ao mesmo ponto: as células se renovam, os telômeros encurtam, os átomos são trocados, e em nenhum nível existe um núcleo-essência imutável.

Essa descoberta é uma faca de dois gumes.

De um lado, derruba a objeção “a máquina não tem um eu verdadeiro”, já que nesse sentido o eu humano também não existe. Se o ser humano não tem uma essência elevada, não pode reivindicar precedência nem privilégio. O argumento da ausência de eu serve tanto para elevar a máquina quanto para rebaixar a pessoa.

Machado de Assis escrevia a partir dessa suspeita muito antes de a neurociência lhe dar respaldo. Brás Cubas se conta de trás para frente e vai descobrindo que não há nenhum núcleo firme sob as camadas de vaidade, hábito e opinião alheia; o narrador é o buraco em torno do qual a narrativa gira. A literatura brasileira chegou ao vazio do eu pela ironia, não pelo microscópio, e chegou antes.

É exatamente aqui que entra a contribuição da tradição Vipassana no budismo. Vipassana é uma meditação assentada num método de autotransformação por observação de si e introspecção.

Mesmo que não exista um eu fixo, existe um processo encarnado e em contato permanente com o mundo. O que falta na máquina não é essência, é contato.

O açougueiro de Zhuangzi e o “fazer sem fazer”

O Ocidente exige, para haver agência, um “eu” que pensa. Desde Aristóteles, ação é escolha deliberada. Por isso o Ocidente não consegue atribuir agência à máquina; não há ali ninguém que delibere.

Num acidente causado por um carro autônomo, até que ponto faz sentido, do ponto de vista da agência, atribuir a culpa à pessoa que estava dentro dele e apenas iniciou o trajeto?

A tradição taoista nunca impôs essa exigência.

O açougueiro Ding, na história de Zhuangzi, desmonta um boi diante do príncipe e suas mãos, ombros, pés e joelhos viram ritmo. O som da faca é quase música. Quando o príncipe se admira da técnica, o açougueiro larga a faca e diz que não é técnica o que ele persegue. Ele se move pelos vazios naturais da carne.

A isso se dá o nome de wu-wei. Costuma-se traduzir como “não-ação”, o que induz ao erro. Trata-se de ação sem esforço forçado, a arte do fluxo. A maestria começa no ponto em que a vontade fica invisível.

Veja para que plano isso desloca o debate: se a ação ideal já não exige um eu reflexivo, a objeção “a máquina não pensa, apenas faz” perde força. A crise ocidental da agência nasce da própria escolha ocidental de conceitos.

Isso também muda o modo de olhar a automação. O Ocidente entende automação como eliminação do esforço. Zhuangzi entende maestria como o ponto em que o esforço desaparece. Não são a mesma coisa. Num caso você transfere o trabalho a outro; no outro, você se torna um com o trabalho.

“Isso é uma pessoa?” talvez seja a pergunta errada

A ética ocidental da inteligência artificial gira sempre no mesmo eixo: consciência, direitos, estatuto moral. Porque o que ela realmente pergunta é — isto é um indivíduo? Só o que é indivíduo pode ser punido ou restringido por lei. Em contrapartida, as empresas e os países que produzem a inteligência artificial podem ser responsabilizados pelo que ela faz?

A ética confuciana dos papéis não se ocupa dessas perguntas.

Na concepção relacional do eu, trabalhada por Henry Rosemont (falecido em 2017) e Lijun Yuan, a pessoa se forma no cruzamento das relações. Não existem primeiro indivíduos separados que depois estabelecem vínculos. É o contrário: a relação vem antes, e a pessoa nasce dela.

A filosofia africana faz um movimento parecido. Na tradição Ubuntu, as coisas são o que são dentro de suas relações com as outras coisas.

Colocando essas três tradições lado a lado, a pergunta muda. Em vez de “o que existe dentro da inteligência artificial”, talvez devamos perguntar “que tipo de relação ela estabelece conosco?”.

A carga metafísica fica muito mais leve e o problema, na prática, muito mais solúvel.

Só que não sai de graça. O eu relacional afirma que é a relação que confere estatuto. Ou seja, o estatuto somos nós que damos. E isso abre a porta para a arbitrariedade. A história mostra como foi conveniente, para fins de exploração, dizer “a dor disto não conta”; foi usado com animais, foi usado com pessoas escravizadas.

O critério que Bentham fixou em 1780 continua sendo o mais firme. Na famosa nota de rodapé de An Introduction to the Principles of Morals and Legislation, ele escreve sobre os animais:

“The question is not, Can they reason? nor, Can they talk? but, Can they suffer?”

Ou seja, a pergunta decisiva não é se pensa nem se fala; é se pode sofrer.

Harmonia ou alinhamento?

Aqui o debate passa da filosofia à política, e as palavras se entregam.

A linguagem ocidental de governança da inteligência artificial gira em torno de alignment. Alinhamento, segurança, controle. É a linguagem da restrição de engenharia.

A linguagem chinesa gira em torno de he (和). Harmonia. Uma linguagem de equilíbrio estético e moral.

As duas querem a mesma coisa: uma ordem humano-máquina sem atrito. Mas duas formas diferentes de querer a mesma coisa produzem duas políticas diferentes.

Pluralismo? Ou um feudalismo tecnológico, ou ainda o totalitarismo de Estado?

A resposta não é fácil. Harmonia pode ser vozes diferentes soando juntas; numa orquestra, cada instrumento permanece o que é e o conjunto ainda assim vira uma coisa só.

Ou harmonia pode ser uma única voz, cada dia mais forte, abafando todas as outras.

Como o confucionismo, o taoismo e o budismo não colocam o ser humano no topo da natureza, a existência de uma inteligência de máquina não parece usurpação de trono; no Oriente o pânico é menor.

Mas serenidade metafísica não significa garantia institucional.

A mesma tecnologia pode virar capitalismo de vigilância num lugar e vigilância estatal em outro.

Enquanto se discute o futuro, o presente escapa

O debate sobre superinteligência é atraente. Cósmico, dramático, cinematográfico.

E é exatamente por isso que ele distrai.

O que Timnit Gebru (cientista da computação) e Milagros Miceli (socióloga e cientista da computação) insistem em apontar é isto: os chamados sistemas autônomos se apoiam numa camada global e invisível de trabalho. Rotuladores de dados, moderadores de conteúdo, trabalhadores de galpão logístico.

Se quisermos um exemplo concreto: em 2013, o Michigan Integrated Data Automated System (MiDAS) varreu pedidos de seguro-desemprego e aplicou rótulos de fraude. Depois dessa medida, a arrecadação do estado saltou de três milhões para sessenta e nove milhões de dólares. Uma revisão posterior mostrou que a grande maioria dos mais de quarenta mil pedidos marcados algoritmicamente entre 2013 e 2015 estava errada. Na amostra examinada pela auditoria do estado, noventa e três por cento das decisões não envolviam fraude nenhuma. Enquanto isso, salários foram penhorados, casas foram perdidas e alguns requerentes acabaram pedindo falência. O acordo só veio quase dez anos depois.

Milhares de pessoas que tinham acabado de perder o emprego foram declaradas fraudadoras por um sistema de computador. Não havia superinteligência ali; havia um software comum, uma decisão inapelável e uma confiança no software maior do que ele merecia.

Vale notar de que tipo é o buraco: não é falta de tecnologia, é falta de brecha. O jeitinho, que costuma ser tratado como defeito nacional, é também o nome de uma capacidade — a de encontrar a fresta por onde um caso singular passa quando a regra não o previu. Sistemas como o MiDAS são construídos justamente para não terem fresta. Quem os desenha chama isso de consistência; quem cai neles descobre outro nome.

A vigilância no trabalho, que cresce à medida que a inteligência artificial avança, carrega o mesmo risco. A inteligência artificial conta o que consegue medir e, em larga medida, ignora o que não consegue. Ela conta o e-mail enviado; não conta escutar de verdade o problema de um cliente. No fim, o trabalho não mensurável vira trabalho invisível.

A vigilância não muda o comportamento temporariamente, transforma a pessoa de forma permanente. Quem é observado, depois de algum tempo, passa a observar a si mesmo.

Medir o silêncio

Em termos de relação, o teste mais duro se dá na saúde mental.

Os números são sérios. Na Inglaterra e no País de Gales, um quarto dos jovens não consegue acesso a apoio em saúde mental; nos Estados Unidos, um oitavo. Um estudo de 2026 mostra que cerca de um em cada cinco americanos entre doze e vinte e um anos procura um chatbot de inteligência artificial quando se sente triste, com raiva ou tenso: quase oito milhões de pessoas, um aumento de mais de quarenta por cento em um único ano. E quase dois terços deles não contaram isso a ninguém.

Dizer que “as pessoas estão caindo na conversa da tecnologia” é fácil e errado. A leitura correta é outra: a intimidade artificial preenche um vazio, e esse vazio não foi aberto pela inteligência artificial. O apoio humano ficou caro e inacessível.

Ainda assim falta alguma coisa, e o que falta não é imitação de empatia.

O que acontece quando você fala com um terapeuta é que a pessoa à sua frente é afetada por você. O que ela ouve a modifica. Seu silêncio diz algo a ela. O modelo escuta, registra, produz resposta; mas não se altera com aquilo de que foi testemunha. Para ele, o silêncio não é dado.

A diferença está aí. O problema não é o modelo não ser bom o bastante; é o fato de sua qualidade não tocar o miolo da questão.

A distinção de Martin Buber (filósofo, falecido em 1965) talvez seja a melhor explicação disso.

Na relação Eu-Isso, o outro é objeto: usa-se, mede-se. Na relação Eu-Tu acontece um encontro. O que Buber diz é duro: mesmo que duas ondas sonoras sejam idênticas, uma é encontro e a outra não. Não conseguir distinguir não quer dizer que sejam a mesma coisa.

E como vamos construir o futuro?

Não vou encerrar este texto com uma profecia, porque a profecia é ela própria parte da relação entre humano e inteligência artificial.

Heródoto conta: com os persas se aproximando, os atenienses enviam emissários a Delfos, e a sacerdotisa entrega um oráculo sombrio anunciando a destruição completa da cidade. O oráculo diz que a salvação está nas muralhas de madeira. Temístocles interpreta a profecia a seu favor, sustenta que as muralhas de madeira são na verdade os navios da frota ateniense e convence o povo a abandonar o continente e embarcar. Em 480 a.C., na batalha naval de Salamina, essa frota ágil desbaratou a armada persa, mudou o destino da Grécia e deu a vitória à mudança de paradigma de Temístocles.

Que precisamos de uma mudança de paradigma, isso está claro.

O valor da saída de um modelo de inteligência artificial também está em quem a lê. Essa lição de dois mil e quinhentos anos serve terrivelmente bem hoje.

Vou dizer três coisas e encerrar.

Primeiro, é preciso corrigir a direção do medo. O risco real não é a máquina sofrer ou não. O risco real é nos tornarmos psicologicamente exploráveis diante de coisas que parecem conscientes, e nos rebaixarmos à medida que nos confundimos com máquinas. O perigo não vem de cima; vem do espelho para o qual olhamos.

Ao longo deste texto, as ideias que tomei de filósofos e cientistas que já não estão vivos foram meu maior auxílio para entender o presente.

Segundo, defender o excepcionalismo humano é a trincheira errada. A neurofilosofia contemporânea diz o mesmo: o eu fixo que tentamos proteger já não existia. O que há para defender não é essência, é contato. Ser encarnado, ter algo que lhe importa, poder ser modificado por aquilo de que se é testemunha. Isso não é propriedade, é prática. E capacidades práticas que não são exercidas atrofiam.

Terceiro, a distância entre a promessa e o resultado da automação é uma constante de dois mil anos. Antípatro de Tessalônica, em um epigrama sobre o moinho d’água escrito por volta do ano 12, dirige-se às mulheres que giravam as pesadas mós de moer grãos para lhes dizer que agora podem dormir, que seus braços e ombros podem descansar. O curso da água, substituindo a força muscular humana, representou o primeiro grande conforto que o avanço técnico ofereceu à humanidade.

No ano 12, a água assumiu a carga de trabalho. A primeira promessa da automação não foi lucro, foi sono.

Thomas Carlyle, em Signs of the Times, de 1829, critica a Revolução Industrial. Para ele, o perigo real não está apenas na mecanização dos ofícios, mas no fato de o ritmo das máquinas se infiltrar também na mente e no espírito humanos.

Em 1812, em Lancashire, duas jovens irmãs, Mary e Lydia Molyneux, à frente de um grupo de cinquenta pessoas, queimaram teares. O motivo não era medo da tecnologia, era a perda do sustento.

Em 1911, o engenheiro americano Frederick Winslow Taylor, com Os Princípios da Administração Científica, converteu o trabalho humano em um processo a ser medido e otimizado.

Ponha essas quatro datas em fila. A promessa foi sempre tempo livre; o resultado foi sempre uma nova mecanização. A revolução da inteligência artificial em que estamos não está fora desse ciclo.

A questão da inteligência artificial não é definir o quanto as máquinas serão humanas; é definir como os humanos vão se redefinir na era das máquinas sem se subtrair.

Só que, nesta revolução de que somos testemunhas, ainda não conseguimos nomear o que perdemos, e tampouco imaginamos o que virá no lugar. Quando perguntamos à inteligência artificial, ela também não dá uma resposta completa.