A razão cabe em um algoritmo? Pensamento e técnica a partir de Bento Prado Júnior

Em 2004, quando a inteligência artificial generativa ainda não fazia parte da vida cotidiana, Bento Prado Júnior suspeitou que o século XXI começava de costas para o futuro. Na conferência em que perguntava onde estávamos na aurora do novo século, seu diagnóstico assumia a forma de um paradoxo. A novidade das tecnologias e da economia podia conviver com uma profunda regressão filosófica. Quanto mais avançados se tornavam os instrumentos, mais antigas pareciam as categorias empregadas para compreender o pensamento. Hoje, essa regressão reaparece na tentação de estreitar o conceito de pensamento até fazê-lo coincidir integralmente com aquilo que os sistemas computacionais conseguem reproduzir.

O alvo imediato de Bento Prado eram algumas tendências das ciências cognitivas. Sob a aparência de uma ciência inteiramente nova, elas lhe pareciam recuperar o naturalismo da segunda metade do século XIX, condensado em uma fórmula que o filósofo atribuía a Ludwig Büchner. O cérebro seria uma glândula, e o pensamento, sua secreção. A linguagem havia se modernizado, mas o gesto permanecia. O salto criticado consistia em tomar a explicação das condições orgânicas da consciência por uma explicação exaustiva da própria consciência. Era como se a localização de seus correlatos cerebrais bastasse para determinar o que são a verdade, a significação e o próprio sujeito.

Tomando como interlocutor o neurocientista Rodolfo Llinás, Bento Prado não recusava as descobertas da neurociência nem reivindicava uma alma separada do corpo. Seu argumento era mais preciso. Mente e cérebro são inseparáveis, mas dessa inseparabilidade não decorre que uma descrição dos processos cerebrais esgote aquilo que chamamos pensamento. Todo ato de pensar possui condições materiais. A exposição dessas condições, contudo, não nos diz se uma proposição é verdadeira ou falsa, se um argumento é válido ou se uma palavra tem sentido. A cadeia causal que explica a ocorrência de uma afirmação e as razões que poderiam justificá-la respondem a perguntas diferentes. Razão designa aqui não a consciência em geral nem o conjunto das capacidades cognitivas, mas a dimensão em que afirmações podem ser justificadas, contestadas e reconhecidas como verdadeiras ou falsas.

Passados mais de vinte anos, a inteligência artificial recoloca o problema em uma escala que Bento Prado dificilmente poderia antecipar. Não se trata de polemizar contra as novas tecnologias, mas de examinar a inferência filosófica pela qual seu êxito é convertido em uma definição de inteligência. Sistemas computacionais produzem textos e imagens, fazem traduções, compõem cadeias argumentativas e geram códigos. Seria inútil negar a importância dessas realizações ou reduzi-las a um truque. A questão começa quando, do fato de um sistema executar tarefas cuja realização costumávamos associar ao pensamento, conclui-se que o pensamento se esgota em processos computacionais.

Quando certos aspectos de uma atividade podem ser reproduzidos computacionalmente, isso demonstra que eles admitem algum grau de formalização. Não demonstra que a atividade inteira se reduza ao procedimento capaz de reproduzi-los. Um modelo pode gerar uma conclusão acompanhada de razões plausíveis. Permanece aberta, porém, a questão de como se relacionam as razões apresentadas, a verdade da conclusão e o processo causal que gerou a resposta. A mesma diferença aparece na fala de qualquer pessoa. A história que explica por que alguém sustentou uma tese não se confunde com as premissas que autorizariam aceitá-la. Descrever como uma resposta foi gerada ainda não estabelece por que ela deve ser aceita.

Cabe considerar a objeção mais forte. Se justificar consiste, em última instância, em articular relações de inferência, e se essas relações podem ser formalizadas e implementadas computacionalmente, por que a distinção entre causa e razão sobreviveria a uma formalização suficientemente completa? Quando um programa produz uma demonstração e verifica cada uma de suas passagens segundo regras determinadas, as razões que sustentam a conclusão não estariam incorporadas ao próprio procedimento?

Em domínios cuja verificação admite um procedimento algorítmico, a objeção deve ser parcialmente concedida. Um algoritmo pode produzir e verificar derivações formalmente válidas. Isso demonstra que certas operações associadas ao raciocínio são computacionalmente realizáveis, mas não decide se o sistema que as executa pensa. A correção formal também não torna idênticas a gênese causal de uma conclusão e sua validade. A validade de uma demonstração não deriva do mecanismo que a produziu. Reconhecemos a execução como correta quando suas operações satisfazem as regras do domínio. Um defeito material poderia produzir por acaso uma sequência formalmente correta, enquanto um computador em perfeito funcionamento poderia produzir uma derivação válida com premissas falsas e conclusão falsa.

Parte das operações de avaliação também pode ser automatizada. Sistemas podem testar premissas no interior de modelos determinados, comparar formalismos e confrontar conclusões com conjuntos de evidências. Isso amplia o alcance computacional da formalização. Permanece, porém, a diferença entre explicar a produção de uma resposta e justificar sua aceitação. Mesmo que critérios de verdade e relevância, assim como regras para a atribuição de responsabilidade, fossem articulados computacionalmente, essa realização não demonstraria que as relações normativas em virtude das quais uma conclusão deve ser aceita sejam idênticas ao processo causal que a produziu. A tese defendida aqui é mais modesta. O êxito de procedimentos computacionais em tarefas formalizadas não basta como prova de que a razão se reduz a um algoritmo.

Na Fenomenologia do espírito, Hegel ironizava a pretensão da frenologia de encontrar no crânio a verdade do indivíduo. Bento Prado recuperou essa crítica na afirmação de que a razão não é um osso. Isso não significa que o espírito possa existir sem corpo. O objeto da crítica é a identificação imediata do espírito com uma coisa ou com uma de suas propriedades observáveis. Para Hegel, o espírito não é uma interioridade isolada. Ele se efetiva na linguagem, na ação, nas instituições e nas relações de reconhecimento. Não paira acima de suas condições materiais, mas tampouco se identifica imediatamente com um de seus suportes ou com a reprodução formal de algumas de suas operações.

Hoje poderíamos prolongar essa formulação com maior precisão. Algoritmos podem servir de meio para operações inferenciais e integrar práticas nas quais razões são produzidas e avaliadas. Disso não se segue nem que o sistema pense, nem que a razão se reduza ao funcionamento algorítmico. O que permanece em questão é a tese mais forte segundo a qual o pensamento se esgota em processos computacionais. O desempenho observável e a descrição formal de um sistema não resolvem essa questão. A possibilidade de máquinas pensarem permanece aberta.

Mais decisivo do que a eventual substituição de atividades humanas é o risco de redefinirmos o pensamento segundo aquilo que as máquinas conseguem reproduzir. A facilidade com que um sistema produz formas reconhecíveis de nossa escrita pública e acadêmica revela simultaneamente sua potência e o quanto essa escrita já se tornou previsível, padronizada e indiferente à experiência de pensar. A automatização não invade um território intacto. Por vezes, apenas expõe a mecanização que já organizava nossas práticas. Quando a medida da razão deixa de ser sua relação com a verdade, com a justificação e com a responsabilidade pelo que se diz, a produção eficiente de uma resposta reconhecível como adequada passa a bastar.

Retomar Bento Prado não exige repetir sua conclusão. Exige, antes, conservar a pergunta que orientava sua conferência. Um avanço científico ou técnico traz necessariamente consigo uma compreensão mais adequada do ser humano? A inteligência artificial amplia essa interrogação, mas não a encerra. Seu desempenho extraordinário constitui um acontecimento filosófico justamente porque nos obriga a rever o que entendemos por inteligência, e não porque já tenha respondido à pergunta em nosso lugar.

Talvez o maior efeito filosófico das máquinas contemporâneas seja mostrar quão depressa estamos dispostos a empobrecer o conceito de pensamento para que ele caiba inteiramente nelas. O futuro da razão não depende de rejeitar a técnica, mas de impedir que a eficácia técnica se torne sua única definição possível. Mais de duas décadas depois, a pergunta de Bento Prado permanece aberta. Na aurora prolongada do século XXI, onde estamos?