Se fores a Roma, à igreja de San Pietro in Vincoli, encontras uma das esculturas mais famosas de Michelangelo. É o Moisés, esculpido por volta de 1515 para o túmulo do Papa Júlio II. Tem a barba imponente, o olhar severo, os braços de quem acabou de carregar tábuas de pedra. E tem, no cimo da cabeça, dois chifres.
By Jörg Bittner Unna – Own work, CC BY 3.0, Link
Não é um capricho de Michelangelo. Ele esculpiu exatamente aquilo que a sua época acreditava ser verdade. O erro é muito mais antigo, e é um erro de tradução.
No século IV, São Jerónimo traduziu a Bíblia hebraica para latim. Essa tradução, a Vulgata, foi o texto de referência do Ocidente durante mais de mil anos. No livro do Êxodo, quando Moisés desce do monte Sinai, o hebraico descreve o seu rosto com a palavra qaran. Quer dizer “radiante”, “a brilhar”. Mas qaran partilha a raiz com outra palavra, qeren, que quer dizer “chifre”. Sem vogais escritas, as duas moram muito perto uma da outra.
Jerónimo escolheu chifres. Escreveu que o rosto de Moisés tinha ficado cornuta, com chifres.
E aqui está a parte que interessa. Jerónimo não se enganou por ignorância. Sabia que a palavra era ambígua. Sabia que quase todas as traduções gregas e aramaicas anteriores tinham lido “radiante”. Escolheu na mesma a leitura minoritária. Fez uma interpretação, apresentou-a como tradução, e durante mais de mil anos quase ninguém no Ocidente teve como o contestar, porque quase ninguém lia hebraico. A escolha de um homem tornou-se pedra nas mãos de Michelangelo, e a pedra ainda lá está.
É exatamente isto
Penso nesta história cada vez que trabalho com IA.
Um agente pega numa fonte ambígua, o meu pedido, faz dezenas de escolhas interpretativas que eu não vejo, e devolve-me um resultado acabado, confiante, com todo o ar de verdade. E eu, na maioria das vezes, não tenho como ler o hebraico.
Deixa-me dar um exemplo concreto e recente.
O site em dez minutos
Há uns meses quis ter um site próprio para publicar os meus textos. O problema nunca foi a vontade, foi o tempo: desenhar, implementar, rever, publicar. A única matéria-prima que eu tinha eram os artigos e uma ideia vaga de como o site poderia ficar.
Pedi a um modelo para tratar disso. E ele tratou. Instalou o WordPress. Criou um tema, com alguma direção minha pelo meio. Gerou imagens. Foi buscar os artigos, traduziu-os, tratou do SEO de base, montou as funcionalidades essenciais. Do princípio ao fim, não gastei mais de dez minutos a dar indicações.
Produzir um site inteiro, uma coisa que há uns anos era um projeto de semanas, passou a custar dez minutos da minha atenção. É embriagante. E é aqui que a história do Moisés começa a fazer sentido.
O que o “pronto” esconde
O site parecia pronto, e não estava.
Num dos casos, o agente construiu um formulário de contacto. Funcionava. O campo estava lá, o botão submetia, a mensagem de sucesso aparecia. Só que ninguém lhe tinha dito para onde deviam ir as mensagens, e ele não perguntou. Decidiu sozinho. Durante um tempo, qualquer pessoa que me tentasse contactar estava a escrever para lado nenhum.
Não foi um erro que salta à vista. Foi uma decisão silenciosa, tomada por baixo de algo que parecia acabado. Como escolher “chifres” em vez de “radiante” e seguir em frente.
Houve mais. O SEO, que é básico num site, só ficou feito depois de eu o pedir explicitamente. As imagens eram as que o modelo tinha à mão, e nunca foram otimizadas, e um site cheio de imagens pesadas é um site lento e uma má experiência para quem o visita. Nada disto estava “errado” de uma forma óbvia. Estava tudo funcional à superfície e defeituoso por dentro.
O que percebi foi simples de dizer e difícil de digerir. O meu trabalho tinha deixado de ser produzir. Produzir, o modelo faz melhor e mais depressa do que eu. O meu trabalho passou a ser conseguir ver o que ele decidiu, e escolher no que confiar.
Tu não lês hebraico
Com um site pequeno, ainda consigo abrir tudo e verificar. Com um projeto grande, com dezenas de decisões, scripts e dependências, deixo de conseguir. A dada altura, a quantidade de coisas a verificar deixa de caber na cabeça de uma pessoa.
É o mesmo problema do leitor medieval diante da Vulgata. Ele não podia confirmar se “chifres” estava certo. Não lia hebraico, não tinha acesso à fonte, e tinha à frente um texto produzido por uma autoridade competente, com todo o ar de verdade. Só lhe restava confiar.
E há aqui uma armadilha que se agrava com o tempo. Quanto melhores forem os modelos, mais fluentes, mais bem escritos, mais bem raciocinados os seus outputs, mais convincentes serão também quando estiverem errados. Jerónimo não era um amador. Era o maior especialista da sua época, e foi precisamente por isso que a escolha dele pesou tanto e durou tanto. Um erro dito com competência viaja mais longe do que um erro dito com hesitação.
A fé é o preço da escala
A tentação, ao perceber isto, é responder com mais controlo. Verificar tudo, aprovar cada passo, não deixar nada passar sem inspeção. Só que isso não escala. Se tens de ler o hebraico de cada frase, mais vale traduzires o livro inteiro sozinho.
Por isso, mais cedo ou mais tarde, chega-se a uma conclusão desconfortável: para escalar, é preciso aceitar um certo grau de fé no output.
Não é uma ideia nova, e é isso que me tranquiliza. Toda a tradução foi sempre um ato de fé de quem a lê. Toda a delegação de trabalho é fé em quem o faz. Instituições inteiras, a ciência, o direito, a imprensa, assentam sobre resultados que quase ninguém verifica na totalidade e em que, ainda assim, decidimos confiar. Nunca conseguimos verificar tudo. Construímos o mundo na mesma.
A tarefa, então, nunca foi eliminar o erro. Foi decidir onde pôr a confiança e onde ir olhar.
Saber que palavra verificar
O erro vai continuar a fazer parte disto, como sempre fez parte da história humana. O Moisés com chifres ficou de pé durante séculos, e o mundo seguiu o seu caminho à mesma. Não foi o fim de nada. Foi só uma palavra, mal escolhida, que ninguém verificou a tempo.
O que muda agora é a velocidade e a escala a que estas escolhas acontecem. Um agente toma numa tarde mais decisões invisíveis do que Jerónimo tomou numa vida.
Por isso não acredito que a competência do futuro seja verificar tudo. É saber que palavra ir verificar. Onde é que uma escolha silenciosa tem consequências grandes, e onde é que não faz mal nenhum estar errada. Onde está o formulário de contacto, e onde está o tamanho de uma margem.
O rosto de Moisés brilhava. Alguém leu chifres. A distância entre as duas coisas é todo o trabalho que nos resta.
Fontes
A história da tradução de São Jerónimo e dos chifres do Moisés está documentada em várias fontes de história da arte e da tradução. Para uma introdução: Horns of Moses (Wikipedia) e The reason why Michelangelo’s Moses has horns (Aleteia). O Moisés de Michelangelo foi encomendado em 1505 pelo Papa Júlio II e encontra-se na Basílica de San Pietro in Vincoli, em Roma.