Creso, rei da Lídia, era o homem mais rico do mundo conhecido. Era tão rico que o nome dele tornou-se uma expressão. Ainda hoje se diz “rico como Creso”. Antes de tomar a decisão mais importante da sua vida, fez uma coisa que nos devia soar familiar. Foi pedir uma segunda opinião àquilo que, no seu tempo, mais se parecia com uma máquina de dar respostas: o Oráculo de Delfos.
E fez uma coisa que ainda hoje consideraríamos sensata. Não confiou às cegas. Primeiro, testou.
Enviou mensageiros aos grandes oráculos do mundo, todos com a mesma pergunta combinada, para ver qual respondia certo. Só Delfos acertou. Convencido de que tinha à frente uma fonte fiável, Creso fez então a pergunta que lhe interessava mesmo: devia atacar o império persa de Ciro?
A resposta ficou para a história. Se atacasse os persas, disse o oráculo, Creso destruiria um grande império.
Ele ouviu o que queria ouvir. Reuniu o exército, atravessou a fronteira e foi à guerra convencido da vitória. O grande império que destruiu foi o dele. Ciro derrotou-o, perseguiu-o até Sardes, a capital, e tomou a cidade em 546 a.C. A Lídia acabou. Creso acabou prisioneiro.
Mais tarde, já cativo, Creso mandou queixar-se ao oráculo por o ter enganado. A resposta que recebeu é o centro de tudo o que quero dizer aqui. O oráculo não o tinha enganado. A profecia estava certa, um grande império foi mesmo destruído. Creso é que devia ter perguntado qual império, e devia ter voltado a perguntar antes de marchar. O erro nunca esteve na resposta do oráculo, esteve na pergunta de Creso.
Repara no que isto tem de incómodo. Creso fez tudo o que hoje diríamos ser o correto. Desconfiou. Testou a fonte. Confirmou que era fiável. E mesmo assim caiu, porque a fiabilidade da resposta nunca foi o problema. O problema foi ele não saber que havia uma pergunta melhor à espera de ser feita.
O ponto cego está na pergunta
Há uma ideia atraente e cada vez mais comum. Dá-se tempo e liberdade às pessoas, deixa-se cada uma perguntar à IA aquilo de que precisa, e aprende-se pelo caminho, à medida que se constrói. Tem muito de verdade. Aprende-se imenso assim, e depressa.
Mas tem um ponto cego, e é exatamente o de Creso.
Um modelo de IA ensina bem aquilo que lhe perguntas. O que ele não faz, por defeito, é revelar-te aquilo que tu ainda não sabes que devias perguntar. Responde à pergunta literal que recebe. Se a tua pergunta não chega ao que interessa, o modelo não sabe que devia ter chegado, porque não está a avaliar a tua competência, está a responder à frase que escreveste.
Um mentor humano, mesmo um mau mentor, funciona de outra maneira. Quando fazes uma pergunta que revela uma lacuna, ele repara na lacuna. Pode interromper-te e dizer “espera, antes disso há uma coisa que precisas de perceber”. A tua pergunta ingénua denuncia-te, e um humano atento usa isso para te desviar. O modelo, não. A tua pergunta ingénua recebe uma resposta competente, e tu segues em frente convencido de que estás no bom caminho.
Isto não é uma falha técnica do modelo LLM que a próxima versão vai corrigir. É estrutural à forma como a interação funciona. E ajuda a explicar por que razão explorar livremente, sozinho ou em grupo, pode não resolver o problema. Pode até ampliá-lo, porque um grupo de pessoas a explorar em conjunto tende a não descobrir precisamente aquilo que nenhuma delas sabia que devia procurar.
O site que parecia perfeito
Deixa-me dar um exemplo meu, recente e concreto.
Pedi a uma IA para me construir um website. O resultado foi excelente à primeira vista. Bonito, funcional, feito numa fração do tempo que me teria custado. Antigamente levava-me facilmente duas semanas a fazê-lo, e agora levou vinte minutos. O aumento de produtividade é espantoso.
Só mais tarde percebi o problema. Todo o conteúdo tinha sido inserido diretamente no tema do WordPress, e não como blocos ou texto editável. O LLM codificou um tema e pediu-me para fazer o upload e assim o fiz. Na prática, o site era quase impossível de editar depois pela via normal. Para mudar um simples parágrafo, tinha de ir mexer no código do tema.
A IA fez exatamente o que eu pedi, mas eu não lhe tinha pedido a coisa certa. Não perguntei “isto vai ficar editável no CMS depois?”, e não perguntei porque nem sabia que havia ali uma decisão a tomar. É uma pergunta que só faz quem já construiu sites antes e já se queimou com isto.
E foi aí que me apercebi de uma coisa que me parece central. Quanto maior é a capacidade de execução da IA, maior passa a ser a importância do conhecimento necessário para validar aquilo que ela produz. A máquina ficou melhor a fazer, e isso não diminuiu o que eu preciso de saber, aumentou-o.
O carro de Lego
Há uma imagem que explica isto melhor do que qualquer teoria, e vem de uma caixa de Lego.
Imagina que decides montar um Lego sem o livro de instruções, só por exploração. A pergunta que interessa não é se consegues. É que Lego.
Se for um carro de Lego Duplo, daqueles para crianças pequenas, com quatro ou cinco peças enormes, montas de olhos fechados. Não há nada que possas não saber. A peça encaixa de uma maneira e pronto. Explorar chega e sobra.
Se for um carro de Lego City, com algumas dezenas de peças, ainda te safas. Por tentativa e erro, olhando para a imagem na caixa, chegas a um carro que se aguenta e que se parece com um carro. Pode não ficar perfeito, mas fica bom o suficiente. A exploração ainda cobre o problema.
Agora imagina um Lego Technic. Um destes modelos avançados, como a réplica do Peugeot 9X8 de Le Mans, tem à volta de mil setecentas e setenta e cinco peças. E não são só peças. Lá dentro há um motor V6 com pistões que se movem quando empurras o carro, uma direção que liga o volante às rodas da frente, suspensão independente nas quatro rodas, um diferencial no eixo de trás.
Tenta montar isto sem instruções e sem nunca teres feito nada parecido. Não vais conseguir. E o motivo é mais fundo do que “é difícil”. É que tu nem sabes que aquelas coisas existem para serem feitas. Não sabes o que é um diferencial, nem que é preciso, nem onde entra. Não sabes que a direção tem uma geometria que tem de bater certo. As sub-montagens que fazem o modelo funcionar são invisíveis para quem nunca as encontrou. O livro de instruções faz mais do que acelerar-te. É ele que te diz que aquelas peças do problema sequer existem.
E aqui está o que me interessa mesmo. Quem já montou um motor de pistões em Lego antes, esse talvez consiga montar o Technic sem instruções, por exploração. Não porque seja mais esperto, mas porque já tem na cabeça o mapa das peças invisíveis. A exploração funciona para ele, precisamente porque ele já não está a explorar às cegas.
É esta a diferença que me preocupa quando se fala em aprender IA só por exploração. Para as tarefas simples, o Duplo e o City da vida, explorar chega. Para as tarefas complexas, o Technic, explorar sem base não te leva lá, porque não te mostra as peças do problema que tu não sabes que existem. A exploração chega para o simples, mas para o complexo, sem uma base, não chega.
Duas formas de aprender, e o que cada uma resolve
Vale a pena separar duas coisas que muitas vezes se confundem.
Uma é aprender por construção e experimentação. Defines o que queres, perguntas à máquina, ajustas pelo caminho. É rápido, é motivador e desenvolve competências reais naquilo em que tocaste.
A outra é adquirir conhecimento estruturado antes de construir. Estudar as capacidades e os limites, perceber a forma do problema, saber o que costuma correr mal. É mais lento e menos entusiasmante, e parece um desperdício de tempo, até ao dia em que te salva de um erro que nem sabias que estavas a cometer.
As duas são legítimas, e resolvem problemas diferentes. Mas só a segunda te protege contra o “não sabia que tinha de perguntar isso”. A primeira, sozinha, deixa-te sempre à mercê do teu próprio campo de visão.
Escrevi há pouco tempo sobre uma ideia relacionada. À medida que produzir se torna barato, o valor desloca-se para o julgamento, para saber o que vale a pena fazer e o que fica de fora. Este texto é a outra face da mesma moeda. No outro, a questão era julgar o que a máquina produz; neste, é saber o que lhe pedir. Ambas vivem no mesmo sítio: o conhecimento que te deixa ver aquilo que não está à frente dos olhos.
O que perdura é o raciocínio
Há uma boa notícia nisto tudo, e é a razão por que não sou pessimista.
As ferramentas vão continuar a mudar depressa. Os modelos de hoje estarão obsoletos dentro de um ano. Se o que aprendeste foi apenas a operar uma ferramenta específica, envelheces com ela. Mas há uma competência que não envelhece, que é o raciocínio. Perceber o problema, projetá-lo, planear, estruturar, avaliar, decidir. É isso que te permite pegar em qualquer ferramenta que exista num dado momento e, mais importante, saber o que lhe pedir.
Usar bem a IA parece-se cada vez menos com dominar um programa e cada vez mais com delegar bem trabalho a alguém. Perceber o que queres, dar o contexto certo, decidir o que entregar e o que reter, acompanhar, e avaliar com sentido crítico o que vem de volta. Quem sabe fazer isto com pessoas parte com vantagem. E quem não conhece o problema continua sem saber que devia perguntar por ele.
A pergunta antes da viagem
Creso tinha à frente a melhor IA do mundo antigo. Uma fonte que ele próprio tinha testado e confirmado ser fiável. A resposta que recebeu estava correta. Perdeu na mesma o império, a coroa e a liberdade, porque o que lhe faltou nunca esteve do lado da máquina. Esteve do lado dele, na pergunta que não soube fazer.
A IA vai dar-te sempre uma resposta ao que perguntaste. Rápida, competente, convincente. O que ela não faz é avisar-te quando a tua pergunta é a errada, ou quando há uma pergunta inteira que te escapou.
Explorar ensina-te a fazer melhores perguntas dentro daquilo que já sabes. Não te ensina o que está fora do teu campo de visão, porque isso, por definição, não te ocorre procurar. Para isso, ainda tens de estudar o mapa antes de partir.
Creso não estudou o mapa. Destruiu um grande império.
Fontes
A história de Creso e do Oráculo de Delfos vem de Heródoto, Histórias, Livro 1. O detalhe decisivo, a resposta do oráculo de que Creso devia ter perguntado qual império e voltado a consultar, está em Heródoto 1.91. Para uma introdução fiável: Croesus (Encyclopaedia Britannica), Croesus (World History Encyclopedia) e Herodotus and the invention of history (The Open University).
Sobre o Lego: um exemplo de motores funcionais construídos em Lego, um carro simples de montar, e a análise do Lego Technic 42156 Peugeot 9X8, com motor V6, direção, suspensão independente e diferencial, à volta de 1775 peças.