Da tábula rasa à nuvem de dados

Locke, inteligência artificial e a origem das nossas “ideias” digitais

Quando entrei pela primeira vez no prédio histórico da Faculdade de Direito da USP, no Largo de São Francisco, não imaginava que uma discussão do século XVII voltaria a mim por causa de máquinas. Lembro-me de um seminário sobre John Locke e de uma imagem que sobreviveu às demais: a mente como uma folha em branco, preenchida pela experiência.

A imagem é poderosa e, por isso mesmo, costuma simplificar o filósofo. Locke não negava que a mente tivesse faculdades. Seu argumento se dirigia à existência de ideias inatas: os materiais do conhecimento viriam da experiência, por meio da sensação e da reflexão. A mente não era uma pedra vazia; era capaz de perceber, comparar, combinar e abstrair.

Hoje, modelos de inteligência artificial aprendem regularidades a partir de grandes conjuntos de textos, imagens, sons e outros registros. A semelhança com a tábula rasa parece imediata. Também aqui haveria uma estrutura que começa sem ideias e adquire conteúdo pela exposição ao mundo.

Mas a comparação começa a se desfazer assim que olhamos com cuidado para o que chamamos de experiência, ideia e aprendizagem.

Dados não são o mundo

Para Locke, a sensação é uma fonte de ideias porque há um sujeito afetado pelo mundo: vê, ouve, toca, sente prazer e dor. Mesmo que nossa percepção nunca seja uma cópia simples da realidade, ela ocorre numa vida corporal, situada e vulnerável.

Um modelo recebe dados. Imagens chegam como matrizes numéricas; textos, como unidades codificadas; áudio, como sinais processados. Sistemas multimodais conseguem relacionar essas formas e, quando conectados a sensores ou ambientes simulados, podem ajustar o comportamento a novas entradas. Chamar isso de “percepção” pode ser útil em engenharia. Não autoriza concluir que exista uma experiência subjetiva acompanhando o processamento.

Também seria apressado dizer que o mundo da IA é “apenas quantitativo”, como se a nossa própria percepção fosse um acesso sem mediação ao real. A diferença mais segura está em outro ponto: temos razões diretas para associar a percepção humana a corpo, memória, necessidade e consciência; não temos evidência equivalente para os modelos atuais. Eles operam sobre representações produzidas, selecionadas e formatadas por pessoas e instituições.

Isso torna a origem dos dados parte do problema filosófico. O que um sistema pode aprender depende do que foi registrado, preservado, digitalizado, licenciado, filtrado e valorizado. A nuvem não contém a experiência humana. Contém vestígios dela, distribuídos de forma desigual.

Reflexão sem interioridade?

Locke chama de reflexão a percepção que a mente tem das próprias operações: pensar, duvidar, querer, lembrar. Não se trata simplesmente de corrigir um erro, mas de uma experiência interna dessas atividades.

Modelos podem revisar respostas, comparar alternativas, usar ferramentas para verificar resultados e produzir relatos passo a passo. Em determinados sistemas, o comportamento também se ajusta a avaliações anteriores. Tudo isso pode parecer introspecção porque aparece em linguagem familiar: “pensei”, “percebi”, “estou em dúvida”.

É prudente não tomar a gramática como prova. Um relato coerente sobre o próprio processo pode ser uma saída produzida pelo mesmo mecanismo que gerou a resposta. Pesquisas sobre cadeias de raciocínio mostram, inclusive, que a explicação apresentada nem sempre corresponde fielmente aos fatores que determinaram o resultado. Há informação útil nesses rastros, mas não uma janela garantida para uma vida interior.

Isso não torna a autocorreção fictícia. Torna necessário nomeá-la com precisão. Um sistema pode monitorar desempenho sem ter consciência de monitorá-lo; pode produzir uma frase de dúvida sem experimentar dúvida. A função é observável. A experiência, se existir, não está demonstrada.

Nenhuma tábula começa rasa

Há ainda uma diferença decisiva. Antes de receber um exemplo, um modelo já possui arquitetura, objetivos de treinamento, forma de representação, regras de atualização e limites definidos por seus desenvolvedores. Depois, recebe um conjunto de dados que também resulta de inúmeras escolhas humanas. O aprendizado começa dentro de uma estrutura.

Nesse aspecto, a IA não refuta Locke. Ela nos obriga a ler melhor a pergunta. A mente humana tampouco começa sem faculdades, corpo ou condições de percepção. O que está em disputa é de onde vêm os conteúdos e como são transformados. No caso artificial, conseguimos observar com maior nitidez parte das condições iniciais porque elas foram projetadas. Isso não significa que consigamos antecipar tudo o que surgirá do treinamento.

A expressão “o modelo teve uma ideia” reúne operações diferentes. Pode significar que produziu uma combinação nova, encontrou uma solução que seus criadores não conheciam ou gerou uma formulação útil. Em linguagem cotidiana, talvez baste. Filosoficamente, permanece aberta a questão de saber se há ali um conteúdo possuído por um sujeito ou apenas uma representação capaz de orientar comportamento.

Locke não fornece uma resposta pronta para a inteligência artificial. Oferece uma disciplina: antes de discutir se uma máquina pensa, perguntar de onde vêm seus conteúdos, que operações realiza sobre eles e o que estamos chamando de experiência.

Essa disciplina também nos devolve ao lado humano do sistema. Modelos não surgem diante de uma internet neutra. Aprendem com escolhas de coleta, exclusão e classificação; com documentos produzidos em relações históricas de poder; com trabalho muitas vezes invisível de quem escreve, traduz, modera e rotula. A origem das “ideias” digitais é técnica, mas também política.

Naquela sala da São Francisco, a tábula rasa me parecia uma pergunta sobre a formação de uma mente. Hoje ela reaparece como pergunta sobre a formação de um sistema e sobre a sociedade que se torna legível em seus dados. A folha nunca esteve em branco. Antes da primeira palavra, alguém já havia escolhido o papel, a língua e o que poderia ser escrito nela.