O que uma teoria dos anos 50 sobre inteligência humana revela sobre a IA

Antes de começar a minha análise mais técnica, gostaria de dar um contexto rápido. Eu tenho o privilégio de ter uma mãe que é fascinada por aprender coisas novas. Em 2010, ela conheceu a teoria do psicólogo israelense Reuven Feuerstein e se encantou pela abordagem da Experiência de Aprendizagem Mediada.

De lá pra cá, ela mudou de ramo e se tornou uma das maiores referências no assunto aqui na América Latina. Eu transbordo de orgulho!

Ou seja, por influência dela, tive acesso a essa teoria em 2008.

Mas agora voltando ao ponto principal: Reuven Feuerstein partia da premissa de que a inteligência não deve ser vista apenas como uma capacidade que você mede, mas como um sistema cognitivo modificável.

Fonte - The Feuerstein Institute

Pensa que estamos falando de uma teoria apresentada na década de 50, quando a grande parte da avaliação de inteligência de uma pessoa era baseada em testes psicométricos que comparavam o desempenho dela naquele momento com uma população de referência e definia qual era seu nível intelectual (QI).

Como estamos falando de um momento pós-Guerra, pessoas que sofreram as consequências diretas e indiretas do período apresentavam resultados muito abaixo. Então a lógica do Feuerstein foi justamente questionar as premissas desses tipos de avaliação.

Pra ele, esse modelo estava analisando apenas o que a pessoa teve oportunidade de aprender até aquele momento, sem considerar o ambiente em que estava inserida, e não media sua capacidade de aprendizagem.

Em vez de medir o desempenho, a provocação dele era entender o potencial de modificabilidade do cérebro (quanto a pessoa consegue mudar a partir de estímulos direcionados).

Na minha leitura, isso por si só já é fascinante.

Na lógica dele, a gente sai daquela visão de “sou assim, serei sempre assim” para “sou assim, mas posso me desenvolver e ser o que eu quiser". Imagine o impacto disso na vida de alguém!

Bom, e foi assim que surgiu sua tese central: a Modificabilidade Cognitiva Estrutural. Em outras palavras, uma resposta ruim não significa necessariamente um raciocício ruim, assim como uma resposta excelente não prova que houve um bom raciocício por trás.

Talvez você esteja pensando: “e em que momento ela vai falar de IA?” Prometo que já vou entrar nisso e você vai ver só como tudo se conecta!

Representação simplificada das funções cognitivas a partir da abordagem de Reuven Feuerstein.

Reuven Feuerstein defendia que o funcionamento mental pode ser dividido em três fases, que envolvem funções cognitivas diferentes:

1. ENTRADA - aqui está nossa capacidade de coletar informações com precisão, como perceber um estímulo, explorar uma situação de maneira sistemática e identificar relações entre os elementos.
2. ELABORAÇÃO nessa etapa é onde acontece grande parte do pensamento, como identificar qual é o problema, separar informação relevante de irrelevante, comparar, estabelecer relações, formular hipóteses, buscar evidências, planejar.
3. SAÍDA por fim, ocorre a transformação da elaboração em resposta, como comunicar de maneira compreensível, evitar resposta impulsiva, usar conceitos adequados, ser preciso naquilo que está sendo comunicado.

Imagino que agora você já deve entender por que essa teoria veio à minha mente conforme me aprofundei em Inteligência Artificial.

Seguindo a mesma lógica, a IA recebe os inputs (contexto, dados, instruções), processa essas informações (dentro da capacidade do modelo escolhido) e gera uma resposta.

Representação simplificada do processo de inferência em uma LLM.

E por mais óbvio que pareça a importância de entender o impacto de organizar cada uma dessas etapas ao interagir com uma LLM, não é.

Em geral, tenho visto que as pessoas estão empolgadas com a velocidade de processamento e entrega dessas ferramentas, que não investem tempo organizando o input.

É exatamente aí que quebra a qualidade da implementação da IA.

Quando o Professor Feuerstein fala de elaboração, ele está descrevendo funções cognitivas humanas: definir um problema, estabelecer relações, formular hipóteses, buscar evidências, planejar.

Quando falamos de uma LLM, estamos nos referindo a operações computacionais aprendidas durante o treinamento que, em determinados modelos e tarefas, podem produzir comportamentos que se parecem com várias dessas operações.

A semelhança funcional é fascinante, mas a equivalência na verdade não existe. E é justamente essa diferença que torna essa analogia ainda mais interessante.

Porque, do ponto de vista de quem implementa IA, não basta perguntar:

“O modelo recebeu as informações certas?”

Também precisamos perguntar:

“Ele foi colocado nas condições certas para trabalhar com essas informações?”

Qual modelo está executando a tarefa?

Quais instruções recebeu?

Que critérios deve considerar?

Pode consultar outras fontes?

Tem acesso a ferramentas?

Precisa verificar uma hipótese antes de concluir?

Existe alguma etapa de validação?

O que quero destacar aqui é que a qualidade aparente de uma resposta não é evidência suficiente da qualidade do sistema que a produziu.

É exatamente o mesmo erro de olhar apenas para uma resposta humana e tentar inferir, a partir dela, toda a qualidade do processo cognitivo anterior.

Por isso, conforme as empresas avançam na adoção de IA, quem está obtendo sucesso é quem entendeu como desenhar melhores arquiteturas de raciocínio, contexto e validação ao redor dos modelos.

Aí entra um outro tópico muito relevante também. O tal do human in the loop.

Nas minhas aulas sempre reforço que o resultado do que uma IA produz é de responsabilidade de quem apertou o botão. Hoje parece que está na moda terceirizar a culpa para a ferramenta, assim como fazia-se com estagiários.

Por isso falamos muito do humano envolvido no fluxo. É preciso garantir que o sistema realmente esteja operando com qualidade.

Usar IA bem exige saber estruturar o que entra, entender o que acontece no meio e ter senso crítico para avaliar o que sai. E esse último ponto é particularmente importante.

Quanto mais sofisticadas ficam essas ferramentas, menos o papel do humano deveria ser o de executar e mais deveria ser o de avaliar.

Como vimos na teoria, olhar só para a resposta é uma maneira muito pobre de julgar inteligência, seja de uma pessoa ou de um sistema.

Com certeza você já ouviu ou disse a frase “essa IA é muito burra”. Mas não dá só pra olhar para o output de forma isolada. O ponto é que, se você quer entender por que uma resposta foi boa ou ruim, precisa voltar algumas casas.

Boa parte dos problemas de implementação de IA que estamos vendo hoje começa justamente porque as empresas estão fazendo o contrário: olhando maravilhadas para o output e prestando pouca atenção em todo o resto.