O verdadeiro conserto para falhas matemáticas de IA está na pressão de treinamento

Seu LLM roda multiplicação de matrizes em cada camada, mas peça para ele calcular 3847 × 2916 e ele desaba. O problema não é tamanho, nem arquitetura. É que o treinamento padrão nunca exige que o modelo mantenha um estado interno — e sem ele, até a máquina mais poderosa se perde no caminho.

O que aconteceu

Pesquisadores treinaram pequenos transformers em multiplicação de quatro dígitos e compararam dois métodos. No fine-tuning supervisionado padrão (SFT), o modelo recebia apenas o problema e a resposta final. A acurácia? Menos de 1%. Mesmo aumentando camadas e cabeças de atenção, o resultado não melhorava. O modelo produzia respostas com aparência correta, mas sem qualquer relação real com os números de entrada.

Depois testaram o treinamento com Cadeia de Pensamento Implícita (ICoT): o modelo começava vendo os passos intermediários — produtos parciais, somas acumuladas — que eram gradualmente removidos época após época. No fim, o modelo só via problema e resposta, como no SFT. Mas agora ele havia sido forçado a internalizar o procedimento. Resultado: 100% de acurácia.

O mais interessante veio em seguida: uma perda auxiliar simples — uma regressão sobre a soma parcial durante o treinamento — alcançou 99%, sem necessidade de currículo ou remoção gradual. Apenas um sinal extra dizendo: mantenha o estado interno.

O que há de novo

A novidade não é apenas que ICoT funciona. É que a diferença fundamental entre sucesso e fracasso está na pressão de treinamento, não na escala. Modelos com o mesmo número de parâmetros, mesma arquitetura, se comportam de forma radicalmente diferente quando o sinal de treinamento exige o rastreamento de passos intermediários.

O método de perda auxiliar é particularmente relevante: ele é mais simples que ICoT, não exige um cronograma de remoção de passos, e produz resultados equivalentes. Basta adicionar um termo extra à função de perda durante o treino — e jogar fora a cabeça de regressão na inferência. O modelo aprende a carregar o estado interno sem nunca precisar exibi-lo.

Por que isso importa

A implicação vai muito além da multiplicação. Muitas falhas de raciocínio em LLMs — erros em problemas de lógica, inconsistências em conversas longas, dificuldade com restrições sequenciais — podem ter a mesma raiz: o modelo não foi treinado para manter e atualizar um estado interno ao longo de uma cadeia de passos.

Se o problema é de sinal de treinamento, e não de capacidade, então soluções como perda auxiliar podem melhorar a confiabilidade de modelos em tarefas que exigem procedimentos sequenciais, sem precisar escalar para centenas de bilhões de parâmetros. Isso muda a equação de custo-benefício para pesquisa e desenvolvimento.

A leitura técnica

A análise interna dos modelos revela como o estado interno se organiza.

• Caching e recuperação: No modelo ICoT, cabeças de atenção da primeira camada armazenam produtos parciais em posições específicas da sequência. Na segunda camada, outras cabeças recuperam esses valores para gerar cada dígito da resposta.
• Sondas lineares: Uma sonda linear (o classificador mais simples possível) consegue ler a soma parcial corrente dos estados ocultos apenas no modelo ICoT. No SFT, o erro é tão alto que a sonda essencialmente chuta — não há sinal.
• Geometria inesperada: Os embeddings dos dígitos no modelo bem-sucedido formam um prisma pentagonal quando projetados em 3D. Dois pentágonos paralelos, um para dígitos pares e outro para ímpares. Essa estrutura é uma representação de Fourier do sistema decimal: a soma de vetores (soma de Minkowski) codifica diretamente os produtos parciais. O SFT, sob a mesma projeção, é apenas ruído.

A perda auxiliar induz a mesma organização interna, mesmo partindo de um caminho de treinamento diferente. O sinal certo faz a estrutura emergir.

A leitura de mercado

Para laboratórios de IA e startups, a descoberta tem implicações práticas imediatas.

• Custos de treinamento: Métodos como perda auxiliar podem reduzir a dependência de modelos cada vez maiores para melhorar raciocínio. Treinar com sinais internos mais inteligentes pode ser mais barato que escalar.
• Benchmarks mais robustos: Benchmarks atuais como GSM8K e MATH podem estar medindo atalhos, não raciocínio genuíno. Esta pesquisa sugere que métricas baseadas em consistência interna ou sondas podem se tornar padrão.
• Fine-tuning para domínios: Empresas que fazem fine-tuning para matemática, finanças ou ciência podem adotar perdas auxiliares específicas para cada tipo de raciocínio, em vez de depender apenas de SFT.
• Posicionamento: Startups que oferecem modelos menores mas treinados com técnicas mais inteligentes podem competir com gigantes em tarefas específicas.

Riscos, limites e pontos de atenção

Embora os resultados sejam promissores, é preciso cautela.

• Os experimentos usaram transformers pequenos (2 camadas). Não está claro se a mesma técnica escala para modelos bilionários sem adaptações.
• A perda auxiliar exige conhecimento prévio de qual estado intermediário é relevante (no caso, a soma parcial). Para tarefas mais gerais, descobrir o sinal certo não é trivial.
• A fonte é um artigo no Medium com curadoria secundária. Os papers referenciados são do arXiv, mas a replicação independente ainda é necessária.
• Não foram testados mais dígitos ou outras operações (divisão, adição com carry múltiplo). A generalização do método precisa ser validada.

O que isso sinaliza daqui para frente

O estudo reforça uma mudança de paradigma: raciocínio não é um subproduto da escala, mas uma habilidade que pode ser engenheirada diretamente. O modelo que construiu um prisma pentagonal dentro de si não fez isso porque era grande, mas porque o treinamento o forçou a organizar suas representações de forma funcional.

Isso aponta para um futuro onde a pesquisa em alinhamento e robustez pode focar menos em parâmetros e mais em design de sinais de treinamento. Em vez de esperar que o raciocínio emerja magicamente com mais dados, podemos construir pressões que induzam as estruturas internas corretas.

A multiplicação de quatro dígitos é só um campo de prova. O mesmo princípio pode ser aplicado para rastrear restrições em conversas longas, verificar evidências antes de responder, ou saber quando não se tem certeza. O problema não é que o modelo é burro — é que ninguém ainda o ensinou a manter o fio da meada.

Resumo prático:

O gargalo do raciocínio matemático em LLMs não está na arquitetura ou no número de parâmetros, mas na ausência de pressão de treinamento para manter estados internos. Técnicas como perda auxiliar podem ensinar o modelo a rastrear passos intermediários de forma eficiente, mesmo em modelos pequenos, abrindo caminho para modelos mais confiáveis sem custos astronômicos de escala.

Na Metatron Omni, monitoramos essas mudanças de paradigma para orientar a adoção estratégica de IA. O próximo passo não é apenas treinar modelos maiores — é treiná-los melhor.