No primeiro post desta série, contei que um modelo de IA aprende "lendo" uma quantidade absurda de texto. Mas, depois de escrever isso, fiquei com uma pergunta que eu mesmo não sabia responder: o que acontece com todo esse texto? Ele fica guardado em algum lugar? O modelo consulta essas fontes quando a gente pergunta alguma coisa?
Fui atrás para entender, e a resposta me surpreendeu. Resolvi juntar aqui o caminho que um modelo percorre até ficar pronto, sem entrar na parte técnica, e principalmente o que acontece com aquela montanha de informação no meio do processo.
Etapa 1: juntar uma montanha de textos
Tudo começa com uma coleta gigantesca. As empresas reúnem textos de várias origens: páginas públicas da internet, livros, artigos científicos, códigos de programação, e conteúdos licenciados de editoras e outros parceiros.
A maioria das empresas não conta exatamente o que usou, mas a Meta publicou bastante detalhe sobre o Llama 3, o modelo dela. Ele foi treinado com cerca de 15,6 trilhões de tokens (aqueles "pedacinhos de texto" do primeiro post), mais ou menos divididos assim (Meta, 2024):
- cerca de 50% de conhecimento geral;
- 25% de matemática e raciocínio;
- 17% de código de programação;
- 8% de textos em outros idiomas.
Para ter uma ideia do tamanho disso, aqui está uma conta aproximada: uma pessoa lendo oito horas por dia, todos os dias, levaria mais de 250 mil anos para ler esse volume. Foi aí que comecei a entender que "ler" não é bem a palavra certa para o que o modelo faz.
Etapa 2: limpar e filtrar
Uma coisa que eu não imaginava: boa parte do trabalho acontece antes de o modelo ver qualquer texto. A internet tem muito lixo, como páginas repetidas, spam, textos sem sentido e conteúdo impróprio. Se tudo entrasse do jeito que está, o modelo aprenderia esses vícios também.
Por isso, a montanha de texto passa por uma espécie de peneira. No caso do Llama 3, por exemplo, a Meta conta que:
- removeu duplicatas, para que o mesmo texto copiado em mil sites não pesasse mil vezes mais;
- tirou sites com muitos dados pessoais ou conteúdo inseguro;
- usou outros modelos de IA como "juízes" para separar textos de boa qualidade dos ruins.
É um pouco como preparar a comida antes de cozinhar: lavar, descascar, jogar fora o que está estragado. O resultado final depende muito dessa etapa, e é aqui que cada empresa faz escolhas que vão influenciar a "personalidade" do modelo.
Etapa 3: o treinamento, bilhões de botões ajustados aos pouquinhos
Essa foi a parte que mais mudou minha forma de pensar sobre IA.
Antes do treinamento, o modelo é uma estrutura enorme cheia de "botões de ajuste", como uma mesa de som gigante. O Llama 3 maior tem 405 bilhões desses botões (o nome técnico é parâmetros). No começo, todos estão em posições aleatórias, e o modelo só produz bobagem.
Aí começa um exercício repetido trilhões de vezes:
- O modelo recebe um trecho de texto com a próxima palavra escondida. Por exemplo: "O gato subiu no ___".
- Ele tenta adivinhar. No início, chuta qualquer coisa, tipo "geladeira".
- O sistema compara o chute com a palavra certa ("telhado") e mede o tamanho do erro.
- Cada um dos bilhões de botões é girado só um pouquinho, na direção que teria deixado o chute um pouco melhor.
- Passa para o próximo trecho, e repete.
O ponto que mais me surpreendeu é este: o texto não é guardado em lugar nenhum. Cada frase só serve para empurrar os botões um pouquinho, e depois é descartada. Uma frase sozinha quase não muda nada. Mas quando a mesma ideia aparece milhares de vezes, em textos diferentes, esses pequenos empurrões se somam e viram um padrão firme. É assim que "Paris é a capital da França" fica bem marcado, enquanto um detalhe que apareceu uma vez só quase não deixa rastro.
A analogia que fez sentido para mim é a de uma trilha no meio do mato. Ninguém desenha a trilha de propósito. Ela se forma porque muita gente passa pelo mesmo lugar, e cada passo amassa a grama só um pouco. Os caminhos mais usados ficam bem visíveis; os que alguém percorreu uma vez só somem.
E tudo isso exige uma estrutura impressionante. O Llama 3 foi treinado usando até 16 mil chips especializados (GPUs) trabalhando juntos, por semanas (Meta, 2024). É por isso que só algumas poucas empresas no mundo conseguem criar esses modelos do zero.
O que sobra no final: um arquivo de números, não uma biblioteca
Quando o treinamento termina, os textos vão embora e o que fica é só a posição final de cada um daqueles bilhões de botões. Na prática, o modelo é um arquivo gigante cheio de números.
E aqui vem uma conta que me ajudou a entender a escala disso: pelas contas aproximadas, os textos usados no Llama 3 ocupariam algumas dezenas de terabytes, enquanto o modelo final fica perto de 1 terabyte. Ou seja, o modelo é dezenas de vezes menor do que tudo o que ele "leu". Não cabe uma cópia ali dentro. O que cabe são os padrões: como as frases costumam se encadear, que ideias aparecem juntas, como um argumento costuma ser montado.
Isso explicou várias coisas para mim:
- Por que a IA nem sempre sabe dizer de onde tirou uma informação. As fontes viraram ajustes nos botões, misturados com todo o resto. Não existe uma "etiqueta" dizendo de qual site veio cada coisa.
- Por que ela erra detalhes raros. O que apareceu poucas vezes deixou uma trilha fraca, e o modelo acaba preenchendo a lacuna com algo plausível. É a alucinação que comentei no outro post.
- Por que ela tem uma "data de corte". O modelo só conhece o que estava nos textos até o momento da coleta. No caso do Llama 3, até o fim de 2023. Para saber de algo mais novo, precisa de ajuda extra, como uma busca na internet.
Uma ressalva honesta: isso não quer dizer que o modelo nunca "decore" nada. Textos que aparecem repetidos um número enorme de vezes, como trechos muito famosos, podem acabar ficando marcados quase palavra por palavra. Mas essa é a exceção, não a regra, e as empresas tentam evitar isso justamente com a remoção de duplicatas da etapa 2.
Depois: lapidar, testar e lançar
Ao fim do treinamento principal, o modelo já é ótimo em continuar textos, mas ainda não é um bom assistente. Como contei no primeiro post, vem então uma etapa de "boas maneiras": pessoas escrevem exemplos de boas respostas e avaliam as respostas do modelo, e os botões são ajustados mais um pouco para seguir esse padrão. É uma etapa bem menor em volume de texto, mas é ela que transforma o modelo em algo com que a gente consegue conversar.
Antes de chegar ao público, o modelo ainda passa por baterias de testes: provas de matemática, programação e conhecimentos gerais, além de testes de segurança, em que equipes tentam fazer o modelo se comportar mal de propósito para encontrar problemas antes de todo mundo.
Resumindo o caminho inteiro:
- Juntar uma montanha de textos.
- Limpar o que é repetido, ruim ou inadequado.
- Treinar, ajustando bilhões de botões aos pouquinhos, trilhões de vezes.
- Lapidar o comportamento com exemplos e avaliações humanas.
- Testar antes de lançar.
Para fechar
Eu comecei esse post achando que a IA funcionava como uma biblioteca gigante, consultando seus livros a cada pergunta. O que descobri é bem diferente: os textos são usados para moldar o modelo e depois vão embora. O que fica são as marcas que eles deixaram, como as trilhas no mato.
Para mim, isso deixou mais claro tanto o que essas ferramentas têm de impressionante quanto os limites delas. E se você também imaginava que a IA "guardava" a internet inteira, fico curioso para saber se essa visão mudou para você também.