Fundamentos de aprendizado de máquina

01

A diferença entre IA, aprendizado de máquina e aprendizado profundo

Muita gente usa esses três termos como se fossem a mesma coisa, mas eles ficam um dentro do outro. A inteligência artificial (IA) é o campo inteiro que busca fazer máquinas perceberem e decidirem como pessoas. Dentro dela está o aprendizado de máquina, que aprende com dados. E dentro do aprendizado de máquina está o aprendizado profundo (deep learning), que aprende com redes neurais de muitas camadas. A IA generativa, de que todo mundo fala hoje, é um tipo de modelo de aprendizado profundo que cria textos ou imagens novos. Escolha uma camada na cena abaixo.

A pergunta central do aprendizado de máquina é: quem escreve as regras? Num programa tradicional, uma pessoa escreve uma regra como "se o assunto tiver 'grátis' e 'ganhador', é spam". Com aprendizado de máquina, você mostra ao computador um monte de e-mails de spam e de e-mails normais e deixa que ele mesmo encontre as regras. Ele se destaca quando as regras são muitas, complicadas demais ou mudam com tanta frequência que ninguém conseguiria escrever todas.

Quando o aprendizado de máquina não é uma boa ideia

• As regras já são claras e precisam dar sempre o mesmo resultado (cálculo de impostos, uma política de desconto fixa)
• Não há dados para aprender, ou há muito poucos
• Erros não são aceitáveis e cada decisão precisa ser explicada, mas não dá para verificar o modelo a esse ponto
• Construir e manter o modelo custaria mais do que ele traria de retorno

Dissemos que o aprendizado de máquina aprende com dados. Então, como esses dados devem ser?

02

Dados, atributos e rótulos

Imagine uma empresa que quer saber com antecedência quais clientes vão cancelar a assinatura (o famoso churn). Ela junta os registros de clientes antigos numa tabela. Cada linha é um cliente, e as colunas guardam a idade, há quantos meses ele é assinante e quanto gasta por mês. Os valores que o modelo analisa para decidir se chamam atributos (features). A última coluna diz se esse cliente cancelou de fato. Essa resposta, o que o modelo precisa prever, se chama rótulo (label).

Você não treina com todos os dados. Primeiro, divide tudo em três conjuntos. Pensando em estudar para uma prova, o conjunto de treino é o livro e a apostila de exercícios, o de validação é o simulado e o de teste é a prova de verdade.

• Conjunto de treino: o modelo aprende com esses dados.
• Conjunto de validação: serve para decidir como montar o modelo. Por exemplo, a árvore de decisão que você vai ver no capítulo 4 deve fazer duas perguntas ou três? Quantas passadas o treinamento deve dar? Você monta um modelo para cada opção e escolhe o que se sai melhor no conjunto de validação. Valores como esses, que você define antes do treinamento, se chamam hiperparâmetros. Eles voltam no capítulo 6.
• Conjunto de teste: usado uma única vez, bem no final, depois que toda a escolha terminou, para medir o desempenho.

Por que separar validação e teste? Esta é a parte que confunde muita gente. Você escolheu o modelo que teve a melhor nota no conjunto de validação, então ele já está ajustado a esses dados, e a nota de validação sai um pouco melhor do que ele realmente é. Por isso você mede a capacidade real com um conjunto de teste que nunca foi usado nem para treinar nem para escolher. É como ver as questões da prova antes de estudar: a nota deixa de mostrar o que você sabe de verdade.

Quando você tem poucos dados, pode usar validação cruzada. Divida os dados em, digamos, cinco partes. Use uma parte de cada vez para validar e as outras quatro para treinar, depois tire a média dos cinco resultados. Assim a nota depende menos de como os dados foram divididos por acaso. Isso se chama validação cruzada k-fold.

Essa tabela tinha respostas (se o cliente cancelou ou não). Mas muitos dados não vêm com respostas. Ter ou não ter respostas muda a forma como o modelo aprende.

03

Aprendizado supervisionado, não supervisionado e por reforço

O aprendizado de máquina se divide em três grandes tipos, dependendo do que você dá ao modelo para aprender. A cena abaixo posiciona 18 frutas por peso e doçura. Alterne entre os tipos.

No aprendizado supervisionado, se você prevê uma categoria (spam ou não, maçã / tangerina / uva), é classificação. Se prevê um número (vendas, preço de imóvel), é regressão. No aprendizado não supervisionado, o agrupamento (clustering) junta coisas parecidas, mas ainda é preciso que uma pessoa descubra o que cada grupo significa. As regras de associação encontram coisas que acontecem juntas, como "quem compra fralda também compra cerveja". As regras são escolhidas pela frequência com que os itens aparecem juntos (suporte), pela confiabilidade da regra (confiança) e por quanto eles aparecem juntos além do que o acaso explicaria (lift).

Também existem abordagens intermediárias. Quando só parte dos dados tem rótulos, falamos em aprendizado semissupervisionado. No aprendizado autossupervisionado, o modelo cria as próprias respostas a partir dos dados. O pré-treinamento de um LLM, em que ele aprende a prever o próximo token de um texto, é um exemplo. O RLHF (aprendizado por reforço com feedback humano), que faz o ajuste fino de um LLM usando o feedback de pessoas como recompensa, é uma aplicação do aprendizado por reforço.

Depois de saber o tipo, você precisa escolher um modelo de fato. Vamos começar pelo mais fácil de entender.