Função de Perda e Otimização

A função de perda (loss function) é a métrica que quantifica quão distante as predições do modelo estão dos valores verdadeiros. Durante o treinamento, o objetivo é minimizar essa função através de otimização. Para problemas de regressão, o Erro Quadrático Médio (MSE) é comum, enquanto para classificação, a Cross-Entropy é amplamente utilizada por suas propriedades matemáticas favoráveis.

Otimizadores como Stochastic Gradient Descent (SGD) e Adam ajustam os pesos da rede seguindo o gradiente da função de perda. SGD faz atualizações simples na direção do gradiente negativo, enquanto Adam adapta a taxa de aprendizado para cada parâmetro individualmente, combinando momentum e estimativas adaptativas. A curva de perda ao longo do treinamento mostra se o modelo está aprendendo adequadamente: uma queda consistente indica aprendizado, enquanto estagnação ou aumento pode sinalizar problemas como sobreajuste ou taxa de aprendizado inadequada.