"A IA não tem preconceitos. Os dados que usamos para treiná-la têm."
Dados da Internet
A IA aprende lendo a internet inteira. Ela absorve o conhecimento, mas também o ódio e os estereótipos.
Contaminação
Sem filtro, a IA associa profissões de poder a homens e papéis domésticos a mulheres, por exemplo.
Filtro Humano
Cabe a nós (RLHF) ensinar a IA que certos padrões estatísticos são moralmente inaceitáveis.
A Analogia do "Papagaio da Praça"
Imagine que a IA é um papagaio que viveu 20 anos em uma praça pública movimentada, ouvindo todo mundo falar.
Ele aprendeu palavras bonitas, poesia e ciência. Mas também ouviu xingamentos, fofocas e discursos de ódio.
Quando você pergunta algo, ele repete o que ouviu com mais frequência.
Se não houver um "treinador" (nós) para dizer "não repita essa palavra feia", ele vai ofender alguém sem nem saber o que está dizendo.