Quando a OpenAI construiu o GPT-2, precisava de um filtro para separar texto relevante do lixo da internet. A solução foi pragmática: coletar páginas linkadas em posts do Reddit com pelo menos três upvotes. Humanos já haviam julgado aquele conteúdo como minimamente válido. O dataset resultante, o WebText, reuniu 40 GB de texto extraídos de 45 milhões de páginas. O método resolveu um problema operacional real. Mas criou outro: terceirizar julgamento editorial para uma multidão anônima sem critérios verificáveis de competência.
O Reddit abriga mais de 16 bilhões de comentários e 1 bilhão de posts. O volume é inegável. Também o é sua heterogeneidade: subreddits como r/AskHistorians exigem fontes acadêmicas, r/science verifica credenciais de participantes. Esses espaços produzem conteúdo de qualidade. O problema é que representam fração minoritária do tráfego total. A dinâmica dominante na plataforma opera pelo sistema de upvote/downvote, que mede conformidade social, não precisão. O que sobe nos rankings é o que agrada ao maior número no menor tempo. Memes, sarcasmo, ragebait e karma farming dominam a engrenagem. E quando esse ecossistema se torna matéria-prima para treinar modelos de linguagem, suas distorções migram junto.
A pesquisa recente sobre vieses em modelos de iA documenta como essa contaminação se manifesta. O paper “Biases in the Blind Spot” (Chen et al., arXiv:2406.00034, 2024) demonstrou que LLMs tomam decisões influenciadas por fatores demográficos ocultos sem citá-los em seu raciocínio explícito. Nos testes de contratação, o GPT-4 selecionou candidatos com nomes associados a brancos em 78% dos casos, contra 62% para nomes associados a negros, mas mencionou raça em apenas 2,1% das cadeias de raciocínio. Em simulações de aprovação de crédito, vieses religiosos persistiram sem verbalização em 94% das análises. Esses padrões não emergem do nada. São artefatos estatísticos absorvidos do corpus de treinamento, do qual o Reddit constitui componente significativo, embora não exclusivo. Estudos complementares reforçam o achado: “Religious Bias Landscape” (Abrar et al., arXiv:2501.08441) identificou 23% de completions enviesados no GPT-2, com 17% de viés anti-muçulmano.
O anonimato da plataforma amplifica o problema. John Suler descreveu em 2004 o “efeito de desinibição online” no periódico CyberPsychology & Behavior, identificando seis fatores que levam perfis anônimos a comportamentos que seus autores evitariam presencialmente. A pesquisa Opinium, encomendada pela Compassion in Politics em 2023, confirmou a escala: 72% das vítimas de abuso online no Reino Unido relataram ataques de contas anônimas ou falsas. Quando esse comportamento alimenta datasets, os modelos absorvem não apenas vocabulário tóxico, mas padrões retóricos de agressividade e desconstrução sem reconstrução. Subreddits como r/nihilism e r/antiwork cultivam uma corrente de defeatismo que, incorporada a modelos de linguagem, produz sistemas com tendência a subvalorizar agência humana.
A geografia comercial do setor revela quem assumiu essa fonte como legítima. O Google firmou acordo de aproximadamente 60 milhões de dólares anuais em fevereiro de 2024 para acessar a Data API do Reddit e treinar o Gemini. A OpenAI seguiu em maio, com contrato estimado em 70 milhões anuais, integrando dados em tempo real ao ChatGPT. Juntos, ultrapassam 100 milhões por ano. No IPO de 2024, o Reddit declarou 203 milhões em contratos de licenciamento. Do outro lado, Meta, Mistral, Cohere, Falcon (TII de Abu Dhabi) e xAI treinaram modelos com dados do Reddit via Common Crawl, sem acordo formal. A Anthropic enfrenta desde junho de 2025 processo judicial movido pelo Reddit por acesso não autorizado a mais de 100 mil registros. A distinção entre quem paga e quem não paga pelo acesso, porém, não altera a qualidade epistêmica do conteúdo. Formalizar o acesso ao enviesamento não o neutraliza.
O risco se intensifica com o fenômeno documentado por Shumailov et al. na Nature (2024) como “colapso de modelo”: quando modelos treinam recursivamente com dados gerados por versões anteriores de si mesmos, a diversidade informacional se degrada. Eventos raros e perspectivas minoritárias são os primeiros a desaparecer. O estudo da Graphite (2025) estima que 52% dos artigos publicados na web são gerados por iA, contra aproximadamente 5% antes do lançamento do ChatGPT. Esse volume cria um ciclo de retroalimentação em que modelos treinados com Reddit geram conteúdo que retorna à plataforma, contaminando futuras gerações de dados.
Técnicas de pós-processamento como RLHF e filtros de toxicidade mitigam parcialmente os sintomas. Modelos recentes exibem menos toxicidade bruta que seus antecessores. O próprio Google identificou que apenas 14% do conteúdo nos seus resultados de busca é gerado por iA, sugerindo que algoritmos de ranqueamento funcionam como filtro adicional. Mas essas camadas operam sobre a superfície. A contaminação epistêmica dos dados de base persiste sob o polimento. RLHF corrige o que o modelo diz, não o que ele aprendeu a pensar.
A solução não passa por abandonar o Reddit inteiramente. Curadoria sofisticada poderia extrair valor de subreddits com moderação rigorosa. Mas exige reconhecer que nenhum fórum anônimo de popularidade pode servir como proxy do conhecimento humano acumulado sem tratamento proporcional ao risco. Repositórios acadêmicos revisados por pares, obras técnicas de referência, registros institucionais verificados e, como sugere Roemmele, acervos offline produzidos em eras anteriores à internet oferecem bases epistemicamente mais robustas. Treinar iA com o denominador comum da internet anônima, sem contrabalancear com fontes de maior rigor, é calibrar o espelho para refletir a mediana, quando o que se busca é a fronteira.
ousadia criativa. precisão estratégica. – por kim.