A OpenAI apresentou o GPT-5.2 como o seu modelo mais avançado para trabalho profissional, pensado para lidar com folhas de cálculo, fluxos de processos complexos e tarefas exigentes. Mas a credibilidade de um modelo não vive só de benchmarks: depende, sobretudo, da forma como recolhe, cruza e apresenta informação. É aqui que entra a polémica da semana.
De acordo com testes reportados pelo jornal britânico The Guardian, o GPT-5.2 terá recorrido à Grokipedia a enciclopédia online criada pela xAI para fundamentar respostas em temas sensíveis, incluindo tópicos ligados ao Irão e ao Holocausto. Em contrapartida, os mesmos testes apontam que, noutros assuntos controversos (como perguntas sobre alegado viés mediático em torno de Donald Trump), o modelo não invocou a Grokipedia.
Os exemplos citados pelo Guardian incluem respostas do ChatGPT em que surgem referências a ligações entre o governo iraniano e a operadora MTN‑Irancell, bem como menções a Richard Evans, historiador britânico e perito em casos de difamação relacionados com negacionismo do Holocausto. Os detalhes importam pouco aqui; o ponto crítico é outro: quando um modelo aponta para uma fonte, o seu prestígio, metodologia editorial e historial de revisões tornam-se parte integrante da qualidade da resposta.
A Grokipedia, apesar de ambicionar ser um repositório ágil e abrangente, tem estado sob escrutínio. Houve relatos de entradas que referenciavam fóruns extremistas e estudos académicos nos EUA a classificarem algumas das suas fontes como “questionáveis” ou “problemáticas”. Isto não significa que todo o seu conteúdo seja inválido, mas sugere um risco acrescido quando o assunto é politicamente sensível, histórico, ou com potencial de causar danos reais se mal contextualizado.
Perante as conclusões do Guardian, a OpenAI afirmou que o GPT-5.2 pesquisa na web um leque alargado de fontes públicas e perspetivas, aplicando filtros de segurança para reduzir a probabilidade de apresentar ligações associadas a danos de alta gravidade. Em teoria, este é o equilíbrio desejável: amplitude informativa com salvaguardas. Na prática, contudo, a eficácia desses filtros mede-se nos casos-limite precisamente onde os testes jornalísticos tendem a concentrar-se.
Vale lembrar que modelos com pesquisa na web combinam três camadas: o que o modelo “sabe” (treino), o que “vê” em tempo real (navegação) e como “decide” citar (heurísticas e políticas). Falhas em qualquer camada propagam-se para as restantes. Por isso, a transparência sobre a origem das citações, o rácio de confiança e a rastreabilidade do percurso até à resposta final são, cada vez mais, requisitos para uso profissional.
Para organizações que já integram IA generativa nos seus fluxos, o episódio deixa várias lições práticas:
- Governança de fontes: sempre que possível, delimitar domínios de pesquisa a repositórios de confiança, com curadoria editorial e processos de revisão claros. Em contextos regulados, whitelists são preferíveis a uma pesquisa “aberta” à internet.
- Citações auditáveis: exigir que o sistema devolva evidências verificáveis, com URLs, datas de acesso e excertos que sustentem afirmações factuais. Sem isto, a revisão humana torna-se lenta e cara.
- Revisão humana proporcional ao risco: temas históricos, jurídicos, médicos, financeiros ou politicamente carregados exigem revisão especializada antes de publicação ou decisão operacional.
- Memória institucional: integrar bases de conhecimento internas (políticas, guias de estilo, bibliotecas de fontes aprovadas) para reduzir a dependência de conteúdos voláteis da web.
- Medição contínua: monitorizar o tipo de fontes citadas, equilíbrio geográfico/ideológico e taxa de retracções, ajustando filtros e prompts de sistema de forma iterativa.
A Grokipedia posiciona-se como um atalho para “saberes concentrados”, mas a ambição de cobrir tudo com rapidez contrasta com o rigor editorial que temas sensíveis exigem. Estudos que identificam referências a espaços extremistas ou a materiais pouco fiáveis não invalidam o projeto, mas estabelecem um ónus: quando um modelo escolher citar a Grokipedia em áreas de alto risco, deve oferecer contexto, contrapeso de outras fontes e avisos claros sobre incerteza. O princípio aplica-se a qualquer enciclopédia gerada por IA: sem processos de validação robustos, a superfície de erro cresce precisamente onde a margem para erro é mínima.
Fonte: Engadget
Sem Comentários! Seja o Primeiro.