Páginas desatualizadas do gov.uk alimentam resumos de IA com dados antigos

Visões gerais de IA de empresas como o Google estão fornecendo resumos falsos de informações do governo do Reino Unido, baseando-se em páginas desatualizadas do GOV.UK, de acordo com designers de conteúdo do Departamento de Negócios e Comércio (DBT). O problema, escreveram o designer de conteúdo sênior Giorgio Di Tunno e o líder de operações de conteúdo Neil Starr em um post no blog do GOV.UK, é que páginas desatualizadas que não são mais mantidas estão sendo ativamente extraídas para responder a consultas dos usuários. Uma pesquisa no Google sobre o custo de estabelecer uma instituição de caridade no Reino Unido, por exemplo, retornou uma visão geral de IA citando £13 online ou £40 por correio para a incorporação na Companies House - valores extraídos de uma página legada não mantida. O custo real é de £100 online ou £124 por correio. Quando o The Reg tentou a mesma pesquisa, a visão geral de IA do Google primeiro disse que a incorporação era gratuita, depois, um dia depois, ofereceu "aproximadamente £13-£183+." Nenhuma das informações estava correta. "O problema não é que o governo esteja tentando confundir as pessoas (não está), mas que a informação inconsistente apresentada pela visão geral de IA parece assim para os usuários," escreveram Di Tunno e Starr. "Essa percepção sozinha pode minar a confiança nos serviços do governo." "No passado, a maioria dessas páginas desatualizadas e de nicho cairia no abismo de 0 visualizações, nunca mais sendo encontradas novamente." Agora, processos de busca autônomos para resumos gerados por IA baseiam-se nessas páginas para responder a consultas específicas. Para lidar com isso, o DBT auditou páginas do GOV.UK que não haviam sido atualizadas em cinco anos, que tiveram menos de 11 visualizações nesse período, que deveriam conter informações atuais e que não tinham um proprietário ativo, incluindo aquelas publicadas pelo extinto Departamento de Negócios, Energia e Estratégia Industrial. Foram encontradas 150 páginas que desde então foram redirecionadas para cópias arquivadas, páginas atuais do GOV.UK ou legislação relevante. O departamento também está testando ciclos de revisão semestrais, com as datas da última e da próxima revisão exibidas na parte inferior de cada página. Tunno e Starr disseram que isso foi recebido "extremamente bem por usuários reais", pois ajuda a confiar no material. Resumos de IA - que os motores de busca frequentemente fornecem como seus principais resultados para consultas dos usuários - estão causando outros problemas para os designers de conteúdo do governo. O chefe de design do Departamento de Educação, Mark Edwards, recentemente alertou que esses fornecem respostas enganosamente estreitas ou incompletas para perguntas. "Agora precisamos projetar com a expectativa de que muito do que publicamos será lido indiretamente, atomizado, resumido ou reinterpretado por sistemas que não controlamos," escreveu ele no início deste mês. ®