Órgão britânico avalia investigar uso de IA do Home Office em pedidos de asilo

O Independent Chief Inspector of Borders and Immigration avalia investigar o uso de ferramentas de inteligência artificial pelo Home Office britânico no processamento de pedidos de asilo, enquanto prepara os temas de inspeção para 2027 no Reino Unido, informou a Wired.

O órgão pediu ao grupo de direitos digitais Open Rights Group mais informações sobre as ferramentas. A solicitação ocorreu após uma investigação de seis meses, que incluiu 11 perguntas parlamentares, duas cartas ministeriais e dez pedidos de registros públicos.

O Home Office usa as ferramentas Asylum Case Summarisation e Asylum Policy Search, desenvolvidas com o modelo GPT-4, da OpenAI, e o Microsoft Foundry. Elas resumem transcrições de entrevistas e informações sobre os países de origem dos solicitantes.

As ferramentas começaram a ser testadas no fim de 2024, durante um esforço do governo trabalhista para reduzir uma fila de aproximadamente 100 mil pedidos de asilo. Segundo estimativas do governo, o uso conjunto dos sistemas pode economizar cerca de uma hora por processo.

Pesquisadores afirmam que a taxa de resumos considerados impróprios para uso pelo sistema Asylum Case Summarisation é significativamente maior que o índice de erro de 9% divulgado na avaliação-piloto. O Open Rights Group também identificou que não há controle de qualidade para os resumos produzidos pelo Asylum Policy Search.

Por que importa: A possível investigação coloca sob escrutínio o uso de IA em decisões que podem afetar a permanência de pessoas em um país ou seu retorno a locais onde temem perseguição, especialmente quando há dúvidas sobre erros, vieses culturais e transparência.

Elabore uma lista de verificação para avaliar uma ferramenta de IA usada em decisões de alto impacto, incluindo precisão, controle de qualidade, transparência, possibilidade de contestação e riscos de viés cultural.

Reportagem original apurada por Wired.