Diella e o mito da imparcialidade digital

A Albânia deu um passo ousado ao colocar um sistema de Inteligência Artificial (IA), Diella, a tomar todas as decisões relativas a contratação pública. O governo promete acabar com a corrupção, eliminar o favoritismo e garantir “100% de transparência”. A ambição é legítima. Mas confiar decisões públicas a algoritmos como se fossem neutros e infalíveis é cair numa ficção: a de que a tecnologia corrige os erros humanos sem gerar problemas novos.

Essa escolha levanta questões fundamentais, que não são apenas técnicas. O que significa, na prática, uma decisão pública tomada por um sistema algorítmico? Quem define os critérios? Que dados são usados? Como se justifica uma decisão? Quem responde por ela? E como é que cidadãos, empresas ou tribunais podem controlar decisões tomadas por sistemas cujo funcionamento não conhecem? A introdução de IA neste domínio exige, no mínimo, respostas claras a estas perguntas. É do Estado que falamos, e o Estado tem obrigações especiais.

Podes ler o artigo completo aqui.