A inteligência artificial deixou de ser um te ma reservado a laboratórios e empresas tecnológicas. Hoje, ajuda a redigir textos, detectar padrões clínicos, traduzir línguas, analisar fraudes, seleccionar conteúdos e apoiar decisões de pessoas singulares e instituições públicas e privadas. A questão, por isso, já não é saber se a IA fará parte da vida social. Ela já faz.
A questão decisiva é outra: quem responde pelos seus erros, pelos seus enviesamentos e pelos danos que pode causar? A tese central deste artigo é trazer debate e reflexão sobre o fascínio tecnológico para a responsabilidade pública.
A IA pode ampliar o acesso ao conhecimento, apoiar diagnósticos, acelerar investigação e criar novos serviços. Em países com limitações de recursos, pode até ajudar a reduzir distâncias no acesso à educação, à saúde e à administração, mas benefícios potenciais não são benefícios automáticos, pois dependem da qualidade dos dados, do contexto em que a tecnologia é usa da, da capacidade de fiscalização e, sobretudo, das escolhas humanas que antecedem cada sistema. Esta é uma distinção essencial: algoritmos não são neutros.
Eles traduzem decisões sobre quais dados recolher, que objectivos optimizar, que grupos representar e que erros considerar aceitáveis. DR Quando sistemas de reconheci mento facial, crédito, recrutamento ou vigilância são treinados com dados incompletos ou marcados por desigualdades históricas, podem reproduzir padrões discriminatórias em grande escala e com aparência de objectividade. A má quina não “decide sozinha”; ela organiza e amplifica decisões humanas anteriores.
