Um texto do Tech Policy Press discute o uso de inteligência artificial por parte do governo. Como em algumas situações, a IA está tomando decisão e estruturando a forma como o governo exerce sua autoridade, os problemas são importantes. Em diversos casos, não há um supervisão adequada ou um mecanismo de recurso para as pessoas que são afetadas.
O caso dos Correios no Reino Unido é um alerta sobre a confiança cega em sistemas de controle financeiro. Ao implementar o software Horizon (da Fujitsu), a agência ignorou bugs que apontavam faltas de caixa inexistentes. Relatórios contábeis falhos foram usados como prova para punir e prender funcionários inocentes. A tragédia só foi interrompida quando a escala dos erros evidenciou a baixíssima qualidade tecnológica e a falta de mecanismos de controle e governança da própria agência.ue
Esse é o primeiro ponto: a dificuldade de auditar decisões tomadas por sistemas que impacto os usuários dos serviços. O segundo aspecto é que a legislação atual não acompanha a velocidade do serviço. E nada garante que a IA irá decidir de forma justa, ou simplesmente irá reproduzir os vícios e erros das decisões passadas.
Se uma pessoa revisa os resultados, aprova recomendações ou retém a autoridade para intervir, presume-se que a responsabilidade permanece humana. Esse modelo fazia sentido quando sistemas automatizados apoiavam decisões isoladas. Mas os sistemas de IA contemporâneos podem aprender com dados, atualizar modelos internos e otimizar múltiplas variáveis sem instrução humana explícita em cada etapa. Sistemas agentes vão além, executando processos contínuos e estabelecendo objetivos intermediários. Eles estruturam como o julgamento é exercido, em vez de meramente informar escolhas. Nesse ambiente, é cada vez mais inadequado assumir que a revisão na ponta final possa sustentar uma responsabilidade pública significativa.
Essa mudança não é mais teórica. Governos estaduais e locais já estão utilizando sistemas que moldam decisões ao longo do tempo e entre domínios. (...)
Postagens
Nenhum comentário:
Postar um comentário