Órgãos reguladores de diferentes países vêm avançando em exigências de transparência para sistemas de inteligência artificial usados em decisões automatizadas que afetam diretamente cidadãos, como aprovação de crédito ou processos seletivos de emprego.
Direito à explicação ganha força
Um dos pontos centrais dessas novas exigências é o chamado “direito à explicação”, que garantiria ao cidadão afetado por uma decisão automatizada o direito de entender, em linguagem acessível, os principais fatores que levaram àquele resultado específico.
Empresas se preparam para adequação
Empresas que utilizam sistemas de IA em processos de decisão já iniciaram processos internos de adequação, documentando melhor seus modelos e treinando equipes para lidar com solicitações de explicação vindas de usuários e reguladores.
Equilíbrio entre inovação e proteção
O desafio para reguladores continua sendo encontrar equilíbrio entre proteger direitos dos cidadãos e não impor exigências tão rígidas que acabem sufocando a inovação tecnológica de empresas menores que não têm a mesma estrutura jurídica de gigantes do setor.
