Órganos reguladores de diferentes países están avanzando en exigencias de transparencia para sistemas de inteligencia artificial utilizados en decisiones automatizadas que afectan directamente a los ciudadanos, como la aprobación de créditos o los procesos de selección de empleo.
El derecho a la explicación cobra fuerza
Uno de los puntos centrales de estas nuevas exigencias es el llamado “derecho a la explicación”, que garantizaría al ciudadano afectado por una decisión automatizada el derecho a entender, en un lenguaje accesible, los principales factores que llevaron a ese resultado específico.
Las empresas se preparan para la adaptación
Las empresas que utilizan sistemas de IA en procesos de decisión ya han iniciado procesos internos de adaptación, documentando mejor sus modelos y capacitando a sus equipos para gestionar las solicitudes de explicación procedentes de usuarios y reguladores.
Equilibrio entre innovación y protección
El desafío para los reguladores sigue siendo encontrar un equilibrio entre proteger los derechos de los ciudadanos y no imponer exigencias tan rígidas que terminen sofocando la innovación tecnológica de las empresas más pequeñas, las cuales no cuentan con la misma estructura jurídica que los gigantes del sector.
