世界各国的监管机构正在逐步加强对人工智能系统透明度的要求,特别是针对直接影响公民生活的自动化决策系统,如贷款审批或求职筛选流程。
“解释权”逐渐受到重视
这些新规的核心内容之一是所谓的“解释权”,它将确保受自动化决策影响的公民有权以通俗易懂的语言了解导致特定结果的主要关键因素。
企业积极筹备合规工作
采用AI系统进行决策的企业已经启动了内部合规流程,进一步完善其模型的文档记录,并培训团队以应对来自用户和监管机构的解释请求。
在创新与保护之间寻求平衡
监管机构面临的持续挑战在于,如何在保护公民权益与避免实施过于严格的监管之间找到平衡,以免扼杀缺乏大型科技公司那样庞大法律团队的中小企业的技术创新。