综述:AI(人工智能)决策的透明度与问责如何与隐私、知识产权权衡
新加坡社科大学与剑桥大学学者发表的叙述性综述梳理AI(人工智能)透明与问责的四类议题:技术方法、法律监管、伦理社会与多方参与。
作者指出,可解释性常与模型复杂度、隐私和知识产权冲突,透明度本身也不足以构成问责,受影响者与监管者仍可能难以读懂解释。 本文为文献综述,不提供AI心理健康产品的效果或人群数据。
该文为新加坡社科大学法学院与剑桥大学作者Ben Chester Cheong撰写的叙述性综述(非系统性综述),检索IEEE Xplore、ACM Digital Library、Google(谷歌) Scholar等数据库,限定2016至2024年文献,归纳四个主题:技术路径、法律与监管框架、伦理与社会考量、跨学科与多利益相关方路径。
文中举例:可解释AI(XAI)方法LIME以局部可解释模型近似复杂模型的预测; 深度学习神经网络常呈“黑箱”; 欧盟《通用数据保护条例》(GDPR)包含针对完全自动化决策的“解释权”,但何种解释算“有意义”尚不明确; 欧盟《人工智能法案》要求高风险AI系统提供者披露训练数据、模型架构与性能指标等关键特征;
美国2023年《算法问责法案》为拟议法案,要求对敏感领域高风险自动化决策系统开展影响评估。 文中还引用休斯顿教师联合会诉休斯顿独立学区案,涉及其用于教师评价的AI工具EVAAS,案件最终和解,学区同意提高透明度与正当程序保障。
这篇综述的价值在于把“可解释”与“可问责”分开:解释输出不等于责任可追溯,高风险场景需要审计、影响评估与救济机制配套。 它也提示隐私、商业秘密与模型复杂度会限制透明度落地。 对AI(人工智能)心理与情绪类应用而言,若涉及自动化判断或分流,同样需要明确解释对象、解释内容与申诉渠道; 但这是治理框架层面的推论,原文未提供任何AI心理健康产品的效果或人群数据。
后续观察信号
- 追踪各国对高风险AI(人工智能)系统“解释权”的执行案例
- 观察AI(人工智能)心理类应用是否披露自动化决策的影响评估
