中科院心理所等团队预印本研究:多模态大模型识别人脸表情时与人类反应模式相反
中国预印本平台 ChinaXiv(中国科学院科技论文预发布平台)刊出一项摘要级研究,用冲突情绪线索与仅含眼部的受限画面两项任务,比较人类与当前先进多模态大模型(MLLMs,可同时处理图像和文本等输入的大模型)的面部表情识别表现。
结果显示,模型在情绪不一致的复合面孔上准确率反而更高,与人类相反; 面部信息减少时,模型准确率下降幅度也大于人类。 这提示常见表情识别基准的高分不能等同于感知鲁棒性,评估需加入冲突与信息缺失场景。
该研究题为《Robustness of Multimodal Large Language Models in Facial Expression Recognition: A Human-Comparative Study》,作者包括王甦菁、李婧婷、赵琳、孙梦依、马骏驰、付双杰,机构涉及中国科学院心理研究所认知科学和心理健康全国重点实验室、中国科学院大学心理系、江苏科技大学计算机学院、中国科学院计算技术研究所智能算法安全全国重点实验室、中国科学院大学计算机科学与技术学院。
平台记录时间为 2026-11-02。 依据摘要:研究采用受生物学启发的双任务框架,以复合面孔范式考察模型对冲突情绪线索的鲁棒性,以眼部刺激材料(仅眼睛、眼睛与眉毛)考察模型在局部特征下的基本情绪推断,并与完整面部信息条件对比。 摘要称,MLLMs 对情绪不一致复合面孔的识别准确率高于情绪一致复合面孔,与人类模式相反;
可见面部信息受限时模型准确率下降幅度大于人类; 在匹配的动态呈现条件和不同提示词模板下主要面部区域效应模式可复现,但幅度随模型和提示词变化; 人类在群体层面的校准误差低于所评估的 MLLMs。 研究提出将该框架作为基准评估工具,用于压力测试下一代情感计算系统的感知鲁棒性与认知对齐。
这组结果触及基础模型能力评估的一个具体缺口:标准基准上的高准确率,可能来自与人类不同的判断路径,而非更稳健的感知。 对多模态模型开发者而言,冲突条件与信息受限条件应作为独立评估维度; 对使用表情识别能力的下游产品而言,摘要所示的人群校准误差差异意味着单看总体准确率不足以判断可用性。
需要注意,来源仅为摘要,未见样本规模、具体模型版本和统计细节,且为预印本,尚未经同行评审,不能据此推断实际临床或产品效果,也不应把摘要结果当作对具体模型的定论。
后续观察信号
- 核对正式发表版本是否经同行评审及结论是否调整
- 了解该类基准在情感计算系统评测中的使用情况
