研究:GPT-4与GPT-5对心理健康污名的性别刻画与真实人群数据存在系统性偏差
一项发表于《Social Science & Medicine》的摘要级研究,比较了GPT-4与GPT-5(均为OpenAI,美国人工智能公司开发的大语言模型)对心理健康污名的性别刻画,并与“Healthy Minds Study”7.64万余名真实受访者数据对照。
结果显示:模型部分反映性别差异方向,但对“个人污名”“感知污名”系统性低估、对“自我污名”系统性高估。 作者指出模型输出属“被扭曲的刻画”,需对照真实数据进行严格、情境化验证。
研究论文原始来源可核对
事实与证据边界
研究含两部分:研究一对GPT-4和GPT-5施加“社会距离”“刻板印象”“求助态度”等常用量表,两个模型一致把男性刻画为社会距离意愿最高、刻板印象得分相对较高、求助态度最消极(相比女性与非二元性别者);
研究二将模型对“个人污名”“自我污名”“感知污名”的估计与Healthy Minds Study(N=76,406)真实人类数据比对,发现序数模式部分吻合,但模型对所有性别群体都低估“个人污名”和“感知污名”、大幅高估“自我污名”。 作者结论称模型学到的是“被扭曲的刻画”,需针对真实世界数据做严格、情境化验证。
作者机构包括美国加州大学戴维斯分校、马萨诸塞大学波士顿分校与韩国庆熙大学。
分析判断
这是摘要级证据,仅能说明模型输出与人类自报数据之间存在系统性偏差,不能据此推断AI(人工智能)心理健康产品会产生何种干预效果或临床后果。 其价值在于提示:模型对性别与污名的表征会偏离真实分布,若直接用于筛查、分诊或内容生成,可能放大某一群体的刻板印象。 发表期刊为同行评审期刊,但本次可见内容仅为摘要,未披露模型提示词、样本筛选与统计细节。
后续观察信号
- GPT-5与GPT-4偏差差异是否具统计显著性
- 该偏差在高风险场景(自伤风险识别、转介建议)中的表现
- 是否有独立团队在中文语境复现该对照方法
