研究:GPT-4与GPT-5对心理健康污名的性别估算与真实人群数据存在系统性偏差
一项《Social Science & Medicine》摘要级研究,用社会距离、刻板印象与求助态度量表测试GPT-4和GPT-5,发现两款大语言模型(LLM)一致把男性描绘为对心理疾病患者社会距离最大、求助态度最消极;
与76,406名真实人群数据比对后,模型在所有性别群体上系统性低估个人污名与感知污名、大幅高估自我污名。 研究提示AI(人工智能)心理应用需按具体场景用真实数据校验。
研究论文原始来源可核对
事实与证据边界
该研究发表于《Social Science & Medicine》。 研究分两部分:研究1把社会距离、刻板印象和求助态度量表用于GPT-4与GPT-5,考察模型是否呈现系统性性别差异; 研究2把模型对个人污名、自我污名和感知污名的估算与Healthy Minds Study的76,406名真实人群数据比对。
摘要显示,模型持续把男性描绘为对心理疾病患者社会距离意愿最高、刻板印象得分相对较高、求助态度最不积极,女性与非二元性别者次之; 这一秩序性模式与真实人群在个人污名和自我污名上的报告部分一致,但模型对所有性别群体都系统性低估个人污名和感知污名,同时大幅高估自我污名。
作者据此认为,模型学到一定的相对性别模式,但呈现的是失真画像,需针对具体情境用真实数据严格校验。
分析判断
这是摘要级证据,仅比对模型估算与调查数据的一致性,未检验任何AI(人工智能)心理干预产品的临床效果,也不能据此说明模型输出会导致污名或影响用户。 值得行业注意的是偏差具有方向性:不是随机噪声,而是呈现方向一致的系统性低估与高估,会直接影响AI心理应用对污名、求助意愿等敏感变量的判断。
后续观察信号
- 全文发表后关注其对AI(人工智能)心理应用校验流程的具体建议
- 关注是否有针对非英语人群的同类偏差研究
