返回公开档案

研究:GPT-4与GPT-5对心理健康污名的性别刻画与真实人群数据存在系统性偏差

一项发表于《Social Science & Medicine》的摘要级研究,比较了GPT-4与GPT-5(均为OpenAI,美国人工智能公司开发的大语言模型)对心理健康污名的性别刻画,并与“Healthy Minds Study”7.64万余名真实受访者数据对照。

结果显示:模型部分反映性别差异方向,但对“个人污名”“感知污名”系统性低估、对“自我污名”系统性高估。 作者指出模型输出属“被扭曲的刻画”,需对照真实数据进行严格、情境化验证。

研究论文原始来源可核对
事实与证据边界

研究含两部分:研究一对GPT-4和GPT-5施加“社会距离”“刻板印象”“求助态度”等常用量表,两个模型一致把男性刻画为社会距离意愿最高、刻板印象得分相对较高、求助态度最消极(相比女性与非二元性别者);

研究二将模型对“个人污名”“自我污名”“感知污名”的估计与Healthy Minds Study(N=76,406)真实人类数据比对,发现序数模式部分吻合,但模型对所有性别群体都低估“个人污名”和“感知污名”、大幅高估“自我污名”。 作者结论称模型学到的是“被扭曲的刻画”,需针对真实世界数据做严格、情境化验证。

作者机构包括美国加州大学戴维斯分校、马萨诸塞大学波士顿分校与韩国庆熙大学。

分析判断

这是摘要级证据,仅能说明模型输出与人类自报数据之间存在系统性偏差,不能据此推断AI(人工智能)心理健康产品会产生何种干预效果或临床后果。 其价值在于提示:模型对性别与污名的表征会偏离真实分布,若直接用于筛查、分诊或内容生成,可能放大某一群体的刻板印象。 发表期刊为同行评审期刊,但本次可见内容仅为摘要,未披露模型提示词、样本筛选与统计细节。

后续观察信号

  • GPT-5与GPT-4偏差差异是否具统计显著性
  • 该偏差在高风险场景(自伤风险识别、转介建议)中的表现
  • 是否有独立团队在中文语境复现该对照方法

原创编辑内容 © BlisseMind Insight。欢迎分享原文链接;全文转载须取得授权。引用的研究、数据及第三方材料的权利归相应权利人所有。

署名与转载说明

Insight 智能顾问

BlisseMind Insight

你好,我是 Insight 智能顾问。

我可以帮你查找公开市场信息、解读研究内容、比较公司与竞品,并提供可核对的来源。