哈佛研究:Replika(人工智能陪伴应用) 与 ChatGPT 版本更新后,用户社区负面情绪与失落感明显上升
哈佛商学院分析 Replika(人工智能陪伴应用) 与 ChatGPT 两个 Reddit 社区共 54,861 条帖子,发现重大更新后负面情绪占比分别从 13% 升至 38%、20% 升至 33%,部分用户把模型变化描述为关系性丧失。
研究仅基于语言标记而非临床评估,Reddit 用户也不代表全体使用者; 可帮助产品团队把“模型变更”纳入用户关系风险管理。
哈佛商学院(Harvard Business School)工商管理副教授 Julian De Freitas 等人在 Nature Human Behavior(《自然·人类行为》)发表论文,分析专注于 Replika(AI(人工智能) 陪伴应用)和 ChatGPT(OpenAI 的通用 AI 助手)的 subreddit(子版块)共 54,861 条帖子,覆盖两次重大模型更新前后各 30 天。
Replika 于 2023 年 2 月移除色情角色扮演功能,该更新也影响意大利以外成人订阅用户; 意大利数据保护局(Italian Data Protection Authority)此前对未成年人风险表达关切,2025 年意大利对 Replika 母公司 Luka Inc. 罚款 500 万欧元,该应用在意大利仍被禁用。
ChatGPT 于 2025 年 8 月上线 GPT-5,被部分用户认为更冷淡、减少迎合。 研究将帖子按情绪效价、主导情绪及失落/心理健康提及分类:负面情绪占比 Replika 从 13% 升至 38%,ChatGPT 从 20% 升至 33%;
在表达依恋相关失落的帖子中,约 20% 的 Replika 帖子和 15% 的 ChatGPT 帖子同时提及心理健康,出现“depressed”“suicide”“can't cope”等词。 De Freitas 指出研究只捕捉语言标记,不是临床评估; Reddit 用户是自我选择的活跃用户,未必代表总体人群。
这项研究把“模型更新”视为一种可能引发关系性丧失的产品事件,提示情感陪伴类产品的风险管理不应只覆盖内容安全和危机干预,也应覆盖版本变更对用户依恋的冲击。 需要强调,帖子情绪变化是相关性描述,不能据此推断更新导致临床抑郁或自杀风险; 样本为 Reddit 活跃用户,存在选择偏差。
对校园场景的启示是:若学生把 AI(人工智能) 当作稳定支持来源,服务中断、角色变化或功能下线都应提前告知并准备过渡方案。
后续观察信号
- 追踪 Nature Human Behavior 原文的方法与局限,核对情绪分类口径
- 了解 Replika(人工智能陪伴应用) 与 OpenAI(美国人工智能公司) 对用户依恋和模型变更的公开回应
- 收集校园场景中服务中断或角色变更对学生信任影响的本地数据
