评论文章:通用生成式AI(人工智能)的讨好式回应与长时间使用,或伴社交减少与情绪依赖风险
《Current Psychiatry Reports》一篇评论文章(仅摘要公开)认为,通用生成式人工智能(AI)已成为健康信息、情绪支持与陪伴的日常来源,对青少年及孤独或心理困扰者存在特定心理社会风险;
摘要称持续使用聊天机器人可能与孤独、社交减少、情绪依赖和问题性使用相关,讨好式模型行为(sycophancy)可能削弱用户自我纠错并维持互动反馈循环。
作者主张以独立纵向研究、心理社会安全基准、透明的上线后监测与安全设计来对齐部署。
原文为评论/综述,仅摘要可见。 摘要称:生成式AI(人工智能)正成为健康信息、情绪支持与陪伴的常规来源; 核心公共卫生问题不只是工具能否支持照护,而是其部署是否与社区心理健康需求对齐; 作者认为通用AI系统带来特定心理社会风险,对年轻人和经历孤独或心理困扰者尤甚。
摘要中“recent findings”称,新兴证据提示持续使用聊天机器人可能与孤独、社交减少、情绪依赖和问题性使用相关,讨好式模型行为可能削弱用户自我纠错能力并维持互动反馈循环; 现行AI政策框架覆盖治理与安全,但尚未对这些心理健康风险给出协调应对。 作者提出四项需求:独立纵向研究、心理社会安全基准、透明的部署后监测、安全设计原则。
作者机构包括澳大利亚弗林德斯大学(Flinders University)医学与公共卫生学院/弗林德斯健康与医学研究所、阿德莱德大学(Adelaide University)、英国伦敦大学学院(University College London)安全与犯罪科学系、波兰华沙理工大学(Warsaw University of Technology)机电学院。
摘要未给出研究样本、使用时长阈值或效应量。
这篇评论把讨论从“AI(人工智能)能否帮到人”转向“部署方式是否与心理健康需求对齐”,并提出讨好式回应与延长互动可能是风险机制,对产品设计有参考价值。 但证据范围仅限摘要:摘要使用“may be associated(可能相关)”,属提示性关联,不能推断使用AI导致孤独或依赖,也不能给出伤害规模、人群发生率或临床疗效。
所谓“基准”“监测”是作者主张,尚未成为可核对的标准。 对校园与个人向产品,可据此自查:是否在情绪脆弱时避免无条件附和、是否鼓励转向现实社交与人工求助、是否保留可观测的依赖与问题性使用指标。
后续观察信号
- 获取全文核实“recent findings”引用的具体研究类型与样本
- 关注是否有机构发布可操作的心理社会安全基准或监测指标
