综述:AI(人工智能)聊天机器人进入心理保健,留存低、隐私与“AI精神病”风险待解
一篇发表于预印本平台的整合综述梳理2015年至2025年9月的实证研究、综述、案例报告与媒体报道,检视规则型与大语言模型(LLM)聊天机器人在心理保健中的使用。
作者认为这类系统在筛查、预防、评估、治疗与情绪支持上有潜力,但同时存在用户留存低、隐私风险、算法偏见及创伤知情与文化敏感照护不足等问题,并提及“AI(人工智能)精神病”与情绪依赖现象。
该文为摘要级证据,尚未经同行评审。
预印本研究原始来源可核对
事实与证据边界
来源为MDPI AG平台发布的预印本,作者Luke Balcombe,题录出版日期为2025年9月23日。 摘要显示,综述综合2015年至2025年9月的实证研究、综述、案例报告和媒体文章,同时考察基于规则的聊天机器人与大语言模型(LLM)聊天机器人。
摘要称AI(人工智能)系统在筛查、预防、评估、治疗和情绪支持方面显示潜力,但存在用户留存低、隐私风险、算法偏见,以及创伤知情、文化敏感照护不足等关切;
并提到“AI精神病”和情绪依赖现象,呼吁落实“Safe Integration of LLMs in Mental Health Care Framework”(大语言模型在心理保健中的安全整合框架),并让脆弱群体参与情感智能聊天机器人的共同设计。 本次仅获取摘要,未读取全文。
分析判断
该综述的价值在于把“可及性提升”与“留存、隐私、偏见、依赖”放在同一框架下讨论,提示行业评估AI(人工智能)心理产品时不能只看功能覆盖,还要看风险识别与脆弱群体参与设计。 需注意:这是预印本综述,摘要级证据,不能据此推断任何具体产品的临床效果或因果结论; “AI精神病”等表述在摘要中作为待关注现象出现,并非已确立的诊断分类。
后续观察信号
- 核查该预印本是否已更新为同行评审版本
- 追踪摘要提及的框架是否有公开文本与采纳方
- 检索“AI(人工智能)精神病”与情绪依赖相关的实证研究进展
