综述:AI(人工智能)聊天机器人可补充传统心理服务,但长期效果与安全证据仍不足
一篇发表于《Encyclopedia》的综述摘要指出,新冠疫情后AI(人工智能)聊天机器人、移动应用与在线平台等数字心理健康资源快速扩张,AI聊天机器人可作为虚拟治疗师或陪伴者提供咨询与个性化支持,并补充传统照护、弥补服务缺口。
但摘要同时指出,现有证据受短期研究和缺乏多样、长期结果数据限制,留存、隐私、危机响应与安全等问题仍未解决。
该综述作者为Luke Balcombe,隶属澳大利亚格里菲斯大学(Griffith University)应用心理学院澳大利亚自杀研究与预防研究所(Australian Institute for Suicide Research and Prevention),发表于MDPI AG出版的《Encyclopedia》。 本次核验仅见摘要,未获取全文。
摘要称:疫情后数字心理健康资源快速扩张; AI(人工智能)聊天机器人以虚拟治疗师或陪伴者角色提供咨询与个性化支持; 但低用户留存、数字素养有限、隐私规则不清、临床有效性与安全证据不足等问题持续存在; 用户对依赖、情绪结果、隐私、伦理风险和偏见存在担忧;
用户体验不一,部分人报告社会健康改善与孤独感降低,也有人质疑其在缺乏监管环境下的安全性、危机响应与整体可靠性; 弱势与服务不足人群可能面临更高风险; 需与有亲身经历者共同定义安全且支持性的交互。
摘要结论称AI聊天机器人可补充传统照护并弥合服务缺口,但当前证据受短期研究和缺乏多样长期结果数据限制,强调透明运营、伦理治理及技术与人工监督结合的混合照护模式,建议采用利益相关方驱动的部署方式、严格评估标准和持续的真实世界验证。
这是摘要级综述证据,不构成新的临床试验或产品效果验证,也无法据摘要判断任何具体产品的临床有效性或安全性。 其可核对价值在于集中呈现行业当前张力:AI(人工智能)聊天机器人在扩大可及性上被摘要定位为补充角色,而留存、隐私、危机应对、依赖、偏见与公平性等关键问题仍缺乏长期、多样本数据回答。
摘要提出的混合照护与利益相关方共同定义安全交互,指向一个现实约束——AI心理产品目前难以在证据层面被描述为可脱离人工监督独立成立。 以上为对摘要表述的归纳,不涉及全文结论。
后续观察信号
- 追溯该综述引用的关于用户留存和临床有效性的原始研究,确认其研究设计与样本
- 关注后续是否有机构发布AI(人工智能)心理聊天机器人的安全或伦理治理框架
- 留意危机响应与依赖风险是否出现新的实证研究
