预印本综述:大型语言模型(LLM)进入数字心理健康领域的四类应用与潜在风险
美国佐治亚理工学院(Georgia Institute of Technology)研究者发表的一篇预印本综述,采用生态框架梳理大型语言模型(LLM)在数字心理健康中的四类应用领域:求助行为、社区照护、机构与医疗照护、社会层面照护生态。
摘要描述患者带着聊天机器人信息就诊、LLM(大语言模型) 被纳入医疗软件与电子健康记录(EHR)系统,以及初创公司聊天机器人宣称充当 AI(人工智能) 伴侣等现象。
该文尚未经同行评审,摘要未报告样本、量化结果或临床结局,只可作为研究、倡导与监管的议题框架,不能作为效果证据。
原文摘要称,过去十年电子健康记录、移动设备与社交媒体数据推动了心理健康研究; 生成式人工智能特别是 LLM(大语言模型) 的新进展被视为可能把数字心理健康带入新领域。 作者描述的现象包括:患者带着聊天机器人获取的信息就诊,最先进 LLM 被纳入医疗软件与 EHR 系统,且越来越多的初创公司聊天机器人宣称可充当 AI 伴侣、朋友与伙伴。
文章采用生态框架,围绕求助行为、社区照护、机构与医疗照护、社会层面照护生态四个应用领域讨论 LLM 可提供的能力,并评估是否以及如何将其用于改善心理健康。 作者表示文中梳理的收益与危害可服务于未来研究、倡导与监管,以构建更负责任、易用、公平和安全的 LLM 心理健康工具。 摘要未报告样本、量化结果或临床结局。 该文为预印本,证据范围仅为题录/摘要。
该文价值在于提出分类框架而非验证效果:它把 LLM(大语言模型) 在心理健康中的角色从单一“聊天”扩展到求助、社区、机构与社会四个层面,提示风险与收益需分层评估。 由于是未经同行评审的预印本且仅有摘要可见,不能据此推断 LLM 干预有效或有害的程度,也不能把初创公司“伴侣”宣称视为已验证能力。
对行业而言,可作为梳理风险清单与监管议题的讨论起点,但需等待全文与后续实证研究。
后续观察信号
- 获取全文以核对四类应用的具体风险清单
- 追踪作者团队后续实证研究
- 关注监管文件对 LLM(大语言模型) 心理健康工具的表述
