评论文章:军用心理健康AI(人工智能)用平民数据训练,需以“行为效度”作为部署门槛
《Military Medicine》一篇评论指出,预测模型与生成式AI(人工智能)正进入军队心理卫生服务,但美国国防部、北约与英国JSP 936等治理框架未对“治疗性接触”作专门规定。
作者提出以“行为效度”作为部署要求,即系统须能安全管理所服务人群的行为表现,并给出四项使用条件。 摘要为评论主张,未报告任何模型实测表现。
分析推断原始来源可核对
事实与证据边界
摘要称,已用于美国退伍军人健康管理局记录的预测模型可标记自杀高风险退伍军人; 基于Army STARRS(评估军人风险与韧性的陆军研究)数据训练的模型可在士兵离开现役后长达十年做风险分层; 生成式AI(人工智能)被定位用于分诊、同伴支持和低强度心理干预。
摘要同时称,美国国防部《负责任人工智能战略与实施路径》、北约负责任使用原则、英国JSP 936等文件提供生命周期保障,但均未对治疗性接触作专门规定。 摘要将平民数据训练系统误读军人痛苦的风险称为“识别—行动差距”,并举例:道德伤害被误判为恐惧型创伤、被低估的自杀倾向被评为低风险、日常作战用语被标为威胁。
摘要还提到HIPAA(美国健康保险流通与责任法案)隐私规则中的军事指挥例外和DoD Instruction 6490.08下的指挥通报,可能使照护产生的输出进入部署、安全许可与行政决策。 作者提出四项使用条件:临床监督下的部署前评估、治疗隔离、道德伤害与文化胜任力、有意义的人类控制。 摘要未报告任何模型的验证数据或临床效果。
分析判断
训练数据群体错配会产生表述准确但临床含义被误读的输出; 照护数据若流向非照护用途,会反向抑制求助。 军队语境中的指挥通报属特定制度,不能直接套用到校园或消费产品。 该文为摘要级证据,未阅读全文,无法确认其框架细节或是否附实证。
后续观察信号
- 核查该评论全文是否给出行为效度的具体评估指标
- 查阅DoD Instruction 6490.08与HIPAA军事例外的原文适用范围
