事件:影响不只来自心理健康 App
WHO 于 2026 年 3 月介绍的一次专家研讨指出,人们正把未为心理用途设计或测试的生成式工具用于情绪支持。讨论涉及长期影响、情感依赖、文化语言适配与危机转介。这是机构对研讨的总结,不是所有国家已经生效的一套产品准入规则。
编辑建议:安全指标需要分母与后续
媒体报道不能止于『有安全过滤』。我们建议追问:风险信号覆盖多少用户或会话?漏报与误报如何核验?转人工平均等待多久?失联或退出如何记录?投诉是否有解决结果?这些是拟采用的采访字段,不意味着任何公司已经公开这些数字。
『未公开』『本次未查到』『未发生』是三个不同状态。只有确定的监测范围和方法,才允许把观察到的事件数量写成发生率。低事件数也不能自动证明安全。
商业判断:健康改善与黏性可能并不一致
长时间使用可能源于方便,也可能反映困扰或依赖,单一时长无法区分。建议把用户主动结束、现实支持连接、用户控制记忆和删除、转介完成等放在增长指标旁边。媒体不公开可复现的危机诱导提示词,也不使用耸动的自伤细节吸引点击。
编辑部判断:可能影响
- 产品比较增加安全披露状态,而不是自行授予安全认证。
- 将长期影响与用户退出权纳入访谈提纲。
下一步观察
- 是否有独立监测和跨文化验证。
- 实际转介完成情况,而不仅是弹出求助提示。
限制与使用边界
- 安全检查清单是编辑建议,不是 WHO 认证标准。
- 本文不推定任何未披露指标的公司已经造成伤害。
