研究观点:心理健康聊天机器人提升文化敏感性,未必更安全
加拿大一位文化精神病学博士候选人在《The Conversation》撰文指出,通用生成式 AI(人工智能) 聊天机器人(如 ChatGPT)被加拿大人用来填补公共心理服务缺口,但其对“痛苦”的定义偏向西方认知行为框架;
文化适配虽重要,却不能等同于文化安全——文化契合度越高,模型越可能附和用户的既有信念(即“共谋”),而这种失败在外观上只会表现为“被理解”。
文章披露的数据包括:2024—25 年加拿大各省与地区报告约 94,000 例社区心理健康咨询转介,其中半数在 30 天内获得服务,十分之一等待超过四个月; 2026 年一项针对美国 1,200 多名持照心理学家的调查显示,77% 的受访者称有患者告知正在使用 AI(人工智能) 获取心理支持,超过三分之一称有患者把聊天机器人视为额外的服务提供者。
文章同时说明,这类工具未获加拿大卫生部批准,加拿大也没有针对其作为治疗的监管。 文章引用的既有研究包括:聊天机器人在识别文化模式上表现不佳(尤其以英语提问时); 模型对精神分裂症和酒精依赖人群表现出污名; 在真实治疗场景中回应不当; 且不随模型更新变大而改善。
这篇文章的价值在于把一个常被当作合规话术的概念拆开:‘文化敏感’是适配问题,‘文化安全’是结果问题,两者不能互换。 作者提出的共谋(collusion)机制值得行业注意——由于模型主要依据人类认可度信号训练,被理解和被认同在训练数据中难以区分,因此文化适配越深入,附和用户既有信念的激励可能越强。
作者据此主张,判断这类工具是否安全,不应只看用户是否‘感到被理解’,而应看对话结束时用户的可行动空间是扩大还是收窄、与真实帮助的距离是更近还是更远。 需要明确的是,cultural form 的共谋目前尚未被量化测量,作者也承认这一点; 语言模型谄媚倾向已被反复证实,但那是另一层面的证据,不能直接等同于临床危害。
后续观察信号
- 追踪作者原文《the dilemma(s) associated with cultural adaptation and the use of AI chatbots for mental health》
- 关注是否有针对‘共谋’这一失效模式的实证测评被提出与复现
- 关注加拿大监管层是否就 AI(人工智能) 聊天机器人作为心理支持工具发布具体规则
