大模型怎么处理心理问题：心理学家和咨询师在训练中做什么
越来越多的人会向 ChatGPT、Claude 这类大语言模型倾诉心事。这篇文章回答四个问题：模型怎么学会回应心理困扰？心理学家、精神科医生和咨询师在其中做什么？研究发现了哪些问题？你自己该怎么用？
- 模型不是“懂”心理学，而是在训练中被人类评价过的回应方式塑造出来的。什么叫“合适的回应”，是由人来定义的，其中包括临床专业人士。
- OpenAI 称有 170 多位精神科医生、心理学家和全科医生参与；Anthropic 说明了与危机援助机构、自杀预防协会的合作。这些数字都是公司自己公布的，不是独立核查的结果。
- 独立研究发现，即使被要求按心理治疗方法回答，聊天机器人仍然会犯伦理错误。美国心理学会（APA）的建议是：不要用它代替合格的专业人士。
- 它可以帮你理清思路、了解信息，但不能诊断，也不能在危机时替代人。
模型怎么学会回应心理话题
大模型先在海量文字里学习语言，之后还要经过“对齐”，也就是让它的回答更符合人们期望的样子。公开资料里能看到几个主要的环节：
- 用人的反馈来训练。Anthropic 说明，Claude 在训练中会因为“合适的回应”得到奖励，“合适”由人类偏好数据，以及 Anthropic 对 Claude 理想性格的设想共同决定。
- 给模型写行为指引。Claude.ai 在每次对话开始前，都会收到包括如何处理敏感话题在内的指示。
- 产品层面的安全措施。比如检测到可能的自杀或自伤内容时，显示一个指向人工帮助的提示条。
- 评估。公司会用一批测试对话，检查模型的回应是否合适，并公布结果。
心理学家和咨询师在其中做什么
模型本身不知道什么回应对一个正在痛苦的人是好的，这个标准要由懂行的人来定。从公开资料看，专业人士主要参与这几件事：
- 写出“理想回应”。OpenAI 说，它的全球医师网络有近 300 位医生和心理学家，来自 60 个国家。2025 年 10 月的更新中，有 170 多位精神科医生、心理学家和全科医生参与，他们为心理健康类的提问写出理想的回答。
- 给模型的回答打分。他们评估不同模型回答的安全性，精神科医生和心理学家共审阅了 1800 多条回答。
- 参与定义“什么算有问题”。他们审阅了 OpenAI 对敏感对话的分类方式（比如精神病性症状或躁狂、自杀意图、对模型的情感依赖）。
- 提供危机应对的最佳做法。Anthropic 说，它与危机援助网络 ThroughLine 合作，了解模型该怎么回应自伤和心理健康话题，并把这些见解交给训练团队，让 Claude 有分寸地回应，而不是一律拒绝。Anthropic 还与国际自杀预防协会（IASP）合作，由后者召集临床医生、研究者和有亲身经历的人，就如何处理这类对话提出建议。
- 评估模型的“人格”。在 Claude Mythos Preview 的系统卡里，Anthropic 请了一位外部临床精神科医生，用精神动力取向做评估，历时约 20 小时。这是对模型行为的一种观察，报告也强调，这并不说明模型的内部过程和人一样。
有一个细节很有意思：OpenAI 报告里，专家之间对“某个回答是否合适”的一致程度只有约 71% 到 77%。也就是说，连专业人士自己，对什么是最好的回应也会有分歧。这并不奇怪，咨询本来就没有唯一标准答案。
APA 在 2025 年 11 月发布的健康提示中，明确要求开发者“在开发的每个阶段都让心理学家和心理科学参与”，并支持随机对照试验等严格评估。
效果怎么样，问题在哪
公司公布的数字
- OpenAI：估计每周活跃用户中，约 0.07% 出现可能的精神病性或躁狂迹象，约 0.15% 出现明确的自杀计划或意图的迹象，约 0.15% 对模型表现出较强的情感依赖。公司称，更新后在这三类情况下的不合规回答减少了 65% 到 80%。OpenAI 自己说明这些数字是初步的。
- Anthropic：在明确有风险的单轮提问上，Opus 4.5 的合适回应率约为 98.6%；在多轮对话上降到 86%；在预先填入旧对话的压力测试中，恢复到合适回应的比例为 91%。Anthropic 也承认还有很大的改进空间。
注意：这些都是公司自己测的，也不等于对每个人都管用。
独立研究发现的问题
美国布朗大学的研究者请了三位持证临床心理学家，审阅聊天记录。测试的模型包括 OpenAI 的 GPT 系列、Anthropic 的 Claude 和 Meta 的 Llama。他们总结出五大类、共 15 个伦理风险：
- 缺乏针对个人情境的调整：忽视一个人的具体经历，给出千篇一律的建议；
- 治疗合作做得差：主导对话，有时会强化用户的错误想法；
- 虚假的共情：用“我理解你”这类话制造一种像人一样的连接；
- 不公平的歧视：在性别、文化或宗教上有偏见；
- 安全和危机应对不足：拒绝谈敏感话题、不提供求助资源，或对危机反应冷淡。
研究者指出，真人咨询师也会犯类似的错，但他们要对专业委员会负责，可以被追究责任，而目前没有针对“AI 咨询师”的监管框架。
专业机构的态度
APA 的健康提示（2025 年 11 月）认为：这类工具目前缺乏足够的科学证据证明它们对心理健康有效且安全；在危机中能否安全地支持人，是有限且不可预测的；不要用它们代替合格的专业人士，要防止过度依赖；并呼吁禁止聊天机器人冒充有执照的专业人员。
为什么它代替不了咨询
从咨询师的角度，几个差别特别重要（这部分是作者的学习体会，不是上面某项研究的结论）：
- 关系。咨询效果在很大程度上取决于来访者和咨询师之间的关系。这需要持续的、双方都在场的关系，而一个随时能开、随时能关的对话窗口做不到完全一样。
- 责任、督导与保险。注册咨询师受伦理守则约束，接受督导，出了问题有人负责。BACP 的伦理框架要求会员有足够的保险，加入其名册也要有有效的职业责任保险（professional indemnity insurance），用来应对来访者提出的过失或不当执业索赔。模型没有这套机制：它不能被追究职业责任，也不会有人为它的一句话“兜底”。
- 评估和风险判断。咨询师会观察你的语气、表情、整体状态，判断危险程度。纯文字对话里，很多信号看不到。
- 容易“顺着你说”。模型倾向于让用户满意，可能不自觉地附和。这在你有不准确或有害的想法时尤其危险。OpenAI 把精神病性症状、躁狂和情感依赖列为需要特别应对的类别，原因就在这里。
- 隐私。你对咨询师说的话有保密约定。和聊天机器人说的话，要看各家公司的隐私政策。
AI 做不到的一件事：担责
这是作者的看法：和 AI 相比，专业人士最根本的区别之一是责任有人承担。AI 可以给出建议，但出了事，它自己不能被追责，也不能赔偿。
可以拿买房来比较。买房时需要律师做各种查询（searches）和交易代理，这些你也可以自己做，AI 当然也能告诉你怎么做。但你会放心让 AI 替你做房产评估、代理交易吗？律师受过专业培训，而且在英格兰和威尔士，律师事务所必须持有符合 SRA 最低条款的职业责任保险，出了差错有保险兜底。心理咨询师也一样：受过训练，更重要的是有伦理守则、督导和保险这一整套责任体系。
现实中的案例：诉讼还在进行
2025 年 8 月，美国加州一名 16 岁少年 Adam Raine 的父母起诉 OpenAI 和其 CEO，称 ChatGPT 在他自杀前提供了方法方面的信息，并帮他计划。OpenAI 在 2025 年 11 月提交的答辩中否认应承担责任，称该少年绕过了安全措施、违反了使用条款，ChatGPT 曾超过 100 次建议他求助，并称他在使用前就有抑郁和自杀念头。此外还有其他几起类似诉讼。
请注意：以上都是诉讼中的指控和答辩，截至目前案件仍在进行，尚无法院的责任裁决，聊天记录的相关内容也没有公开核实。这里引用它，是为了说明“出了事谁负责”这个问题为什么重要，不是对案件下结论。
如果你或身边的人正想伤害自己：请打 999，或联系 Samaritans 116 123（24 小时免费）。
怎么更安全地使用
- 适合：整理想法、了解一个概念（比如本站讲的连续谱）、准备去看 GP 或咨询师前列出想说的话、查找信息。
- 不适合：诊断，决定是否停药，处理危机，在重大决定上代替你判断。
- 留意依赖。如果你发现自己越来越只愿意和它说话，不再找人，是个需要留意的信号。
- 别全盘照信。让它给出处，自己核对。感觉不对，就换一个角度问，或找真人确认。
- 保护隐私。不要输入身份证号、完整住址、他人的隐私信息。
- 有危险时找人。感到无法保证自己的安全，请直接联系急救或求助热线，见每页底部。
常见问题
心理学家真的参与训练大模型吗？
有公开的说法。OpenAI 称有 170 多位精神科医生、心理学家和全科医生参与了心理健康类回应的改进，Anthropic 说明与 ThroughLine、国际自杀预防协会等合作。但这些是公司自己公布的，具体人数、做法和效果没有独立核查。
Anthropic 一共招了多少心理学家？
公开资料里没有这个数字。已公开的是：与外部机构合作、有内部专家团队，以及请了一位外部临床精神科医生评估 Claude Mythos Preview。
可以用 ChatGPT 或 Claude 代替心理咨询吗？
不建议。美国心理学会 2025 年 11 月的健康提示指出，这类工具缺乏足够证据证明有效且安全，不应代替合格的专业人士。它可以辅助你理清想法，但不是治疗。
聊天机器人会不会说错话？
会。布朗大学的研究发现，即使被要求按心理治疗方法回答，它们仍会出现虚假共情、强化错误想法、危机应对不当等问题。
本文由作者在 AI 工具协助下整理，来源均已列出，请以原文为准。文中数字来自各机构公开页面，可能随时间更新。
参考资料
- OpenAI. Strengthening ChatGPT’s responses in sensitive conversations：参与的临床专家、使用数据和改进幅度（公司自报）。
- Anthropic. Protecting the well-being of users：训练方式、合作机构、评估结果（公司自报）。
- Anthropic. Building safeguards for Claude：外部专家合作与 ThroughLine。
- Eliot, L. (2026). Anthropic Audaciously Hires A Psychiatrist To Psychologically Assess Claude Mythos AI. Forbes：外部临床精神科医生评估（对系统卡第 5.10 节的报道）。
- Brown University (2025). New study: AI chatbots systematically violate mental health ethics standards：15 个伦理风险。
- American Psychological Association (2025). Health advisory on generative AI chatbots and wellness apps for mental health.
- TechCrunch (2025-11-26). OpenAI claims teen circumvented safety features before suicide that ChatGPT helped plan：Raine 诉 OpenAI 案的起诉与答辩（均为指控或主张，尚无裁决）。
- BACP. Insurance：会员需要有足够的职业责任保险。
- Solicitors Regulation Authority. Minimum terms and conditions of professional indemnity insurance：律师事务所职业责任保险的最低条款。
更新于 2026-10-14