AI当心理医生靠谱吗?渥太华大学正联手专家,给“胡言乱语”的聊天机器人套上紧箍咒!
Can uOttawa make a safe AI therapist? The new fight against chatbot psychosis
速读要点
- 📌 渥太华大学正在研发UbiMyTherapist,通过智能手表监测生理数据,为用户提供临床级别的心理支持。
- 📌 引入RAG技术限制AI的回答范围,旨在解决ChatGPT常见的“胡言乱语”和“幻觉”问题。
- 📌 专家警告AI存在算法偏见,且不能完全替代人类心理医生,使用时需保持清醒,别把AI当真人。
【🤖 当AI成了你的“心理医生”】
两年前,ChatGPT横空出世,不仅渗透进咱们生活的方方面面,还成了不少人内心世界的“知心大姐”。但随着越来越多的人开始依赖它进行日常心理疏导,这背后的隐患也逐渐浮出水面。
【⚠️ 警惕“AI精神病”】
成瘾与心理健康中心(CAMH)的科学家Peter Selby指出,临床医生和医疗专业人员现在正忙着填补心理健康服务的缺口,同时还得研究如何应对所谓的“AI精神病”。为了不让大家在ChatGPT上“碰运气”,包括渥太华大学在内的全国研究人员,已经开始开发更安全的替代性AI工具。Selby强调:“我认为医疗专业人员应该去塑造技术,而不是被技术牵着鼻子走。”
【⌚ UbiMyTherapist:你的智能情绪管家】
在渥太华大学,工程学院教授Karim Alghoul正带领团队开发一款名为“UbiMyTherapist”的AI数字治疗助手。它能持续监测用户的心理状态,并给出临床建议。Alghoul说,这玩意儿能跑在智能手表、手机或耳机等日常设备上,通过AI模型提前预测压力等情绪并提供支持。
【🛡️ 给AI套上“保护层”】
Alghoul并不想让大家完全抛弃ChatGPT,毕竟“大家都在用”。他的思路是:既然拦不住,不如加层保护。UbiMyTherapist的厉害之处在于它基于用户的生理数据(如智能手表采集的心率和睡眠数据)来预测情绪。Alghoul解释说,“Ubi”代表“无处不在(ubiquitous)”,暗示了数据采集的连续性。
【🧠 RAG技术:让AI不再胡说八道】
为了让交互更安全,团队引入了“检索增强生成(RAG)”技术。Alghoul解释,这相当于给大语言模型(LLM)加了个“紧箍咒”,让它只能从特定的数据库里抓取答案,而不是胡乱发挥。这样能有效减少“幻觉”,让回答更靠谱。
【⚠️ 别把AI当万能药】
虽然UbiMyTherapist还在原型阶段,但Alghoul提醒,它不适合所有人。对于患有敏感心理疾病的用户,他不建议单独使用该App,但对于管理焦虑和轻度抑郁,这倒是个不错的辅助。它能结合过去几周甚至几个月的数据,判断你当下的压力水平是否异常。
【⚖️ 警惕数据里的“偏见”】
CAMH的科学家Marta Maslej提醒,AI模型可能会放大社会偏见。她指出,历史上的传感器技术多基于白人或男性数据开发,这意味着AI可能对有色人种、女性或少数群体存在偏见。这在临床预测中是个大坑。
【📊 需求缺口巨大】
根据加拿大健康信息研究所(CIHI)2025年的报告,2024年约有五分之二的加拿大心理疾病患者需求未得到满足。其中,41%的成年人和36%的儿童/青少年表示他们的需求仅得到部分满足或完全未满足。Alghoul表示,这正是他们搞这项研究的动力。
【🚫 别把AI当创可贴】
Selby警告,不能把AI当作解决人类核心需求的“创可贴”。他们遵循“不伤害原则(first, do-no-harm)”,认为AI应该像医疗器械一样经过严格监管,而不是像商业公司那样直接扔给大众。目前,CAMH团队正在开发针对戒烟等成瘾行为的AI工具,利用“动机访谈”这种循证方法,既不强迫也不操纵用户。
【💡 最后的忠告】
Selby最后提醒大家:无论AI多先进,请务必适度使用。记得多休息,时刻提醒自己:你面对的是一台电脑,它不是真人,也不是真实存在的实体。
大加深度解读
说白了,AI现在就是个‘没毕业的实习生’,虽然知识面广,但没底线、没良心。渥太华大学这帮教授想做的,就是给这个实习生配个‘导师’(RAG数据库)。咱们作为用户,千万别把AI当成救命稻草,尤其是当你觉得压力大到喘不过气时,还是得找真人医生,毕竟AI不会对你的生命负责,但你的家庭医生会。

关注大加网公众号
长按识别二维码,获取更多加拿大本地资讯、生活指南与社区动态。发现加国之美,连接本地生活。
