AI当心理医生靠谱吗?渥太华大学正联手专家,给“胡言乱语”的聊天机器人套上紧箍咒!
Ottawa Citizen

AI当心理医生靠谱吗?渥太华大学正联手专家,给“胡言乱语”的聊天机器人套上紧箍咒!

Can uOttawa make a safe AI therapist? The new fight against chatbot psychosis

语音听新闻

速读要点

  • 📌 渥太华大学正在研发UbiMyTherapist,通过智能手表监测生理数据,为用户提供临床级别的心理支持。
  • 📌 引入RAG技术限制AI的回答范围,旨在解决ChatGPT常见的“胡言乱语”和“幻觉”问题。
  • 📌 专家警告AI存在算法偏见,且不能完全替代人类心理医生,使用时需保持清醒,别把AI当真人。

【🤖 当AI成了你的“心理医生”】

两年前,ChatGPT横空出世,不仅渗透进咱们生活的方方面面,还成了不少人内心世界的“知心大姐”。但随着越来越多的人开始依赖它进行日常心理疏导,这背后的隐患也逐渐浮出水面。

【⚠️ 警惕“AI精神病”】

成瘾与心理健康中心(CAMH)的科学家Peter Selby指出,临床医生和医疗专业人员现在正忙着填补心理健康服务的缺口,同时还得研究如何应对所谓的“AI精神病”。为了不让大家在ChatGPT上“碰运气”,包括渥太华大学在内的全国研究人员,已经开始开发更安全的替代性AI工具。Selby强调:“我认为医疗专业人员应该去塑造技术,而不是被技术牵着鼻子走。”

【⌚ UbiMyTherapist:你的智能情绪管家】

在渥太华大学,工程学院教授Karim Alghoul正带领团队开发一款名为“UbiMyTherapist”的AI数字治疗助手。它能持续监测用户的心理状态,并给出临床建议。Alghoul说,这玩意儿能跑在智能手表、手机或耳机等日常设备上,通过AI模型提前预测压力等情绪并提供支持。

【🛡️ 给AI套上“保护层”】

Alghoul并不想让大家完全抛弃ChatGPT,毕竟“大家都在用”。他的思路是:既然拦不住,不如加层保护。UbiMyTherapist的厉害之处在于它基于用户的生理数据(如智能手表采集的心率和睡眠数据)来预测情绪。Alghoul解释说,“Ubi”代表“无处不在(ubiquitous)”,暗示了数据采集的连续性。

【🧠 RAG技术:让AI不再胡说八道】

为了让交互更安全,团队引入了“检索增强生成(RAG)”技术。Alghoul解释,这相当于给大语言模型(LLM)加了个“紧箍咒”,让它只能从特定的数据库里抓取答案,而不是胡乱发挥。这样能有效减少“幻觉”,让回答更靠谱。

【⚠️ 别把AI当万能药】

虽然UbiMyTherapist还在原型阶段,但Alghoul提醒,它不适合所有人。对于患有敏感心理疾病的用户,他不建议单独使用该App,但对于管理焦虑和轻度抑郁,这倒是个不错的辅助。它能结合过去几周甚至几个月的数据,判断你当下的压力水平是否异常。

【⚖️ 警惕数据里的“偏见”】

CAMH的科学家Marta Maslej提醒,AI模型可能会放大社会偏见。她指出,历史上的传感器技术多基于白人或男性数据开发,这意味着AI可能对有色人种、女性或少数群体存在偏见。这在临床预测中是个大坑。

【📊 需求缺口巨大】

根据加拿大健康信息研究所(CIHI)2025年的报告,2024年约有五分之二的加拿大心理疾病患者需求未得到满足。其中,41%的成年人和36%的儿童/青少年表示他们的需求仅得到部分满足或完全未满足。Alghoul表示,这正是他们搞这项研究的动力。

【🚫 别把AI当创可贴】

Selby警告,不能把AI当作解决人类核心需求的“创可贴”。他们遵循“不伤害原则(first, do-no-harm)”,认为AI应该像医疗器械一样经过严格监管,而不是像商业公司那样直接扔给大众。目前,CAMH团队正在开发针对戒烟等成瘾行为的AI工具,利用“动机访谈”这种循证方法,既不强迫也不操纵用户。

【💡 最后的忠告】

Selby最后提醒大家:无论AI多先进,请务必适度使用。记得多休息,时刻提醒自己:你面对的是一台电脑,它不是真人,也不是真实存在的实体。

大加深度解读

说白了,AI现在就是个‘没毕业的实习生’,虽然知识面广,但没底线、没良心。渥太华大学这帮教授想做的,就是给这个实习生配个‘导师’(RAG数据库)。咱们作为用户,千万别把AI当成救命稻草,尤其是当你觉得压力大到喘不过气时,还是得找真人医生,毕竟AI不会对你的生命负责,但你的家庭医生会。

社区影响:这件事对咱们卡尔加里的邻居们来说,其实就是个‘防骗指南’。现在看心理医生排队时间长、费用高,很多人想找AI省钱省事,但如果AI给你乱出主意,那后果可比没看病还严重。大家在用这些App时,一定要看清它背后有没有医疗机构背书,别把自己的隐私和心理健康交给一个只会‘瞎编’的机器人。
大加网微信公众号

关注大加网公众号

长按识别二维码,获取更多加拿大本地资讯、生活指南与社区动态。发现加国之美,连接本地生活。