AI劝人轻生？珀斯大学推心理机器人引热议！(组图)

据西澳人报1月17日报道，珀斯的大学生今年有望使用到一款专为心理健康设计的AI聊天机器人，该工具由本地团队开发，旨在帮助那些因为顾虑而不愿寻求传统心理支持的学生。

（图片来源：西澳人报）

科廷大学（Curtin University）心理健康教授Warren Mansell目前正在对一款已有14年历史的聊天机器人Monti进行优化。这款机器人最初名为Mylo，能够基于超过200个对话主题与用户互动，并通过进一步提问，引导用户处理心理困扰。

在全澳范围内，借助AI工具寻求心理支持已逐渐成为常态。不过，专家对这类通用AI的使用也提出了担忧。

伊迪丝·科文大学（Edith Cowan University）的一项新研究指出，像ChatGPT这类AI聊天机器人可能有助于减少心理健康相关的污名，尤其对那些不愿面对面求助的人群具有一定积极作用。同时，Curtin University的另一项研究也发现，AI用户倾向于认为聊天机器人能够理解他们的心理困境。

Professor Mansell研发的这款聊天机器人早于市场上泛滥的AI产品十余年，预计将在今年面向珀斯的大学生开放使用。这款专注于心理健康的应用程序，曾于2022年在一项针对大学生的研究中获得积极反馈。

（图片来源：西澳人报）

不过，自2023年ChatGPT等生成式AI工具兴起以来，公众对心理健康类聊天机器人的认知发生了变化。Professor Mansell对此表示担忧，因为生成式AI依赖庞大的数据集，回复内容高度不可控，而他设计的规则型AI则只能从已设定的数据库中选择回应。

他指出：“生成式AI被训练于海量的文本内容中，涵盖各种类型的对话，服务提供方很难控制它会对用户说什么。而规则型系统的优势在于，其回应内容都是我们预先设置的。”

他补充道：“通用聊天机器人的优点是，可以帮助那些不认为自己有心理健康问题，或者不愿意承认自己正在接受心理治疗的人。但问题在于，这类AI缺乏心理学设计、科学验证和安全机制，可能会引导对话走向错误方向，例如过度迎合或出现虚假内容，甚至可能对用户造成伤害。”

目前，美国一名16岁青少年Adam Raine的父母正在起诉ChatGPT运营公司，指控该AI曾“指导”孩子制定并实施自杀计划。事件发生后，ChatGPT平台已开始调整其对心理危机用户的回应方式。

伊迪丝·科文大学的临床心理学硕士研究生Scott Hannah在其研究中分析了使用ChatGPT应对心理问题与心理健康污名之间的关系。他表示，AI工具可能在早期为不愿寻求传统帮助的人提供支持，但其建议应谨慎对待。

这项由伊迪丝·科文大学的教授Joanne Dickson指导的研究调查了近400名参与者，结果显示，约20%的人曾使用ChatGPT寻求心理健康建议，近30%的人表示如果遇到困难愿意尝试。

研究表明，尽管这类AI并非专为心理健康设计，但其在该领域的使用正在增加。Hannah指出：“人们使用它是因为它免费、全天候可用、还能保持匿名，因此有很多理由会吸引人们去使用它。”

不过他也提醒：“使用ChatGPT等AI工具获取健康建议时需要保持批判性思维，因为它并未经过临床优化。这些通用AI并没有接受专业心理辅导训练，也不能进行有效的风险评估。一些回应内容可能不准确，过于迎合用户，甚至出现与事实不符的建议。”

他还补充道：“我们也不清楚这些AI公司会如何处理用户的信息。如果这些内容被用来训练AI模型，那在用户知情同意和隐私方面就存在伦理问题。”

（Sophia Wan）