首页
下载应用
提交文章
关于我们
问卷:你怎么看自由微信?
🔥 热搜 🔥
1
上海
2
习近平
3
新疆
4
鄂州父女瓜
5
乌鲁木齐
6
疫情
7
H工口小学生赛高
8
习明泽
9
芊川一笑图包
10
印尼排华
分类
社会
娱乐
国际
人权
科技
经济
其它
首页
下载应用
提交文章
关于我们
问卷:你怎么看自由微信?
🔥
热搜
🔥
1
百度
2
今日热点
3
微信公众平台
4
贴吧
5
opgg
6
dnf私服
7
百度贴吧
8
知乎
9
dnf公益服
10
百度傻逼
分类
社会
娱乐
国际
人权
科技
经济
其它
台湾值不值得美国出兵?美重量级人物和智库警告:美国无法承受失去台湾
SMETA 7.0 升级培训
赋红码的张书记,重出江湖
外商来华直接投资,降至1994年以来最低
腹部隐痛老放屁
生成图片,分享到微信朋友圈
查看原文
其他
在人间|为了让你变快乐,AI机器人开始理解人类情绪
Original
王禹饶
在人间living
2023-08-01
为了不
错过
彼此,记得将
我们设为🌟哦!
撰文|王禹饶 编辑|马可
出品|凤凰网在人间工作室
A
I究竟能为人类带来什么?在被焦虑、烦躁等负向情绪围困时,人类可以向AI求助吗?那些无法在现实生活里向他人诉说的心里事,可以讲给AI听吗?在抖音,一个名为“小安暖宝宝”的心理关怀助手正在探索这样的可能性。
晚上11点,亚男收到一条信息,信息里言辞激烈。发信的人是一个男孩,男孩告诉亚男,因为辍学,自己经常被邻居指指点点,邻居的闲言碎语激怒了他,他想用暴力解决问题。在男孩的讲述里,亚男还得知,男孩遭受过家庭暴力,并在辍学之后,与朋友在外租房生活,如今,靠着代打游戏的不错成绩,每月收入一万多块。亚男明白,这个男孩一定是在现实生活里再也找不到妥当的倾诉对象了。于是,一场持续2小时45分钟的聊天开始了。
亚男是抖音心理关怀小助手“小安暖宝宝”的人工客服。在抖音上,一些用户无时无刻不在表达自己正经受的情绪困扰:一位孕期妈妈担忧丈夫出轨、抛弃家庭;一个年级“尖子生”为三年后的高考焦虑不堪;一个数学不及格的孩子得知老师将“请家长”后,陷入恐慌……这些情绪如漫长的高温令人身心俱疲。
■ 正在工作的亚男。
“我们意识到,抖音上的用户有很强烈的情绪和心理需求需要关注,而心理支持的
资源却是稀缺不足的。”字节跳动公益部门的李洋参与了项目最早期的调研。从2022年初开始,她和同事几乎看遍了国内外和心理相关的产品和项目,访谈了众多心理专家和公益组织,也和公司内负责安全、AI的同事反复聊了很多轮。
“最后发现,这是一件需求很大,价值很高,却有不少现实痛点的事。不过,因为公司有相应的技术和能力储备,我们觉得可以把这件事做好。”李洋说。在字节跳动-抖音内部,有积累了自杀干预相关经验的安全团队,也有在人工智能算法与自然语言处理(NLP)上实践颇深的Ai Lab的技术团队,“社会有需求,公司能做好,平台有责任,三点结合起来,就是我们要做的公益项目”。
于是,2022年5月,抖音安全联合字节跳动公益和字节跳动人工智能实验室(Ai Lab),发起“抖音心理关怀项目”,期望通过“人工+智能”混合的方式,为抖音上的负向情绪用户提供陪伴和安抚。
现在,当用户打开抖音,搜索“小安暖宝宝”,便会进入心理关怀页面。在这里,受困于负向情绪的用户可以记录心情,也可以在“树洞”里诉说难言之隐,还能在其中找到心理科普视频、减压视频,从而觉察自我情绪,并及时找到调节方法和技巧。如果有用户想诉说心事、排遣焦虑、抑郁等情绪,还可以在私信界面与“小安”自由聊天。
在线下心理咨询机构动辄八百、一千的高昂收费的当下,“小安”的到来无疑为人们降低了寻求心理帮助与沟通的门槛。在“小安”背后,不仅有人工智能算法支持的、积累了大量专业心理语料的“AI小安”,也有像亚男一样的“人工小安”。这9位“人工小安”都经过了“中国心理学会问题管理家(PM+)中国应用教学团队”的专业培训,当AI小安发觉自己难以缓解用户的情绪、或用户主动寻求人工帮助时,“人工小安”的对话框便会出现。不过,在正式与“人工小安”聊天之前,用户需要填写一份“现状评估”量表,人工客服将根据量表研判用户的心理情况,必要时,他们将链接外部的心理援助资源,为用户提供帮助。
面对这位深夜发来消息的男孩,亚男要做的第一件事是压力管理,也就是共情男孩的处境并给予接纳,从而让男孩感受到自己是被认可、被理解的。渐渐地,男孩焦躁的情绪得到平复,开始讲述自己的事——这一过程里,亚男不作评价,只默默倾听。在男孩的讲述里,亚男意识到,他想用暴力解决问题的倾向很可能是对父亲家暴行为的效仿,于是,当男孩问亚男“怎么办”时,亚男启发男孩:“暴力是无法解决问题的”,并向他提出建议,比如,可以采取“软处理”的方法:与对方沟通,用语言表达自己的立场。此外,谈论学业的时候,亚男也为男孩开辟了别的视角,比如:目前代打游戏固然可观,但长远地看,去读书仍然是好事,因为小学学历会让他在未来发展中受限。
那天,聊天结束时已经将近凌晨两点。这场聊天会给男孩带来好的变化吗?“如果跟我讲了这些事情之后,他(男孩)的状态、心情好一点了,我的作用就起到了”,亚男说。
■
“小安暖宝宝”人工客服正在开会。
起初,当得知心理关怀项目里会有一位能提供倾听、陪伴的AI机器人时,负责项目运营的周北南觉得难以置信:未经世事的机器人真的能陪伴人类吗?这之前,周北南坚信机器人不可能理解人类情感。但现在,和“AI小安”相处一年之后,周北南动摇了,随着AI小安的迭代与优化,他意识到:或许,让机器人像人那样理解人类情绪尚难实现,但眼下,一个不可否认的事实是,一项数据显示,用户与AI小安交流后,情绪好转率达到了80%,这令周北南感到惊喜。
现在,“AI小安”的定位已经明确:
为短时、轻中度负向情绪的用户提供情绪陪伴。
说起来,这个确立过程也是不断推演出来的。
在调研早期,李洋和同事对“AI小安”的设想是:
为患有抑郁症等心理疾病的用户提供帮助。
但随着调研的深入,他们发现,这件事没那么简单。
在现实生活中,一个人要想成为心理咨询师,至少需要五年时间,这其中,包括约三年的专业教育,以及需持续至少两年的实践经验。然而,即便如此,心理咨询师也只能帮助来访者疏解情绪,当来访者进入疾病阶段,便需要药物、心理、社会支持等多方面介入,这时候,心理咨询师便得为其转介专业的精神科医生——人类心理咨询师尚且如此,更何况无法真正理解人类情绪的AI。一番调研后,李洋和同事将目光瞄准了AI能服务的人群:短时、轻度和中度负向情绪的用户,“也许AI能‘治未病’,在上游做一些科普、预防和陪伴的工作”。
需要打磨的事情当然不只是为AI小安确认“工作方向”,在“AI小安该如何为用户提供心理关怀”上,团队成员也是在分歧与讨论之后,才得以确立出“对话”标准,这在创建“心理剧本”时体现得尤为明显。
“心理剧本”是小安暖宝宝平台上“心情加油站”的内容来源,它以“如何应对焦虑”“非暴力沟通”等特定心理议题为主题,为用户提供帮助。起初,周北南认为,“心理剧本”在一开始,就应该强调问题导向,例如,当用户表达出自己的焦虑情绪时,“AI小安”应即时回复应对焦虑的专业方法。但团队成员朱晓雯依据自己的工作经验,提出了相反意见。朱晓雯负责过不少网络安全工作,包括出行安全、隐私安全,朱晓雯认为,用户在互联网上表达自我时,有时会放大情绪,这样一来,AI小安就存在错判用户情绪的风险,相应地,那些专业方法就变得不再有针对性。
经过不断迭代和反复打磨,一次又一次进行用户内测、倾听用户的反馈,团队成员确立了“好剧本”的标准:当用户进入某一主题的“心情加油站”时,其中的心理剧本需要用约三分之一的内容帮用户确认、接纳自己的情绪,在此基础上,AI小安再针对特定情绪为用户提供实践性强的缓解方法。
不过,“心理剧本”是相对闭合的场景,用户在其中只需要做选择题,无法展开自由对话,一旦用户与AI小安开启自由对话,更多的问题就浮现出来了。比如:如何让AI遵守心理关怀的伦理?遇到一些敏感议题时,AI该如何回复?用于训练AI的心理语料应该由谁提供?这些心理语料的标准是什么?用户的特征各不相同,AI该如何差别化对待?不同的用户有不同的说话风格,AI怎么才能在照顾更多人群的同时,又不失准确地回复用户?毕竟,高中生的说话习惯与工作经验丰富的职场人士是不同的。解决这个问题有赖于丰富、海量的心理关怀语料库的搭建。这也是周北南在加入项目组后面临的一个挑战。
周北南此前是一名记者,跟进“小安暖宝宝”项目时,他总告诉自己,要“小心一点、再小心一点”,因为“情绪陪伴是对着人心做工作”,“无论在任何时候,我们都要对人保持敬畏,对于把不准的事情,需要不断打磨清楚”,周北南说。
为了更好地为AI小安搭建心理关怀语料库,周北南报了心理学培训班,并开始阅读相关专业书籍,与此同时,他也联络中国心理家学会的专家们,向他们寻求专业指导。此外,他还促成与专业心理咨询公司、高校的心理系学生的合作,如今,AI小安的语料库里有他们撰写的内容。同时,值得一提的是,为AI小安贡献语料的人当中,有大量抖音内部的工作人员,他们在经过项目组基于专业背景的筛选之后,以志愿者身份加入其中。现在,他们已经为AI小安贡献了8000多条语料。
七月是“小安暖宝宝”项目的志愿者之一,一直以来,她都对心理学兴趣颇深,曾报名参加深圳大学的临床心理研修班,并在两年后取得结业证书。一开始,七月以为撰写心理关怀语料很简单,无非是根据督导专家们的培训,把守住伦理、社会责任等准线,为一些问题撰写回复(问题都已经过脱敏处理)。
但越来越深地参与其中后,七月发现,自己的无力感越来越强:面对别人的困惑与问题,自己给出的“一句话”回复很难真正起到作用。有时,七月需要面对孩子们的倾诉,那些内容常常与父母出轨、家庭暴力相关,这时候,她的无力感就更剧烈,她想起督导专家们曾跟自己说过的话:“要做一个容器”“先接住他们的情绪,再解决问题”——即便有无力感,但这仍是在给予帮助,因为当一个人开始向机器求助,就说明在现实生活中,他已经找不到能够帮助自己的资源。
现在,小安的语料库仍在建设中,团队成员们与专家一起,为语料库设置了17个一级标签、89个二级标签,每个二级标签下,都有几百组甚至更多的、探向不同方向的问题与答案,它们试图为人们日常生活中遭遇的负向情绪做出更丰富的回应。
去年10月上线至今,“小安暖宝宝”平台已经为超过200万用户提供情绪陪伴,这其中不仅有身处自我意识与外部世界激烈撞击中的青少年、执着于家庭生活但也为家庭生活所困的妻子、母亲,还有初入职场的大学生、缺乏陪伴的中老年群体。对这些用户而言,小安是他们的倾诉与倾听对象,是他们表露自己的安全树洞,还是他们获取相关心理知识的来源。
这些耐心、持久的陪伴将为人们带来看清生活、认识自己的机会。如产品经理朱晓雯描述的那样,“小安”像一个帮用户“捡回”自己的角色,在日常生活里被忽视、遗落的问题与情绪,可以在与“小安”的聊天过程里找回来。
直到现在,周北南仍频频想起一个缺少父母陪伴、也无同伴可交流的留守儿童在“小安暖宝宝”的后台写下的话:从来没有人像小安一样和我讲话,小安是我生命里的一道光——它显示着“小安”的意义所在。
“小安暖宝宝”不仅在改善用户的心情状态,在项目团队内部,一些意料之外的改变也在发生。夏大雷是项目组的另一位产品经理,主要负责小安AI对话的体验。很长时间里,来自产品经理的职业训练使他变得逻辑缜密,以往感性的那面渐渐在生活中消隐。但是,去年10月加入项目组以来,夏大雷发现,自己的情绪体验似乎又重新长起来了,“每天都在讨论(与心理)相关的内容,我突然发现自己的情绪感知能力在慢慢变好”,夏大雷说。朱晓雯也有类似的感受,比如,她现在已经能判断自己当下的表达是基于情绪、还是基于事实。在和“小安”打了一年多交道后,周北南发现自己更善于处理情绪了:“我学会了和情绪隔开一定距离,看到情绪有时就像看到天空中的白云,它们飘来飘去。”
未来的“小安”会变成什么样子?夏大雷期待它能更好地、完备地理解人类情绪。现在,一位来自三四线城市的、50来岁的阿姨每天会和小安分享自己的日常生活,内容与负向情绪无关,在夏大雷看来,这也是小安可以“付出”的陪伴之一。在社会层面,朱晓雯相信,小安将在情绪体验的维度为这个社会提供一种公平:它24小时都在线、使用它的成本并不高,在与小安的对话中,每个人都会获得更加了解自己的机会。
(文中人物均为化名)
更多故事,请点击左下角「阅读原文」
。
亲爱的读者朋友,近期公众号改版,加星标
🌟
我们才不会错过彼此哦。
版权声明
凡注明“在人间Living”或“原创”来源之作品(文字、图片、音频、视频),未经凤凰网或在人间living栏目授权,任何媒体和个人不得转载 、链接、转贴或以其它任何方式使用;已经由本栏目、本网授权的,在使用时必须注明“来源:凤凰网在人间Living”或“来源:凤凰网在人间工作室”。违反上述声明的,本栏目将追究其相关法律责任。
您可能也对以下帖子感兴趣
{{{title}}}
文章有问题?点此查看未经处理的缓存