墨西哥开始接种中国科兴新冠疫苗 综合消息:突尼斯变异新冠病毒系本土演化而来 中东多国加快疫苗接种进程 长春大众卓越女足昆明集中 开启第二阶段冬训备战新赛季 “春风行动”全面启动 研考初试成绩本月陆续发布 长春市文庙博物馆将举办元宵节线上公益文化活动 美失业率上升“新穷人”领救济 记者探访救济食品分发站 起步就是冲刺!牛年伊始长春多个项目火热开工! 吉林省全力抓好煤矿安全生产监管 全国大部分农区陆续忙碌起来 田间地头一派生机盎然 3天3夜跑了500公里!成都大叔完成极限超跑挑战 4天致8次高铁晚点:铁路部门提醒放风筝远离铁路电力网 26日天宇见证浪漫一幕:"元宵月"巧遇"黄帝星" 猜灯谜、做灯笼 长春市图书馆“闹春图”元宵节系列活动来了 重庆返岗复工农民工达260余万人 返岗率逾六成 美国新冠肺炎死亡人数超50万 超一战二战和越战美阵亡者总和 第五届联合国环境大会召开 中方呼吁采取全球行动应对环境问题 机场“逐鸟人”:黑脸蛋是我们的“标配” 吉林省人社厅发布通知,2021年社会保险缴费有新变化! 伊朗最高领袖:如有需要或将浓缩铀丰度提高至60% 国资委:支持央企加快国有资本的布局优化和结构调整 亚泰广州冬训先“瘦身”再“增肌” 内外援引进工作将全面展开 零距离!揭开天问一号火星环绕器神秘面纱 洮南:强化政务大厅疫情防控 确保群众办事安全 谭德塞:全球各地都进行新冠疫苗接种符合所有国家的利益 智利累计新冠确诊病例超80万例 外企看中国丨专访IBM大中华区首席执行官:我们期待在中国“云”端舞出新姿 嫦娥五号带回月壤 3月将在国家博物馆展出 牛年元宵节 十六月最圆 利益联结产业链上游,伊利全面助力东北地区乡村振兴 春节假期后文旅新风尚 开春如何玩得更尽兴? 长春新区:打造“升级版”营商环境 省运管局指导各地全面有序恢复道路旅客运输服务 游客捞取泉池内硬币引发争议 趵突泉景区回应 一派生机盎然!湖北武汉:开启“全城赏花”模式 澳大利亚学者认为比特币价值被高估 北京汤圆元宵抽检全合格 温馨提示:带冰霜的别买 刚果(金)总统谴责联合国车队遇袭事件 湖南两名男子爆竹炸6条小鱼被取保候审 同时段播放全国第一,实时收视率破1!电视剧《鲜花盛开的山村》,不一样的乡村戏! 挂着名校牌子,收费高,却很孬!有名无实的“冠名办校”值得警惕 联合国人权理事会第46届会议昨日开幕 中方代表发表视频致辞 注意!吉林省这5批次食品不合格! 非洲新冠确诊超383万例 多国持续推进疫苗接种 吉林省退役军人事务厅发布“清明•致敬英雄”主题征文、摄影征集评选活动的公告 @吉林人,坚持完今天,24日气温将回升了! 推动两国关系重回正轨 女童海洋公园爬凳摔伤 脸缝4针 家长要求园方赔偿合理吗? 为中国疫苗投下信任票 多国领导人“带头”接种 海外网评:50万条逝去的生命,美国无法治愈之痛
您的位置:首页 >综合 >

生死70分钟背后:他们默默在做细小而正确的事

2020-07-03 17:37:30来源:中国吉林网

自杀自残,是个体面对特定事件超过个人解决能力的一种极端解决办法,背后原因极为复杂。在快手,有这样一些团队,通过算法技术及时识别,第一时间处置账号和内容,积极联动有关部门,竭力挽回行将逝去的生命。今年以来,他们就联动警方干预了270余名有自杀自残倾向的用户。

70分钟,与死神赛跑

6月26日21时许,快手员工正在对用户直播进行常规巡查,突然发现一个直播间的画面中,男子躺在沙土地上,脸色苍白,手腕鲜血淋漓。

“是自杀!快报警!”快手社区安全员工张洋立即启动应急响应,第一时间掐掉直播,并将相关信息推送给客服团队。不到10分钟,客服团队就与属地云南省个旧市公安局建立了联动关系。

图为民警在高架桥下找到轻生者李林(个旧市公安局提供)

只有大体位置,本着生命至上的原则,在快手平台协助下,个旧市公安局立即安排民警摸黑展开地毯式搜寻。经过70分钟的全力搜索,绕过三个高架桥之后,当天22时30分,民警终于在大屯辖区某高架桥下找到已经跳下高架桥且割腕的李林。经过医生的救治和民警的安抚,李林生命体征平稳、情绪逐渐趋于稳定,已被家属带回家做进一步观察。

今年25岁的李林,只因欠了4000块钱外债,周围亲友拒绝借钱帮其偿还,心灰意冷的他选择从高架桥一跃而下,发现没死后用玻璃划破手腕,在手机镜头前等死。

快手的快速响应,民警的及时救援,一场悲剧被成功阻止。

图为民警在安抚李林(个旧市公安局提供)

在快手,这样惊心动魄的场景并非偶然,社区安全和客服团队每天都要处理多起类似事件。今年以来,快手社区安全和客服团队已联动各地警方救援270余名试图自杀自残的用户。

算法赋能+多方联动,阻挡自杀自残

作为一款国民级应用,每天有大量的人在快手上记录生活的点点滴滴,直播自己的喜怒哀乐。然而,在网络的某个角落里,一些人正在面对人生的至暗时刻。

湖北巴东一名女孩,因为失恋而抑郁,不停上传有明显自杀倾向的作品;吉林一名网友直播时一边拿着药盒,一边激动地讲述自己悲惨经历,表示自己不想活了……快速变化的社会里,很多人处于多重压力环境下,自杀自残事件愈发常见,容易因一件小事情绪崩溃,冲动决定自杀。

对于日活跃用户数超过3亿的快手而言,每天有海量的用户上传视频作品、开直播。仅靠人工无法审核全部的内容,在技术和算法的赋能下,有自杀自残倾向的作品,系统会第一时间识别并自动拦截。在直播中出现自杀、扬言自杀等内容,系统警报会立即拉响,相关直播很快被关闭。

然而,仅仅是删除或屏蔽相关视频作品、关掉直播,并不能完全拦阻自杀自残行为继续进行。快手社区安全和客服团队不停琢磨,认为除了处理相关作品和直播,还应该采取更加积极主动的手段,去干预自杀自残的行为。

经过不停尝试和摸索,快手社区安全和客服团队建立了一套相对完备的自杀自残干预处置策略,搭建了快速反馈流程。直播判罚结果为“自杀自残”的,直播会立即被关闭,相关信息会同时推送给客服团队,由客服团队确认后迅速联动警方介入;对于有自杀自残倾向的作品,风控会召回相关用户和作品,通过线上流程及时推送给客服团队,由客服团队确认后联动警方介入干预;一线评级团队发现相关异常情况也会快速同步给客服团队。

别怕,我们都在

3月18日凌晨,在一个直播间里,一名男子手持电棍坐在车上,旁边还有一名疑似被控制的女子,身上仅穿内衣,有伤害自残倾向。相关信息很快就被快手社区安全团队捕捉到,随后被推送至客服团队。当晚值班的客服团队刘坤很快向属地山东滨州警方报警求助。

在客服团队协助下,滨州市公安局沾化分局立即开展调查工作,妥善处理了该事件,及时消除了负面影响。事后,当地警方还给快手公司发来一封感谢信。

图为感谢信

“危机干预是一场战斗,当事人在痛苦挣扎的同时,我们都不能袖手旁观。“刘坤说,在这一点上,快手和警方的目标是一致的。在干预自杀自残上,快手与各地警方已经建立了密切的协作关系。

其实,在与死神对抗的过程中,不仅仅只有当事人,快手、警方、第三方机构都在另一端默默努力着。

除了处置账号和内容、报警介入等直接干预手段,情绪的纾解与表达也是自杀自残干预中的关键。

图为快手高敏关键词搜索结果页面

在快手搜索“自杀”“自残”“我想死”等极端关键词,会发现置顶显示的是一个名为“别怕,我们都在”的心理咨询H5宣传页。点开宣传页,是一个自动滚动的“群聊”信息页面。“这个世界虽然不完美,但爱和关心不会缺少”“没有爬不过的山没有过不了的坎,所有的一切都会随风过去”“冲鸭,今天也要开心鸭”等“群聊”信息映入眼帘,最后还附上24小时免费心理危机咨询热线的电话号码。

在H5页面下方,系统会自动展现平台内各类正向内容,向特定用户提供情绪纾解与表达的渠道。在快手,这样润物细无声的举措还有不少。

“做细小而正确的事,这符合我们的价值观。”快手相关负责人说,自杀自残干预困难重重,策略还要不断迭代完善,还有很多漏洞需要填补,但我们会一直坚持做下去。(文中人名均为化名)

免责声明:本网站所有信息仅供参考,不做交易和服务的根据,如自行使用本网资料发生偏差,本站概不负责,亦不负任何法律责任。涉及到版权或其他问题,请及时联系我们。