1. <track id="tvjdc"><em id="tvjdc"></em></track>
          <optgroup id="tvjdc"><em id="tvjdc"></em></optgroup>

          1. <acronym id="tvjdc"></acronym>

            
            
          2. <optgroup id="tvjdc"></optgroup>

            河南商報電子版

            ?
            當前位置: 首頁 » 商業
            商業

            “隔空”救援試圖自殺的人:快手聯動警方半年救下131人

            放大字體  縮小字體 發布日期:2023-09-11  瀏覽次數:34299
            核心提示:9月10日是第21個世界預防自殺日,記者從快手獲悉,2021年8月快手正式組建自殺干預社會救助小組,通過AI預警系統識別、建立安撫干預標準流程,7X24小時在線干預挽救有自殺傾向的人,僅今年上半年已成功挽救131人。目前,AI+人工的自殺干預模式已成為主流互聯網
             9月10日是第21個“世界預防自殺日”,記者從快手獲悉,2021年8月快手正式組建自殺干預社會救助小組,通過AI預警系統識別、建立安撫干預標準流程,7X24小時在線干預挽救有自殺傾向的人,僅今年上半年已成功挽救131人。目前,“AI+人工”的自殺干預模式已成為主流互聯網平臺治理的標配。

            女網友自殺被成功挽救

            26歲的黃蓉畢業于南京信息工程大學,在進入自殺干預社會救助小組以前,她在一家互聯網公司做內容審核員。加入快手后,經過專業的心理學知識和真實案例的培訓,在試崗一個月后,經考核合格,她正式成為救助小組的一員,至今已有兩年時間。

            (圖說:快手自殺干預社會救助小組成員黃蓉。)

            黃蓉現在所做的干預工作,是在接到系統或人工的風險預警后,通過綜合預警對象的直播、短視頻、評論等信息,來判斷風險,并施以安撫或聯動警方上門干預挽救。

            “你趕緊幫我查一下你們那一個快手用戶,她的快手號是XXX”。今年6月13日下午14時33分許,快手客服接到一名男性用戶進線,電話那頭是焦急的語氣。

            在和進線的用戶確認快手號和賬號昵稱后,進線的用戶繼續對快手客服說:“對,就是她,這個人自殺了,她喝藥了,你查查她電話是多少,你趕快查出來報警,救救她呀。”

            原來,這名“自殺”的用戶是進線用戶在快手上認識的一位女性網友,他們加了微信成了好友。當天這位女性網友突然打視頻與他微信通話,說自己喝藥了。等他向這名女性網友詢問詳細信息時,對方再也沒有回信。

            但他除了知道這名網友是遼寧某市的外,別的信息一無所知。他也向該市的110報了警,但因他能提供的信息實在太有限了,警方核實處置仍需一定時間。于是,他將求助電話打到快手平臺。

            快手客服的工作人員記錄用戶反饋的信息,立即將該風險信息推送給自殺干預社會救助小組。

            當日值班的黃蓉接到預警信息后,先是電話與“自殺”的用戶聯系核實,但撥打三次均未接通。黃蓉根據處置流程核查了用戶近期所發的視頻信息,發現在其中一條視頻中,該用戶回復網友時吐露“我要離開這個痛苦的世界”。

            結合用戶的進線,黃蓉綜合判斷該用戶自殺的風險比較高,于是她根據用戶公開的IP地址向警方報警,并根據警方的詢問補充相關信息。

            警方分析確認當事人位置后,他們同步撥打了120,出警上門后,將當事人送醫。

            一周后,黃蓉再觀察這名用戶的登錄狀態以及她是否再有風險行為時,發現她的昵稱已改成積極向上的昵稱,并一直在持續更新內容。

            10分鐘內要完成風險評估和報警

            僅僅憑借一個毫無證據的來電反饋,如何做出下一步干預動作?這既對團隊成員綜合評估判斷能力要求極高,也是對干預標準和流程的考驗。

            快手自殺干預社會救助小組組長林雨(化名)介紹,平臺自2018年底即開始利用AI技術等開展自殺干預,2021年8月正式組建自殺干預社會救助小組,通過對干預流程的多次升級完善,已經形成了從AI技術識別、公眾反饋信息的快速預警,到整合評估用戶發布內容、評論等信息,綜合判斷預警信息的風險的流程。

            “對達到報警標準的,會立即報警;對未達到報警標準的,會聯系用戶溝通安撫;對經判斷無風險的,會將該用戶納入觀察期。”林雨說,這套流程要求小組成員在接到預警信息后,必須在10分鐘內完成風險評估并完成報警。目前平均完成一個案例,基本控制在6分鐘左右。

            (圖說:自殺干預社會救助小組的部分成員在復盤干預案例。)

            自殺干預的背后是平臺與死神爭分奪秒的過程,這不僅要求平臺的AI等技術,要具備比較高的識別準確率,還要求自殺干預社會救助小組的成員具備同理心,具備溝通安撫的心理學相關專業知識、審核判斷風險的能力、較好的表達溝通能力。此外,考慮到自殺風險隨時都可能發生,尤其凌晨2點至4點是高發期,這也要求小組成員具備適應夜班的能力。

            林雨說,對新員工,團隊會對他們進行心理學相關專業知識和實踐案例的培訓,經過老員工帶著試崗1個月后,經考核合格的,才能正式上崗。團隊還會不定期邀請心理學領域的專家來開展授課培訓,提高小組成員外呼安撫的專業能力。此外,還邀請公安機關的工作人員來開展培訓,指導小組成員如何更高效地報警,提高報警的準確率、有效率。

            每天要甄別大量無效信息

            在海量的短視頻內容中,若是僅依靠被動的信息反饋和“人肉”的方式排查,很難發現潛在的自殺傾向。因此,“AI+人工”也成為目前主流互聯網平臺在自殺干預方面不約而同采取的方式。

            林雨透露,平臺上半年聯合各方救下131名有自殺傾向者的背后,是對5530條確定性風險預警信息的研判。而這5530條確定性風險預警信息,則是從每天近萬條被標記為潛在風險的信息中篩查出來的。

            (圖說:自殺干預工作的性質,要求自殺干預社會救助小組7X24小時在線。)

            “盡管系統的發現預警能力不斷的增強,但對我們來說,一直處于如履薄冰的狀態。”林雨說,很多風險信息事后被證明是無效信號,有些人可能是在開玩笑,也可能是發泄情緒,但我們卻不敢輕易地放過去。

            曹受君是自殺干預社會救助小組的一員,她從2020年10月進入快手工作以來,見證了小組的籌備、招募和正式成立。

            在她看來,從過往干預的案例來看,有一部分人是因一時想不開,在平臺上發布有自殺傾向的內容,對于這一人群,通過電話安撫,多聽他們傾訴,試著開解他們,他們可能就會放棄輕生的念頭。

            “但也有一部分人,他們做出風險動作的背后,或因家庭矛盾,或因感情、疾病、經濟壓力等多重問題影響。”曹受君說,解決這一社會問題,除了平臺、警方聯動干預外,還需社會各方共同參與。

            黃蓉剛選擇這個職業時,她的父母對她的工作不理解,也會驚訝于互聯網上預警的數字。如今她再向父母講述自己又成功挽救的案例時,父母會說:“你做了一件積德的事。”兩年多的工作,讓黃蓉變得對那些深處困境的人,多了更多同理心,再回看自己的生活,她想說:“人生還有很長的時間可以去經歷更多的事情。”

             

             
             
             

            關于我們 | 網站地圖 | 網站留言 | 廣告服務 | 聯系我們

            版權所有 河南商報社 技術支持:頂端傳媒科技(河南)有限公司 備案號:豫ICP備18039799號

            ?
            999久久久无码国产精品