女網(wǎng)友自殺被成功挽救
26歲的黃蓉畢業(yè)于南京信息工程大學(xué)，在進(jìn)入自殺干預(yù)社會救助小組以前，她在一家互聯(lián)網(wǎng)公司做內(nèi)容審核員。加入快手后，經(jīng)過專業(yè)的心理學(xué)知識和真實(shí)案例的培訓(xùn)，在試崗一個月后，經(jīng)考核合格，她正式成為救助小組的一員，至今已有兩年時間。
（圖說：快手自殺干預(yù)社會救助小組成員黃蓉。）
黃蓉現(xiàn)在所做的干預(yù)工作，是在接到系統(tǒng)或人工的風(fēng)險預(yù)警后，通過綜合預(yù)警對象的直播、短視頻、評論等信息，來判斷風(fēng)險，并施以安撫或聯(lián)動警方上門干預(yù)挽救。
“你趕緊幫我查一下你們那一個快手用戶，她的快手號是XXX”。今年6月13日下午14時33分許，快手客服接到一名男性用戶進(jìn)線，電話那頭是焦急的語氣。
在和進(jìn)線的用戶確認(rèn)快手號和賬號昵稱后，進(jìn)線的用戶繼續(xù)對快手客服說：“對，就是她，這個人自殺了，她喝藥了，你查查她電話是多少，你趕快查出來報警，救救她呀。”
原來，這名“自殺”的用戶是進(jìn)線用戶在快手上認(rèn)識的一位女性網(wǎng)友，他們加了微信成了好友。當(dāng)天這位女性網(wǎng)友突然打視頻與他微信通話，說自己喝藥了。等他向這名女性網(wǎng)友詢問詳細(xì)信息時，對方再也沒有回信。
但他除了知道這名網(wǎng)友是遼寧某市的外，別的信息一無所知。他也向該市的110報了警，但因他能提供的信息實(shí)在太有限了，警方核實(shí)處置仍需一定時間。于是，他將求助電話打到快手平臺。
快手客服的工作人員記錄用戶反饋的信息，立即將該風(fēng)險信息推送給自殺干預(yù)社會救助小組。
當(dāng)日值班的黃蓉接到預(yù)警信息后，先是電話與“自殺”的用戶聯(lián)系核實(shí)，但撥打三次均未接通。黃蓉根據(jù)處置流程核查了用戶近期所發(fā)的視頻信息，發(fā)現(xiàn)在其中一條視頻中，該用戶回復(fù)網(wǎng)友時吐露“我要離開這個痛苦的世界”。
結(jié)合用戶的進(jìn)線，黃蓉綜合判斷該用戶自殺的風(fēng)險比較高，于是她根據(jù)用戶公開的IP地址向警方報警，并根據(jù)警方的詢問補(bǔ)充相關(guān)信息。
警方分析確認(rèn)當(dāng)事人位置后，他們同步撥打了120，出警上門后，將當(dāng)事人送醫(yī)。
一周后，黃蓉再觀察這名用戶的登錄狀態(tài)以及她是否再有風(fēng)險行為時，發(fā)現(xiàn)她的昵稱已改成積極向上的昵稱，并一直在持續(xù)更新內(nèi)容。
10分鐘內(nèi)要完成風(fēng)險評估和報警
僅僅憑借一個毫無證據(jù)的來電反饋，如何做出下一步干預(yù)動作？這既對團(tuán)隊(duì)成員綜合評估判斷能力要求極高，也是對干預(yù)標(biāo)準(zhǔn)和流程的考驗(yàn)。
快手自殺干預(yù)社會救助小組組長林雨（化名）介紹，平臺自2018年底即開始利用AI技術(shù)等開展自殺干預(yù)，2021年8月正式組建自殺干預(yù)社會救助小組，通過對干預(yù)流程的多次升級完善，已經(jīng)形成了從AI技術(shù)識別、公眾反饋信息的快速預(yù)警，到整合評估用戶發(fā)布內(nèi)容、評論等信息，綜合判斷預(yù)警信息的風(fēng)險的流程。
“對達(dá)到報警標(biāo)準(zhǔn)的，會立即報警；對未達(dá)到報警標(biāo)準(zhǔn)的，會聯(lián)系用戶溝通安撫；對經(jīng)判斷無風(fēng)險的，會將該用戶納入觀察期。”林雨說，這套流程要求小組成員在接到預(yù)警信息后，必須在10分鐘內(nèi)完成風(fēng)險評估并完成報警。目前平均完成一個案例，基本控制在6分鐘左右。
（圖說：自殺干預(yù)社會救助小組的部分成員在復(fù)盤干預(yù)案例。）
自殺干預(yù)的背后是平臺與死神爭分奪秒的過程，這不僅要求平臺的AI等技術(shù)，要具備比較高的識別準(zhǔn)確率，還要求自殺干預(yù)社會救助小組的成員具備同理心，具備溝通安撫的心理學(xué)相關(guān)專業(yè)知識、審核判斷風(fēng)險的能力、較好的表達(dá)溝通能力。此外，考慮到自殺風(fēng)險隨時都可能發(fā)生，尤其凌晨2點(diǎn)至4點(diǎn)是高發(fā)期，這也要求小組成員具備適應(yīng)夜班的能力。
林雨說，對新員工，團(tuán)隊(duì)會對他們進(jìn)行心理學(xué)相關(guān)專業(yè)知識和實(shí)踐案例的培訓(xùn)，經(jīng)過老員工帶著試崗1個月后，經(jīng)考核合格的，才能正式上崗。團(tuán)隊(duì)還會不定期邀請心理學(xué)領(lǐng)域的專家來開展授課培訓(xùn)，提高小組成員外呼安撫的專業(yè)能力。此外，還邀請公安機(jī)關(guān)的工作人員來開展培訓(xùn)，指導(dǎo)小組成員如何更高效地報警，提高報警的準(zhǔn)確率、有效率。
每天要甄別大量無效信息
在海量的短視頻內(nèi)容中，若是僅依靠被動的信息反饋和“人肉”的方式排查，很難發(fā)現(xiàn)潛在的自殺傾向。因此，“AI+人工”也成為目前主流互聯(lián)網(wǎng)平臺在自殺干預(yù)方面不約而同采取的方式。
林雨透露，平臺上半年聯(lián)合各方救下131名有自殺傾向者的背后，是對5530條確定性風(fēng)險預(yù)警信息的研判。而這5530條確定性風(fēng)險預(yù)警信息，則是從每天近萬條被標(biāo)記為潛在風(fēng)險的信息中篩查出來的。
（圖說：自殺干預(yù)工作的性質(zhì)，要求自殺干預(yù)社會救助小組7X24小時在線。）
“盡管系統(tǒng)的發(fā)現(xiàn)預(yù)警能力不斷的增強(qiáng)，但對我們來說，一直處于如履薄冰的狀態(tài)。”林雨說，很多風(fēng)險信息事后被證明是無效信號，有些人可能是在開玩笑，也可能是發(fā)泄情緒，但我們卻不敢輕易地放過去。
曹受君是自殺干預(yù)社會救助小組的一員，她從2020年10月進(jìn)入快手工作以來，見證了小組的籌備、招募和正式成立。
在她看來，從過往干預(yù)的案例來看，有一部分人是因一時想不開，在平臺上發(fā)布有自殺傾向的內(nèi)容，對于這一人群，通過電話安撫，多聽他們傾訴，試著開解他們，他們可能就會放棄輕生的念頭。
“但也有一部分人，他們做出風(fēng)險動作的背后，或因家庭矛盾，或因感情、疾病、經(jīng)濟(jì)壓力等多重問題影響。”曹受君說，解決這一社會問題，除了平臺、警方聯(lián)動干預(yù)外，還需社會各方共同參與。
黃蓉剛選擇這個職業(yè)時，她的父母對她的工作不理解，也會驚訝于互聯(lián)網(wǎng)上預(yù)警的數(shù)字。如今她再向父母講述自己又成功挽救的案例時，父母會說：“你做了一件積德的事。”兩年多的工作，讓黃蓉變得對那些深處困境的人，多了更多同理心，再回看自己的生活，她想說：“人生還有很長的時間可以去經(jīng)歷更多的事情。”