<mark id="oztn4"></mark>
0
近日，滴滴在成都辦了一場安全開放日，多個司機、乘客、行業(yè)專家和媒體被邀請走進滴滴安全預(yù)警中心，現(xiàn)場體驗一線安全專家如何聽音、研判和干預(yù)訂單風(fēng)險。
這也是滴滴少有地把網(wǎng)約車安全后臺攤開給外界看。
滴滴創(chuàng)始人、CEO、集團安委會主任程維在活動中表示，保障每天數(shù)千萬訂單的安全，是滴滴身上的責(zé)任。滴滴安全體系已經(jīng)迭代多次，但仍然“還在路上”。他希望通過開放日，讓外界看到滴滴如何做安全，也給平臺提出更多意見。
網(wǎng)約車安全和常規(guī)互聯(lián)網(wǎng)推薦系統(tǒng)不同。
推薦、搜索算法通常要在準確率和召回率之間取得平衡，但安全算法不一樣。滴滴網(wǎng)約車技術(shù)和安全負責(zé)人曹樂表示，安全風(fēng)險是低頻事件，但只要平臺有能力召回，就不能為了提高準確率而漏掉風(fēng)險。這意味著，滴滴安全系統(tǒng)必須優(yōu)先保證召回率。
然而，代價是大量誤判。
據(jù)曹樂介紹，即便經(jīng)過大模型多輪篩查，進入安全預(yù)警中心的訂單，絕大多數(shù)最終仍然是安全訂單。真正有風(fēng)險的比例，可能只有幾千分之一，甚至幾萬分之一。
但這套系統(tǒng)仍然需要持續(xù)運轉(zhuǎn)。目前，滴滴一方面投入大量GPU資源做大模型前置篩查，另一方面配置了4000多名安全相關(guān)工作人員，處理風(fēng)險工單。
滴滴內(nèi)部每年在安全上的投入，已經(jīng)超過去年集團凈利潤。曹樂稱，在滴滴，安全投入幾乎是唯一不會被質(zhì)疑ROI的投入方向。
原因是2018年順風(fēng)車事件之后，滴滴重新搭建整套安全體系。此后幾年，安全投入即使成本很高，也沒有被壓縮。平臺的目標不是證明每一筆安全投入都能產(chǎn)生收入，而是盡可能不漏掉任何一個可識別風(fēng)險。
滴滴現(xiàn)在對“行程安全”的定義，已經(jīng)不只是上車到下車。
在安全專家眼里，一次行程從用戶叫車成功開始，到司機和乘客安全分離結(jié)束。
這決定了滴滴安全體系覆蓋的是行前、行中和行后。
行前，平臺會對司機、車輛證件和人車一致性進行核驗。司機每天出車前，還需要完成身份、車輛、安全教育等檢查。如果司機有過輕微安全問題，平臺會推送專項安全教育，完成后才能繼續(xù)接單。
行中，系統(tǒng)會監(jiān)控路線偏移、異常停留、車內(nèi)錄音錄像風(fēng)險、疲勞駕駛、分心駕駛、超速、急加速和急減速等信號。
此外，訂單還會被切成一分鐘一個片段，每一分鐘都會經(jīng)過大模型風(fēng)險檢測。模型識別到風(fēng)險后，進入人工復(fù)核；99%的工單需要在1分鐘內(nèi)響應(yīng)。
行后，平臺還會根據(jù)軌跡、錄音錄像、藍牙、WiFi等信息，判斷司乘是否真正分離。必要時，安全專家會外呼確認。
目前，滴滴平臺風(fēng)險識別率為82%，干預(yù)有效率為99.8%，干預(yù)及時率為98.73%。平臺平均每千萬單出現(xiàn)一起肢體觸碰類風(fēng)險，每百萬單出現(xiàn)一起言語類風(fēng)險。
過去，滴滴安全識別主要依賴小模型和規(guī)則策略。
比如先將語音轉(zhuǎn)寫成文字，再用關(guān)鍵詞觸發(fā)規(guī)則，并疊加軌跡異常、停留異常等特征。這種方式的問題是，信息每經(jīng)過一層處理，準確率都會衰減。
現(xiàn)在，滴滴開始用多模態(tài)大模型做全量掃描。
模型會綜合錄音錄像、位置軌跡、訂單信息、司乘歷史信息等特征，判斷是否存在潛在風(fēng)險。對于未成年人、醉酒、深夜獨乘、弱勢群體等場景，系統(tǒng)會傾斜更多安全資源。
例如，如果AI識別到司機詢問疑似未成年乘客“是不是在學(xué)校”“有沒有談戀愛”，或者索要聯(lián)系方式，這些都會被視為前置風(fēng)險信號。人工復(fù)核后，安全專家會根據(jù)風(fēng)險程度選擇提醒、外呼震懾，嚴重時直接報警。
但大模型并不能解決所有問題。據(jù)悉，平臺主動識別風(fēng)險的比例是82%，原因包括錄音錄不到、聲音嘈雜、設(shè)備遮擋、信號中斷，以及部分風(fēng)險沒有言語交流。
更難的是，一些風(fēng)險沒有前置特征。小糾紛可能臨時升級，蓄意危險行為也未必有歷史投訴或異常記錄。技術(shù)可以提高識別能力，但無法把所有不確定性變成可預(yù)測問題。
這場開放日里，滴滴反復(fù)提到一個問題：安全和隱私的邊界。
例如，訂單結(jié)束后，平臺是否還需要繼續(xù)確認司乘分離？如果車內(nèi)出現(xiàn)不當(dāng)互動，但雙方當(dāng)時似乎自愿，平臺是否應(yīng)該干預(yù)？
如果平臺向前多走一步，可能會被認為打擾用戶、侵犯隱私；如果平臺向后退一步，就可能放大風(fēng)險敞口。曹樂表示，這類問題沒有簡單答案。過去滴滴內(nèi)部也爭論很久。
滴滴最終選擇把安全邊界延長到“司乘安全分離”。但這意味著，平臺需要承受更多誤判、更多用戶投訴，也需要付出更高運營成本。
安全預(yù)警中心的工作，也因此常常不被理解。
大部分工單沒有風(fēng)險，但安全專家不能放松。因為下一單可能就是風(fēng)險訂單。
曹樂把這項工作形容為“西西弗斯推石頭”：每天重復(fù)大量枯燥工作，風(fēng)險被壓下去后，還要繼續(xù)從頭開始。
曹樂表示，安全是平臺、司乘和社會共同參與的接力賽。滴滴會繼續(xù)加大投入，但平臺能力有局限和邊界。只有用戶提高安全意識，并正確使用平臺安全功能，才能進一步降低風(fēng)險。
對滴滴而言，安全不是一個已經(jīng)完成的系統(tǒng)，而是一套必須不斷投入、不斷解釋、不斷承受誤判成本的長期工程。雷峰網(wǎng)雷峰網(wǎng)雷峰網(wǎng)(公眾號：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
