炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
(来源:雷峰网)
近日,滴滴在成都办了一场安全开放日,多个司机、乘客、行业专家和媒体被邀请走进滴滴安全预警中心,现场体验一线安全专家如何听音、研判和干预订单风险。
这也是滴滴少有地把网约车安全后台摊开给外界看。
滴滴创始人、CEO、集团安委会主任程维在活动中表示,保障每天数千万订单的安全,是滴滴身上的责任。滴滴安全体系已经迭代多次,但仍然“还在路上”。他希望通过开放日,让外界看到滴滴如何做安全,也给平台提出更多意见。
网约车安全和常规互联网推荐系统不同。
推荐、搜索算法通常要在准确率和召回率之间取得平衡,但安全算法不一样。滴滴网约车技术和安全负责人曹乐表示,安全风险是低频事件,但只要平台有能力召回,就不能为了提高准确率而漏掉风险。这意味着,滴滴安全系统必须优先保证召回率。
然而,代价是大量误判。
据曹乐介绍,即便经过大模型多轮筛查,进入安全预警中心的订单,绝大多数最终仍然是安全订单。真正有风险的比例,可能只有几千分之一,甚至几万分之一。
但这套系统仍然需要持续运转。目前,滴滴一方面投入大量GPU资源做大模型前置筛查,另一方面配置了4000多名安全相关工作人员,处理风险工单。
滴滴内部每年在安全上的投入,已经超过去年集团净利润。曹乐称,在滴滴,安全投入几乎是唯一不会被质疑ROI的投入方向。
原因是2018年顺风车事件之后,滴滴重新搭建整套安全体系。此后几年,安全投入即使成本很高,也没有被压缩。平台的目标不是证明每一笔安全投入都能产生收入,而是尽可能不漏掉任何一个可识别风险。
从叫车开始,到司乘真正分离
滴滴现在对“行程安全”的定义,已经不只是上车到下车。
在安全专家眼里,一次行程从用户叫车成功开始,到司机和乘客安全分离结束。
这决定了滴滴安全体系覆盖的是行前、行中和行后。
行前,平台会对司机、车辆证件和人车一致性进行核验。司机每天出车前,还需要完成身份、车辆、安全教育等检查。如果司机有过轻微安全问题,平台会推送专项安全教育,完成后才能继续接单。
行中,系统会监控路线偏移、异常停留、车内录音录像风险、疲劳驾驶、分心驾驶、超速、急加速和急减速等信号。
此外,订单还会被切成一分钟一个片段,每一分钟都会经过大模型风险检测。模型识别到风险后,进入人工复核;99%的工单需要在1分钟内响应。
行后,平台还会根据轨迹、录音录像、蓝牙、WiFi等信息,判断司乘是否真正分离。必要时,安全专家会外呼确认。
目前,滴滴平台风险识别率为82%,干预有效率为99.8%,干预及时率为98.73%。平台平均每千万单出现一起肢体触碰类风险,每百万单出现一起言语类风险。
大模型能看到更多,但仍看不全
过去,滴滴安全识别主要依赖小模型和规则策略。
比如先将语音转写成文字,再用关键词触发规则,并叠加轨迹异常、停留异常等特征。这种方式的问题是,信息每经过一层处理,准确率都会衰减。
现在,滴滴开始用多模态大模型做全量扫描。
模型会综合录音录像、位置轨迹、订单信息、司乘历史信息等特征,判断是否存在潜在风险。对于未成年人、醉酒、深夜独乘、弱势群体等场景,系统会倾斜更多安全资源。
例如,如果AI识别到司机询问疑似未成年乘客“是不是在学校”“有没有谈恋爱”,或者索要联系方式,这些都会被视为前置风险信号。人工复核后,安全专家会根据风险程度选择提醒、外呼震慑,严重时直接报警。
但大模型并不能解决所有问题。据悉,平台主动识别风险的比例是82%,原因包括录音录不到、声音嘈杂、设备遮挡、信号中断,以及部分风险没有言语交流。
更难的是,一些风险没有前置特征。小纠纷可能临时升级,蓄意危险行为也未必有历史投诉或异常记录。技术可以提高识别能力,但无法把所有不确定性变成可预测问题。
平台的边界:多管一步,还是少打扰一次
这场开放日里,滴滴反复提到一个问题:安全和隐私的边界。
例如,订单结束后,平台是否还需要继续确认司乘分离?如果车内出现不当互动,但双方当时似乎自愿,平台是否应该干预?
如果平台向前多走一步,可能会被认为打扰用户、侵犯隐私;如果平台向后退一步,就可能放大风险敞口。曹乐表示,这类问题没有简单答案。过去滴滴内部也争论很久。
滴滴最终选择把安全边界延长到“司乘安全分离”。但这意味着,平台需要承受更多误判、更多用户投诉,也需要付出更高运营成本。
安全预警中心的工作,也因此常常不被理解。
大部分工单没有风险,但安全专家不能放松。因为下一单可能就是风险订单。
曹乐把这项工作形容为“西西弗斯推石头”:每天重复大量枯燥工作,风险被压下去后,还要继续从头开始。
曹乐表示,安全是平台、司乘和社会共同参与的接力赛。滴滴会继续加大投入,但平台能力有局限和边界。只有用户提高安全意识,并正确使用平台安全功能,才能进一步降低风险。
对滴滴而言,安全不是一个已经完成的系统,而是一套必须不断投入、不断解释、不断承受误判成本的长期工程。雷峰网雷峰网雷峰网