“AI+人工”是當前主流的審核方式，AI提升了審核效率，人機協同策略提供了雙重保障。隨著平臺規模不斷擴大，違規內容越加復雜多元，如何實現“效率+1”，就對人機協同提出了更高的要求。“金睛”開放底層機器學習標簽，就是為了進一步將機器識別結果從涉黃、涉恐、敏感內容等寬泛標簽，開放到男性露背、涉旗涉徽、大型武器、特殊著裝等更加細分的標簽，實現了“機審”和“人審”的無縫銜接。

 

“pass”或者“reject”是AI傳遞的一個果斷的答案，但不一定是會被審核員完全采信的結論。要讓信息接收方做出正確的選擇，給出明確的判定理由就變得尤為重要，底層機器學習標簽就是發揮了這樣一個“闡釋”的作用。“金睛”在對內容做出“拒絕”、“疑似”或者“通過”的判定基礎上，會同步輸出底層機器學習標簽內容，讓審核員清楚的知道AI為什么拒絕、通過，疑似的又是什么。例如，在“金睛”暴恐違規審核模型下，AI識別出極端組織場景，除了會輸出“拒絕”指令，并會明確告知拒絕理由是因為內容中所涵蓋了基地組織標志或者其他極端組織深度學習標簽內容，為人工復審提供信息判定支撐。目前，金山云深度學習標簽涵蓋涉黃、涉恐、涉政、違規違法、游戲場景、直播場景等十幾個場景的幾百大類的上千標簽，后續將會逐步開放。

 

此次，“金睛”開放底層機器學習標簽，進一步優化平臺服務，是產品團隊多次深入到B站、映客等國內一線短視頻、直播審核團隊，充分調研的結果。公開機器學習標簽一方面極大提升平臺方人工復審的效率，節約了運營成本，為客戶根據自身的運營策略作出及時有效的判斷提供了便利。另外，根據機器輸出的結論，可以定向的對于特定模型進行調優，實現一個良性循環。通過此舉，不斷增加“金睛”與審核員之間、“金睛”與開發者之間的人機協同性，讓AI更好的參與到“互聯網內容傳播”這件“人”的活動中去。