內容審核對互聯網安全環境的構建尤為重要,而最近頗受關注的“兒童邪典”視頻,把內容審核的重要性又推到了一個新的高度。好消息是,以網易云易盾為代表的內容安全團隊,正在借助領先的內容安全技術,智能地捍衛互聯網網絡環境的純凈度。
據觀察者網報道(http://www.guancha.cn/society/2018_01_22_444092.shtml),國內多家知名視頻網站暗藏大量“兒童邪典”視頻,此類視頻以卡通片、兒童劇、木偶劇為包裝,故意充斥大量含有血腥暴力、恐怖、虐待、色情等內容,傳遞錯誤認知,教唆誘導未成年人模仿,危害未成年人身心健康,不留意看,根本發現不了其危害。由于這些視頻通過對少年兒童喜愛的艾莎公主、米奇老鼠、蜘蛛俠、小豬佩奇等卡通形象的二次加工,所以“兒童邪典”視頻又被稱為“艾莎門”。
除了視頻之外,澎湃新聞指出(http://tech.sina.com.cn/roll/2018-01-23/doc-ifyqtycx2506131.shtml),市場份額頗高的幾家游戲網站也卷入其中,含有相似主題、令人不適的內容。
由于人的一生最關鍵的一個階段是兒童時期,這個時期啟蒙和影響一個人的未來——包括思想、價值觀、世界觀等,所以家長和社會各界非常憤怒。全國“掃黃打非”辦公室特地在微博中嚴厲表示,他們已經展開各種部署和清查;與此同時,北京也啟動網絡游戲專項整治活動(http://industry.caijing.com.cn/20180123/4398296.shtml),對未經內容審查備案的予以下線,對利用網絡游戲從事違法犯罪活動的,移交公安機關追究刑事責任。
盡管相關網站開展了自查和清理,但首都師范大學政法學院教授李昕則表示(http://www.ctoutiao.com/466979.html),沒有盡到監管職責的視頻平臺也應受到處罰。
在媒體關注以及政府專項行動下,內容審核的頑疾也逐漸走向臺前——現在的互聯網內容審核工作越來越難。比如,用戶上傳內容尺度難以把握、海量垃圾信息騷擾難清理、垃圾樣本變化多端難過濾、人力審核成本不堪重負。盡管他們在當下也引入了機器審核,但由于視頻平臺和游戲平臺在安全方面的經驗積累較淺,機器審核的效果并不如意。
那是不是真的無法運用技術來解決這個難題?網易云易盾專家在接受采訪時指出,這種影響兒童身心健康發展的視頻和游戲內容非?蓯,基于網易20年專業的反垃圾經驗,易盾早就能做到智能鑒黃、暴恐識別,并且成績斐然。

易盾的視頻反垃圾框架
“基于智能識別、分析技術及海量樣本庫、信用庫,能夠高效識別暴力、血腥和色情等危害兒童身心健康的內容。”這位業內資深的網易云易盾專家解讀,成績斐然和智能檢測的背后是源自網易云計算、人工智能深度學習的落地應用,與積累了20年網易郵箱、社區產品反垃圾相得益彰的結果。

視頻審核解決方案
據悉,為了不讓有一條漏網之魚毒害少年兒童,網易云易盾的反垃圾服務還有運營團隊7x24小時的巡檢,在智能的同時,也為打造互聯網純凈內容生態做進一步保障。
值得指出的是,這項技術目前非常成熟,包括一直播、小咖秀、唯品會等公司都與網易云易盾在反垃圾上有緊密的合作。
網易云易盾的專家在最后表示,少年兒童是祖國的未來,是中華民族的希望,技術人用代碼守護互聯網純凈內容生態是他們應盡的職責。
文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。
海藝AI的模型系統在國際市場上廣受好評,目前站內累計模型數超過80萬個,涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景,基本覆蓋所有主流創作風格。
IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告,2025年第二季度》顯示,上半年全球智能家居清潔機器人市場出貨1,2萬臺,同比增長33%,顯示出品類強勁的市場需求。