快手發布《2023暑期青少年數據報告》 處置不良違規視頻18萬余條
9月5日消息，快手今日發布《2023暑期青少年數據報告》。報告顯示，今年6月28日起，快手開展為期2個月的暑期未成年人網絡環境專項治理，全面深入清理不良信息和內容，對于涉未成年人不良信息從深從細整治、從嚴從重處置。
專項治理重點包括：涉未成年人的有害信息，尤其利用諧音變體、AI等傳播有害信息;欺騙、誘導未成年人，如教授未成年人破解防沉迷系統等;未成年人網絡霸凌，如惡意傳播泄露未成年人隱私的欺凌視頻;利用未成年人群體或身份炒作、博取關注;影響未成年人身體健康的不良信息和行為，如誘導吸煙喝酒等;其他嚴重侵害未成年人合法權益的有害信息。
快手《2023暑期青少年數據報告》截圖
來源：快手大數據研究院公眾號
報告數據顯示，在兩個多月的時間里，快手通過暑期專項治理共處置違規視頻182778條、違規賬號6387個。
據介紹，隨著生成式AI技術的迅速發展和普及，在“不良內容、重點賬號、評論治理”等3個傳統場景進行重點治理的基礎上，快手今年在“生成式人工智能”場景下專項提升算法的識別能力，圍繞未成年人暑期網絡環境專項治理重點領域，根據治理要求的迭代，不斷細化審核規則、搭建1個專項審核隊列，通過“4+1”的模式全面壓縮有害信息隱形變異的生存空間，遏制侵害未成年人權益的違法行為。
快手《2023暑期青少年數據報告》
來源：快手大數據研究院公眾號
快手面向4大治理場景升級了青少年保護專屬算法模型。其中，針對不良內容，采用了未成年人算法識別模型、皮膚裸露面積識別模型;針對重點賬號，采用了兒童人臉與場景結合識別模型、異常用戶識別算法模型;針對評論治理場景，采用了語音語義識別算法模型和諧音詞、變異詞識別模型;針對生成式人工智能，采用了Al轉換內容識別模型。
此外，根據新出現的不良內容樣本，在此前三重機審+多重人審的基礎上，進一步細化審核規則在暑期專項期間，搭建涉及校園主題專項審核隊列。要求審核經驗豐富審核員對相關內容進行專審，按照從嚴審核的標準處置相關不良視頻。
