新火種
2025-01-10 
抖音發布2024直播治理報告：引入音頻審核大模型，強化違規內容治理
DoNews12月27日消息，12月27日，抖音發布2024年直播治理報告，全面闡釋抖音直播治理的理念、方法及最新成果。
過去一年，抖音圍繞完善主播管理機制、強化內容識別技術、線上線下聯動治理、重點人群保護等方面，努力為廣大網友打造安全可信、風清氣正的網絡直播環境。
主播管理精細化運營，機構需承擔管理責任
2024年1月3日，抖音直播新版“健康分”正式生效，在針對直播間違規內容做單次處罰的基礎上，平臺根據主播日常直播行為增減賬號“健康分”，并依據分值對賬號分級定檔，對應不同的長效管理措施。
“健康分”低于70的主播，會被減少推薦、限制單日PK次數，甚至限制違規場次收益提現、關閉禮物收入功能等，0分主播則永久回收直播權限。主播的長期表現和收益綁定后，大量主播開始主動修正內容。至2024年底，共有100萬主播被扣除過健康分，76%的低分主播主動調整內容后不再違規，直播間違規率明顯下降。
同時，抖音直播制定了將“主播健康分”與機構進行關聯的管理規則，如主播內容違規，機構需要承擔對應的管理責任，并持續開展機構安全培訓，2024年，機構主播的重復違規率下降10%。
引入音頻審核大模型，強化違規內容治理
直播的魅力，在于“所見即所得”。直播治理的關鍵，在于最短時間識別、定位并處置違規直播，盡可能縮短違規內容曝光時長。
過去一年，抖音直播治理在原有的AI應用基礎上引入音頻審核大模型，通過大量預訓練，使其逐步掌握直播場景中的常用表達方式，并具備基本的邏輯推理能力；還能在分析文本內容的同時，兼顧環境音、氛圍音等信號特征，感知音頻包含的情緒，輔助判斷語義。
AI技術的深度應用，將有效改善違規內容曝光時長的核心痛點，未來大量風險內容的識別、研判將逐漸由人審處置轉移為機器自動識別 + 處置。
2024年，隨著AI大模型在治理上的廣泛應用，抖音直播著重加強對各類違規內容的治理，開展二十余次專項行動，共無限期回收直播權限賬號32萬個，清退直播機構526家。
升級重點人群保護機制，探索“城市+平臺”聯動治理模式
同時，抖音也在持續完善綜合治理體系，結合城市、人群特點，探索不同的治理模式。
抖音直播升級未成年人保護機制，未經監護人允許的未成年人打賞消費，一經核實，將先行全額墊付退賠，平均21小時可完成退款。
2024年，抖音直播共幫助9.5萬個未成年人所在家庭快速退款。對于退款賬號，平臺將關閉其充值消費功能，預防再次消費。
另一方面，抖音直播在網紅城市爆火的背景下，積極探索“城市+平臺”治理模式。
2024年，抖音直播聯動長沙、沈陽等城市的相關部門，結合直播特點針對性建立“快速預防+高效處置”的聯動機制，對反復違規的賬號升級處置力度、對涉及線下違規的行為共同打擊，違規行為大幅減少。
加強與警方配合，嚴厲打擊線下違法犯罪行為
大部分嚴重違規的直播間，都來自線下違法甚至犯罪行為，僅靠線上治理無法真正解決問題，即便在單個平臺防范住某個黑產團伙，他們仍可以利用其他平臺進行違法犯罪，嚴重阻礙行業健康發展。
過去一年，抖音直播成立專項團隊，分級分類摸排違規線索上報公安機關，緊密配合黑灰產查處；上線多個針對性內容檢測能力，前置打擊企圖在直播前利用頭像、背景圖、評論等信息進行黑產引流的賬號；直播中對色情二維碼等內容實現快速斷播，色情黑產重復違規率減少30%，無限期回收7.4萬個涉色情導流黑灰產賬號的直播權限，對涉嫌導流欺詐黑產的15萬個賬號無限期回收直播權限。
一年來，抖音直播主動向相關部門上報黑產線索300余條，配合公安機關搗毀犯罪窩點100余個，抓捕犯罪嫌疑人361名。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
