用AI大模型判斷擦邊：抖音狙擊新型低俗誘導打賞8.8萬人次被處罰
體育資訊11月14日稱 抖音集團今日發(fā)文，在直播業(yè)態(tài)發(fā)展背景下，直播間不僅成為主播展示自我的舞臺，也創(chuàng)造了大量新興崗位，成為帶動靈活就業(yè)的“蓄水池”。隨著各平臺治理動作的專業(yè)化、常態(tài)化，直播發(fā)展初期的亂象問題多數(shù)得到了有效遏制，行業(yè)已進入優(yōu)質、合規(guī)的發(fā)展階段。與此同時，部分違規(guī)主播、作弊團伙及黑灰產(chǎn)也開始變更作弊手段，與平臺打起“游擊戰(zhàn)”，以更隱蔽的方式逃避處罰。
2025 年以來，8.8 萬人次在抖音直播因低俗誘導打賞被處罰，11.7 萬個賬號因色情違規(guī)被無限期回收直播權限。
抖音集團表示，“低俗擦邊”違規(guī)一直存在變體多、界定難等問題，自 2024 年打著“語音助眠”旗號進行低俗直播形式冒頭，此類“軟色情”違規(guī)成為各平臺違規(guī)治理的重點。在嚴格治理下，這類違規(guī)團伙開始利用劇情演繹、彈幕互動等新形式進行低俗內容輸出，或采用特定拍攝手法、場景搭建等方式，渲染烘托低俗不良氛圍，極大增加了監(jiān)管或治理難度。
相較于過往在直播間閃現(xiàn)二維碼導流至站外淫穢色情網(wǎng)站，當下的色情黑產(chǎn)也同樣有了更隱蔽的鏈路。他們通過在各種資料區(qū)、圖片、主播著裝上展現(xiàn)網(wǎng)址或關鍵詞等信息以導流站外，或在導流中跨多個平臺中轉，甚至篡改 IP 地址，使用“黑話”溝通，規(guī)避平臺審核。
對此，抖音直播持續(xù)迭代治理策略和手段。針對較隱晦的軟色情導流場景，平臺啟用了多模態(tài)大模型，綜合判斷直播間畫面、聲音、口播內容和用戶舉報等，分辨直播間是否有擦邊風險，實現(xiàn)風險快速攔截。另一方面，平臺不斷完善舉報鏈路，在 30 分鐘內處置舉報風險，并結合用戶反饋更新大模型樣本，達到長效化治理的效果。
針對色情導流黑產(chǎn)，平臺搭建了“事前黑產(chǎn)防范，事中隱晦內容識別斷播封禁，事后防止回流”的治理鏈路。針對高危場景，前置風險識別并阻斷；在風險發(fā)生時，通過內容大模型、異常行為檢測等能力，做到實時斷播。針對較隱晦的導流線下場景，則主要通過用戶舉證做好風險主播的防回流策略，并將涉嫌違法的線索上報相關主管部門。
2025 年以來，抖音共封禁“軟色情”直播間 66 萬個，無限期回收 11.7 萬個涉色情違規(guī)賬號的直播權限。
平臺對于主播的管理核心，則是“長效觀察、有效識別”。平臺在針對直播間違規(guī)內容做單次處罰的基礎上，結合主播日常直播行為來增減其賬號健康分，通過主播的長期表現(xiàn)進行評判，多次違規(guī)仍不整改的主播，最終將被永久回收直播權限。
對于利用低俗直播刺激、誘導打賞的違規(guī)主播，平臺則在健康分基礎上，重點加強對誘導消費類違規(guī)主播的“經(jīng)濟”管理力度，對違規(guī)場次進行資金凍結、提現(xiàn)考核、延遲結算等。
2025 年至今，用戶對誘導打賞的舉報率同比減少 74%；超過 40 萬主播因違規(guī)誘導打賞被扣除健康分；共有 8.8 萬人次因涉低俗直播誘導打賞被處以限制違規(guī)場次收益提現(xiàn)、關閉禮物收入功能、禁止使用 PK 功能等處罰，五千個賬號被無限期回收直播權限。
此類精細化手段，還運用在了團播的治理上。近兩年來，以互動性強、觀賞度高為特點的團播逐漸興起，成為用戶喜聞樂見的直播形式。然而，一些賬號卻借團播玩起“翻牌選妃”“蒙面摸人”等低俗花樣，或使用“跪爬”“嘶喊哭泣”等引人不適方式，進行拉票或誘導用戶打賞互動。
今年 7 月 30 日，抖音升級《抖音直播團播內容管理規(guī)范》，并發(fā)布《抖音直播團播機構管理規(guī)范》。對存在違規(guī)行為的團播賬號，平臺將根據(jù)違規(guī)程度實施階梯式處罰，對旗下違規(guī)主播占比高，或存在侵犯主播合法權益等不當經(jīng)營行為的公會，平臺將予以扣減公會健康分、限制經(jīng)營能力等處置，情節(jié)嚴重的，平臺將終止合作關系。今年以來，抖音直播因各類低俗誘導打賞，共清退公會 113 家。
抖音集團還表示，不管是何種直播形式，若涉嫌違法，平臺均將第一時間上報相關部門并配合線下打擊。今年 1 月，抖音直播在日常治理中發(fā)現(xiàn)，有黑產(chǎn)批量購買、注冊抖音賬號，將賬號頭像修改為隱晦的第三方平臺聯(lián)系方式，引導用戶下載涉色情違法類 App，在 App 內進行色情違法活動。平臺立即無限期回收相關賬號權限并上報線索，最終 4 名犯罪嫌疑人被依法刑事拘留。
2025 年初，平臺發(fā)現(xiàn) 2 個以承諾線下賣淫為由誘導用戶消費打賞的團伙，利用短視頻發(fā)布美女視頻和虛假定位，誘導不同城市的用戶進入直播間；再通過隱晦文案、背景、簽名等多個場景發(fā)布隱晦交友信息，引導用戶站外添加其他社交軟件。抖音直播第一時間對相關賬號進行封禁，并將線索上報給當?shù)毓矙C關。截至目前，警方共抓捕 21 人，其中 16 人被刑事拘留。
抖音集團公告，2025 年以來，已有 68 名違法犯罪嫌疑人因傳播淫穢色情被刑拘。抖音直播相關負責人表示，平臺將持續(xù)加強技術投入與治理力度，打擊低俗直播、引誘打賞行為，致力于營造一個健康清朗的網(wǎng)絡直播生態(tài)。