针对AI生成色情低俗类违规内容

抖音出手了！

3月10日

抖音官方账号“抖音黑板报”

发布违规内容处置通报

今年以来

已处置违规账号1.4万个

违规内容4.2万条

1.4万个账号

被限制推荐、禁言、封禁

通报显示

↓↓↓

为切实维护健康网络环境，保障广大网民的合法权益，抖音严厉打击各类色情低俗内容，持续从严治理利用AI技术生成的相关违规内容。近期平台发现部分违规用户通过AI生成“单亲妈妈暧昧互动”“美女魅惑舞蹈”“着装暴露的海滨度假照”等低俗擦边内容，违反《抖音社区自律公约》平台规则，平台坚持从严从重处置。今年以来，针对AI生成色情低俗类违规，已处置4.2万条内容，对1.4万个账号处以限制推荐、禁言、封禁等不同梯度的处罚。

此外，利用色情低俗信息为色情网站导流、售卖淫秽色情物品等行为，违反《中华人民共和国刑法》《网络信息内容生态治理规定》等相关法律法规，涉嫌非法利用信息网络罪、传播淫秽物品罪。对以上违法行为抖音将主动上报公安机关。

典型案例

1.利用AI生成图片塑造“单亲妈妈陪读”人设进行色情导流，黑产团伙4人被刑拘

平台巡查发现，一批账号利用AI生成“单亲妈妈陪读”人设的内容，通过发布性感擦边视频并配以性暗示文案，诱导用户关注。平台经深度研判与线索挖掘，发现背后疑似有黑产团伙操控，该团伙通过账号签名、群聊等方式，诱导用户跳转至第三方平台下载色情低俗App。平台立即清理违规内容、无限期封禁相关账号，并收集线索上报至公安机关。最终，该黑产团伙4人被依法刑事拘留。

2.利用AI生成美女图片引导用户至收藏页进行色情导流，339个账号被处置

用户“AI**说”“一**北”“冰**式”等用户，通过将直播间封面设置为AI生成美女图片，但在头像图片中配“看我收藏”等字样，引导观众查看其主页收藏，进而为色情网站导流。平台已清理相关违规内容，并对相关账号无限期回收直播权限。

3.持续发布AI生成着装暴露的擦边内容，8421个账号被处置

用户“奇**蓝”“一**差”利用AI生成着装暴露的女性形象，持续发布高空劈叉、魅惑舞蹈等动作；用户“哦**哦”“j**g”持续发布多条AI生成聚焦私密部位的女性“泳池度假照”“海滨度假照”擦边信息。平台已清理相关违规内容，并对相关账号采取限制推荐、禁言、封禁等梯度处罚。

抖音表示，将持续升级治理技术与手段，不断提升对AI生成不良内容的发现、识别和处置能力。同时，抖音也提醒广大创作者及用户，自觉遵守法律法规与平台规则，共同抵制色情低俗、违规导流等行为，维护健康清朗的网络环境。

如网友发现相关违规内容，可拨打抖音官方服务热线95152或发送至举报邮箱feedback@douyin.com，平台将及时核查处理。

中央网信办：

部署专项行动

整治AI“数字泔水”

近年来，AI技术快速普及，在带来便利的同时，也被少数人滥用牟利。一些人利用AI生成、传播色情低俗、深度伪造等不良内容，以低俗猎奇博取流量，甚至形成黑色产业链，严重污染网络生态，侵害公众尤其是未成年人的身心健康。

3月10日，国家互联网信息办公室官方账号“网信中国”发布《“清朗・2026年春节网络环境” 专项行动公开曝光一批典型案例》，明确整治借AI生成传播 “数字泔水” 行为，包括利用AI批量生成低俗擦边、低质无效内容，干扰网络生态的账号，目前已依法处置近4万个违规账号。

网信部门表示，将持续保持高压严管态势，坚决遏制网络生态乱象，对违规行为坚持发现即处置。同时呼吁广大市民积极参与监督举报，携手共建清朗网络空间，共同维护健康文明的网络环境。

综合自：抖音通报、网信中国