抖音划定AI创作“禁区” 三类生成内容将被重点治理

3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，提出将严格处罚违规使用AI生成虛拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。根据公告，此次抖音将重点治理利用AI生成假外国人、假精英及利用AI生成形象骗取互动等三类内容：一是生成境外虚假人设，消费爱国心理、博取关注；二是生成俊男美女虚假形象，骗取互动，交友导流；三是生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。

除了封号等常规处罚手段，抖音此次在公告中还特别提到，“平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。”