TikTok 的审核机制流程较为严格和复杂。首先是机器审核,每个上传至 TikTok 的内容都会经过自动审核技术的筛查。该技术结合了视觉、音频、标题、描述和关键字等多种元素进行评估。如果系统判定某一内容违反了社区准则,便会自动将其删除。例如,最基础的一道审核是分析内容的质量,那些纯图片、垃圾内容、竞争对手内容等质量明显最低的内容会被做 “不推荐” 处理,不会出现在非关注用户的信息流上。
同时,机器还会借助预先设计的模型对内容进行更高级的分析,针对明显严重违法的内容,比如儿童色情、宣扬恐怖等,一旦内容被模型验证成功,会直接下架处理。当违规程度不明确时,自动审核系统会将该内容传递给人工审核员进行进一步审核,以确保审核的准确性和公平性。进入人工审核阶段后,审核员的主要工作是查看机器提交的截图或直接查看实时视频内容,打上各种标签。
在广告审核方面,TikTok 也采取了严格的措施。该平台对广告的审核包括三个层面:所有广告均根据社区准则、广告政策和创意政策进行评估。在允许广告账户启动广告活动之前,TikTok 还设置了一个准入流程,要求广告商提供更多信息来证明其信誉良好。这一多层次的审核机制,旨在确保广告内容的真实性和合法性,从而保护用户免受诈骗广告的侵害。TikTok 还在人工智能生成内容(AGC)的监管方面有严格规定。平台禁止 AGC 描述虚假的权威消息来源或危机事件,并且不允许对平台上的任何真实或虚构人物进行 AGC。
通过这些措施,TikTok 试图防止虚假信息和不当内容的传播,维护平台的诚信和用户的信任。TikTok 审核流程是阶梯式审核,第一级为机器审核,通过后平台将推送给少数人,贡献 200 - 500 个播放量。如果视频播放量在几百或者一千之间,很可能会卡在人工审核阶段。第二级是人工复审,视频推送的人越多,播放量越高,审核次数越多,越严格。从检查是否有违规行为到内容导向,其规则和检查项目可分为多个类别,有的可分为三审和四审。第三级是报告审核,多次报告的内容和账户将根据审核标准进行二次判断。报告的视频将因违反社区规定而直接删除,但创作者可以进行申诉,一般申诉邮件最多只可以写 500 字,且必须带图片。