观韬视点 | 互联网企业内容审核实践初探
作者：蔺东升 周莉莉 黄轶洲 彭敏（实习）
一、背景
无论是平台型、社区型等具有较强内容属性的互联网企业，或是为用户提供工具（如视频剪辑）的企业，内容审核都是企业合规体系建立的必要组成部分。内容监管和审核的法律规定较为原则，但审核内容可能随着社会的发展不断变化，且监管和审核力度在不同时期亦有差别，如何进行内容审核操作以满足合规要求，降低平台责任，是互联网企业面临的普遍难题。
本文将以部分企业为上市提交的公开披露资料为基础，总结在内容审核方面的市场实践。
二、 内容审核实践
（一）原则的具体化
内容安全审核的重点依据各国政策有所区别，例如美国有Children's Online Privacy Protection Act（《儿童网络隐私保护法》）、Communications Decency Act（《通信规范法》），欧盟有General Data Protection Regulation（《一般数据保护条例》）、Digital Services Act（《数字服务法》）等，都对涉及未成年、色情、暴力、侵犯知识产权等文字、图片、音频、视听类内容有严格的审核标准。
我国对网络内容审核的要求在诸多法律法规中均有体现。例如《网络信息内容生态治理规定》第六条规定，网络信息内容生产者不得制作、复制、发布含有下列内容的违法信息：(一)反对宪法所确定的基本原则的；(二)危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的；(三)损害国家荣誉和利益的；(四)歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉的；(五)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动的；(六)煽动民族仇恨、民族歧视，破坏民族团结的；(七)破坏国家宗教政策，宣扬邪教和封建迷信的；(八)散布谣言，扰乱经济秩序和社会秩序的；(九)散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的；(十)侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益的；(十一)法律、行政法规禁止的其他内容。
如前所述，审核标准规定较为原则，实践中企业还需要将原则性的标准落地为具体的审核操作指引。例如，某知识付费企业在招股书中披露其进行内容审核时制定了21条具体的《底线审议规则》。主要包括：（1）坚持“导向第一”，即“坚持为人民服务、为社会主义服务的方向”作为首要原则；（2）“不做负面判断”，即不得对国家经济做负面判断；（3）“民族与宗教”，即不以歧视、贬损的态度表现少数民族独特饮食、婚姻、家庭、医疗等习俗；（4）“犯罪与司法”，即不具体描绘犯罪过程，不以同情基调表现犯罪，不得将犯罪者行为英雄化，不渲染犯罪过程和现场，不泄漏警方和检控方的侦破手段等；（5）“维护健康生活方式”，即不以巨额奖金或奖品刺激用户，不展现吸毒、赌博、酗酒等嗜好引起的感官刺激，不混淆保健食品和药物的价值，提供医学咨询，以专业医学观点为基础，不应让用户产生误解；（6）“著作权”，即保护著作权，向权利人按时支付报酬，无论是否触及版权，以适当方式指明作者、作品名和出处；（7）“名誉”，即不故意捏造事实或散布虚假信息降低他人社会评价、不以言辞或画面影像侮辱人格、对亡者名誉保持尊重；（8）“采访”，即应征得同意后开始采访，采访前告知采访意图以及有无身体危害等风险，不具备完全行为能力者的采访必须征得其监护人同意，不得将非正式场合的言辞视为采访等。
（二）多层次的审核体系
我们注意到，建立多层次的审核机制（包括机器审核和人工审核）是较为普遍的操作方式，例如：
某IPTV集成播控业务企业 | 在版权内容的审核方面，规定如下：（1）为保证播控安全，所有引入节目内容须逐一进行版权和内容审核后才能进行上线运营工作，未经审核的内容不允许注入系统上线；（2）内容审核须落实意识形态工作责任制和内容审核制度；（3）各业务使用部门内容上线须具备三级以上审核机制，日常工作中以三级审核机制为主，月度执行四级审核机制，在遇到重要时间节点和重点节假日期间执行五级审核机制；（4）使用部门为节目内容审核的第一负责人，对节目安全负全部责任。 |
某综合视频社区企业 | 招股书中文翻译：我们维持两层的内容管理和审查程序，以监测上传到我们平台的内容，帮助确保不发布可能被法律法规视为禁止的内容，并及时删除任何侵权内容。第一层审查程序是通过AI筛选系统进行的，该系统通过将新上传的视频与存储在内部“黑名单”数据库中的受版权保护或令人反感的视频进行比较，并识别那些具有类似代码的视频，自动标记并筛选出有盗版问题或含有非法或不适当内容的视频。一旦内容被我们的技术筛选系统处理，我们的系统就会从内容中提取，并将其发送给我们的内容筛选团队进行第二层审查。截至本招股说明书发布之日，我们的内容筛选团队由200多名员工组成，专门负责筛选和监测我们平台上上传的内容，全天候工作，以确保我们的筛选系统所识别的标记内容在发布前得到审查和确认。我们在新员工的入职过程中提供初步培训。我们还提供定期培训课程，使这些员工了解任何监管和政策变化，并监督和监测他们的工作。所有的内容在我们的平台上发布之前都需要经过这两层审查程序。 |
某移动端视频创作软件出海企业 | 发行人内容审核主要分为人工一轮审核、人工二轮审核以及抽审三个人工审核步骤，其中审核服务商主要参与人工一轮审核、人工二轮审核环节，不同的审核服务商分别完成对应的审核步骤，可以提高不同审核步骤之间的独立性，保证审核工作的整体有效性。将审核业务委托至审核服务商开展亦符合行业惯例。 |
（三）使用外部审核服务商和审核技术服务商
我们注意到，基于成本和专业化的考虑，聘请第三方审核服务商并对其审核结果抽查监督审核质量，引入第三方技术服务商是较为惯常的操作。例如：
某移动端视频创作软件出海企业 | 建立了相关审核制度，在审核系统进行过滤、筛除的基础上，由人工进行进一步审核，部分审核服务由发行人委托审核服务商进行。企业向审核服务商提供相关审核标准和规则，根据实际情况和法规变化更新审核要求，并向审核服务商相关人员明确审核相关标准；发行人向审核服务商提供审核系统账号，并及时提供审核所需的业务信息和内容数据；审核服务商按照发行人提供的审核标准尽职尽责地完成内容审核，企业通过抽审等方式对审核服务商审核质量进行考核。 |
某从事驾考培训服务的企业 | 接入网易易盾系统，对广告文本、图片等内容进行智能审核。 |
部分企业亦披露了在聘请第三方审核机构方面的支出。例如，上述移动端视频创作软件出海企业披露公司2020年和2021年的采购的审核服务费用分别是185.44万元和163.71万元，占当期主营业务成本的比例分别为1.46%和0.99%。上述IPTV集成播控业务企业披露其在2021年和2022年1-6月，公司支付审核服务商的内容审核费用分别为284.93万元和233.19万元，占当期营业总成本的比例分别为0.81%和1.38%。
（四）用户监督体系
部分企业也建立了用户监督渠道或用户自律组织，例如：
某从事互联网数字阅读服务的企业 | 充分调动用户的力量，接受用户监督。公司在其阅读软件页面中增加鼓励用户举报不良信息提示，并开通举报入口，通过客服电话和QQ群接受用户针对不良内容的举报，确保举报设备实时畅通。公司会对举报内容及时处理，提高内容安全审核效率。 |
某综合视频社区企业 | 其招股书（中文翻译）中披露：我们的资深用户自愿组成了一个社区纪律委员会，监督和报告在我们平台上发布的任何不当内容，事实证明这是规范用户在社区行为的有效手段。为了支持他们的努力，我们与他们合作，并向他们提供技术手段，帮助他们更有效地开展活动，执行他们的纪律决定。如果我们确认用户上传的内容含有挑衅和仇恨言论、人身攻击、欺诈信息或其他攻击性信息，我们可能会暂时中止或永久终止该用户的账户，并在“小黑屋”标签下显示该用户的账户信息和惩戒原因，该标签对我们平台上的所有用户开放。这一措施也允许用户参与我们社区的管理，并帮助我们教育用户，培养自我调节的环境，以保护和加强我们所珍视的社区价值。 |
三、总结
结合相关企业为上市披露的信息以及我们的服务经验，将审核原则具体化，结合行业具体要求建立技术和人工结合的多层次的审核体系，引入第三方审核技术和审核团队，并对第三方审核内容进行抽查，建立投诉渠道以及用户自治等是较为惯常的操作实践。企业应当结合社会舆情，灵活调整内容审核的范围。随时关注监管规则更新，及时响应规则变化。在进行审核时，若涉及个人信息的，亦需要把控个人信息保护与内容审核的边界。