观韬视点 | AI合规实务文章系列（一）——企业如何正确认识算法备案？-北京观韬律师事务所

观韬视点 | AI合规实务文章系列（一）——企业如何正确认识算法备案？

2024-09-05

首页 > 观韬视点 > 视点 > 观韬视点 | AI合规实务文章系列（一）——企业如何正确认识算法备案？

观韬视点 | AI合规实务文章系列（一）——企业如何正确认识算法备案？

作者：王渝伟杨欣如

前言：在数字经济迅速发展的今天，算法已成为推动各行各业创新发展的核心动力。然而，随着算法技术的广泛应用，其潜在的风险和影响也逐渐显现。为此，我国出台了一系列政策法规，要求企业对其使用的算法进行备案，以确保算法使用的合法性和透明度。本系列文章将着眼于算法备案实务，从规范与行业实践的角度帮助企业一探算法备案的究竟。

一、哪些企业需要做算法备案？

根据《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》的规定，具有舆论属性或者社会动员能力的算法推荐服务提供者、深度合成服务提供者、生成式人工智能服务提供者，均应履行算法备案手续。

第一个要素是 “具有舆论属性或者社会动员能力”。那么，企业如何理解和识别这个要素？

根据网信办发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，具有舆论属性或社会动员能力的互联网信息服务是指下列情形：（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。结合实务经验，我们认为解释口径较宽，建议企业对该要素作广义理解。可以理解为，只要企业提供的服务涉及向公众提供信息服务，即可能被认定为具有舆论属性或社会动员能力。

第二个要素是“符合特定主体条件”。目前，需要履行算法备案义务的主体共有四类，包括算法推荐服务提供者、深度合成服务提供者及技术支持者以及生成式人工智能服务提供者。

对此，我们整理了相关服务的定义及常见类型，企业可以参照如下标准识别是否落入相应主体范围：

I. 算法推荐服务	生成合成类算法：自动或辅助生成、编辑文本、图像、语音、视频等网络信息内容的算法。
	个性化推送类算法：利用用户属性数据或用户行为数据实现个性化分发的算法。
	排序精选类算法：以客观因素或主观因素为依据，设置、调整网络信息内容排列顺序的算法。
	检索过滤类算法：包括检索算法和过滤算法，其中检索算法是按照输入条件或检索需求匹配相应网络信息内容的算法，过滤算法是指按照给定条件识别并筛选相应网络信息内容的算法。
	调度决策类算法：自动或辅助生成供需匹配、供需调节、路径规划等调度决策结果，或提供调度决策依据的算法。
II. 深度合成服务	是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
III. 生成式人工智能服务	基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

其中需要说明的是，“算法推荐服务”、“深度合成服务”以及“生成式人工智能服务”三者之间并非为并列关系，算法推荐技术共包括五大类，其中一类为“生成合成类”，而深度合成技术及生成式人工智能技术即属于“生成合成类”算法推荐技术，基于技术监管动向等因素，将深度合成类服务算法的备案情况予以单独公开。

二、企业为什么要做算法备案？

我们之所以建议满足前述两个要素的企业或产品均进行算法备案，主要是基于企业合规风险与国家政策导向的双重考量。下文中，我们将从备案对企业的影响角度进行分析。

（一）不备案可能会引发哪些合规风险？

1、面临监管机关处罚的风险

在前文中提到的《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等规定中，有关“算法备案”的表述均为“应当”而非“鼓励”，也即算法备案义务为强制性规范而非鼓励性规范。与此同时，前述规定中明确了企业如不履行相关备案义务可能导致的法律后果，例如警告、通报批评，责令限期改正，被责令暂停或者终止提供服务等处罚措施，其中，如涉及在APP、小程序等移动应用程序相关产品的，可能会面临产品下架等风险。

最为关键的是，对于提供相关服务的企业而言，这种风险是“随时可能发生”的。例如2023年8月，曾有近百款AIGC相关的APP从苹果应用商店中被下架，根据相关人士称，可能与这些APP未进行算法备案等存在联系。同时，2024年7月，重庆网信部门针对“灵象智问AI”、“重庆哨兵拓展迷”等网站未经安全测评备案、违规提供生成式人工智能服务问题，依法对运营主体开展执法约谈，责令其立即停止相关服务^{^[1]}。虽然官方并未公布更多细节，但根据发布的信息，我们推测相关网站可能是因为未进行算法备案及安全评估等而受到相关处罚。

2、面临应用平台无法上架的风险

目前，国内各应用平台对于深度合成类的应用也提出了资质要求，例如华为、oppo、应用宝、vivo、小米等应用平台均要求涉及深度合成或生成式人工智能服务的应用必须在完成互联网信息服务算法备案后方可上架。

观韬视点 | AI合规实务文章系列（一）——企业如何正确认识算法备案？

图源自：华为应用市场《应用资质审核要求》

同时需要提示企业的是，虽然从目前来看，各大应用市场暂时仅对深度合成类或生成式人工智能服务提出了算法备案要求，但在未来生成合成类算法备案趋于饱和的情况下，不排除应用平台对涉及其他类型算法的服务应用上架也提出备案要求，因此，建议企业也提前做好备案准备，以进行灵活应对。

（二）备案对于企业有哪些好处？

1、提升产品透明度与可信度

我们在谈论生成式人工智能等技术时，往往无法避开关于“算法黑箱”的讨论，即囿于用户对相关技术的了解程度，人们对于某项服务背后支撑的算法运作逻辑了解甚少，因此，在算法技术带来效益裨益的同时，在与企业商业利益相碰撞的情况下，不可避免地会引发人们对于算法技术的重新审视，正如前些年受热议的“大数据杀熟”。算法备案正是通过公示的方式，在不泄漏商业秘密的前提下，将企业拟使用算法的名称、基本原理、运行机制、应用场景、目的意图等信息予以公开，能够在一定程度上帮助公众了解算法的运行基本逻辑，提高用户对产品本身的信任程度。换句话说，算法备案是企业相关产品的一项“加分项”，就目前阶段而言，仍是企业抢占市场先机的有利因素。

2、响应地方政策

目前，全国部分地区出台了鼓励企业完成算法备案的政策措施。例如2024年7月，广州市海州区发布了《广州市海珠区建设人工智能大模型应用示范区实施细则》，其中明确“完成国家级境内互联网信息服务算法备案或深度合成服务算法备案的，给予最高20万元一次性奖励。”这些政策反映了政府对于人工智能等技术创新的鼓励与扶持，对于企业而言也无疑是一项激励政策。

三、行业算法备案动向

（一）深度合成算法备案情况

根据国家互联网信息服务算法备案系统上公示的信息，目前网信办已公开了七批已完成备案的深度合成算法，共计1919个项目。从各批次的备案数量来看，目前呈现较为平稳的增长趋势。

观韬视点 | AI合规实务文章系列（一）——企业如何正确认识算法备案？