观韬视点 | 欧盟与中国人工智能算法合规比较研究

作者：唐舸权 马中原 李静 林和伟 王允农

引言：人工智能算法在当今社会的众多领域得到广泛应用，从互联网服务、金融科技到医疗健康、智能交通等，深刻地改变着人们的生产生活方式。然而，算法也带来了一系列诸如数据隐私侵犯、算法歧视、算法黑箱等风险和挑战。为应对这些问题，欧盟和中国都积极开展了人工智能算法合规方面的工作，建立起相应的制度体系，但由于各自的法律传统、社会文化、经济发展模式等存在差异，其算法合规的路径和重点也有所不同。

一、欧盟人工智能算法合规体系

（一）立法框架

欧盟在人工智能算法合规方面的立法较为系统和全面。《通用数据保护条例》（GDPR）是其中的重要基石，其虽未专门针对人工智能算法，但对数据处理活动中的算法应用提出了诸多要求，例如数据主体的权利（包括知情权、访问权、更正权等）在算法决策情境下的保障，数据控制者和处理者在算法设计和运行过程中的责任与义务，如数据保护影响评估（DPIA）在涉及自动化决策（包括算法决策）时的适用等。此外，欧盟还出台了《人工智能法案》提案，该法案专门针对人工智能系统进行规范，明确了不同风险等级人工智能系统的合规要求，对于高风险人工智能系统设定了严格的监管制度，包括上市前的合格评定程序、透明度义务、数据治理要求等。

（二）合规要求

1、透明度要求

欧盟强调人工智能算法的透明度，要求数据控制者和处理者向数据主体解释算法决策的逻辑和依据。在高风险人工智能系统中，尤其注重对决策过程和相关参数的披露，以便数据主体能够理解算法如何影响其权益。例如，在信贷审批、招聘筛选等涉及个人重大权益的自动化决策场景中，必须向相关个人提供清晰易懂的决策解释。

2、数据保护要求

算法处理数据必须遵循严格的数据保护原则，包括数据的合法、公平、透明收集，数据的最小化使用，数据的准确性和存储期限限制等。在使用敏感数据（如健康数据、生物识别数据等）时，更是有着严格的限制和额外的保障措施。同时，数据主体有权要求数据控制者删除其个人数据（被遗忘权），这也对算法的数据处理逻辑产生影响，要求算法能够响应数据主体的删除请求并调整数据处理策略。

3、风险评估与管理

对于高风险人工智能系统，企业需要进行全面的风险评估，识别算法可能带来的各种风险，如对个人基本权利的侵犯风险、对社会公共秩序的潜在影响等，并制定相应的风险缓解措施。这一过程需要企业具备完善的风险管理流程和技术能力，确保算法在设计和运行过程中的安全性和合规性。

（三）监管机制

欧盟建立了多层面的监管机制。首先，各成员国的数据保护监管机构（DPA）在本国范围内对人工智能算法的数据保护合规情况进行监督执法，有权对违规企业进行调查、处以罚款等处罚措施。其次，在欧盟层面设有欧洲数据保护委员会（EDPB），其主要职责包括协调各成员国 DPA 的工作，制定统一的指导方针和标准，促进欧盟范围内算法合规监管的一致性。对于《人工智能法案》中的高风险人工智能系统，还将设立专门的监管机构或机制，加强对其全生命周期的监管，从研发、部署到运营和更新等各个环节都将纳入监管视野。

二、中国人工智能算法合规体系

（一）立法框架

中国在人工智能算法合规方面的立法呈现出多法协同的特点。《中华人民共和国民法典》确立了个人信息保护的基本原则和相关规定，为算法处理个人信息提供了基本的法律框架。《中华人民共和国网络安全法》则侧重于网络运营者在网络环境下的安全义务，包括对数据安全和算法运行安全的要求，如网络运营者需采取技术措施和其他必要措施保障网络安全、稳定运行，防止网络数据泄露等，这对算法在网络环境中的合规应用起到了规范作用。此外，《数据安全法》和《个人信息保护法》进一步细化了数据安全和个人信息保护的具体规则，对算法数据处理的合法性基础、数据处理者的义务（如数据分类分级保护、个人信息跨境传输规则等）进行了明确规定。在人工智能领域，相关部门也出台了一些政策文件，如《新一代人工智能发展规划》提出要建立人工智能安全监管体系，加强对人工智能算法的伦理审查等，为人工智能算法合规提供了政策导向。

（二）合规要求

1、算法备案与审查

中国要求互联网信息服务提供者等在提供具有舆论属性或社会动员能力的算法推荐服务时，应当按照规定进行备案。同时，国家网信部门等有权对算法进行安全评估和审查，审查内容包括算法的运行机制、数据使用情况、对用户权益的影响等，以确保算法符合法律法规要求，不传播违法信息，不损害国家利益、社会公共利益和公民合法权益。例如，在内容推荐算法中，要防止算法推荐导致的不良信息传播扩散，维护健康的网络舆论环境。

2、数据合规要求

与欧盟类似，中国也强调算法处理数据的合规性。数据处理者需依法获取数据的授权同意，遵循数据使用的合法、正当、必要原则，对数据进行安全保护，防止数据泄露、篡改和滥用。在个人信息保护方面，对个人信息的收集范围、存储期限、共享转让等都有严格规定，算法在处理个人信息过程中必须符合这些要求，并且在涉及个人敏感信息时，要采取更为严格的保护措施，如单独同意机制等。

3、伦理规范要求

中国重视人工智能算法的伦理问题，倡导算法的设计和应用遵循公平、公正、透明等伦理原则。要求算法避免对不同群体产生歧视性影响，保障社会公平正义。例如，在招聘、教育等领域的算法应用中，要防止因算法偏见导致的对特定群体（如性别、年龄、地域等）的不公平对待，促进社会的和谐发展。

（三）监管机制

中国形成了多部门协同监管的格局。国家网信部门在人工智能算法监管中发挥着统筹协调的作用，负责制定相关政策法规、组织开展算法备案与审查等工作。工业和信息化部门则侧重于对人工智能产业发展中的算法应用进行监管，从产业政策、技术标准等方面引导算法合规发展，例如推动人工智能算法相关的技术标准制定，促进企业提升算法安全和合规水平。市场监管部门在涉及算法应用对市场竞争秩序影响等方面进行监管，防止算法滥用导致的垄断行为或不正当竞争行为，如算法合谋、大数据杀熟等。此外，各行业主管部门也在各自领域内对算法合规进行监督管理，如金融监管部门对金融领域算法应用的监管、交通管理部门对智能交通算法的监管等，形成了全方位、多层次的监管体系。

三、欧盟与中国人工智能算法合规比较

（一）相同点

1、数据保护重视

两者都高度重视算法处理数据过程中的数据保护问题。都要求数据处理者遵循合法、公平、透明等基本原则获取和处理数据，对个人信息和敏感数据都设定了严格的保护规则，以保障数据主体的合法权益，防止数据被滥用和隐私泄露。

2、风险防控导向

均以防控算法带来的风险为重要导向。无论是欧盟对高风险人工智能系统的严格监管，还是中国对算法的安全评估和审查，都是为了识别和降低算法在应用过程中可能对个人权益、社会公共秩序、国家安全等方面造成的风险，促进人工智能的安全、可靠发展。

（二）不同点

1、立法模式

欧盟的立法相对集中且具有系统性，以《通用数据保护条例》和《人工智能法案》等为主干构建起较为完整的算法合规法律框架，对不同风险等级的人工智能算法进行统一规范。而中国的立法模式更倾向于多法协同，通过多部法律在数据保护、网络安全等不同方面的规定以及相关政策文件的引导，共同形成对人工智能算法合规的规范体系，各法之间相互补充、协同作用。

2、合规重点

欧盟在合规要求中突出透明度要求，特别是对高风险人工智能系统的决策解释义务强调较多，以保障数据主体对算法决策的知情权和监督权。中国则在算法备案与审查以及伦理规范方面有独特的侧重点。算法备案与审查有助于监管部门及时掌握算法的运行情况，而伦理规范要求体现了中国在人工智能发展中对社会公平正义等价值追求的重视，从伦理层面约束算法的设计和应用。

3、监管机制

欧盟主要依靠数据保护监管机构和欧洲数据保护委员会等专业机构进行监管，在成员国层面和欧盟层面形成双层监管架构，并且对于高风险人工智能系统有专门的监管程序和机构设置。中国则是多部门协同监管，网信部门统筹协调，各行业主管部门和职能部门在各自领域发挥监管作用，这种监管机制更能适应中国复杂的产业结构和多样化的人工智能应用场景，能够从不同角度对算法合规进行全方位监管。

四、原因分析

（一）法律传统差异

欧盟具有大陆法系传统，注重法律的系统性和逻辑性构建，习惯通过制定全面、细致的法典或法规来规范社会行为。因此在人工智能算法合规方面能够出台像《通用数据保护条例》和《人工智能法案》这样具有高度系统性的立法文件。而中国属于大陆法系与英美法系相融合的法律体系，在立法上既有法典化的法律如《民法典》，也注重通过多部门制定相关法规政策来适应快速发展的社会经济和科技变革需求，从而形成多法协同的立法模式。

（二）社会文化因素

欧盟强调个人权利和自由，对数据隐私保护有着深厚的社会文化基础，公众对个人数据被算法处理的透明度和控制权有较高期望，这促使欧盟在算法合规中突出透明度要求和数据主体权利保护。中国传统文化中注重集体主义和社会公平正义，在人工智能算法合规方面，更关注算法对社会整体秩序的影响，通过伦理规范引导算法避免对不同群体产生不公平对待，同时通过多部门监管保障社会各领域算法应用的合规性，维护社会和谐稳定。

（三）经济发展模式与产业结构

欧盟以服务业和高端制造业为主，人工智能产业发展相对成熟且集中在一些特定领域，如医疗、金融等对风险较为敏感的行业，因此其立法和监管侧重于对高风险人工智能系统的规范和监管，以保障这些行业的稳定发展和消费者权益。中国的经济发展模式更为多元化，产业结构复杂，人工智能应用场景广泛且新兴产业和传统产业并存，不同行业对算法合规的需求和重点各不相同，这就需要多部门协同监管，并通过多法协同的立法模式来适应不同行业的算法合规要求，促进人工智能产业在各领域的健康发展。

五、对全球人工智能治理的影响及未来发展趋势

（一）对全球人工智能治理的影响

欧盟和中国的人工智能算法合规体系都对全球人工智能治理产生了重要影响。欧盟的立法和监管模式为其他国家和地区提供了可借鉴的范例，特别是在数据保护和高风险人工智能系统监管方面的严格标准，推动了全球范围内对人工智能算法合规性的深入思考和讨论，促使更多国家和地区加强自身在数据隐私保护和算法监管方面的制度建设。中国的多法协同和多部门协同监管模式则展示了在复杂产业环境和多样化应用场景下人工智能算法合规治理的有效路径，为发展中国家在平衡人工智能发展与监管方面提供了有益经验。同时，两者的存在也促使全球在人工智能治理方面加强国际合作与协调，共同应对跨国界的算法风险和挑战，如跨境数据流动中的算法合规问题、全球人工智能伦理标准的制定等。

（二）未来发展趋势

1、标准趋同与协调

随着全球人工智能产业的进一步融合发展，欧盟与中国在人工智能算法合规方面可能会逐渐走向标准趋同与协调。一方面，在国际组织和多边合作框架下，双方可能会就一些基本的算法合规原则和标准达成共识，如数据保护的基本原则、算法风险评估的基本方法等，以促进全球人工智能贸易和技术交流的顺畅进行。另一方面，企业在全球市场竞争中也会推动算法合规标准的趋同，为了降低合规成本和提高市场竞争力，企业会积极寻求符合欧盟和中国等主要经济体算法合规要求的通用解决方案，从而促使不同地区的算法合规标准相互靠近。

2、技术创新与合规平衡

未来人工智能算法的发展将更加注重技术创新与合规的平衡。无论是欧盟还是中国，都认识到人工智能技术创新对经济社会发展的重要性，不会因合规要求而过度抑制技术创新。在算法设计和开发过程中，将鼓励企业采用隐私增强技术、可解释性人工智能技术等创新技术手段来满足合规要求，例如开发新的算法模型能够在保障数据隐私的同时实现高效的数据处理和准确的决策，或者通过可视化技术等提高算法决策的可解释性，使算法既符合合规标准又能保持创新活力，推动人工智能技术向更加安全、可靠、智能的方向发展。

七、结论

欧盟与中国在人工智能算法合规方面各有特色，其立法框架、合规要求和监管机制都存在异同点，这些差异源于法律传统、社会文化、经济发展模式等多方面因素。两者的算法合规体系都对全球人工智能治理有着重要的示范和推动作用，并且在未来全球人工智能发展进程中，有望朝着标准趋同与协调以及技术创新与合规平衡的方向发展。深入研究欧盟与中国人工智能算法合规比较，有助于各国在人工智能算法治理方面相互借鉴经验，共同构建更加完善、合理的全球人工智能治理体系，促进人工智能技术在全球范围内的健康、可持续发展，使其更好地造福人类社会。在不断发展的人工智能时代，持续关注和研究算法合规问题，将是推动人工智能走向规范化、法治化道路的关键所在。