欧盟《人工智能法案》(EU AI Act)|第22条和第54条

欧盟《人工智能法案》授权代表服务

计划将高风险人工智能系统或通用人工智能模型投放欧盟市场?德国 Conregia GmbH 帮助欧盟以外的提供者判断是否需要指定欧盟授权代表、梳理所需文件,并明确书面授权的范围。

适用于人工智能开发商、软件提供者及含人工智能功能的产品制造商。

蓝天下的欧盟旗帜

何时必须指定欧盟授权代表?

应结合提供者的设立地、拟在欧盟市场提供的系统或模型、系统的预期用途及相关规定的适用日期进行判断。高风险人工智能系统和通用人工智能模型分别适用不同规定。

数字大脑与神经网络示意图

高风险人工智能系统|第22条

相关规定开始适用后,在第三国设立的提供者须在欧盟市场提供适用该条的高风险人工智能系统之前,以书面授权指定一名在欧盟境内设立的授权代表。

  • 起,适用于依据第6条第2款及附件III归类为高风险的系统,例如部分用于招聘筛选的系统。第6条第3款对符合规定条件且不构成重大风险的部分系统设有例外。附件III所列系统如对自然人进行画像分析,始终归类为高风险。
  • 起,适用于依据第6条第1款及附件I归类为高风险且适用第22条的系统。人工智能系统本身须是附件I所列法规涵盖的产品,或预定用作此类产品的安全部件。相关产品在投放市场或投入使用前,还须依法接受符合该款条件的第三方合格评定。第6条第1a款和第1b款规定了仅涉及非安全功能的系统,以及发生故障时会危及健康和安全的系统,应如何判定其是否属于安全部件。附件I B节适用第2条第2款的特别规定。

通用人工智能模型|第54条

在第三国设立的提供者须在将适用第54条的通用人工智能模型投放欧盟市场之前,以书面授权指定一名在欧盟境内设立的授权代表。第五章自起适用。此前已投放市场的模型,其提供者须依第111条第3款于前履行相应义务。

根据第54条第6款,若模型以允许访问、使用、修改和分发的自由开源许可证提供,并公开模型参数(包括权重)、架构及使用信息,提供者可适用豁免。具有系统性风险的通用人工智能模型仍适用第54条。

对于在相关规定开始适用前已投放市场或投入使用的高风险人工智能系统,应核查第111条第2款。此后对系统设计作出重大变更,可能触发相关要求。拟供公共机构使用的系统以及特定大型信息系统另有过渡规定。

Conregia 作为授权代表履行哪些职责?

在接受书面授权前,Conregia 会审查提供者、系统或模型以及现有证明文件。提供者须确保授权代表能够履行授权范围内的职责,例如及时提供所需文件,并安排技术联系人。

高风险人工智能系统的授权|第22条

  • 核查提供者是否已编制欧盟符合性声明和技术文件,并完成适当的合格评定程序。
  • 自系统投放市场或投入使用之日起十年内,保存提供者的联系方式、欧盟符合性声明、技术文件以及适用时由公告机构签发的证书,供相关主管机构查阅。
  • 应市场监管机构要求,以其指定的欧盟官方语言提供授权文件副本。回应主管机构说明理由的请求,并在日志由提供者控制的范围内提供对自动生成日志的访问。配合主管机构采取降低风险的措施。
  • 在适用时履行第49条第1款规定的登记义务。若由提供者自行登记,则核查附件VIII A节第3点规定的授权代表信息。

通用人工智能模型的授权|第54条

  • 核查提供者是否已按附件XI编制技术文件,并履行第53条规定的义务。对于具有系统性风险的模型,还须核查第55条规定的义务。
  • 自模型投放市场之日起十年内,保存提供者的联系方式和技术文件副本,供欧盟人工智能办公室和国家主管机构查阅。
  • 应欧盟人工智能办公室要求,以一种欧盟官方语言提供授权文件副本。回应该办公室说明理由的信息请求,并与该办公室及有关主管机构合作,配合采取与模型有关的措施。

对接主管机构与终止授权

书面授权允许 Conregia 与提供者共同或代其对接有关主管机构。若 Conregia 认为或有理由认为提供者违反法案义务,须终止授权。根据第22条,须立即向相关市场监管机构及适用时的公告机构说明终止授权及其原因。根据第54条,须立即将终止授权及其原因告知欧盟人工智能办公室。

供应链各方的角色与义务

企业的角色取决于实际开展的活动、所使用的名称或商标,以及在供应链中的地位。提供者仍负责履行自身义务,包括对适用的高风险系统开展合格评定并出具欧盟符合性声明。

角色主要义务
高风险人工智能系统提供者
第16至21条、第72至73条
确保系统符合要求,建立质量管理体系,编制和维护技术文件,完成合格评定,出具欧盟符合性声明并加贴 CE 标志。履行适用的登记义务,开展上市后监测,采取纠正措施并报告严重事件。
通用人工智能模型提供者
第53至55条
履行适用的文件编制和信息提供义务,向集成模型的下游提供者提供相关资料,制定遵守欧盟版权规则的政策,并公开训练所用内容的摘要。具有系统性风险的模型还须履行模型评估、风险缓解、报告和网络安全义务。
授权代表
第22条、第54条
依照书面授权行使权限,履行核查、文件保存、监管合作及通知义务。
进口商
第23条
在系统投放市场前核查合格评定、技术文件、CE 标志、使用说明及适用的授权代表指定要求。有合理理由怀疑系统不符合规定时,须待其符合规定后方可投放市场。系统存在规定所指的风险时,须通知相关各方及主管机构。
经销商
第24条
核查 CE 标志、随附文件及提供者和进口商的相关信息。暂停提供不符合规定的系统,并对已提供的系统采取或确保有关各方采取必要的纠正措施。
部署者
第26至27条
遵守使用说明,安排具备相应能力的人员开展人工监督,监控系统运行,保存其控制范围内的日志,并报告相关风险和事件。在第27条规定的情况下开展基本权利影响评估。
产品制造商或其他相关方
第25条
在第25条第3款规定的情况下,若制造商以自身名称或商标将高风险人工智能系统作为安全部件随相关产品一同投放市场,或在产品投放市场后以自身名称或商标将该系统投入使用,则视为该系统的提供者。以自身名称或商标提供系统、对系统作实质性修改,或改变预期用途使其成为高风险系统,也可能依第25条第1款触发提供者义务。

根据第85条,有理由认为法案遭到违反的自然人或法人可向相关市场监管机构投诉。根据第86条,若部署者基于附件III所列高风险系统的输出作出具有法律效力或类似重大影响的决定,受影响者在符合法定条件时可要求部署者说明系统在决策中的作用及决定的主要依据。附件III第2项所列系统除外。

含人工智能功能的产品与软件

可见机械部件的人形机器人

人工智能系统与机器人

机器人应用的分类取决于其预期用途、安全功能、适用的产品法规及合格评定程序。

医护人员在患者身旁操作医疗机器人

含人工智能功能的医疗器械和体外诊断医疗器械

除依据 MDR 或 IVDR 第11条指定授权代表外,还可能须根据欧盟《人工智能法案》指定授权代表。应分别核查各法规下的预期医疗用途、合格评定要求及适用日期。

了解医疗器械欧盟授权代表服务

透明外壳中的 Raspberry Pi 单板计算机

嵌入式人工智能与联网设备

判断各方角色时,应确认由谁确定预期用途、发布更新,以及以谁的名称将最终产品投放市场。依据第6条第1款进行分类时,还应核查安全功能及是否需要第三方合格评定。

从初步评估到指定授权代表

  1. 明确适用范围

    核查提供者的设立地、预期用途、初步分类、欧盟市场计划及各方角色。

  2. 审查文件

    确认现有文件及缺项,并商定文件访问、技术对接和紧急事项的处理流程。

  3. 商定书面授权

    在接受授权前,明确所涵盖的系统或模型、各方职责及主管机构请求的处理方式。

常见问题

聊天机器人需要指定欧盟授权代表吗?

应根据预期用途及在欧盟市场提供的具体对象判断。客服聊天机器人可能适用第50条的透明度义务。第22条适用于符合条件的高风险人工智能系统。第54条适用于将通用人工智能模型投放欧盟市场的提供者。

现有 MDR 授权代表能否同时担任《人工智能法案》下的授权代表?

在欧盟境内设立的同一主体可以承担这两个角色,前提是分别满足相关法规要求并接受相应授权。依据第22条指定代表,须有涵盖《人工智能法案》相关职责的书面授权。

可以在高风险系统相关规定开始适用前着手准备吗?

可以。及早评估有助于确认适用日期、过渡规则、各方角色以及指定授权代表所需的文件。

集成第三方通用人工智能模型后,我们会成为模型提供者吗?

应分别判断模型和下游系统的角色。集成第三方模型后,贵公司可能成为由此形成的人工智能系统的提供者。第54条的指定义务针对将通用人工智能模型本身投放欧盟市场的提供者。

咨询欧盟授权代表服务

请告知贵公司的设立地、系统或模型的类型和预期用途、计划进入欧盟市场的时间,以及目前的分类和文件准备情况。若涉及医疗器械或体外诊断医疗器械,请如已掌握相关信息,请同时说明 MDR 或 IVDR 下的分类,以及是否有公告机构参与。