EU AI Act · Artikel 22 und 54

EU-Bevollmächtigter nach der KI-Verordnung

Möchten Sie ein Hochrisiko-KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck auf den EU-Markt bringen? Die Conregia GmbH prüft für Anbieter aus Drittstaaten, ob sie einen Bevollmächtigten benennen müssen, welche Unterlagen erforderlich sind und welchen Umfang ein schriftlicher Auftrag für die Vertretung aus Deutschland haben soll.

Für KI-Entwickler, Softwareanbieter und Hersteller von Produkten mit KI-Funktionen.

Flagge der Europäischen Union vor blauem Himmel

Wann müssen Sie einen EU-Bevollmächtigten benennen?

Maßgeblich sind die Niederlassung des Anbieters, das für den EU-Markt bestimmte System oder Modell, die Zweckbestimmung des Systems und der jeweilige Geltungsbeginn. Die KI-Verordnung regelt Hochrisiko-KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck in unterschiedlichen Vorschriften.

Illustration eines violetten digitalen Gehirns mit grüner Netzwerkgrafik

Hochrisiko-KI-Systeme · Artikel 22

Anbieter mit Niederlassung in einem Drittstaat müssen vor der Bereitstellung eines erfassten Hochrisiko-KI-Systems auf dem Unionsmarkt einen in der EU niedergelassenen Bevollmächtigten schriftlich benennen, sobald die einschlägigen Vorschriften gelten.

  • für Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2 und Anhang III, etwa bestimmte Systeme zur Personalauswahl. Artikel 6 Absatz 3 sieht unter bestimmten Voraussetzungen eine Ausnahme vor, wenn kein erhebliches Risiko besteht. Systeme nach Anhang III, die natürliche Personen einem Profiling unterziehen, gelten stets als hochriskant.
  • für erfasste Systeme nach Artikel 6 Absatz 1 und Anhang I, soweit Artikel 22 anwendbar ist. Das KI-System muss selbst ein von Anhang I erfasstes Produkt oder als Sicherheitsbauteil eines solchen Produkts bestimmt sein. Zudem muss das Produkt nach den einschlägigen Vorschriften einer Konformitätsbewertung durch Dritte unterzogen werden, die für die Einstufung nach Artikel 6 Absatz 1 maßgeblich ist. Für ausschließlich nicht sicherheitsrelevante Funktionen und für Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, gelten Artikel 6 Absätze 1a und 1b. Für Anhang I Abschnitt B gilt die Sonderregelung in Artikel 2 Absatz 2.

KI-Modelle mit allgemeinem Verwendungszweck · Artikel 54

In einem Drittstaat niedergelassene Anbieter müssen vor dem Inverkehrbringen eines erfassten KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt einen in der EU niedergelassenen Bevollmächtigten schriftlich benennen. Kapitel V gilt seit dem . Für zuvor in Verkehr gebrachte Modelle endet die Übergangsfrist nach Artikel 111 Absatz 3 am .

Die Ausnahme in Artikel 54 Absatz 6 setzt eine freie und quelloffene Lizenz voraus, die Zugang, Nutzung, Änderung und Verbreitung erlaubt. Außerdem müssen die erforderlichen Angaben öffentlich zugänglich sein, darunter Gewichte sowie Informationen über Modellarchitektur und Modellnutzung. Für KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko gilt Artikel 54 auch unter einer solchen Lizenz.

Bei bereits in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-Systemen ist Artikel 111 Absatz 2 zu prüfen. Eine spätere erhebliche Änderung der Konzeption kann die Anwendung der Vorschriften auslösen. Für Systeme, die für Behörden bestimmt sind, und für bestimmte IT-Großsysteme gelten besondere Übergangsregeln.

Aufgaben von Conregia als Bevollmächtigter

Vor der Annahme des schriftlichen Auftrags prüft Conregia den Anbieter, das System oder Modell und die verfügbaren Nachweise. Der Anbieter muss Conregia die Wahrnehmung der übertragenen Aufgaben ermöglichen, etwa durch rechtzeitigen Zugang zu den Unterlagen und einen zuständigen technischen Ansprechpartner.

Auftrag nach Artikel 22 für Hochrisiko-KI-Systeme

  • Überprüfen, ob die EU-Konformitätserklärung und die technische Dokumentation erstellt wurden und der Anbieter das geeignete Konformitätsbewertungsverfahren durchgeführt hat.
  • Die Kontaktdaten des Anbieters, die EU-Konformitätserklärung, die technische Dokumentation und gegebenenfalls die Bescheinigung der notifizierten Stelle zehn Jahre ab Inverkehrbringen oder Inbetriebnahme für die zuständigen Stellen bereithalten.
  • Auf Anfrage eine Kopie des Auftrags in der vorgegebenen EU-Amtssprache vorlegen. Begründete Anfragen beantworten, gegebenenfalls Zugang zu automatisch erzeugten Protokollen unter Kontrolle des Anbieters gewähren und bei Maßnahmen zur Verringerung von Risiken mitwirken.
  • Gegebenenfalls die Registrierung nach Artikel 49 Absatz 1 vornehmen oder bei Registrierung durch den Anbieter die Angaben zum Bevollmächtigten nach Anhang VIII Abschnitt A Nummer 3 überprüfen.

Auftrag nach Artikel 54 für KI-Modelle mit allgemeinem Verwendungszweck

  • Überprüfen, ob der Anbieter die technische Dokumentation nach Anhang XI erstellt und seine Pflichten nach Artikel 53 sowie gegebenenfalls nach Artikel 55 für Modelle mit systemischem Risiko erfüllt hat.
  • Die Kontaktdaten des Anbieters und eine Kopie der technischen Dokumentation zehn Jahre ab Inverkehrbringen des Modells bereithalten.
  • Dem Büro für Künstliche Intelligenz auf Anfrage eine Kopie des Auftrags in einer EU-Amtssprache vorlegen, begründete Anfragen beantworten und bei modellbezogenen Maßnahmen mit dem Büro und den zuständigen Behörden zusammenarbeiten.

Befugnis zur Vertretung und Pflicht zur Beendigung des Auftrags

Der Auftrag ermächtigt Conregia, neben oder anstelle des Anbieters als Ansprechpartner für die zuständigen Stellen zu handeln. Geht Conregia von einem Verstoß gegen Pflichten der KI-Verordnung aus oder hat das Unternehmen Grund zu dieser Annahme, muss es den Auftrag beenden. Nach Artikel 22 sind die zuständige Marktüberwachungsbehörde und gegebenenfalls die notifizierte Stelle unverzüglich über die Beendigung und die Gründe zu informieren. Nach Artikel 54 sind dem Büro für Künstliche Intelligenz die Beendigung und ihre Gründe unverzüglich mitzuteilen.

Wer trägt welche Verantwortung in der KI-Wertschöpfungskette?

Welche Rolle ein Unternehmen einnimmt, hängt von seinen Tätigkeiten, der Verwendung seines Namens oder seiner Handelsmarke und seiner Stellung in der Lieferkette ab. Der Anbieter bleibt für seine gesetzlichen Pflichten verantwortlich, einschließlich der Konformitätsbewertung und der Ausstellung der EU-Konformitätserklärung für erfasste Hochrisiko-KI-Systeme.

AkteurWesentliche Pflichten
Anbieter eines Hochrisiko-KI-Systems
Artikel 16–21, 72–73
Die Anforderungen an das System erfüllen, ein Qualitätsmanagementsystem einrichten, technische Unterlagen führen, die Konformitätsbewertung durchführen, die EU-Konformitätserklärung ausstellen und die CE-Kennzeichnung anbringen. Gegebenenfalls die Registrierung, die Beobachtung nach dem Inverkehrbringen, Korrekturmaßnahmen und die Meldung schwerwiegender Vorfälle sicherstellen.
Anbieter eines KI-Modells mit allgemeinem Verwendungszweck
Artikel 53–55
Die einschlägigen Dokumentations- und Informationspflichten gegenüber nachgelagerten Anbietern erfüllen, eine Strategie zur Einhaltung des Unionsurheberrechts vorhalten und eine Zusammenfassung der Trainingsinhalte veröffentlichen. Für Modelle mit systemischem Risiko gelten zusätzliche Pflichten zur Modellbewertung, Risikominderung, Meldung und Cybersicherheit.
Bevollmächtigter
Artikel 22 und 54
Die Befugnisse aus dem schriftlichen Auftrag ausüben und die jeweils vorgeschriebenen Prüf-, Aufbewahrungs-, Kooperations- und Mitteilungspflichten erfüllen.
Einführer
Artikel 23
Vor dem Inverkehrbringen Konformitätsbewertung, Dokumentation, CE-Kennzeichnung, Betriebsanleitung und gegebenenfalls die Benennung eines Bevollmächtigten überprüfen. Bei begründeten Zweifeln an der Konformität das System erst nach deren Herstellung in Verkehr bringen. Bei einem relevanten Risiko die vorgesehenen Akteure und Behörden informieren.
Händler
Artikel 24
CE-Kennzeichnung, Begleitunterlagen und die maßgeblichen Angaben von Anbieter und Einführer prüfen. Nichtkonforme Systeme zurückhalten und bei bereits bereitgestellten Systemen die erforderlichen Korrekturmaßnahmen ergreifen oder veranlassen.
Betreiber
Artikel 26–27
Die Betriebsanleitung beachten, die menschliche Aufsicht qualifizierten Personen übertragen, den Betrieb überwachen, Protokolle unter eigener Kontrolle aufbewahren und einschlägige Risiken oder Vorfälle melden. Wenn Artikel 27 es verlangt, eine Grundrechte-Folgenabschätzung durchführen.
Produkthersteller oder sonstiger Akteur
Artikel 25
Ein Produkthersteller gilt in den Fällen des Artikels 25 Absatz 3 als Anbieter, wenn er ein erfasstes Hochrisiko-KI-System als Sicherheitsbauteil zusammen mit dem Produkt unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder das System nach dem Inverkehrbringen des Produkts unter eigenem Namen oder eigener Handelsmarke in Betrieb nimmt. Auch eine eigene Kennzeichnung, eine wesentliche Veränderung oder eine Änderung der Zweckbestimmung hin zu einer Hochrisiko-Anwendung kann nach Artikel 25 Absatz 1 Anbieterpflichten auslösen.

Natürliche und juristische Personen können nach Artikel 85 bei der zuständigen Marktüberwachungsbehörde Beschwerde einreichen, wenn sie Grund zur Annahme eines Verstoßes haben. Artikel 86 gibt betroffenen Personen unter bestimmten Voraussetzungen das Recht auf eine Erläuterung durch den Betreiber, wenn dieser eine Entscheidung mit erheblichen Auswirkungen auf Grundlage der Ausgabe eines Hochrisiko-KI-Systems nach Anhang III getroffen hat. Systeme nach Anhang III Nummer 2 sind davon ausgenommen.

Produkte und Software mit KI-Funktionen

Humanoider Roboter mit sichtbaren mechanischen Bauteilen

KI-Systeme und Robotik

Zweckbestimmung, Sicherheitsfunktion, einschlägige Produktvorschriften und Konformitätsbewertung sind für die Einstufung einer Robotikanwendung maßgeblich.

Medizinisches Personal bedient ein Robotiksystem neben einem Patienten

Medizinprodukte und In-vitro-Diagnostika mit KI

Zusätzlich zur Benennung eines Bevollmächtigten nach Artikel 11 der MDR oder IVDR kann eine Benennung nach der KI-Verordnung erforderlich sein. Für beide Regelwerke sind die medizinische Zweckbestimmung, die einschlägige Konformitätsbewertung und der jeweilige Geltungsbeginn zu prüfen.

EU-Bevollmächtigung für Medizinprodukte

Raspberry-Pi-Einplatinencomputer in einem transparenten Gehäuse

Eingebettete KI und vernetzte Produkte

Für die Rollenverteilung kommt es darauf an, wer die Zweckbestimmung festlegt, Aktualisierungen freigibt und das Endprodukt unter eigenem Namen vermarktet. Für die Einstufung nach Artikel 6 Absatz 1 sind außerdem die Sicherheitsfunktion und eine mögliche Konformitätsbewertung durch Dritte zu prüfen.

Von der Erstprüfung bis zur Benennung

  1. Anwendungsbereich klären

    Wir prüfen die Niederlassung des Anbieters, die Zweckbestimmung, die vorgesehene Einstufung, den EU-Markteintritt und die Rollen der beteiligten Akteure.

  2. Nachweise prüfen

    Wir klären, welche Unterlagen vorliegen oder fehlen und wie Dokumentenzugriff, technische Ansprechpartner und die Weiterleitung dringender Anliegen organisiert werden.

  3. Schriftlichen Auftrag vereinbaren

    Vor der Annahme legen wir die erfassten Systeme oder Modelle, die Zuständigkeiten und die Abläufe für Behördenanfragen fest.

Häufig gestellte Fragen

Ist für einen Chatbot ein EU-Bevollmächtigter erforderlich?

Maßgeblich sind die Zweckbestimmung und das Angebot auf dem EU-Markt. Für einen Chatbot im Kundendienst können Transparenzpflichten nach Artikel 50 gelten. Artikel 22 setzt ein erfasstes Hochrisiko-KI-System voraus. Artikel 54 betrifft Anbieter, die ein KI-Modell mit allgemeinem Verwendungszweck auf dem Unionsmarkt in Verkehr bringen.

Kann unser MDR-Bevollmächtigter auch nach der KI-Verordnung tätig werden?

Dasselbe in der EU niedergelassene Unternehmen kann beide Rollen übernehmen, sofern es die jeweiligen Voraussetzungen erfüllt und die entsprechenden Aufträge annimmt. Die Benennung nach Artikel 22 erfordert einen schriftlichen Auftrag für die Aufgaben nach der KI-Verordnung.

Können wir vor dem Geltungsbeginn der Hochrisiko-Vorschriften beginnen?

Ja. Eine frühzeitige Prüfung klärt den Geltungsbeginn und mögliche Übergangsregeln, die Rollen der Beteiligten und die Unterlagen, die für die Benennung benötigt werden.

Werden wir durch die Integration eines fremden KI-Modells selbst zum Modellanbieter?

Die Rollen für das Modell und das darauf aufbauende KI-System sind gesondert zu prüfen. Durch die Integration eines fremden Modells kann Ihr Unternehmen Anbieter des daraus entstehenden KI-Systems werden. Die Benennungspflicht nach Artikel 54 betrifft den Anbieter, der das Modell selbst auf dem Unionsmarkt in Verkehr bringt.

Mandatsprüfung zur KI-Verordnung anfragen

Teilen Sie uns mit, in welchem Land Ihr Unternehmen niedergelassen ist, um welches System oder Modell es geht, wofür es vorgesehen ist und wann Sie den EU-Markteintritt planen. Geben Sie auch den Stand der Einstufung und Dokumentation an. Bei Medizinprodukten oder In-vitro-Diagnostika helfen uns, soweit bekannt, die MDR- oder IVDR-Klasse und Angaben zur Beteiligung einer Benannten Stelle.