AI Act: EU-Leitfaden schärft Anforderungen für KI-Beschaffungen

I.Was ist passiert?

Die Europäische Kommission hat am 22. Juli 2026 durch ihr AI Office einen Leitfaden zur Umsetzung bestimmter Transparenzpflichten des Verordnungsrahmens für künstliche Intelligenz veröffentlicht. Im Mittelpunkt steht Art. 50 der Verordnung (EU) 2024/1689, des AI Act. Das Dokument befasst sich mit Anforderungen, die bei bestimmten interaktiven, generativen, biometrischen und emotionserkennenden KI-Anwendungen greifen können.

Adressiert werden unter anderem Systeme, die mit Menschen unmittelbar interagieren, Inhalte erzeugen oder manipulieren sowie Emotionen erkennen oder Personen biometrisch kategorisieren. Der Leitfaden behandelt außerdem die Kennzeichnung von Deepfakes und bestimmten öffentlichkeitsbezogenen Texten. Damit betrifft er nicht nur die Entwicklung und Bereitstellung von KI, sondern auch deren Einsatz und die Kommunikation über erzeugte Inhalte.

Für die öffentliche Beschaffung liegt die wesentliche Bedeutung darin, dass der Leitfaden konkrete Anhaltspunkte für Leistungsbeschreibungen, Eignungsanforderungen und Vertragsklauseln liefert. Er macht zugleich deutlich, dass die jeweilige Verantwortung nicht pauschal einem einzigen Beteiligten zugeordnet werden kann. Je nach Funktion eines Systems können Transparenzanforderungen bei mehreren Akteuren zusammentreffen.

Der Leitfaden erläutert, wann Anbieter Nutzer über den Einsatz interaktiver KI informieren müssen. Daneben beschreibt er Anforderungen an maschinenlesbare Kennzeichnungen von Ausgaben generativer Systeme sowie Informationspflichten für Betreiber von Emotionserkennungs- und biometrischen Kategorisierungssystemen. Die Information soll klar, unterscheidbar und zugänglich sein und grundsätzlich spätestens bei der ersten Interaktion oder Exposition erfolgen.

Die Europäische Kommission stellt zudem Ausnahmen dar, unter anderem für bestimmte Strafverfolgungszwecke. Diese Ausnahmen ändern nichts daran, dass zunächst die konkrete Funktion des Systems, sein Einsatzkontext und die Rolle des jeweiligen Akteurs bestimmt werden müssen. Eine pauschale Einstufung allein nach der Produktbezeichnung reicht für die vergaberechtliche Vorbereitung daher nicht aus.

Die in Art. 50 AI Act erläuterten Pflichten gelten grundsätzlich ab dem 2. August 2026. Der Leitfaden selbst ist nicht rechtsverbindlich. Er begründet keine eigenständigen neuen Verpflichtungen und kann eine verbindliche Auslegung durch die Unionsgerichte nicht ersetzen.

II.Rechtlicher Hintergrund und Einordnung

1.Transparenz als funktionsbezogene Anforderung

Art. 50 AI Act knüpft nach dem dargestellten Leitfaden an bestimmte Einsatzweisen und Funktionen von KI-Systemen an. Entscheidend ist deshalb nicht allein, ob ein Auftrag als „KI-Projekt“ bezeichnet wird. Maßgeblich ist vielmehr, ob die zu beschaffende Anwendung beispielsweise mit Nutzern interagiert, Inhalte generiert, audiovisuelle Inhalte manipuliert oder biometrische beziehungsweise emotionserkennende Funktionen verwendet.

Die rechtliche Bewertung muss deshalb von den konkreten Systemfunktionen ausgehen und darf sich nicht in einer allgemeinen KI-Klausel erschöpfen. Ein Assistenzsystem, ein Chatbot oder ein generatives Bildwerkzeug kann unterschiedliche Transparenzanforderungen auslösen, wenn sich seine technische Verwendung oder die angesprochenen Nutzergruppen unterscheiden. Der Leitfaden ist insoweit eine Orientierung für eine genauere Beschreibung des Beschaffungsgegenstands.

Für Auftraggeber folgt daraus vor allem ein Strukturierungsbedarf. Vor der Ausschreibung sollte feststehen, welche Funktionen tatsächlich verlangt werden, welche Inhalte erzeugt oder verarbeitet werden und an welcher Stelle eine Information der betroffenen Nutzer erforderlich sein kann. Erst auf dieser Grundlage lassen sich Anforderungen an Kennzeichnungen, Informationsprozesse und Nachweise sachgerecht formulieren.

2.Rollen von Anbietern und Betreibern

Der Leitfaden grenzt die Verantwortungsbereiche von Anbietern und Betreibern voneinander ab. Diese Unterscheidung ist für öffentliche Auftraggeber besonders relevant, wenn ein System nicht vollständig eigenständig betrieben wird oder wenn der Auftraggeber die konkrete Nutzung, die Nutzeransprache oder die Einbindung in bestehende Verwaltungsprozesse bestimmt.

In der Vergabeunterlage kann daher relevant werden, ob ein Anbieter seine Rolle nach dem AI Act nachvollziehbar beschreibt. Ebenso kann abgefragt werden, welche Funktionen betroffen sind, welche Kennzeichnungsmechanismen bestehen und wie die technische Umsetzung dokumentiert wird. Das gilt insbesondere dort, wo das System mehrere Einsatzarten erlaubt und die Transparenzpflichten nicht aus einer einzigen Funktion vollständig abgeleitet werden können.

Die Rollenklärung ist damit nicht nur eine Frage der späteren Compliance, sondern bereits ein Gegenstand der Leistungs- und Eignungsprüfung. Auftraggeber können auf diese Weise erkennen, ob ein Unternehmen die regulatorische Einordnung seines Produkts verstanden hat und ob es die erforderlichen Informationen für die spätere Nutzung bereitstellen kann.

3.Technische Kennzeichnung und Nachweisführung

Bei generativen Anwendungen rückt die maschinenlesbare Kennzeichnung der Ausgaben in den Vordergrund. Der Leitfaden beschreibt, dass bestimmte erzeugte Inhalte technisch erkennbar gemacht werden müssen. Für die Ausschreibung bedeutet dies, dass nicht lediglich eine abstrakte Verpflichtung zur „Transparenz“ aufgenommen werden sollte.

Vielmehr können Leistungsbeschreibungen die jeweils einschlägige Kennzeichnungsfunktion, das erwartete Ergebnis und die dafür vorzulegenden Nachweise benennen. Die technische Umsetzung muss für den Auftraggeber nachvollziehbar sein. Dazu können Informationen darüber gehören, in welchen Formaten Kennzeichnungen erzeugt werden, wie sie erhalten bleiben und wie ihre Funktionsfähigkeit nachgewiesen wird. Der Tatsachensatz gibt allerdings keinen abschließenden technischen Standard vor. Solche Anforderungen müssen daher an den konkreten Beschaffungsgegenstand angepasst werden.

Auch bei interaktiven Systemen ist die Gestaltung der Information wesentlich. Der Leitfaden hebt eine klare, unterscheidbare und zugängliche Information spätestens bei der ersten Interaktion oder Exposition hervor. Daraus kann sich für die Leistungsbeschreibung die Notwendigkeit ergeben, den Zeitpunkt, die Sichtbarkeit und die Verständlichkeit der Nutzerinformation näher festzulegen.

4.Reichweite und Grenzen des Leitfadens

Der Leitfaden dient der einheitlicheren Anwendung und liefert eine Auslegungshilfe für die Vorbereitung und Durchführung von KI-Vergaben. Er ist jedoch keine eigenständige Rechtsquelle mit verbindlicher Wirkung. Seine Aussagen können deshalb nicht ohne weitere Prüfung an die Stelle der Verordnung oder einer fallbezogenen rechtlichen Bewertung treten.

Für Auftraggeber bedeutet das: Der Leitfaden verbessert die Planbarkeit, nimmt ihnen aber die Verantwortung für die konkrete Einordnung des Beschaffungsgegenstands nicht ab. Insbesondere muss geprüft werden, welche Funktionen tatsächlich vereinbart werden, ob eine Ausnahme einschlägig sein kann und welche Rolle der Auftraggeber im späteren Betrieb einnimmt.

Die Übergangs- beziehungsweise Anwendungsperspektive ist gleichwohl unmittelbar praktisch. Da die Pflichten nach Art. 50 AI Act grundsätzlich ab 2. August 2026 gelten, sollten Verfahren mit längerer Laufzeit oder späterem Leistungsbeginn nicht ausschließlich nach dem bisherigen technischen und rechtlichen Anforderungsprofil vorbereitet werden. Der Leitfaden selbst ordnet keine neuen Pflichten an, kann aber bei der Konkretisierung bereits bestehender Anforderungen berücksichtigt werden.

III.Auswirkungen für die Praxis

1.Öffentliche Auftraggeber

Öffentliche Auftraggeber sollten zunächst den Beschaffungsgegenstand funktional erfassen. Ein Verfahren für einen Chatbot stellt andere Transparenzfragen als die Beschaffung eines Bild- oder Videowerkzeugs. Bei einem Assistenzsystem kann die erste Interaktion mit Nutzern entscheidend sein; bei generativen Anwendungen kann die Kennzeichnung der erzeugten Ausgabe im Mittelpunkt stehen. Biometrische oder emotionserkennende Funktionen erfordern wiederum eine gesonderte Betrachtung der einschlägigen Informationspflichten.

Die Ausschreibungsunterlagen sollten die verlangten Transparenzfunktionen so konkret beschreiben, dass Bieter ihre technische und organisatorische Umsetzung belastbar darstellen können. Dazu gehören insbesondere Anforderungen an maschinenlesbare Kennzeichnungen, Informationen über den Einsatz interaktiver KI und Nachweise zur technischen Realisierung.

In der Eignungs- und Angebotsprüfung kann der Auftraggeber prüfen, ob der Anbieter seine Rolle nach dem AI Act, die betroffenen Systemfunktionen und die vorhandenen Mechanismen nachvollziehbar erläutert. Eine solche Prüfung kann helfen, Risiken zu erkennen, wenn ein Anbieter lediglich pauschal auf Konformität verweist, ohne die konkrete Systemfunktion oder die Informationswege zu beschreiben.

Auch die Vertragsgestaltung sollte den laufenden Charakter der Compliance berücksichtigen. KI-Systeme können nach Vertragsschluss angepasst werden. Vertragsbedingungen können deshalb Pflichten zur fortlaufenden Anpassung, zur Dokumentation und zur Information des Auftraggebers über relevante Systemänderungen vorsehen. Ferner kann geregelt werden, wie der Auftraggeber bei behördlichen Prüfungen unterstützt wird.

Mögliche Prüfungspunkte für die Vorbereitung und Durchführung einer Beschaffung sind:

• die vollständige Erfassung aller vorgesehenen KI-Funktionen;
• die Zuordnung der Rollen von Anbieter und Betreiber;
• die Beschreibung erforderlicher Transparenz- und Kennzeichnungsfunktionen;
• die Festlegung geeigneter technischer und organisatorischer Nachweise;
• die Regelung von Änderungen, Dokumentation und Informationspflichten im Vertrag;
• die Berücksichtigung des Anwendungsbeginns am 2. August 2026.

2.Anbieter von KI-Systemen

Für Anbieter steigt die praktische Bedeutung einer klaren Produkt- und Rollenbeschreibung. Sie sollten im Vergabeverfahren nachvollziehbar darlegen können, welche Funktionen ihr System besitzt und welche davon Transparenzanforderungen auslösen können. Das betrifft nicht nur die technische Produktbeschreibung, sondern auch die Informationen für den späteren Betrieb.

Ein Anbieter, der Kennzeichnungsmechanismen oder Nutzerinformationen als feste Bestandteile seines Systems darstellen kann, schafft für den Auftraggeber eine bessere Grundlage für die Angebotsbewertung. Ebenso wichtig ist die Fähigkeit, Änderungen am System nachvollziehbar zu dokumentieren und den Auftraggeber über solche Änderungen zu informieren, wenn sie die Transparenzfunktionen oder die rechtliche Einordnung beeinflussen können.

Die Anforderungen können je nach Ausschreibung unterschiedlich ausfallen. Der Leitfaden legt keinen einheitlichen Vertragsinhalt für alle KI-Beschaffungen fest. Anbieter sollten daher nicht von einer standardisierten Erklärung ausgehen, die unabhängig von Funktion, Einsatzumgebung und Nutzerkontakt genügt.

3.Vertrags- und Betriebsphase

Die Transparenzanforderungen enden nicht zwingend mit der Zuschlagserteilung. Werden Systeme fortentwickelt, können sich Funktionen, Ausgaben oder Nutzerinformationen verändern. Vertragliche Pflichten zur laufenden Anpassung und Dokumentation dienen dazu, diese Entwicklung für den Auftraggeber kontrollierbar zu halten.

Eine belastbare Vertragsgestaltung verbindet daher die anfängliche Leistungsbeschreibung mit fortlaufenden Informations- und Unterstützungspflichten. Der Auftraggeber sollte erkennen können, wann eine Systemänderung vorliegt, welche Auswirkungen sie auf Transparenzanforderungen hat und welche Nachweise der Anbieter hierfür bereitstellen muss.

Gleichzeitig darf die Vertragsgestaltung den nicht bindenden Charakter des Kommissionsleitfadens nicht verkennen. Die Klauseln sollten auf den konkreten Pflichten des AI Act und auf den tatsächlich beschafften Funktionen aufbauen. Der Leitfaden kann bei ihrer Ausformulierung unterstützen, ersetzt aber weder die Prüfung des Einzelfalls noch eine eigenständige Festlegung des geschuldeten Leistungsumfangs.

Für die Vergabepraxis zeichnet sich damit ein zweistufiger Prüfungsansatz ab: Zuerst muss der Auftraggeber die relevante Funktion und Rollenverteilung bestimmen. Anschließend sind daraus überprüfbare Anforderungen an Leistung, Nachweise, Information und laufende Vertragsdurchführung abzuleiten. Wer diese Schritte trennt, kann Transparenzpflichten gezielter in das Vergabeverfahren und die spätere Leistungskontrolle übersetzen.