AI Act und Chatbot: welche Pflichten Art. 50 wirklich verlangt

Viele Unternehmen prüfen ihren Kunden-Chatbot mit der Sorge, er könnte ein Hochrisiko-System sein. In aller Regel ist er das nicht: Er fällt in die Klasse begrenztes Risiko, und daran hängt vor allem die Transparenzpflicht des Artikels 50 der Verordnung (EU) 2024/1689. Artikel 50 gilt seit dem 2. August 2026. Was er verlangt, wen die Pflicht trifft und wo aus dem Chatbot doch ein Hochrisiko-System wird, steht hier.

Warum der Chatbot in die Klasse begrenztes Risiko fällt

Der AI Act sortiert KI-Systeme nach dem Risiko ihres Einsatzes, nicht nach der Technik dahinter. Es gibt vier Klassen: verboten, Hochrisiko, begrenztes Risiko und minimales Risiko. Dasselbe Sprachmodell kann deshalb je nach Einsatzfeld in zwei verschiedenen Klassen landen.

Ein Chatbot, der Kundenfragen beantwortet, Termine aufnimmt oder durch den Bestellvorgang führt, ist begrenztes Risiko. Er entscheidet nicht über Chancen von Menschen. Bei ihm greifen deshalb weder Konformitätsbewertung noch Risikomanagementsystem. Nicht darunter fallen Bots, die Bonität bewerten oder Preise für Lebens- und Krankenversicherungen rechnen: Anhang III Nummer 5 macht sie zu Hochrisiko-Systemen.

Die Einstufung gilt je System, nicht je Unternehmen. Wer einen Kunden-Chatbot und ein Bewerbertool einsetzt, hat beide Klassen im Haus. Was am zweiten Fall hängt, steht in KI im HR ist Hochrisiko.

Was Artikel 50 verlangt, Absatz für Absatz

Artikel 50 der Verordnung (EU) 2024/1689 trägt die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Absatz 1 richtet sich an Anbieter: Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen so gestaltet sein, dass die Person darüber informiert wird, dass sie mit einem KI-System interagiert.

Dazu gehört eine Ausnahme, die häufig überschätzt wird. Die Information entfällt, wenn die Interaktion aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person unter den Umständen der Nutzung offensichtlich ist. Maßstab ist also nicht Ihre eigene Einschätzung.

Eine zweite Ausnahme betrifft Systeme, die gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen sind, vorbehaltlich angemessener Garantien für die Rechte und Freiheiten Dritter. Sie greift nicht, wenn das System der Öffentlichkeit offensteht, um eine Straftat anzuzeigen. Ein Hinweisportal mit Chatbot bleibt also informationspflichtig.

• Absatz 1, Anbieter: Systeme, die direkt mit natürlichen Personen interagieren, informieren über die Interaktion mit einem KI-System.
• Absatz 2, Anbieter: Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, kennzeichnen ihre Ausgaben maschinenlesbar und als künstlich erzeugt oder manipuliert erkennbar. Die technische Lösung muss wirksam, interoperabel, belastbar und zuverlässig sein, soweit das technisch möglich ist; dabei zählen die Besonderheiten der Inhaltsart, die Umsetzungskosten und der allgemein anerkannte Stand der Technik. Die Pflicht entfällt, soweit das System nur eine assistierende Funktion für die Standardbearbeitung erfüllt oder die Eingabedaten nicht wesentlich verändert.
• Absatz 3, Betreiber: Wer ein System zur Emotionserkennung oder zur biometrischen Kategorisierung einsetzt, informiert die betroffenen Personen.
• Absatz 4, Betreiber: Wer Deepfakes erzeugt oder manipuliert, legt das offen. Dasselbe gilt für Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse, sofern sie keiner menschlichen Prüfung mit redaktioneller Verantwortung unterliegen.

Absatz 6 stellt klar, dass diese Pflichten die Anforderungen an Hochrisiko-Systeme aus Kapitel III unberührt lassen und weitere Transparenzpflichten aus dem Unionsrecht oder dem nationalen Recht bestehen bleiben. Artikel 50 ist eine Untergrenze, keine abschließende Liste.

Anbieter oder Betreiber: wen die Pflicht im eigenen Haus trifft

Die Verordnung kennt zwei Rollen mit unterschiedlichen Pflichten. Anbieter ist, wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt. Betreiber ist, wer ein System unter eigener Verantwortung einsetzt, außerhalb rein persönlicher Tätigkeit.

Für einen zugekauften Chatbot heißt das: Absatz 1 adressiert den Anbieter der Software. Entlastet sind Sie damit nicht. Sie entscheiden über Einbettung, Namen und den Hinweis beim ersten Öffnen.

Daraus folgt ein Beschaffungsgrundsatz: Klären Sie vor Vertragsschluss, wie der Anbieter den Hinweis nach Absatz 1 umsetzt und ob eine Einstellung ihn abschalten kann. Ein Hinweis, den ein Schalter still entfernt, taugt später nicht als Nachweis.

Wann und wie informiert werden muss

Absatz 5 regelt Zeitpunkt und Form. Die Information ist spätestens zum Zeitpunkt der ersten Interaktion oder Exposition zu geben, klar und unterscheidbar, und sie muss den geltenden Barrierefreiheitsanforderungen entsprechen.

Spätestens zur ersten Interaktion heißt: vor der ersten Antwort, nicht in den Nutzungsbedingungen und nicht am Ende des Gesprächs. Klar und unterscheidbar heißt, dass der Hinweis sich vom übrigen Text im Fenster abhebt.

RegelWerk fragt im Profil nach einem KI-Einsatzfeld und gibt dazu die Klasse mit ihrer Folge zurück. Kundenkontakt ergibt begrenztes Risiko mit Transparenzpflichten, der Einsatz in HR ergibt Hochrisiko nach Anhang III, ein rein internes Werkzeug ergibt minimales Risiko mit Schulungspflicht nach Artikel 4. Ein Konto führt genau ein Profil, und jede Änderung überschreibt es; die Klasse steht neben der Pflichten-Roadmap desselben Profils. Ein Verzeichnis mehrerer KI-Systeme führt RegelWerk nicht. Eine Prüfung des Einzelfalls ersetzt die Einstufung nicht.

Wann aus dem Chatbot doch mehr wird

Vier Konstellationen verschieben die Einstufung, und abschließend ist die Liste nicht. Keine hängt am Wort Chatbot, sondern daran, was das System zusätzlich tut.

• Er wirkt in der Personalauswahl mit. Sobald ein System im Auswahlverfahren mitentscheidet oder vorsortiert, greift Anhang III im Bereich Beschäftigung. Wer das System nur einsetzt, trägt die Betreiberpflichten des Artikels 26: Einsatz nach Betriebsanleitung, benannte menschliche Aufsicht, geeignete Eingabedaten, Aufbewahrung der Protokolle und Information der Beschäftigten. Konformitätsbewertung, Risikomanagement und Datenqualität schuldet der Anbieter; Sie fordern die Nachweise ein. Wer den Zweck ändert oder das System unter eigenem Namen anbietet, wird nach Artikel 25 selbst zum Anbieter.
• Er entscheidet über Zugang zu Geld oder Versicherung. Bewertet der Bot die Kreditwürdigkeit natürlicher Personen oder bildet er einen Kreditscore, greift Anhang III Nummer 5 Buchstabe b; ausgenommen ist allein die Aufdeckung von Finanzbetrug. Buchstabe c erfasst Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen. Das System ist dann Hochrisiko, obwohl es im Kundenkontakt läuft.
• Er erzeugt synthetische Inhalte. Gibt er erzeugte Texte, Bilder, Audio oder Video aus, kommt die Kennzeichnungspflicht des Absatzes 2 hinzu, die den Anbieter trifft.
• Er wertet Gefühle aus. Emotionserkennung ist kein Randfall der Transparenz. Sie steht als Hochrisiko-Anwendung in Anhang III Nummer 1 Buchstabe c. Am Arbeitsplatz und in Bildungseinrichtungen ist ihr Einsatz nach Artikel 5 Absatz 1 Buchstabe f sogar verboten, erlaubt nur aus medizinischen oder Sicherheitsgründen. Wo sie zulässig bleibt, kommt die Informationspflicht des Absatzes 3 hinzu, die den Betreiber trifft.

Neben all dem steht eine Pflicht, die von der Risikoklasse unabhängig ist: die KI-Kompetenz nach Artikel 4. Sie gilt auch für die Kollegin, die nur Textbausteine erzeugen lässt. Was dafür verlangt wird, steht in der Schulungspflicht nach Artikel 4 des AI Act.

Häufige Fragen

Muss ein Chatbot offenlegen, dass er kein Mensch ist?

Ja, sofern die Interaktion mit einem KI-System nicht ohnehin offensichtlich ist. Artikel 50 Absatz 1 der Verordnung (EU) 2024/1689 verlangt, dass solche Systeme so gestaltet werden, dass die Person über die Interaktion informiert wird. Maßstab für die Offensichtlichkeit ist eine angemessen informierte, aufmerksame und verständige Person.

Ist ein Chatbot ein Hochrisiko-System nach dem AI Act?

In der Regel nicht. Ein Chatbot im Kundenkontakt gilt als begrenztes Risiko und löst Transparenzpflichten nach Artikel 50 aus, keine Konformitätsbewertung. Hochrisiko wird er erst, wenn er in einen Bereich des Anhangs III hineinreicht, etwa in die Personalauswahl.

Ab wann gelten die Transparenzpflichten für Chatbots?

Artikel 50 gilt seit dem 2. August 2026. Die Verordnung (EU) 2024/1689 gilt gestaffelt nach Artikel 113: Kapitel I und II mit der KI-Kompetenz nach Artikel 4 und den verbotenen Praktiken bereits seit dem 2. Februar 2025, die Einstufungsregel des Artikels 6 Absatz 1 erst ab dem 2. August 2027. Die Pflicht hängt an keiner Unternehmensgröße: Der AI Act fragt nach dem Einsatzfeld des Systems, nicht nach der Mitarbeiterzahl.

Gilt Artikel 50 auch, wenn wir den Chatbot nur eingekauft haben?

Ja, Artikel 50 gilt auch für einen eingekauften Chatbot; Absatz 1 richtet sich allerdings an den Anbieter, also in der Regel an den Hersteller. Als Betreiber setzen Sie das System unter eigener Verantwortung ein und entscheiden über Einbettung und Hinweis auf Ihrer Seite. Wer den Chatbot unter eigenem Namen anbietet, wird selbst zum Anbieter.

Reicht ein Hinweis in den Nutzungsbedingungen?

Nein. Artikel 50 Absatz 5 verlangt die Information spätestens zum Zeitpunkt der ersten Interaktion oder Exposition, klar und unterscheidbar und im Einklang mit den geltenden Barrierefreiheitsanforderungen. Ein Satz, den man erst nach dem Gespräch in einem verlinkten Dokument findet, genügt dem nicht.

Das Wichtigste in Kürze

Hinweis: Dieser Beitrag ersetzt keine Rechts- oder Steuerberatung. Die Einstufung ersetzt keine Prüfung im Einzelfall – wenden Sie sich dafür an fachkundige Beratung.