KI-Chatbot: Pflichten und Grenzen

Hinweis vorab: Dieser Artikel ist keine Rechtsberatung. Ich bin Webentwickler und kein Jurist. Ich beschreibe, was im Gesetzestext steht und was das für die technische Umsetzung eines Chatbots bedeutet. Ob eine konkrete Lösung bei Ihnen zulässig ist, prüft eine Fachperson für IT-Recht.

Rechtsstand: 10. November 2026

Der Text beruht auf dem Amtsblatt-Wortlaut der Verordnung (EU) 2024/1689 (KI-Verordnung) und der Änderungsverordnung (EU) 2026/1744 vom 8. Juli 2026, abgerufen auf EUR-Lex am 10. November 2026. Die Änderungsverordnung ist in Kraft. Die Fristen der KI-Verordnung wurden damit zuletzt geändert, und weitere Änderungen sind nicht ausgeschlossen. Prüfen Sie deshalb vor einem Projektstart, ob dieser Stand noch aktuell ist.

Seit wann gilt Art. 50?

Die Transparenzpflichten aus Art. 50 gelten nach Art. 113 seit dem 2. August 2026. Einzelne andere Teile der Verordnung gelten später. Für Art. 50 enthält die Änderungsverordnung nur eine Übergangsfrist, dazu unten mehr.

Anbieter oder Betreiber: zwei Rollen, zwei Pflichtenkreise

Art. 50 unterscheidet zwei Rollen.

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3).
• Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer bei persönlicher, nicht beruflicher Tätigkeit (Art. 3 Nr. 4).

Welche Rolle auf Sie zutrifft, hängt vom Einzelfall ab. Wer einen fertigen Chatbot eines Dienstleisters einsetzt, ist häufig nur Betreiber. Wer einen Chatbot entwickeln lässt oder auf einem fremden Modell selbst baut und ihn unter eigenem Namen in Betrieb nimmt, kann nach Art. 3 Nr. 3 selbst Anbieter sein, zusätzlich zur Betreiberrolle. Das lässt sich nicht pauschal beantworten. Es hängt davon ab, wer das System entwickelt, unter wessen Namen es läuft und wer es verantwortet. Bei Projekten mit mehreren Beteiligten lohnt es sich, die Rollen schriftlich festzuhalten.

Die Pflicht für Chatbots: Art. 50 Abs. 1

Anbieter stellen sicher, dass KI-Systeme, die direkt mit natürlichen Personen interagieren, so gestaltet sind, dass diese Personen erfahren, dass sie mit einem KI-System sprechen. Der Wortlaut richtet sich an Anbieter. Betreiber kommen in den Absätzen 3 und 4 vor.

Eine Ausnahme gilt, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände offensichtlich ist, dass sie mit einer KI spricht. Nach der FAQ der Kommission ist die Ausnahme eng auszulegen. Wirkt der Chat wie ein Gespräch mit einem Menschen, sollten Sie sich nicht auf die Ausnahme verlassen, sondern den Fall klären.

Wann muss der Hinweis erscheinen?

Nach Art. 50 Abs. 5 muss die Information spätestens zum Zeitpunkt der ersten Interaktion klar und eindeutig bereitgestellt werden. Sie muss außerdem den geltenden Barrierefreiheitsanforderungen entsprechen.

Für die Technik heißt das: Der Hinweis gehört an den Anfang des Gesprächs, nicht in die Datenschutzerklärung und nicht hinter einen Link. Ein Satz im Chat-Widget, der vor der ersten Nachricht sichtbar ist, ist eine naheliegende Umsetzung. Aus technischer Sicht kommen dafür etwa Screenreader-Lesbarkeit und ausreichender Kontrast infrage. Welche Anforderungen im Einzelfall gelten und ob eine bestimmte Formulierung und Platzierung ausreicht, bewertet Ihre rechtliche Beratung. Ich setze sie technisch um.

Was für Betreiber noch in Art. 50 steht

Die Absätze 3 und 4 betreffen Betreiber bestimmter Systeme:

• Abs. 3: Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren die betroffenen Personen über den Betrieb.
• Abs. 4: Betreiber, die Deepfakes erzeugen, legen offen, dass die Inhalte künstlich erzeugt oder manipuliert sind. Dasselbe gilt für Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und jemand die redaktionelle Verantwortung trägt.

Ein Beratungs- oder Supportchatbot ohne diese Funktionen fällt nicht ohne Weiteres darunter. Ob Ihr System dazugehört, ist eine Einzelfallfrage.

Kennzeichnung erzeugter Inhalte: Art. 50 Abs. 2 und die Übergangsfrist

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben in einem maschinenlesbaren Format kennzeichnen (Art. 50 Abs. 2). Der Artikel nennt Ausnahmen, etwa für unterstützende Funktionen bei der Standardbearbeitung.

Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, hat die Änderungsverordnung einen neuen Art. 111 Abs. 4 eingefügt. Danach treffen diese Anbieter die nötigen Maßnahmen für Art. 50 Abs. 2 bis zum 2. Dezember 2026. Die Frist gilt nur für Abs. 2 und nur für solche Altsysteme. Für die Hinweispflicht nach Abs. 1 sieht die Änderungsverordnung keine Übergangsfrist vor. Systeme, die ab dem 2. August 2026 in Verkehr kommen, haben keine solche Frist.

Zu Abs. 2 und 4 fördert die Kommission Praxisleitfäden. Sie prüft, ob deren Befolgung angemessen ist, um die Pflichten einzuhalten (Art. 50 Abs. 7, durch die Änderungsverordnung neu gefasst). Wie sich ein konkretes System dazu verhält, ist eine Frage für die rechtliche Prüfung.

Wo dieser Artikel endet

Hier geht es nur um die Transparenzpflichten aus Art. 50. Nicht behandelt sind Datenschutz, Wettbewerbsrecht, Haftung und Branchenregeln. Auch ob ein Projekt als Hochrisiko-System gilt, klärt dieser Artikel nicht. Ein Server in der EU oder ein Hinweis im Chat ersetzt keine Prüfung. Eine Aussage der Art „Mit dieser Maßnahme ist alles geregelt“ gebe ich nicht ab.

Was ich für Sie umsetze

Ich baue KI-Chatbots in vorhandene Websites und Webanwendungen ein. Zur technischen Beratung im Projekt gehören Anbieter, Modell, Standort und Kosten. Konkret kann ich den Hinweis zur KI im Chat-Widget einbauen, ihn barrierearm gestalten und mit Ihnen klären, an welcher Stelle im Ablauf er erscheint. Die rechtliche Bewertung liefert Ihre Beratung.

Wie ein Chatbot technisch aussieht, steht auf der Seite KI-Chatbot entwickeln lassen. Einen Überblick über alle Leistungen gibt die Seite KI-Integration. Wenn der Chatbot Antworten aus Dokumenten geben soll, passt die Seite Dokumenten-KI. Eine Anleitung für die Einbindung finden Sie im Artikel KI-Chatbot auf Website einbinden.

Planen Sie einen Chatbot? Schildern Sie mir Ihr System und Ihr Vorhaben über das Kontaktformular. Ich melde mich mit einer Einschätzung zur technischen Umsetzung.

Noch einmal zur Einordnung: Dieser Artikel ist keine Rechtsberatung. Für verbindliche Aussagen zu Ihrem Chatbot empfehle ich eine rechtliche Prüfung durch eine Fachperson.