Chatbot-Pflichten nach AI Act: kennzeichnen und eskalieren

Würdigung — der AI Act trifft auch kleine Bots#

Der AI Act (EU-Verordnung 2024/1689) wird oft mit „Hochrisiko-KI" assoziiert — Gesichtserkennung, Bewerber-Scoring, kritische Infrastruktur. Ein FAQ-Bot auf einer Kanzlei-Website fällt nicht in diese Hochrisiko-Kategorie. Aber er fällt unter die Transparenz-Pflichten, die für KI-Systeme gelten, die direkt mit Menschen interagieren. Diese Pflichten sind schlank, aber verbindlich — und sie werden bei der Bot-Einbindung am häufigsten vergessen.

Für eine Kanzlei ist das gut handhabbar: Es geht nicht um aufwändige Konformitäts-Verfahren, sondern um zwei klare Anforderungen, die man bei der Konzeption mitdenkt.

Die Kennzeichnungs-Pflicht#

Die zentrale Pflicht steht in Artikel 50 des AI Act: Wer ein KI-System betreibt, das mit natürlichen Personen interagiert, muss diese Personen darüber informieren, dass sie es mit einer KI zu tun haben — es sei denn, das ist aus dem Zusammenhang offensichtlich. Für einen Chatbot heißt das konkret: Der Besucher muss von Anfang an erkennen, dass er mit einem automatisierten System schreibt und nicht mit einer Mitarbeiterin der Kanzlei.

Die Umsetzung ist unspektakulär: ein klarer Hinweis beim Start des Chats („Sie schreiben mit unserem automatischen Assistenten") oder eine entsprechende Beschriftung des Bots. Wichtig ist die Ehrlichkeit — ein Bot, der so tut, als sei er ein Mensch („Hallo, ich bin Anna vom Team"), ist genau das, was die Kennzeichnungs-Pflicht verhindern will. Für eine Kanzlei, deren Wert auf Vertrauen beruht, wäre eine solche Täuschung ohnehin der falsche Ton.

Eskalation an den Menschen#

Die zweite Anforderung folgt teils aus dem Recht, teils aus seriöser Gestaltung: Ein Bot muss an einen Menschen übergeben können. Ein automatischer Assistent stößt an Grenzen — bei komplexen Anliegen, bei Unzufriedenheit, bei allem, was über die hinterlegten Inhalte hinausgeht. An dieser Stelle darf der Besucher nicht in einer Endlosschleife festhängen, sondern muss einen klaren Weg zum Menschen finden: eine Telefonnummer, ein Kontaktformular, die Möglichkeit, eine Nachricht zu hinterlassen.

Das verbindet sich mit der § 203-Grenze: Sobald ein Anliegen vertraulich oder individuell wird, ist die Übergabe an den Menschen nicht nur Service, sondern die richtige Grenze des Bots. Ein gut gebauter Bot erkennt das und lenkt aktiv um, statt eine Beratung zu simulieren, die er nicht leisten darf.

Was das praktisch heißt#

Für die Umsetzung auf einer Kanzlei-Website ergeben sich vier konkrete Punkte:

• Klarer KI-Hinweis beim Start des Dialogs — knapp, sichtbar, ehrlich.
• Sichtbarer Weg zum Menschen — eine Übergabe-Option, die jederzeit erreichbar ist.
• Klare Grenze — der Bot lenkt vertrauliche oder individuelle Anliegen ins persönliche Gespräch, statt sie zu beantworten.
• Datensparsames Logging mit Hinweis, keine vertraulichen Details einzugeben — wie bei jedem KI-gestützten Kanal.

Diese vier Punkte sind kein Aufwand-Monster; sie sind Teil einer sauberen Bot-Konzeption von Anfang an. Schwierig wird es nur, wenn man sie nachträglich an einen bereits laufenden Bot anflanschen muss.

Wie wir Bots bauen#

In unserer KI-Werkstatt sind Kennzeichnung und Eskalation Teil des Standard-Aufbaus, nicht eine nachträgliche Ergänzung: Jeder Bot weist sich als automatischer Assistent aus, bietet jederzeit den Weg zum Menschen und ist über RAG so eingegrenzt, dass er bei allem Konkreten ins Gespräch verweist. So erfüllt der Bot die AI-Act-Transparenz, ohne dass es sich für den Besucher nach Bürokratie anfühlt — es wirkt einfach ehrlich.

Für eine strukturierte Einordnung der KI- und Bot-Pflichten empfehlen wir den Hebel-Audit (890 €, bei Mandanten-Boost-Beauftragung innerhalb von 60 Tagen voll anrechenbar).

Zusammenfassung#

Ein Kanzlei-Chatbot ist keine Hochrisiko-KI, fällt aber unter die Transparenz-Pflichten des AI Act. Zwei Anforderungen zählen: Der Besucher muss erkennen, dass er mit einer KI spricht (Kennzeichnung nach Art. 50 — kein Bot, der sich als Mensch ausgibt), und der Bot muss jederzeit an einen Menschen übergeben können. Beides verbindet sich mit der § 203-Grenze: Vertrauliches und Individuelles gehört ins persönliche Gespräch, nicht in den Bot. Praktisch heißt das: klarer KI-Hinweis, sichtbarer Weg zum Menschen, klare Grenze, datensparsames Logging. Mitgedacht von Anfang an, ist das kein Aufwand — nur Ehrlichkeit.

Quellen#

• KI-Verordnung (EU) 2024/1689 — AI Act (insb. Art. 50 Transparenzpflichten) — abgerufen 2026-05-29
• StGB § 203 — Verletzung von Privatgeheimnissen — abgerufen 2026-05-29
• DSGVO Art. 13 — Informationspflichten (VO EU 2016/679) — abgerufen 2026-05-29

Disclaimer: Allgemeine fachliche Information zum Zeitpunkt der Veröffentlichung — keine Rechtsberatung im Einzelfall. Der AI Act tritt schrittweise in Kraft; die konkrete Pflichtenlage eines Bots gehört in die anwaltliche Prüfung.