KI-Telefonassistent und die KI-Verordnung: Wer muss was?
Kurz zusammengefasst
Die Transparenzpflicht aus Artikel 50 Absatz 1 der KI-Verordnung trifft den Anbieter des KI-Systems, nicht den Betrieb, der es einsetzt: Der Anbieter muss das System so bauen, dass Anrufende erfahren, dass sie mit einer KI sprechen. Nach Artikel 50 Absatz 5 muss diese Information spätestens zum Zeitpunkt der ersten Interaktion erfolgen, klar und eindeutig — am Telefon also in der Begrüßung. Die Pflichten gelten seit dem 2. August 2026; für Systeme, die davor bereits in Verkehr gebracht wurden, läuft eine Übergangsfrist bis zum 2. Dezember 2026. Praktisch heißt das für Sie: Lassen Sie sich vom Anbieter zeigen, wie und wann der Hinweis im Gespräch fällt, und lassen Sie sich das schriftlich geben.
Die kurze Antwort
Wenn Sie einen KI-Telefonassistenten einsetzen, müssen Sie ihn nicht selbst kennzeichnen. Artikel 50 Absatz 1 der KI-Verordnung verpflichtet den Anbieter des Systems, es so zu konzipieren, dass Anrufende erfahren, dass sie mit einer KI sprechen. Ihre Aufgabe als Betrieb ist eine andere: sicherzustellen, dass Sie einen Anbieter einsetzen, der diese Pflicht erfüllt — und das nachweisen zu können.
seit 02.08.2026 in Kraft
Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 50; Übergangsfrist für bereits in Verkehr gebrachte Systeme bis 02.12.2026(Quelle)
Was im Gesetz steht — im Wortlaut
Artikel 50 Absatz 1 lautet: „Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.“ Das Subjekt des Satzes ist der Anbieter. Absatz 5 regelt das Wann und Wie: Die Information wird „spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise“ bereitgestellt. Für ein Telefonat bedeutet das: in der Begrüßung, nicht in den AGB und nicht auf der Website.
Anbieter oder Betreiber — warum die Unterscheidung zählt
Die KI-Verordnung unterscheidet konsequent zwischen dem Anbieter, der ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt, und dem Betreiber, der es in eigener Verantwortung einsetzt. Die Transparenzpflicht für die Mensch-Maschine-Interaktion aus Absatz 1 liegt beim Anbieter. Betreiberpflichten stehen an anderer Stelle in Artikel 50, nämlich in den Absätzen 3 und 4 für Emotionserkennung, biometrische Kategorisierung und Deepfakes. Ein Telefonassistent, der Termine entgegennimmt, fällt typischerweise nicht darunter.
- Anbieter: entwickelt das System und bringt es unter eigenem Namen auf den Markt — trägt die Pflicht aus Artikel 50 Absatz 1
- Betreiber: setzt das System im eigenen Betrieb ein — trägt die Pflichten aus Artikel 50 Absatz 3 und 4, soweit einschlägig
- Wichtig: Wer ein fremdes KI-System unter eigenem Namen oder eigener Marke anbietet, wird nach Artikel 25 selbst zum Anbieter — mit allen Pflichten. Das ist der Grund, aus dem seriöse Anbieter beim Partnermodell auf White-Label verzichten.
Was Sie konkret tun sollten
Der Aufwand ist überschaubar, aber er ist nicht null. Drei Dinge sollten Sie vor oder kurz nach dem Go-live erledigen und dokumentieren — nicht, weil eine Behörde morgen klingelt, sondern weil Sie sonst im Zweifel nichts vorlegen können.
- Lassen Sie sich vom Anbieter schriftlich bestätigen, dass und wie der KI-Hinweis erfolgt, und hören Sie sich eine echte Aufnahme der Begrüßung an.
- Halten Sie fest, welches System Sie ab wann einsetzen. Das ist die Grundlage jeder späteren Nachfrage und in fünf Minuten notiert.
- Prüfen Sie, ob Ihr System vor dem 2. August 2026 in Verkehr gebracht wurde. Dann greift die Übergangsfrist bis zum 2. Dezember 2026 — danach nicht mehr.
- Klären Sie separat den Datenschutz: Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO, und bei Praxen und Kanzleien zusätzlich die Verpflichtung auf das Berufsgeheimnis nach § 203 StGB. Das sind eigene Themen, die die KI-Verordnung nicht miterledigt.
Was ein guter Hinweis am Telefon leistet — und was nicht
In der Praxis gibt es zwei schlechte Extreme. Das eine ist der versteckte Hinweis, der so schnell und beiläufig kommt, dass niemand ihn mitbekommt; das erfüllt „klar und eindeutig“ nicht. Das andere ist der juristische Vorspann, der Anrufende erst einmal dreißig Sekunden über Rechtsgrundlagen belehrt und dafür sorgt, dass die Hälfte auflegt. Dazwischen liegt ein Satz in der Begrüßung, der die Sache benennt und dann weitergeht.
| Variante | Erfüllt Art. 50 Abs. 1 | Wirkung auf Anrufende |
|---|---|---|
| Kein Hinweis | Nein | Verärgerung, sobald es auffällt |
| Hinweis nur in den AGB oder auf der Website | Nein — die Information muss im Gespräch fallen | Kommt beim Anrufenden nicht an |
| Hinweis in der Begrüßung, ein Satz | Ja | Wird in der Regel kommentarlos akzeptiert |
| Langer rechtlicher Vorspann | Ja, aber | Abbrüche, bevor das Anliegen genannt wird |
Wie Vokaro das umsetzt
Vokaro weist zu Beginn jedes Gesprächs darauf hin, dass ein KI-Assistent spricht. Der Hinweis steht in der Begrüßung, nicht am Ende und nicht im Kleingedruckten. Wer lieber mit einem Menschen sprechen möchte, wird auf Wunsch weitergeleitet oder zurückgerufen. Wir bleiben gegenüber Ihren Anrufenden der Anbieter des KI-Systems und tragen die Pflichten aus Artikel 50 Absatz 1; eine Vermarktung unter fremdem Namen bieten wir bewusst nicht an, weil unsere Partner damit nach Artikel 25 selbst zu Anbietern würden.
Kein Rechtsrat
Dieser Beitrag ordnet die Rechtslage für den Regelfall ein und ersetzt keine Rechtsberatung. Ob in Ihrem Fall zusätzliche Pflichten bestehen, hängt davon ab, was Ihr System konkret tut — etwa ob es Emotionen auswertet oder biometrisch kategorisiert. Im Zweifel klären Sie das mit einer Anwältin oder einem Anwalt für IT-Recht. Der Verordnungstext selbst ist frei zugänglich und kürzer, als man denkt.
Häufig gestellte Fragen
Muss ich meinen KI-Telefonassistenten selbst kennzeichnen?
Nein. Die Pflicht aus Artikel 50 Absatz 1 der KI-Verordnung trifft den Anbieter des KI-Systems: Er muss es so konzipieren, dass Anrufende erfahren, dass sie mit einer KI sprechen. Ihre Aufgabe als Betrieb ist, einen Anbieter einzusetzen, der das tut, und sich das schriftlich bestätigen zu lassen.
Seit wann gelten die Transparenzpflichten?
Seit dem 2. August 2026. Für KI-Systeme, die vor diesem Datum bereits in Verkehr gebracht wurden, gilt eine Übergangsfrist bis zum 2. Dezember 2026.
Wann genau muss der Hinweis im Gespräch kommen?
Nach Artikel 50 Absatz 5 spätestens zum Zeitpunkt der ersten Interaktion, in klarer und eindeutiger Weise. Bei einem Telefonat ist das die Begrüßung. Ein Hinweis in den AGB oder auf der Website genügt dafür nicht, weil er die anrufende Person im Gespräch nicht erreicht.
Was passiert, wenn ich nichts tue?
Die Pflicht aus Absatz 1 liegt beim Anbieter, das Risiko einer Beanstandung trägt also zunächst er. Für Sie bleibt das praktische Problem: Sie können nicht belegen, dass Ihr eingesetztes System die Anforderung erfüllt. Eine kurze schriftliche Bestätigung des Anbieters und eine Notiz, ab wann Sie welches System einsetzen, lösen das mit sehr wenig Aufwand.
Deckt die KI-Verordnung auch den Datenschutz ab?
Nein, das sind getrennte Regelwerke. Die KI-Verordnung regelt Transparenz und Risiko von KI-Systemen, die DSGVO regelt die Verarbeitung personenbezogener Daten. Für einen Telefonassistenten brauchen Sie zusätzlich einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO, und in Praxen und Kanzleien eine Verpflichtung des Dienstleisters auf das Berufsgeheimnis nach § 203 StGB.
Gilt das auch für kleine Betriebe?
Ja. Die Transparenzpflicht aus Artikel 50 kennt keine Ausnahme für kleine Unternehmen. Sie ist allerdings auch keine große Sache: Sie besteht im Kern aus einem Satz in der Begrüßung, und den liefert der Anbieter.