KI-Kennzeichnungspflicht: Was Art. 50 AI Act für Chat- und Voicebots verlangt
Seit dem 2. August 2026 gilt Artikel 50 der EU-KI-Verordnung. Wer mit einem Chat- oder Voicebot spricht, muss erfahren, dass er es mit einer KI zu tun hat. Hier lesen Sie, was das konkret bedeutet.
Das Wichtigste in Kürze
- Art. 50 Abs. 1 AI Act gilt seit 2.8.2026. Der „Digital Omnibus“ hat diese Pflicht nach übereinstimmenden Berichten nicht verschoben.
- Verpflichtet ist in erster Linie der Anbieter, der das System so gestalten muss, dass Nutzer die KI erkennen. Wer einen Bot selbst baut oder unter eigenem Namen anbietet, kann selbst Anbieter sein.
- Die Pflicht gilt für alle Kanäle, auch am Telefon.
- Verstöße können mit Bußgeldern von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden.
Was verlangt Art. 50 Abs. 1?
KI-Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die betroffenen Personen informiert werden, dass sie mit einer KI interagieren. Eine Ausnahme gilt nur, wenn das aus Sicht einer verständigen Person ohnehin offensichtlich ist. Bei einem Bot, der wie ein Mensch klingt oder schreibt, sollte man sich darauf nicht verlassen.
Wer ist verpflichtet?
Die Pflicht nach Abs. 1 richtet sich an den Anbieter des Systems. Das ist zunächst der Hersteller der Bot-Lösung. Ein Unternehmen, das einen Bot selbst entwickelt oder unter eigenem Namen anbietet, kann aber selbst Anbieter sein. Und auch als reiner Betreiber haben Sie ein Interesse daran, dass Ihr Bot korrekt gekennzeichnet ist, denn die Kunden erleben ihn als Ihr Angebot.
Was gilt am Telefon?
Die Pflicht ist nicht auf Website-Chats beschränkt. Ein Voicebot sollte sich zu Beginn des Gesprächs als KI zu erkennen geben, etwa: „Sie sprechen mit dem digitalen Assistenten von …“. Wichtig ist, dass er auf Nachfrage nicht behauptet, ein Mensch zu sein.
Checkliste für Ihren Bot
- Klarer KI-Hinweis beim ersten Kontakt, im Chat sichtbar, am Telefon hörbar
- Keine Formulierungen, die einen Menschen vortäuschen
- Ehrliche Antwort auf die Frage „Bin ich mit einem Menschen verbunden?“
- Hinweis in allen Sprachen, in denen der Bot antwortet
- Einheitlich in allen Kanälen: Website, App, Messenger, Telefon
- Dokumentation, dass und wie gekennzeichnet wird
Prüfen statt hoffen: Ob sich Ihr Bot korrekt zu erkennen gibt, lässt sich wie jede andere Aussage testen, auch nach Änderungen an Begrüßung, Prompt oder Modell. Amira Tune nimmt das in die laufende Prüfung auf.
Welche Bußgelder drohen?
Nach Art. 99 AI Act können Verstöße gegen die Transparenzpflichten mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gelten niedrigere Obergrenzen. Ob und wie Bußgelder gegen Behörden verhängt werden, legt jeder Mitgliedstaat selbst fest.
Was die Kennzeichnung nicht ersetzt
Der KI-Hinweis informiert, er entlastet aber nicht von der Verantwortung für die Inhalte. Nach dem Urteil des OLG Hamm werden falsche Aussagen des Bots dem Unternehmen trotzdem zugerechnet.
Häufige Fragen
Seit wann gilt die Kennzeichnungspflicht?
Art. 50 Abs. 1 AI Act gilt seit dem 2. August 2026. Eine Übergangsfrist bis 2.12.2026 betrifft nur die maschinenlesbare Kennzeichnung KI-generierter Inhalte nach Abs. 2 für ältere generative Systeme.
Gilt die Pflicht auch für Voicebots?
Ja. Die Pflicht gilt für KI-Systeme, die mit Menschen interagieren, unabhängig vom Kanal.
Reicht der KI-Hinweis, um Haftung zu vermeiden?
Nein. Er erfüllt die Transparenzpflicht, ändert aber nichts daran, dass falsche Aussagen des Bots dem Unternehmen zugerechnet werden.
Rainer Wilmers, KI-Experte und Geschäftsführer der AC Group. Die AC Group prüft seit 1995 Servicequalität im Kundenservice und betreibt die KI-Plattform Amira.