Kurzantwort: Seit dem 2. August 2026 gelten die Transparenzpflichten des Artikels 50 EU AI Act. Bei KI-Systemen, die direkt mit natürlichen Personen interagieren, müssen die Betroffenen grundsätzlich darüber informiert werden, dass sie mit einem KI-System interagieren – außer dies ist unter den konkreten Umständen ohnehin offensichtlich. Bei einem KI-Telefonassistenten sollte der Hinweis deshalb normalerweise unmittelbar in der ersten Begrüßung stehen.
Die praktische Leitfrage lautet damit nicht mehr, ob Transparenz sinnvoll wäre, sondern: Wie muss sich eine Telefon-KI zu erkennen geben, ohne dass aus einer natürlichen Begrüßung ein juristischer Disclaimer wird? Eine gesetzlich vorgegebene Standardformel gibt es nicht. Es geht um eine klare, rechtzeitige und tatsächlich wahrnehmbare Information.
Was verlangt Artikel 50 des EU AI Act?
Artikel 50 Absatz 1 verpflichtet Anbieter von KI-Systemen, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind, das System so zu gestalten und zu entwickeln, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Gemeint ist eine echte unmittelbare Mensch-KI-Interaktion – beispielsweise ein wechselseitiges Telefonat – und nicht nur ein im Hintergrund arbeitendes System.
Eine Ausnahme besteht, wenn die KI-Eigenschaft aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person unter Berücksichtigung der Umstände und des Nutzungskontexts offensichtlich ist. Diese Ausnahme sollte eng und nicht allein aus der internen Sicht des Unternehmens beurteilt werden. Gerade eine natürliche Stimme macht den KI-Einsatz häufig weniger offensichtlich.
Absatz 5 ergänzt die Art und den Zeitpunkt: Die Information muss klar und unterscheidbar und spätestens bei der ersten Interaktion oder Exposition erteilt werden. Außerdem gelten die einschlägigen Anforderungen an Barrierefreiheit.
Wichtig zur Rollenverteilung: Absatz 1 formuliert eine Design- und Entwicklungspflicht für den Anbieter des KI-Systems. Das einsetzende Unternehmen muss trotzdem prüfen, ob der konkrete Gesprächsablauf den Hinweis tatsächlich ausgibt. Je nach technischer und vertraglicher Ausgestaltung kann es außerdem selbst Anbieter im Sinne der Verordnung sein. Rollen und Verantwortlichkeiten sollten deshalb dokumentiert werden.
Muss ein KI-Telefonassistent sagen, dass er eine KI ist?
Grundsätzlich ja, sofern die KI-Eigenschaft für die angerufene oder anrufende Person nicht ohnehin offensichtlich ist. Bei modernen Voice Agents ist genau das oft nicht der Fall: Natürlich klingende Stimmen reagieren frei, stellen Rückfragen und passen ihre Sprechweise an. Eine Person kann deshalb vernünftigerweise annehmen, mit einem menschlichen Mitarbeitenden verbunden zu sein.
Ein kurzer Satz genügt in vielen typischen Abläufen:
„Guten Tag, Sie sprechen mit dem KI-Assistenten von Muster GmbH. Wie kann ich Ihnen helfen?“
„Willkommen bei Muster GmbH. Ich bin der KI-Telefonassistent und unterstütze Sie bei Ihrem Anliegen.“
Diese Formulierungen sind Beispiele, keine gesetzlich vorgeschriebenen Sätze. Entscheidend ist, dass ein normaler Gesprächspartner die KI-Eigenschaft klar versteht.
Wann muss der KI-Hinweis erfolgen?
Artikel 50 Absatz 5 verlangt die Information spätestens bei der ersten Interaktion. Für Telefonie ist deshalb die erste Begrüßung der robuste praktische Ort. Der Hinweis sollte nicht erst kommen, nachdem die KI das Anliegen aufgenommen, personenbezogene Angaben abgefragt oder mehrere Gesprächswechsel geführt hat.
Ebenso wenig genügt es, die Information ausschließlich in einer Datenschutzerklärung oder auf einer Unterseite der Website abzulegen. Die Person muss den Hinweis in der konkreten Interaktion klar wahrnehmen können.
Sinnvolle Reihenfolge: Unternehmen → KI-Hinweis → Begrüßung oder Anliegen → Gespräch
Praktisch kann das in einem einzigen Satz geschehen: „Guten Tag bei Muster GmbH. Ich bin der KI-Assistent am Telefon. Wie kann ich Ihnen helfen?“
Wie klingt eine gute AI-Act-konforme Begrüßung?
Ein guter Einstieg ist eindeutig, kurz und leicht verständlich. Er benennt das Unternehmen und die KI, ohne Rechtsnormen, technische Produktbezeichnungen oder einen langen Vorbehalt vorzulesen.
| Variante | Beispiel | Einordnung |
|---|---|---|
| Kurz und eindeutig | „Guten Tag bei Muster GmbH. Ich bin der KI-Assistent am Telefon. Wie kann ich Ihnen helfen?“ | Unternehmen, KI-Eigenschaft und Gesprächsöffnung in einem natürlichen Einstieg |
| Unnötig juristisch | „Hiermit informieren wir Sie gemäß Artikel 50 der Verordnung (EU) 2024/1689, dass …“ | Formal und lang; für die klare Information ist die Nennung der Norm nicht erforderlich |
| Möglicherweise zu unklar | „Hallo, ich bin Anna, Ihre digitale Mitarbeiterin.“ | Kann wie eine Rollen- oder Markenbezeichnung wirken, ohne die KI-Eigenschaft eindeutig offenzulegen |
Begriffe wie nur „virtueller Assistent“, „digitale Mitarbeiterin“ oder ein menschlicher Vorname sind nicht automatisch rechtswidrig. Sie können aber mehrdeutig sein. Eine direkte Bezeichnung wie „KI-Assistent“ oder „KI-Telefonassistent“ lässt deutlich weniger Interpretationsspielraum.
Die Voice-Perspektive: Transparenz darf das Gespräch nicht zerstören
Die gesetzliche Offenlegung muss nicht nur sprachlich stimmen. Sie muss auch unter realen Telefonbedingungen hörbar bleiben. Aus der praktischen Voice-Perspektive weist Famulor insbesondere auf zwei Details hin, die bei der technischen Umsetzung leicht übersehen werden.
Wohin der Hinweis im Satz gehört – und warum das keine Stilfrage ist
In der Praxis scheitert die Offenlegung selten am Wortlaut, sondern an ihrer Position im Satz. Anrufende beginnen häufig bereits nach dem Firmennamen selbst zu sprechen, weil sie zu diesem Zeitpunkt erkannt haben, dass sie richtig verbunden sind.
Steht der KI-Hinweis erst hinter dem Firmennamen oder sogar in einem separaten zweiten Satz, kann die Person darüber hinwegsprechen und die Ausgabe durch Barge-in unterbrechen. Der Hinweis sollte deshalb möglichst innerhalb derselben Sprecheinheit wie die Begrüßung stehen.
Besser: „Hallo, hier ist Anna, der KI-Assistent von Muster GmbH.“
Störanfälliger: „Hallo, hier ist Anna von Muster GmbH. Ich bin ein KI-Assistent.“
Für genau diesen ersten Hinweis sollte die Unterbrechungserkennung so konfiguriert und getestet werden, dass er nicht unmittelbar abgeschnitten wird. Artikel 50 schreibt keine bestimmte Barge-in-Konfiguration vor. Es handelt sich um eine praktische Maßnahme, damit die vorgeschriebene Information den Gesprächspartner tatsächlich erreicht.
Der Hinweis muss jeden Einstieg überleben
Nicht jedes Gespräch beginnt über die klassische Hauptbegrüßung. Relevante Einstiegspunkte sind beispielsweise:
- ein Rückruf aus einer Warteschlange
- eine Weiterleitung aus einem Telefonmenü
- die Übergabe eines Gesprächs von einem Mitarbeitenden an den KI-Assistenten
- alternative Inbound-Routen für bestimmte Standorte oder Zeiten
- unterschiedliche Outbound-Abläufe und Kampagnen
Die Offenlegung sollte an jedem Einstiegspunkt vorhanden sein, an dem eine Person erstmals mit dem KI-System interagiert. Das bedeutet nicht, dass jede denkbare Weiterleitung zwingend eine vollständig neue Offenlegung auslösen muss. Entscheidend ist, ob die konkrete Person bereits klar und verständlich informiert wurde.
Der Hinweis muss außerdem in der tatsächlich geführten Gesprächssprache verständlich sein. Spricht der Assistent mit einem niederländischsprachigen Gesprächspartner Niederländisch, sollte auch die Offenlegung in verständlichem Niederländisch erfolgen. Eine nur deutsch abgespielte Voransage erfüllt ihren Zweck in einem ansonsten niederländischen Gespräch nicht zuverlässig.
Gilt die Kennzeichnungspflicht auch für eingehende Anrufe?
Ja, auch bei Inbound-Telefonie interagiert eine natürliche Person direkt mit einem KI-System. Dass die Person selbst beim Unternehmen angerufen hat, macht den Einsatz der KI nicht automatisch offensichtlich.
„Guten Tag bei Muster GmbH. Ich bin der KI-Telefonassistent. Wie kann ich Ihnen weiterhelfen?“
Die Formulierung kann an Marke, Branche und Tonalität angepasst werden. Sie sollte jedoch vor der eigentlichen Erfassung des Anliegens fallen und in allen aktiven Rufwegen getestet sein.
Was gilt bei KI-Outbound-Anrufen?
Auch bei einem ausgehenden KI-Anruf findet eine direkte Mensch-KI-Interaktion statt. Der Hinweis gehört deshalb ebenfalls an den Anfang und kann direkt mit Anlass und Unternehmensbezug verbunden werden.
„Guten Tag Herr Müller, hier ist der KI-Assistent von Muster GmbH. Ich rufe wegen Ihres Termins am Donnerstag an.“
Artikel 50 beantwortet allerdings nur die KI-Transparenz. Ob der konkrete Anruf überhaupt zulässig ist, richtet sich zusätzlich nach anderen Vorschriften, insbesondere nach Datenschutz- und Wettbewerbsrecht. Ein früher KI-Hinweis ersetzt weder eine erforderliche Einwilligung noch eine tragfähige datenschutzrechtliche Grundlage. Zur Zulässigkeit von Werbeanrufen lässt sich deshalb keine pauschale Aussage allein aus dem AI Act ableiten.
Reicht ein Hinweis in der Datenschutzerklärung?
Für die Transparenzpflicht in der direkten Interaktion sollte sich ein Unternehmen darauf nicht verlassen. Gesprächshinweis und Datenschutzinformation erfüllen unterschiedliche Aufgaben:
| Ebene | Zweck | Praktische Umsetzung |
|---|---|---|
| Telefonat | Erkennen lassen, dass ein KI-System spricht | Kurzer, verständlicher Hinweis in der ersten Begrüßung |
| Datenschutzinformationen | Verarbeitung personenbezogener Daten ausführlicher erläutern | Informationen etwa zu Zwecken, Rechtsgrundlagen, Empfängern, Speicherdauer und Rechten |
Beide Ebenen können nebeneinander erforderlich sein. Der eine Hinweis ersetzt den anderen nicht.
Müssen bestehende KI-Telefonassistenten seit dem 2. August 2026 angepasst werden?
Bestehende Systeme sollten geprüft und bei Bedarf angepasst werden. Die Transparenzpflichten des Artikels 50 gelten seit dem 2. August 2026. Für die Gesprächsoffenlegung nach Absatz 1 gibt es keine allgemeine Verschiebung bis Dezember.
Die durch die Digital-Omnibus-Verordnung eingeführte Viermonatsregel ist enger: Anbieter bestimmter Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und bereits vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Markierungs- und Erkennbarkeitspflicht aus Artikel 50 Absatz 2 bis zum 2. Dezember 2026 umsetzen.
Nicht verwechseln: 2. Dezember 2026 ist keine pauschale Schonfrist für den hörbaren KI-Hinweis im Telefonat. Die begrenzte Übergangsregel betrifft Absatz 2, nicht Absatz 1.
Unternehmen sollten daher alle produktiven Begrüßungen, Weiterleitungswege und Outbound-Skripte jetzt kontrollieren – unabhängig davon, wann der Assistent ursprünglich eingerichtet wurde.
Offenlegung und technische Kennzeichnung sind nicht dasselbe
Artikel 50 bündelt mehrere Transparenzpflichten. Für Telefonassistenten werden dabei zwei Ebenen leicht vermischt:
| Vorschrift | Gegenstand | Typisches Ergebnis |
|---|---|---|
| Artikel 50 Absatz 1 | Direkte Interaktion natürlicher Personen mit einem KI-System | Verständlicher Hinweis im Gespräch, dass ein KI-System interagiert |
| Artikel 50 Absatz 2 | Bestimmte synthetische oder manipulierte Audio-, Bild-, Video- und Textinhalte | Maschinenlesbare Markierung und Erkennbarkeit künstlicher Erzeugung oder Manipulation |
Ein gesprochener Satz wie „Ich bin der KI-Assistent“ ist keine maschinenlesbare Inhaltsmarkierung. Umgekehrt ersetzt eine technische Markierung im Audiostrom nicht automatisch den klar wahrnehmbaren Gesprächshinweis. Gesprächsoffenlegung und technische Kennzeichnung lösen unterschiedliche Aufgaben.
Was passiert bei Verstößen gegen Artikel 50?
Artikel 99 sieht für Verstöße gegen die Transparenzpflichten aus Artikel 50 erhebliche gesetzliche Höchstgrenzen vor. Je nach Fall können Geldbußen bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres reichen.
Das bedeutet nicht, dass ein fehlender KI-Satz automatisch eine Geldbuße von 15 Millionen Euro auslöst. Ob und in welcher Höhe sanktioniert wird, hängt von den Umständen des Einzelfalls ab. Die Verordnung nennt unter anderem Art, Schwere und Dauer des Verstoßes sowie Verhältnismäßigkeit. Für KMU einschließlich Start-ups gelten besondere Obergrenzenregeln; ihre Interessen und wirtschaftliche Tragfähigkeit sind zu berücksichtigen.
Muss ein KI-Telefonassistent deshalb unnatürlicher klingen?
Nein. Transparenz und natürliche Gesprächsführung schließen sich nicht aus. Der Offenlegungssatz dauert wenige Sekunden. Danach zählen weiterhin die eigentlichen Qualitätsmerkmale:
- Anliegen richtig verstehen und einordnen
- gezielte Rückfragen stellen
- freigegebene Informationen bereitstellen
- Kontaktdaten korrekt aufnehmen
- Termine vereinbaren oder vorbereiten
- an die richtige Stelle weiterleiten
- Nachrichten und Rückrufgründe vollständig aufnehmen
- strukturierte Zusammenfassungen erstellen
Die entscheidende Frage des Anrufers sollte langfristig weniger „Ist das ein Mensch?“ sein, sondern: „Kann mir das System schnell und zuverlässig helfen?“ Der transparente Einstieg schafft dafür einen ehrlichen Rahmen.
Was Unternehmen jetzt prüfen sollten
- Wird bereits beim ersten relevanten Gesprächseinstieg deutlich gemacht, dass eine KI eingesetzt wird?
- Ist die Formulierung für normale Anrufende eindeutig verständlich?
- Funktioniert der Hinweis in Inbound- und Outbound-Szenarien?
- Ist er auch in alternativen Einstiegspfaden wie Rückruf, Telefonmenü und Übergabe vorhanden?
- Wird er in der tatsächlich verwendeten Gesprächssprache ausgegeben?
- Kann der Transparenzhinweis technisch durch sofortiges Barge-in abgeschnitten werden?
- Bleibt der Einstieg trotzdem kurz und natürlich?
- Sind Datenschutz und gegebenenfalls weitere rechtliche Anforderungen separat berücksichtigt?
- Ist dokumentiert, welche Gesprächskonfiguration aktuell produktiv eingesetzt wird?
Die Prüfung sollte als echter Anruf über jede produktive Route erfolgen. Eine korrekte Formulierung im Konfigurationsfeld hilft nicht, wenn ein vorgeschaltetes Menü, eine Weiterleitung oder die Unterbrechungslogik sie in der Praxis umgeht.
Wie Teloro die Transparenz in den Gesprächsablauf integriert
Bei einem KI-Telefonassistenten mit Teloro kann die Offenlegung direkt in Begrüßung und Gesprächslogik eingebaut werden. Sie muss kein langer vorgeschalteter Disclaimer sein, sondern kann als normaler Teil des Gesprächseinstiegs konfiguriert werden.
Bei einer Terminbuchung mit Kalenderintegration sollte der KI-Hinweis beispielsweise vor der Abfrage von Terminwunsch und Kontaktdaten stehen. Danach braucht es dieselbe Sorgfalt bei verbindlichen Aussagen: Der Leitfaden zu falschen Antworten und ungewollten Zusagen zeigt, wie Antworten, Grenzen und Systemaktionen getrennt abgesichert werden.
Für eine Einführung sollten Unternehmen Begrüßung, Sprache, alternative Rufwege, Barge-in und menschliche Übergabe gemeinsam abnehmen. Der Grundlagenbeitrag zum KI-Telefonassistenten im Unternehmen ordnet Pilot, Verantwortlichkeiten und laufende Qualitätskontrolle ein.
Häufige Fragen zur Kennzeichnung von KI-Telefonassistenten
Müssen KI-Telefonassistenten seit August 2026 gekennzeichnet werden?
Grundsätzlich ja. Seit 2. August 2026 müssen natürliche Personen bei einer direkten Interaktion darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies unter den Umständen nicht ohnehin offensichtlich ist.
Wann muss ein KI-Telefonassistent auf die KI hinweisen?
Die Information muss klar und unterscheidbar spätestens bei der ersten Interaktion erfolgen. Für Telefongespräche ist der sicherste praktische Ort die erste Begrüßung, bevor das Anliegen aufgenommen wird.
Muss der Satz „Sie sprechen mit einer KI“ verwendet werden?
Nein. Artikel 50 schreibt keinen Standardsatz vor. Die Formulierung kann kurz und natürlich sein, muss aber für eine normal informierte und aufmerksame Person eindeutig erkennen lassen, dass ein KI-System spricht.
Gilt Artikel 50 auch für Voice Agents?
Ja, wenn der Voice Agent ein KI-System ist, das direkt und wechselseitig mit natürlichen Personen interagiert. Die Regel ist nicht auf Text-Chatbots beschränkt.
Gilt die Regel für Inbound und Outbound?
Grundsätzlich ja. In beiden Fällen findet eine direkte Mensch-KI-Interaktion statt. Bei Outbound-Anrufen können zusätzlich Datenschutz- und Wettbewerbsrecht relevant sein; Artikel 50 ersetzt diese Anforderungen nicht.
Reicht ein Hinweis auf der Website oder in der Datenschutzerklärung?
Darauf sollte man sich für die konkrete Interaktion nicht verlassen. Der KI-Hinweis gehört in den Gesprächseinstieg. Datenschutzinformationen erfüllen eine andere Funktion und können die Datenverarbeitung ausführlicher erläutern.
Gibt es für kleine Unternehmen eine Ausnahme?
Artikel 50 Absatz 1 enthält keine allgemeine Ausnahme für kleine Unternehmen. Bei Sanktionen gelten jedoch besondere Regeln und Verhältnismäßigkeitsgrundsätze für kleine und mittlere Unternehmen.
Seit wann gilt Artikel 50 des EU AI Act?
Artikel 50 gilt seit 2. August 2026. Die begrenzte Übergangsfrist bis 2. Dezember 2026 betrifft bei bestimmten bereits zuvor in Verkehr gebrachten Systemen nur die maschinenlesbare Kennzeichnung nach Absatz 2, nicht die Gesprächsoffenlegung nach Absatz 1.
Muss sich ein KI-Telefonassistent bei jeder Weiterleitung erneut als KI vorstellen?
Nicht pauschal bei jeder Weiterleitung. Entscheidend ist, ob die Weiterleitung für den konkreten Gesprächspartner die erste Interaktion mit dem KI-System darstellt oder ob die Person bereits klar und verständlich informiert wurde.
Fazit: Transparenz passt in einen natürlichen Satz
Seit dem 2. August 2026 ist Transparenz bei der direkten Interaktion mit KI-Systemen keine optionale Designentscheidung mehr. Bei einem KI-Telefonassistenten lässt sich die Offenlegung dennoch in einen kurzen und natürlichen Gesprächseinstieg integrieren:
„Guten Tag bei Muster GmbH. Ich bin der KI-Assistent am Telefon. Wie kann ich Ihnen helfen?“
Danach zählt, wie zuverlässig das System das Anliegen versteht, die richtigen Schritte ausführt und bei Grenzen sinnvoll weiterhilft.
Stand: 9. August 2026
Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar.