EU AI Act für KI-Telefonassistenten: Was Unternehmen 2026 wirklich tun müssen

Stand 12. August 2026: Die alte AI-Act-Zeitleiste ist überholt

Viele Übersichten nennen weiterhin den 2. August 2026 als einheitlichen Startpunkt fast aller AI-Act-Regeln. Das ist inzwischen zu grob. Die Verordnung (EU) 2026/1744, der Digital Omnibus on AI, trat am 27. Juli 2026 in Kraft und änderte unter anderem Artikel 4, Teile der Hochrisiko-Regeln und deren Anwendungsdaten.

Die Fristverschiebung ist kein Grund, die Klassifizierung aufzuschieben. Wer heute einen Voice Agent einführt, muss wissen, ob er einen gewöhnlichen Assistenzprozess oder einen künftigen Hochrisiko-Einsatz baut. Architektur, Protokollierung und Verträge lassen sich später nicht immer ohne Weiteres nachrüsten.

Ist ein KI-Telefonassistent ein Hochrisiko-KI-System?

Die richtige Antwort lautet: nicht wegen des Kanals Telefon, sondern möglicherweise wegen seiner Funktion. Der AI Act ordnet kein Produkt mit dem Etikett „Voicebot“ pauschal einer Risikoklasse zu. Maßgeblich sind vorgesehener Zweck, konkrete Verwendung und die in Artikel 6 sowie den Anhängen genannten Bereiche.

Der gleiche technische Telefonassistent kann je nach Konfiguration unterschiedlich einzuordnen sein. „Fragt nach gewünschtem Interviewtermin“ und „bewertet Stimme, Wortwahl und Eignung“ sind keine Varianten desselben Risikos. Die Klassifizierung muss den tatsächlichen Workflow beschreiben.

Drei Fragen für die Ersteinstufung

1. Welche Wirkung hat das Ergebnis? Organisiert es einen Prozess oder beeinflusst es eine Entscheidung über eine Person?
2. In welchem Bereich? Beschäftigung, Bildung, wesentliche Dienste, Strafverfolgung, Migration oder ein reguliertes Produkt benötigen besondere Aufmerksamkeit.
3. Wie autonom ist die Wirkung? Erstellt die KI nur eine Notiz oder führt ihr Output unmittelbar zu Auswahl, Ablehnung, Priorisierung oder Leistungszugang?

Ist das Unternehmen Anbieter oder Betreiber?

Der AI Act nennt das nutzende Unternehmen in der deutschen Fassung „Betreiber“. Wer ein bereitgestelltes System unter eigener Verantwortung einsetzt, ist typischerweise Betreiber. Der technische Hersteller oder das Unternehmen, das ein System unter eigenem Namen auf den Markt bringt, ist Anbieter.

Die Rollen im AI Act sind nicht identisch mit Verantwortlichem und Auftragsverarbeiter nach DSGVO. Ein Unternehmen kann AI-Act-Betreiber und zugleich datenschutzrechtlich Verantwortlicher sein; der Plattformanbieter kann AI-Act-Anbieter und für bestimmte Kundendaten DSGVO-Auftragsverarbeiter sein.

Was muss ein gewöhnlicher KI-Telefonassistent 2026 praktisch erfüllen?

1. Direkte KI-Interaktion transparent machen

Artikel 50 gilt seit 2. August 2026. Bei direkter Interaktion müssen natürliche Personen darüber informiert werden, dass sie mit einem KI-System sprechen, sofern dies aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person nicht offensichtlich ist.

Der belastbare Weg ist ein Hinweis zu Gesprächsbeginn: „Guten Tag, ich bin der KI-Telefonassistent der Muster GmbH.“ Der Hinweis sollte hörbar, verständlich und nicht erst nach Datenerhebung oder mehreren Dialogschritten erfolgen. Für Formulierungsvarianten und Sonderfälle gibt es den vertiefenden Beitrag zur Kennzeichnungspflicht nach Artikel 50.

2. Verbotene Praktiken ausschließen

Der Telefonassistent darf keine absichtlich manipulativen oder täuschenden Techniken einsetzen, die die informierte Entscheidung erheblich beeinträchtigen und erheblichen Schaden verursachen oder wahrscheinlich verursachen. Sensible Funktionen wie Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen benötigen eine gesonderte Prüfung und sind in den genannten Kontexten grundsätzlich verboten, soweit keine enge Ausnahme greift.

3. KI-Kompetenz im Betrieb unterstützen

Das Team muss verstehen, wofür das System freigegeben ist, welche Grenzen bestehen, wann eine menschliche Übergabe nötig ist und wie Vorfälle gemeldet werden. Seit dem Omnibus muss kein bestimmtes Kompetenzniveau jeder einzelnen Person garantiert werden; Maßnahmen zur Entwicklung der KI-Kompetenz bleiben jedoch Pflicht.

4. Zweckänderungen kontrollieren

Ein freigegebener Assistent für Terminorganisation darf nicht stillschweigend um Bewerberbewertung, Bonitätssignale oder medizinische Triage erweitert werden. Jede wesentliche neue Funktion braucht vor Aktivierung eine erneute Rollen- und Risikoeinstufung.

5. AI Act nicht mit anderen Freigaben verwechseln

Der KI-Hinweis ist keine Einwilligung in Aufzeichnung, kein Telefonwerbe-Opt-in und keine DSGVO-Rechtsgrundlage. Für Datenschutz ist der DSGVO-Leitfaden für KI-Telefonassistenten relevant; für werbliche Outbound-Anrufe die Einordnung zur Legalität von KI-Kaltakquise.

KI-Kompetenz nach Artikel 4: Was die Juli-Änderung tatsächlich bedeutet

Der ursprüngliche Artikel 4 verlangte Maßnahmen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Die seit 27. Juli 2026 geltende Fassung verlangt Maßnahmen, die Entwicklung von KI-Kompetenz zu unterstützen. Sie stellt klar, dass Anbieter und Betreiber kein bestimmtes Niveau jeder einzelnen Person garantieren müssen.

„Keine Prüfungspflicht für jeden Mitarbeiter“ bedeutet nicht „keine Maßnahme“. Sinnvoll ist ein rollenbasiertes Modell:

Die Maßnahme sollte zum Kontext passen. Wer nur Öffnungszeiten ausgibt, braucht kein mehrtägiges Zertifikatsprogramm. Wer Gesundheitsdaten verarbeitet oder Entscheidungen vorbereitet, benötigt tiefere Kompetenz, strengere Tests und klarere Aufsicht.

Wenn der Telefonassistent Teil eines Hochrisiko-Prozesses wird

Für Hochrisiko-Systeme enthält Kapitel III detaillierte Anforderungen. Nach dem Omnibus gelten die einschlägigen Abschnitte für Anhang-III-Systeme ab 2. Dezember 2027 und für Anhang-I-Systeme ab 2. August 2028. Unternehmen sollten trotzdem heute die spätere Betriebsfähigkeit vorbereiten.

Typische Betreiberaufgaben

• System nach Gebrauchsanweisung einsetzen und technische beziehungsweise organisatorische Maßnahmen umsetzen,
• menschliche Aufsicht einer ausreichend befähigten und ausgestatteten Person zuweisen,
• relevante und ausreichend repräsentative Eingabedaten sicherstellen, soweit diese kontrolliert werden,
• Betrieb überwachen und auf Risiken oder schwerwiegende Vorfälle reagieren,
• Protokolle im eigenen Einflussbereich aufbewahren,
• je nach Einsatz Beschäftigte, betroffene Personen oder Vertretungen informieren,
• bei bestimmten öffentlichen oder öffentlichen Dienstleistungen eine Grundrechte-Folgenabschätzung durchführen.

Eine menschliche Aufsicht ist nur wirksam, wenn die Person das System stoppen, Output verwerfen und eine echte Alternative anbieten kann. Ein Mensch, der jede KI-Empfehlung ungeprüft bestätigt, ist kein belastbarer Kontrollmechanismus.

Keine Hochrisiko-Pflicht ohne Hochrisiko-Einstufung – aber sinnvolle Technik bleibt sinnvoll

Audit-Logs, klare Freigabegrenzen, reproduzierbare Tests und menschliche Eskalation sind auch für gewöhnliche Telefonassistenten gute Praxis. Man sollte sie jedoch nicht fälschlich als gesetzliche Hochrisiko-Pflicht ausgeben, wenn der Einsatz nicht hochriskant ist. Präzise Kommunikation schafft mehr Vertrauen als das pauschale Siegel „AI-Act-konform“.

Das minimale AI-Act-Inventar für Telefon-KI

Eine einzige Zeile „Chatbot im Kundenservice“ ist zu wenig. Pro produktivem Ablauf sollten mindestens diese Felder geführt werden:

20 Go-live-Prüfungen für Unternehmen

1. Der vorgesehene Zweck ist in einem Satz eindeutig beschrieben.
2. Ausgeschlossene Zwecke sind ebenso dokumentiert.
3. Die Risikoeinstufung bezieht sich auf Funktion statt Produktname.
4. Anhang I und Anhang III wurden für den konkreten Einsatz geprüft.
5. Anbieter- und Betreiberrolle sind schriftlich zugeordnet.
6. Rebranding, Eigenentwicklung und wesentliche Änderungen wurden bewertet.
7. Der KI-Hinweis ertönt vor der eigentlichen Interaktion.
8. Der Hinweis ist auch bei Rückrufen und Weiterleitungen korrekt.
9. Audioaufzeichnung, Datenschutzinformation und Werbeeinwilligung werden getrennt behandelt.
10. Verbotene manipulative oder täuschende Praktiken sind ausgeschlossen.
11. Emotionserkennung und biometrische Funktionen sind nicht unbemerkt aktiviert.
12. Für jede Rolle existiert eine angemessene KI-Kompetenzmaßnahme.
13. Beschäftigte kennen Fehler-, Eskalations- und Abschaltweg.
14. Neue Funktionen lösen vor Aktivierung eine Neueinstufung aus.
15. Der Anbieter informiert über Fähigkeiten und Grenzen.
16. Kritische Outputs werden nicht blind übernommen.
17. Tests decken Dialekte, Missverständnisse, Manipulation und Systemausfall ab.
18. Vorfälle und Beschwerden erreichen einen benannten Owner.
19. Inventar, Version, Freigabe und Änderungen sind nachvollziehbar.
20. Ein Review-Termin ist fest eingeplant, statt nur beim Go-live zu prüfen.

Fazit: Erst den Zweck klassifizieren, dann Pflichten umsetzen

Der AI Act macht einen gewöhnlichen Telefonassistenten nicht automatisch zum Hochrisiko-System. Unternehmen sollten aber ebenso wenig annehmen, ein Kundenservice-Etikett löse jede Prüfung. Sobald Telefon-KI Menschen bewertet, sensible Entscheidungen vorbereitet oder in regulierte Sicherheitsfunktionen hineinwächst, ändert sich die Lage.

Ein belastbarer Betrieb beginnt mit einem klaren Zweck, eindeutigen Rollen, sichtbarer KI-Transparenz, rollenbezogener Kompetenz und einer Änderungskontrolle. So bleibt der Assistent auch dann beherrschbar, wenn neue Funktionen, Integrationen oder gesetzliche Detailvorgaben hinzukommen.