EU AI Act und KI-Telefonassistenten: Was ab August 2026 gilt – ein praktischer Compliance-Leitfaden für Unternehmen

Am 2. August 2026 endet die Übergangsfrist für zentrale Teile des EU AI Act. Ab diesem Stichtag gelten die Transparenzpflichten nach Artikel 50 verbindlich – für alle Unternehmen, die KI-Systeme einsetzen, die mit Menschen interagieren. KI-Telefonassistenten, Voicebots und KI-Anrufbeantworter fallen in genau diese Kategorie. Wer einen solchen Assistenten bereits nutzt oder dessen Einführung plant, muss wissen, welche Pflichten gelten – und wie er sie erfüllt.

Dieser Artikel ist kein juristisches Gutachten, sondern ein praktischer Leitfaden: Er erklärt, in welche Risikoklasse KI-Telefonassistenten fallen, welche konkreten Pflichten daraus folgen, was der Anbieter liefern muss und was Sie als Betreiber sicherstellen müssen – inklusive einer Sieben-Punkte-Checkliste für die Umsetzung.

Was der EU AI Act regelt – und warum KI-Telefonassistenten betroffen sind

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Er verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Grundrechte, Sicherheit oder Gesellschaft, desto strenger die Anforderungen. Die Verordnung unterscheidet vier Risikoklassen.

Risikoklasse	Beispiele	Pflichten
Unannehmbares Risiko	Social Scoring, biometrische Massenüberwachung	Verboten (seit Februar 2025)
Hochrisiko	KI in Medizin, Personalauswahl, Kreditscoring	Umfassend: Risikomanagement, Dokumentation, menschliche Aufsicht
Begrenztes Risiko	Chatbots, Voicebots, KI-Telefonassistenten	Transparenzpflichten (Artikel 50)
Minimales Risiko	Spamfilter, Empfehlungssysteme	Keine spezifischen Pflichten

KI-Telefonassistenten fallen in die Klasse „begrenztes Risiko“. Sie sind keine Hochrisiko-Systeme, weil sie keine sicherheitskritischen oder grundrechtsrelevanten Entscheidungen treffen. Aber sie interagieren direkt mit Menschen – und genau für diese Interaktion gelten die Transparenzpflichten nach Artikel 50. Diese Pflichten treten am 2. August 2026 in Kraft und gelten für alle KI-Telefonassistenten, die ab diesem Datum im Einsatz sind – auch für solche, die bereits vorher eingeführt wurden.

Was Artikel 50 konkret für KI-Telefonassistenten bedeutet

Artikel 50 des EU AI Act definiert die Transparenzpflichten für KI-Systeme, die mit natürlichen Personen interagieren. Für KI-Telefonassistenten ergeben sich daraus drei zentrale Anforderungen.

1. Kennzeichnungspflicht: Der Anrufer muss wissen, dass er mit KI spricht

Die wichtigste und unkomplizierteste Pflicht: Anrufer müssen zu Beginn des Gesprächs darüber informiert werden, dass sie mit einem KI-System interagieren – und nicht mit einem Menschen. In der Praxis bedeutet das: Der KI-Telefonassistent muss sich als solcher vorstellen. Formulierungen wie „Guten Tag, Sie sprechen mit der KI-Telefonassistenz von [Firmenname]“ oder „Ich bin der digitale Assistent von [Firmenname]“ erfüllen diese Anforderung. Entscheidend ist, dass der Hinweis zu Beginn des Gesprächs erfolgt, klar verständlich ist und nicht versteckt oder überhört werden kann.

2. Recht auf menschlichen Kontakt: Der Ausweg muss existieren

Im Zusammenspiel mit dem EU AI Act und bestehenden Verbraucherschutzprinzipien ergibt sich eine klare Erwartung: Der Anrufer muss die Möglichkeit haben, mit einem Menschen verbunden zu werden. Der sogenannte „Bot-Tunnel ohne Ausgang“ – ein System, das keine Eskalation an einen menschlichen Ansprechpartner bietet – ist nicht nur kundenunfreundlich, sondern zunehmend auch regulatorisch problematisch. In der Praxis: Der KI-Telefonassistent sollte auf Wunsch des Anrufers an einen menschlichen Mitarbeiter weiterleiten können – oder, wenn außerhalb der Geschäftszeiten, einen Rückruf durch einen Menschen organisieren.

3. Dokumentation und Nachvollziehbarkeit

Betreiber müssen nachweisen können, dass die Transparenzpflichten eingehalten werden. Das bedeutet: Es sollte dokumentiert sein, dass der KI-Telefonassistent sich als KI kennzeichnet, dass ein Eskalationsweg zum Menschen existiert und dass die Konfiguration den regulatorischen Anforderungen entspricht. Diese Dokumentation muss nicht täglich aktualisiert werden, aber bei einer Überprüfung durch die Aufsichtsbehörde vorzeigbar sein.

Wer ist wofür verantwortlich: Anbieter vs. Betreiber

Der EU AI Act unterscheidet zwischen Anbietern (die das KI-System entwickeln und auf den Markt bringen) und Betreibern (die das System einsetzen). Für KI-Telefonassistenten bedeutet das: Der Softwareanbieter ist der Anbieter im Sinne des AI Act. Er muss die technischen Voraussetzungen schaffen, damit die Transparenzpflichten erfüllt werden können. Das Unternehmen, das den KI-Telefonassistenten nutzt, ist der Betreiber. Es muss sicherstellen, dass die Pflichten im operativen Betrieb tatsächlich erfüllt werden.

Pflicht	Verantwortung Anbieter	Verantwortung Betreiber
KI-Kennzeichnung	Technische Möglichkeit bereitstellen (konfigurierbare Begrüßung)	Sicherstellen, dass die Begrüßung aktiv ist und die KI-Kennzeichnung enthält
Eskalation zum Menschen	Weiterleitungsfunktion implementieren	Ansprechpartner hinterlegen, Verfügbarkeit sicherstellen
Dokumentation	Technische Dokumentation, Risikoklassifizierung, Konformitätsangaben	Betriebsdokumentation, Nachweis der Konfiguration, Audit-Fähigkeit
DSGVO-Konformität	EU-Hosting, Datenverarbeitung gemäß DSGVO	Auftragsverarbeitungsvertrag, Datenschutzerklärung anpassen
KI-Kompetenz (Art. 4)	Schulungsmaterial bereitstellen	Mitarbeitende im Umgang mit KI schulen

Was für KI-Telefonassistenten ausdrücklich nicht gilt

KI-Telefonassistenten für Kundenservice, Terminbuchung, Lead-Qualifizierung und Informationsauskunft sind keine Hochrisiko-Systeme. Das bedeutet: Es besteht keine Pflicht zur CE-Kennzeichnung, keine Pflicht zur Registrierung in der EU-Datenbank für Hochrisiko-Systeme, keine Pflicht zur Durchführung einer Konformitätsbewertung im Sinne des Anhang III und kein Risikomanagement-System nach den strengen Anforderungen des Artikels 9.

Diese Erleichterung ist für KMU wichtig: Die Compliance-Anforderungen für KI-Telefonassistenten sind überschaubar und gut umsetzbar. Es geht um Transparenz, nicht um Zertifizierung. Der regulatorische Aufwand ist vergleichbar mit einer DSGVO-Anpassung – nicht mit einer Produktzulassung.

Sieben-Punkte-Checkliste: So machen Sie Ihren KI-Telefonassistenten EU-AI-Act-konform

1. KI-Kennzeichnung in der Begrüßung aktivieren

Prüfen Sie, ob Ihr KI-Telefonassistent sich zu Beginn des Gesprächs als KI-System kennzeichnet. Falls nicht, passen Sie die Begrüßungsformel an. Die Formulierung muss klar, verständlich und nicht umgehbar sein.

2. Eskalationsweg zum Menschen sicherstellen

Stellen Sie sicher, dass Anrufer jederzeit die Möglichkeit haben, mit einem menschlichen Ansprechpartner verbunden oder ein Rückruf organisiert zu werden. Hinterlegen Sie die Rufnummer und die Verfügbarkeitszeiten.

3. Auftragsverarbeitungsvertrag prüfen

Wenn Ihr KI-Telefonassistent personenbezogene Daten verarbeitet – was bei telefonischen Gesprächen praktisch immer der Fall ist – muss ein Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter bestehen. Prüfen Sie, ob der AVV die Anforderungen der DSGVO und des EU AI Act abdeckt.

4. Anbieter-Dokumentation anfordern

Fordern Sie von Ihrem Anbieter eine Bestätigung der Risikoklassifizierung, Angaben zum Hosting-Standort (EU-Server), Informationen über die verwendeten KI-Modelle und eine Erklärung zur Konformität mit dem EU AI Act. Ein seriöser Anbieter kann diese Fragen beantworten.

5. Datenschutzerklärung aktualisieren

Ergänzen Sie Ihre Datenschutzerklärung um den Hinweis, dass Sie einen KI-Telefonassistenten einsetzen, welche Daten dabei verarbeitet werden, wie lange sie gespeichert werden und an wen sie weitergeleitet werden.

6. Mitarbeitende schulen

Artikel 4 des EU AI Act verpflichtet Betreiber, ihre Mitarbeitenden in KI-Kompetenz zu schulen. Für KI-Telefonassistenten bedeutet das: Das Team sollte wissen, wie der Assistent funktioniert, welche Daten er erfasst, wann er eskaliert und wie mit den Gesprächsprotokollen umzugehen ist.

7. Compliance dokumentieren

Halten Sie schriftlich fest, welche Maßnahmen Sie ergriffen haben: Kennzeichnung aktiviert, Eskalation konfiguriert, AVV geschlossen, Datenschutzerklärung aktualisiert, Schulung durchgeführt. Diese Dokumentation ist Ihr Nachweis bei einer etwaigen Prüfung.

Timeline: Was gilt wann?

Datum	Was tritt in Kraft?
1. August 2024	EU AI Act in Kraft getreten
2. Februar 2025	Verbotene KI-Praktiken und KI-Kompetenzverpflichtung gelten
2. August 2025	Regeln für GPAI-Modelle (General Purpose AI) gelten
2. August 2026	Transparenzpflichten (Art. 50) + Hochrisiko-Pflichten (Anhang III) gelten – Stichtag für KI-Telef...
2. August 2027	Regeln für Hochrisiko-KI in regulierten Produkten gelten

Was bei Verstößen droht

Der EU AI Act sieht abgestufte Bußgelder vor. Für Verstöße gegen die Transparenzpflichten – also die Kategorie, die für KI-Telefonassistenten relevant ist – können Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes verhängt werden. Für KMU sind die Sanktionen proportional, aber spürbar. Schwerer als das Bußgeld selbst wiegt in vielen Fällen der Reputationsschaden.

Wichtiger Hinweis: Die nationale Umsetzung und die Benennung der zuständigen Aufsichtsbehörden in Deutschland sind derzeit noch nicht abgeschlossen. Es empfiehlt sich, die Entwicklungen zu verfolgen. Die grundlegenden Transparenzpflichten nach Artikel 50 stehen jedoch fest und sind direkt anwendbares EU-Recht.

Sunside AI: EU-AI-Act-konform ab dem ersten Tag

Sunside AI hat die KI-Telefonassistenz Sophia und den KI-Chatbot von Beginn an unter Berücksichtigung der regulatorischen Anforderungen entwickelt. Sophia kennzeichnet sich zu Beginn jedes Gesprächs als KI-System. Jedes Gespräch bietet einen Eskalationsweg zum menschlichen Team. Alle Daten werden auf EU-Servern verarbeitet, DSGVO-konform. Die Konfiguration wird dokumentiert und ist auditfähig.

Darüber hinaus unterstützt Sunside AI seine Kunden bei der Umsetzung der Betreiberpflichten: Auftragsverarbeitungsvertrag, Dokumentationsvorlagen und Hinweise zur Aktualisierung der Datenschutzerklärung sind Bestandteil des Onboardings. Die Einrichtung liegt bei 1.300 bis 5.000 Euro, die monatliche Betreuung bei 300 bis 500 Euro – Compliance inklusive.

Fazit: Der EU AI Act macht KI-Telefonassistenten nicht komplizierter – er macht sie transparenter

Die Transparenzpflichten des EU AI Act für KI-Telefonassistenten sind überschaubar und gut umsetzbar. Im Kern geht es um drei Dinge: sich als KI kennzeichnen, einen Weg zum Menschen anbieten und die Konfiguration dokumentieren. Für Unternehmen, die ohnehin auf professionelle Kundenkommunikation setzen, ist das kein Hindernis – es ist eine Bestätigung dessen, was guter Kundenservice ohnehin erfordert: Ehrlichkeit, Transparenz und die Gewissheit, dass hinter der Technologie ein Mensch erreichbar ist.

Der 2. August 2026 ist kein Grund zur Panik. Er ist ein Grund, die eigene KI-Telefonlösung einmal bewusst zu prüfen – und sicherzustellen, dass sie nicht nur technisch funktioniert, sondern auch regulatorisch sauber aufgestellt ist. Wer das heute tut, hat einen Vorsprung – und vermeidet späteren Handlungsdruck.