EU AI Act und KI-Telefonassistenten: Was ab August 2026 gilt, ein praktischer Compliance-Leitfaden für Unternehmen

Seit dem 2. August 2026 gelten zentrale Teile des EU AI Act, darunter die Transparenzpflichten nach Artikel 50. Zum Hinweis, dass man mit einer KI spricht, verpflichtet Artikel 50 Absatz 1 die Anbieter von KI-Systemen, die mit Menschen interagieren. KI-Telefonassistenten, Voicebots und KI-Anrufbeantworter fallen in genau diese Kategorie. Wer einen solchen Assistenten bereits nutzt oder dessen Einführung plant, muss wissen, welche Pflichten gelten, und wie er sie erfüllt.

Dieser Artikel ist kein juristisches Gutachten, sondern ein praktischer Leitfaden: Er erklärt, in welche Risikoklasse KI-Telefonassistenten fallen, welche konkreten Pflichten daraus folgen, was der Anbieter liefern muss und was Sie als Betreiber prüfen sollten, inklusive einer Sieben-Punkte-Checkliste für die Umsetzung.

Was der EU AI Act regelt, und warum KI-Telefonassistenten betroffen sind

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Er verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Grundrechte, Sicherheit oder Gesellschaft, desto strenger die Anforderungen. Die Verordnung unterscheidet vier Risikoklassen.

Risikoklasse	Beispiele	Pflichten
Unannehmbares Risiko	Social Scoring, biometrische Massenüberwachung	Verboten (seit Februar 2025)
Hochrisiko	KI in Medizin, Personalauswahl, Kreditscoring	Umfassend: Risikomanagement, Dokumentation, menschliche Aufsicht
Begrenztes Risiko	Chatbots, Voicebots, KI-Telefonassistenten	Transparenzpflichten (Artikel 50)
Minimales Risiko	Spamfilter, Empfehlungssysteme	Keine spezifischen Pflichten

KI-Telefonassistenten fallen in die Klasse „begrenztes Risiko“. Sie sind keine Hochrisiko-Systeme, weil sie keine sicherheitskritischen oder grundrechtsrelevanten Entscheidungen treffen. Aber sie interagieren direkt mit Menschen, und genau für diese Interaktion gelten die Transparenzpflichten nach Artikel 50. Der Hinweis nach Artikel 50 Absatz 1 gilt seit dem 2. August 2026, auch für KI-Telefonassistenten, die bereits vorher eingeführt wurden. Für Artikel 50 Absatz 2 gibt es eine Übergangsfrist: Systeme, die synthetische Inhalte erzeugen und vor dem 2. August 2026 in Verkehr gebracht wurden, müssen ihn bis zum 2. Dezember 2026 erfüllen.

Was Artikel 50 konkret für KI-Telefonassistenten bedeutet

Artikel 50 des EU AI Act definiert die Transparenzpflichten für KI-Systeme, die mit natürlichen Personen interagieren. Für KI-Telefonassistenten ergeben sich daraus und aus guter Praxis drei zentrale Anforderungen.

1. Kennzeichnungspflicht: Der Anrufer muss wissen, dass er mit KI spricht

Die wichtigste und unkomplizierteste Pflicht: Anrufer müssen zu Beginn des Gesprächs darüber informiert werden, dass sie mit einem KI-System interagieren, und nicht mit einem Menschen. In der Praxis bedeutet das: Der KI-Telefonassistent muss sich als solcher vorstellen. Formulierungen wie „Guten Tag, Sie sprechen mit der KI-Telefonassistenz von [Firmenname]“ oder „Ich bin der KI-Assistent von [Firmenname]“ erfüllen diese Anforderung. Entscheidend ist, dass der Hinweis zu Beginn des Gesprächs erfolgt, klar verständlich ist und nicht versteckt oder überhört werden kann. Verpflichtet ist nach Artikel 50 Absatz 1 der Anbieter des KI-Systems. Ihnen als Betreiber empfehlen wir trotzdem, den Hinweis in Ihrer Begrüßung selbst zu prüfen.

2. Weg zum Menschen: gute Praxis, keine Pflicht aus Artikel 50

Artikel 50 verlangt keinen Weg zum Menschen. Für Ihre Anrufer ist er trotzdem wichtig: Wer mit einem Menschen sprechen möchte, sollte nicht in einem Bot-Tunnel ohne Ausgang landen (ein System, das nicht an einen menschlichen Ansprechpartner weiterleitet). In der Praxis: Der KI-Telefonassistent sollte auf Wunsch des Anrufers an einen Mitarbeiter weiterleiten können oder außerhalb der Geschäftszeiten einen Rückruf durch einen Menschen organisieren.

3. Dokumentation und Nachvollziehbarkeit

Als Betreiber sollten Sie nachweisen können, dass die Transparenzpflichten eingehalten werden. Das bedeutet: Es sollte dokumentiert sein, dass der KI-Telefonassistent sich als KI kennzeichnet, dass ein Eskalationsweg zum Menschen existiert und dass die Konfiguration den regulatorischen Anforderungen entspricht. Diese Dokumentation muss nicht täglich aktualisiert werden, sollte aber bei einer Überprüfung durch die Aufsichtsbehörde vorzeigbar sein.

Wer ist wofür verantwortlich: Anbieter vs. Betreiber

Der EU AI Act unterscheidet zwischen Anbietern (die das KI-System entwickeln und auf den Markt bringen) und Betreibern (die das System einsetzen). Für KI-Telefonassistenten bedeutet das: Der Softwareanbieter ist der Anbieter im Sinne des AI Act. Ihn verpflichtet Artikel 50 Absatz 1 zum Hinweis, dass Anrufer mit einer KI sprechen. Das Unternehmen, das den KI-Telefonassistenten nutzt, ist der Betreiber. Es achtet im laufenden Betrieb darauf, dass der Hinweis aktiv bleibt. Das ist gute Praxis, keine eigene Pflicht des Betreibers aus Artikel 50 Absatz 1.

Pflicht	Verantwortung Anbieter	Verantwortung Betreiber
KI-Kennzeichnung	Pflicht nach Art. 50 Abs. 1: Hinweis, dass man mit einer KI spricht (etwa über die Begrüßung)	Empfehlung: prüfen, dass die Begrüßung aktiv ist und die KI-Kennzeichnung enthält
Eskalation zum Menschen (gute Praxis)	Weiterleitungsfunktion implementieren	Ansprechpartner hinterlegen, Verfügbarkeit sicherstellen
Dokumentation	Technische Dokumentation, Risikoklassifizierung, Konformitätsangaben	Betriebsdokumentation, Nachweis der Konfiguration, Audit-Fähigkeit
DSGVO-Konformität	EU-Hosting, Datenverarbeitung gemäß DSGVO	Auftragsverarbeitungsvertrag, Datenschutzerklärung anpassen
KI-Kompetenz (Art. 4)	Maßnahmen zur Förderung der KI-Kompetenz, etwa Schulungsmaterial	Maßnahmen zur Förderung der KI-Kompetenz, etwa das Team im Umgang mit KI schulen

Was für KI-Telefonassistenten ausdrücklich nicht gilt

KI-Telefonassistenten für Kundenservice, Terminbuchung, Lead-Qualifizierung und Informationsauskunft sind keine Hochrisiko-Systeme. Das bedeutet: Es besteht keine Pflicht zur CE-Kennzeichnung, keine Pflicht zur Registrierung in der EU-Datenbank für Hochrisiko-Systeme, keine Pflicht zur Konformitätsbewertung nach Artikel 43 und kein Risikomanagement-System nach den strengen Anforderungen des Artikels 9.

Diese Erleichterung ist für KMU wichtig: Die Compliance-Anforderungen für KI-Telefonassistenten sind überschaubar und gut umsetzbar. Es geht um Transparenz, nicht um Zertifizierung. Der regulatorische Aufwand ist vergleichbar mit einer DSGVO-Anpassung, nicht mit einer Produktzulassung.

Sieben-Punkte-Checkliste: So machen Sie Ihren KI-Telefonassistenten EU-AI-Act-konform

1. KI-Kennzeichnung in der Begrüßung aktivieren

Prüfen Sie, ob Ihr KI-Telefonassistent sich zu Beginn des Gesprächs als KI-System kennzeichnet. Falls nicht, passen Sie die Begrüßungsformel an. Die Formulierung muss klar, verständlich und nicht umgehbar sein.

2. Eskalationsweg zum Menschen sicherstellen

Stellen Sie sicher, dass Anrufer jederzeit die Möglichkeit haben, mit einem menschlichen Ansprechpartner verbunden oder ein Rückruf organisiert zu werden. Hinterlegen Sie die Rufnummer und die Verfügbarkeitszeiten.

3. Auftragsverarbeitungsvertrag prüfen

Wenn Ihr KI-Telefonassistent personenbezogene Daten verarbeitet (was bei telefonischen Gesprächen praktisch immer der Fall ist), muss ein Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter bestehen. Prüfen Sie, ob der AVV die Anforderungen der DSGVO und des EU AI Act abdeckt.

4. Anbieter-Dokumentation anfordern

Fordern Sie von Ihrem Anbieter eine Bestätigung der Risikoklassifizierung, Angaben zum Hosting-Standort (EU-Server), Informationen über die verwendeten KI-Modelle und eine Erklärung zur Konformität mit dem EU AI Act. Ein seriöser Anbieter kann diese Fragen beantworten.

5. Datenschutzerklärung aktualisieren

Ergänzen Sie Ihre Datenschutzerklärung um den Hinweis, dass Sie einen KI-Telefonassistenten einsetzen, welche Daten dabei verarbeitet werden, wie lange sie gespeichert werden und an wen sie weitergeleitet werden.

6. Mitarbeitende schulen

Artikel 4 des EU AI Act verlangt Maßnahmen, die die KI-Kompetenz Ihrer Mitarbeitenden fördern. Ein bestimmtes Kompetenzniveau müssen Sie nicht garantieren. Für KI-Telefonassistenten bedeutet das: Das Team sollte wissen, wie der Assistent funktioniert, welche Daten er erfasst, wann er eskaliert und wie mit den Gesprächsprotokollen umzugehen ist.

7. Compliance dokumentieren

Halten Sie schriftlich fest, welche Maßnahmen Sie ergriffen haben: Kennzeichnung aktiviert, Eskalation konfiguriert, AVV geschlossen, Datenschutzerklärung aktualisiert, Schulung durchgeführt. Diese Dokumentation ist Ihr Nachweis bei einer etwaigen Prüfung.

Timeline: Was gilt wann?

Datum	Was tritt in Kraft?
1. August 2024	EU AI Act (Verordnung (EU) 2024/1689) in Kraft getreten
2. Februar 2025	Verbotene KI-Praktiken und Regeln zur KI-Kompetenz (Art. 4) gelten
2. August 2025	Regeln für GPAI-Modelle (General Purpose AI) gelten
27. Juli 2026	Digital Omnibus (Verordnung (EU) 2026/1744 vom 8. Juli 2026) tritt in Kraft und verschiebt Fristen, vor allem für Hochrisiko-Systeme
2. August 2026	Transparenzpflichten (Art. 50) gelten, darunter der KI-Hinweis nach Art. 50 Abs. 1 (Pflicht des Anbieters). Stichtag für KI-Telefonassistenten
2. Dezember 2026	Frist für Art. 50 Abs. 2 bei Systemen mit synthetischen Inhalten, die vor dem 2. August 2026 in Verkehr gebracht wurden
2. Dezember 2027	Hochrisiko-Pflichten für Systeme nach Anhang III gelten
2. August 2028	Hochrisiko-Pflichten für KI in regulierten Produkten (Anhang I) gelten

Was bei Verstößen droht

Der EU AI Act sieht abgestufte Bußgelder vor. Für Verstöße gegen die Transparenzpflichten (also die Kategorie, die für KI-Telefonassistenten relevant ist) können Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes verhängt werden. Für KMU sind die Sanktionen proportional, aber spürbar. Schwerer als das Bußgeld selbst wiegt in vielen Fällen der Reputationsschaden.

Wichtiger Hinweis: In Deutschland gilt seit dem 29. Juli 2026 das KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz (KI-MIG, BGBl. 2026 I Nr. 223). Zuständige Marktüberwachungsbehörde ist danach grundsätzlich die Bundesnetzagentur (§ 2 Abs. 1 KI-MIG). Sie ist auch zentrale Anlaufstelle und zentrale Beschwerdestelle (§§ 6 und 8 KI-MIG). Die grundlegenden Transparenzpflichten nach Artikel 50 stehen jedoch fest und sind direkt anwendbares EU-Recht.

Sunside AI: EU-AI-Act-konform ab dem ersten Tag

Sunside AI hat die KI-Telefonassistenz Sophia und den KI-Chatbot von Beginn an unter Berücksichtigung der regulatorischen Anforderungen entwickelt. Sophia kennzeichnet sich zu Beginn jedes Gesprächs als KI-System. Jedes Gespräch bietet einen Eskalationsweg zum menschlichen Team. Alle Daten werden auf EU-Servern verarbeitet, DSGVO-konform. Die Konfiguration wird dokumentiert und ist auditfähig.

Darüber hinaus unterstützt Sunside AI seine Kunden bei der Umsetzung im laufenden Betrieb: Auftragsverarbeitungsvertrag, Dokumentationsvorlagen und Hinweise zur Aktualisierung der Datenschutzerklärung sind Bestandteil des Onboardings. Die Unterstützung bei der Compliance ist dabei inklusive. Was Einrichtung und Betreuung kosten, hängt davon ab, wie tief die Integration geht. Ein konkretes Angebot erhalten Sie nach einem kurzen Erstgespräch.

Fazit: Der EU AI Act macht KI-Telefonassistenten nicht komplizierter, er macht sie transparenter

Die Transparenzpflichten des EU AI Act für KI-Telefonassistenten sind überschaubar und gut umsetzbar. Im Kern geht es um drei Dinge. Pflicht ist der Hinweis, dass Anrufer mit einer KI sprechen. Gute Praxis sind ein Weg zum Menschen und eine dokumentierte Konfiguration. Für Unternehmen, die ohnehin auf professionelle Kundenkommunikation setzen, ist das kein Hindernis. Es ist eine Bestätigung dessen, was guter Kundenservice ohnehin erfordert: Ehrlichkeit, Transparenz und die Gewissheit, dass hinter der Technologie ein Mensch erreichbar ist.

Dass Artikel 50 seit dem 2. August 2026 gilt, ist kein Grund zur Panik. Es ist ein Grund, die eigene KI-Telefonlösung einmal bewusst zu prüfen und sicherzustellen, dass sie nicht nur technisch funktioniert, sondern auch regulatorisch sauber aufgestellt ist. Wer das heute tut, hat einen Vorsprung und vermeidet späteren Handlungsdruck.

Dieser Beitrag gibt einen allgemeinen Überblick, Stand Oktober 2026. Für Ihren Einzelfall sprechen Sie mit einer Anwältin oder einem Anwalt.