EU AI Act 2026: Was Betriebe mit KI-Telefonassistenten jetzt wissen müssen

EU AI Act: Die neue Realität für Betriebe in Nordhessen

Seit Februar 2025 gilt der EU AI Act – die weltweit erste umfassende KI-Regulierung. Viele Inhaber in Kassel, Hofgeismar und Umgebung haben davon gehört, wissen aber nicht genau, was das für sie bedeutet. Die kurze Antwort: Es ist kein Grund zur Panik, aber ein Grund zur Vorbereitung.

Als TÜV Rheinland zertifizierter KI-Manager und KI-Beauftragter beschäftige ich mich täglich mit diesen Fragen – und erkläre Ihnen hier, was Sie als Betreiber eines KI-Telefonassistenten wirklich wissen müssen.

Was ist der EU AI Act – und wen betrifft er?

Der EU AI Act reguliert den Einsatz von KI-Systemen in der EU. Er gilt für alle Unternehmen, die KI-Systeme betreiben oder entwickeln – unabhängig von Größe oder Branche. Das bedeutet: Auch ein Elektriker in Baunatal mit 4 Mitarbeitern, der einen KI-Telefonassistenten betreibt, fällt unter das Gesetz.

Das klingt erstmal nach viel Bürokratie. Aber: Der EU AI Act unterscheidet vier Risikoklassen, und die Pflichten hängen direkt von dieser Klasse ab.

| Risikoklasse | Beispiele | Pflichten | |---|---|---| | Unannehmbares Risiko | Soziales Scoring, biometrische Massenüberwachung | Verboten | | Hochrisiko | Medizinische Diagnose-KI, Kreditentscheidungen, HR-Selektion | Umfangreiche Pflichten, Zulassung | | Begrenztes Risiko | Chatbots, KI-Telefonie | Informationspflicht + Transparenz | | Minimales Risiko | Spam-Filter, einfache Automatisierung | Keine besonderen Pflichten |

Der KI-Telefonassistent, wie ihn KYNOVA einsetzt, fällt in die Kategorie Begrenztes Risiko. Das bedeutet: wenige, gut handhabbare Pflichten.

Ihre konkreten Pflichten als Betreiber

Wenn Sie in Kassel oder Nordhessen einen KI-Telefonassistenten betreiben, gelten Sie im Sinne des EU AI Act als Betreiber (Operator). Folgende Pflichten kommen auf Sie zu:

Pflicht 1: Informationspflicht – Kunden müssen wissen, dass sie mit KI sprechen

Ihr Assistent muss am Anfang des Gesprächs klarstellen, dass er ein KI-System ist. Das ist bei fonio-Assistenten standardmäßig konfiguriert: "Guten Tag, Sie sprechen mit dem KI-Assistenten von [Betriebsname]. Ich helfe Ihnen gerne weiter."

Das klingt nach einem Nachteil. In der Praxis ist es das Gegenteil: Kunden, die wissen, dass sie mit einer KI sprechen, setzen realistischere Erwartungen und sind seltener frustriert.

Pflicht 2: Protokollierung (Logging)

Alle Gespräche des KI-Assistenten müssen protokolliert werden – für eventuelle Überprüfungen durch Behörden oder als Nachweis im Streitfall. fonio.ai erledigt das automatisch. Sie als Betreiber haben jederzeit Zugriff auf die Gesprächsprotokolle im Dashboard.

Wie lange müssen Logs aufbewahrt werden? Das ist noch nicht final geregelt, aber als Faustregel gilt: mindestens 12 Monate.

Pflicht 3: DSGVO-Konformität

Gespräche beinhalten personenbezogene Daten – Namen, Telefonnummern, Anliegen. Dafür brauchen Sie einen Auftragsverarbeitungsvertrag (AVV) mit fonio.ai. Bei KYNOVA ist dieser AVV inklusive und wird bei der Einrichtung abgeschlossen.

Alle fonio-Gespräche werden auf Servern in Nürnberg, Deutschland verarbeitet. Kein US-Dienst, kein Drittstaatentransfer. Das ist ein entscheidender Vorteil gegenüber vielen US-amerikanischen KI-Diensten.

Pflicht 4: Menschliche Aufsicht

Sie müssen jederzeit die Möglichkeit haben, den KI-Assistenten zu überwachen und bei Bedarf einzugreifen. Das ist durch das fonio.ai-Dashboard gegeben: Sie sehen alle Gespräche, können die KI-Konfiguration jederzeit ändern und im Notfall den Assistenten deaktivieren.

Was KYNOVA konkret für Sie übernimmt

Damit Sie sich um Ihr Kerngeschäft kümmern können, übernehme ich als Ihr KYNOVA-Partner:

Rechtskonforme Einrichtung:

• Formulierung der Eröffnungsansage (Informationspflicht)
• AVV-Abschluss mit fonio.ai
• Konfiguration des Loggings

Dokumentation:

• Informationsblatt für Ihre Kunden (ausdruckbar für Wartezimmer, Werkstatt, etc.)
• Datenschutzhinweis-Text für Ihre Website
• Nachweis der EU AI Act-Konformität für Ihr Ablageordner

Laufende Begleitung:

• Updates bei gesetzlichen Änderungen
• Jährliche Überprüfung der Konfiguration

Häufige Irrtümer über den EU AI Act

Irrtum 1: "Ich brauche eine spezielle Zulassung." Nein. KI-Telefonie liegt in der niedrigen Risikoklasse. Es gibt keine Zulassungspflicht, kein Audit, keine Behörde, die vorab genehmigen muss.

Irrtum 2: "Meine Kunden müssen eine Einwilligung geben." Für die reine Gesprächsaufzeichnung ist in der Regel keine gesonderte Einwilligung nötig, wenn Sie die Gesprächsparteien klar über die Aufzeichnung informieren (Teil der Informationspflicht). Bei besonders sensiblen Daten – z. B. in Arztpraxen – beraten wir individuell.

Irrtum 3: "Das ist alles viel zu komplex für meinen kleinen Betrieb." Der Aufwand für einen Betrieb in der niedrigen Risikoklasse ist überschaubar. Mit KYNOVA ist alles von Anfang an richtig konfiguriert. Sie müssen kein Jurist sein.

Fazit: Rechtssicherheit ist kein Luxus

Der EU AI Act ist keine bürokratische Schikane, sondern ein Qualitätssignal. Wer ihn von Anfang an ernst nimmt, schützt sich vor Bußgeldern, baut Vertrauen bei Kunden auf und ist auch bei künftigen Verschärfungen auf der sicheren Seite.

Lesen Sie auch: KI-Telefonassistent in Kassel: Was Betriebe 2026 wissen müssen

→ Kostenlosen KI-Check buchen