EU-KI-Verordnung: Neue Pflichten für Versicherungsmakler
Seit dem 1. August 2024 ist die EU-Verordnung über Künstliche Intelligenz in Kraft. Sie regelt erstmals verbindlich, wie KI im Versicherungsvertrieb eingesetzt werden darf. Damit ist der Einsatz von KI kein rechtlicher Graubereich mehr, sondern ein klar geregelter Prozess mit konkreten Pflichten.

Betroffene Makler
Auch Makler, die keine klassischen KI-Anwendungen betreiben, sind betroffen – etwa durch die Nutzung von Chatbots, Textgeneratoren oder externen Analysediensten. Die Herausforderung liegt weniger in der Technik, sondern im organisatorischen Umgang mit KI: Transparenz, Risikobewertung, Schulung und Dokumentation müssen fest verankert werden.

Zentrale Begriffe

• Hochrisiko-KI-Systeme: Anwendungen in sensiblen Bereichen wie Kreditvergabe oder Risikoprüfung.
• General Purpose AI (GPAI): Sprachmodelle wie GPT-4 oder Gemini, die vielseitig einsetzbar sind.
• Transparenzpflichtige KI: Systeme wie Chatbots, Deepfakes oder Empfehlungssysteme, die klar gekennzeichnet werden müssen.
• Betroffene Personen: Alle Menschen, deren Daten oder Entscheidungen durch KI beeinflusst werden.

Haftung der Makler
Makler gelten als Betreiber von KI-Systemen, auch wenn diese von externen Anbietern stammen. Sie haften für die Einhaltung der gesetzlichen Anforderungen, insbesondere:

• Risikobewertung
• Transparenz- und Dokumentationspflichten
• Mitarbeiterschulung

Rollen und Verantwortlichkeiten

• KI-Compliance Officer: Gesamtverantwortung und Bericht an die Geschäftsführung
• IT-Sicherheit: Durchführung von Risikobewertungen und technische Kontrollen
• HR/Schulung: Organisation und Überwachung von Mitarbeiterschulungen
• Fachbereiche: Risikoanalysen vor Einsatz von KI-Systemen

Risikokategorien

• Verbotene KI-Systeme: Emotionserkennung am Arbeitsplatz, Social Scoring
• Hochrisiko-KI-Systeme: Kreditwürdigkeitsprüfung, Versicherungsrisiken
• Transparenzpflichtige KI: Chatbots, automatisierte Texterstellung
• Geringes Risiko: KI-gestützte Textvorschläge

Schulungspflichten
Seit dem 2. Februar 2025 gilt Artikel 4 der KI-Verordnung:

• Beschäftigte müssen KI-Systeme verstehen und sicher bedienen können.
• Schulungen sollten mindestens jährlich stattfinden, zusätzlich bei Systemwechseln oder Neueinstellungen.
• Inhalte: technische Grundlagen, rechtliche Rahmenbedingungen, ethische Risiken.

Transparenzpflichten
Bei transparenzpflichtiger KI muss klar erkennbar sein, dass eine KI im Einsatz ist. Dazu gehören:

• Kennzeichnung („Diese Antwort wurde von einem KI-System generiert“)
• Hinweis auf Widerspruchsrecht und menschliche Beratung
• Ergänzung der Datenschutzerklärung mit Angaben zu eingesetzten KI-Systemen

Dokumentation: KI-Systemregister
Ein aktuelles Register aller eingesetzten KI-Systeme ist Pflicht. Es sollte enthalten:

• Abietner und Modellversion
• Nutzungszweck
• Risikokategorie
• Einsatzbereich
• Schulungspflichten
• Transparenzmaßnahmen
• Meldepflichten bei Hochrisiko-KI

Den Originaltext lesen sie hier: KI-Verordnung betrifft alle Makler – ob sie KI nutzen oder nicht | procontra