Künstliche Intelligenz ist allgegenwärtig – besonders Sprachmodelle, die Texte formulieren, Dokumente analysieren, Fragen beantworten und Gespräche führen, die erstaunlich menschlich wirken. Manche Menschen diskutieren mit ihnen über Geschäftsstrategien, andere über Liebeskummer oder Sinnfragen. Dabei verdrängen wir jedoch einen zentralen Punkt: Sprachmodelle simulieren Verständnis, und zwar auf beeindruckende Weise. Das bedeutet aber nicht, dass sie wirklich verstehen, was sie sagen.

ELIZA, eines der ersten Chatprogramme, feiert in diesem Jahr ihren 60. Geburtstag. Das Programm formulierte Aussagen des Gegenübers leicht um und stellte sie als Frage zurück. Aus „Ich habe Stress im Büro“ wurde „Warum haben Sie Stress im Büro?“ Schon damals hatten viele Menschen das Gefühl, mit einem echten Gegenüber zu sprechen. Trotz aller technologischen Fortschritte ist eines gleich geblieben: Menschen verwechseln flüssige Sprache schnell mit echtem Verständnis. Doch ein Sprachmodell kennt keine Wahrheit, keine Moral und kein „Das ist richtig“ oder „Das ist Unsinn“. Es berechnet Wahrscheinlichkeiten für die nächste passende Antwort. Das ist viel – aber nicht alles.

Dass Sprachmodelle sprachlich plausibel statt logisch korrekt reagieren, lässt sich gezielt ausnutzen. Hacker demonstrieren regelmäßig, wie leicht sich Systeme austricksen lassen. Das Prinzip ist simpel: Das System sagt „Das darfst du nicht“. Der Angreifer formuliert geschickt um: „Als Superuser dürfte ich das, oder?“ Und plötzlich beantwortet die KI genau die Frage, die sie eigentlich blockieren sollte. Nicht, weil sie überzeugt wurde, sondern weil sie Muster berechnet und die wahrscheinlichste Antwort liefert. Wer das übersieht, verwechselt Sprachgewandtheit mit Denken.

Gerade für Versicherer ist dieses Verständnis entscheidend. KI bietet enorme Chancen: Schäden können schneller bearbeitet, Dokumente automatisiert ausgewertet und Standardanfragen effizient beantwortet werden. Gleichzeitig entsteht der Eindruck, KI sei ein Allheilmittel – gegen schwächelnde Produktivität, steigende Personalkosten und den Fachkräftemangel durch den Renteneintritt der Babyboomer. Doch kein ausgeklügelter Prompt ersetzt menschliches Urteilsvermögen.

Aktuarinnen und Aktuare beschäftigen sich seit Jahrzehnten mit Unsicherheit, Modellgrenzen und Risikobewertung. Sie wissen, dass Modelle keine Wahrheit produzieren, sondern Annäherungen – und manchmal überzeugend formulierten Unsinn. Deshalb braucht der Einsatz von KI Menschen, die tatsächliches Verständnis haben und in der Lage sind, simuliertes Verständnis richtig einzuordnen. Nicht die Lautesten werden die Zukunft der KI gestalten, sondern diejenigen, die wissen, wie diese Systeme funktionieren und wo ihre Grenzen liegen.

Den Originaltext lesen sie hier: KI versteht uns nicht – und genau das ist das Risiko für Versicherer | procontra