Vertrauen in KI: Warum Versicherer harte Tests brauchen

Die meisten Versicherer in Österreich investieren aktuell massiv in Künstliche Intelligenz: Schadenbearbeitung wird automatisiert, Risikobewertung läuft modellgestützt, Betrugsverdachtsfälle werden per KI gefiltert. Parallel verschärfen Aufsicht und Politik die Anforderungen an Governance, Transparenz und Kontrolle. Wer hier nur auf Bauchgefühl setzt, spielt mit seiner Lizenz.

Genau an dieser Stelle setzt das InsurTech Calvin Risk an, das im Interview beim InsurLab Germany porträtiert wurde – und dessen Ansatz gerade für österreichische Versicherungen hochrelevant ist. Denn die Frage lautet nicht mehr: Ob wir KI nutzen, sondern: Wie schaffen wir ein belastbares Vertrauen in KI-Systeme, bevor es regulatorisch oder reputationsseitig weh tut?

In diesem Beitrag aus unserer Reihe „KI für österreichische Versicherungen: InsurTech“ schauen wir uns an, wie professionelles KI-Risikomanagement aussieht, was Versicherer dabei oft falsch machen und wie sich mit einem strukturierten Vorgehen sowohl Innovation als auch Sicherheit erreichen lassen.

1. Warum Vertrauen in KI kein Bauchgefühl sein darf

Vertrauen in KI in der Versicherung ist kein weiches Thema, sondern ein harter Risikofaktor mit unmittelbaren Auswirkungen auf Solvenz, Reputation und Vertrieb.

Konkrete Risiken im Versicherungsalltag

Für österreichische Versicherer sind typische KI-Anwendungen:

• automatisierte Schadenregulierung (z.B. Kfz, Hausrat)
• Pricing-Modelle für dynamische, personalisierte Tarife
• Betrugserkennung (Fraud-Scoring)
• Risikoprüfung in der Lebens- und Krankenversicherung

Wenn hier ein Modell „danebenliegt“, hat das Folgen:

• Finanzielles Risiko: systematische Unter- oder Überbewertung von Risiken kann die Combined Ratio um mehrere Prozentpunkte verschieben.
• Regulatorisches Risiko: diskriminierende oder intransparente Entscheidungen kollidieren mit Aufsichtserwartungen (Governance, Fairness, Nachvollziehbarkeit).
• Reputationsschaden: ein medial aufgegriffener „KI-Skandal“ im Schadenfall reicht, um das Vertrauen ganzer Kundengruppen zu erschüttern.

Der Kernpunkt: KI-Fehler sind selten Einzelfälle. Wenn ein Modell falsch kalibriert ist, dann macht es den gleichen Fehler tausende Male – automatisiert, schnell und skaliert.

2. Was Calvin Risk anders macht – und warum das für Versicherer relevant ist

Calvin Risk positioniert sich nicht als „noch ein KI-Startup“, das neue Use Cases verkauft, sondern als Spezialist für KI-Risiko, Governance und Testbarkeit. Genau das fehlt in vielen Versicherungsprojekten.

„Unser Job ist es, Künstliche Intelligenz hart zu testen, Risiken sichtbar zu machen und Governance-Strukturen aufzubauen, bevor aus einer Innovation eine Schlagzeile wird.“ – Calvin Risk

Fokus auf drei kritische Fragen

Das Team um CEO Julian Riebartsch stellt Fragen, die in vielen Projekten erst dann auftauchen, wenn es zu spät ist:

1. Was passiert, wenn eure KI eine falsche Entscheidung trifft?
   Konkrete Impact-Analysen für Kund:innen, Ergebnis und Reputation.
2. Wer trägt die Verantwortung, wenn sie nicht wie geplant funktioniert?
   Klar definierte Verantwortlichkeiten, RACI-Matrizen, Eskalationswege.
3. Wie schafft man Vertrauen in Black-Box-Modelle?
   Erklärbarkeit, Monitoring, Dokumentation – auch bei komplexen Modellen.

Für österreichische Versicherer, die KI im Massengeschäft einsetzen wollen, ist dieser Blickwinkel Gold wert. Denn die FMA und interne Revision fragen genau danach: Welche Kontrollen haben Sie implementiert, um Fehlentscheidungen früh zu erkennen und nachweislich zu managen?

3. Operative Exzellenz: Ohne saubere Prozesse kippt jede KI-Initiative

Operative Exzellenz klingt trocken, ist aber im Kontext KI der Unterschied zwischen „schönem PoC“ und tragfähigem Produktivbetrieb.

Business Process Management muss KI-tauglich werden

Sobald KI in einen Fachprozess integriert wird – etwa in die Schadenbearbeitung –, muss sich das Business Process Management verändern:

• Definierte Kontrollpunkte: Wann darf die KI alleine entscheiden, wann entscheidet ein Mensch, wann wird eskaliert?
• Testschleifen im Prozess: Wie werden neue Modelle eingerollt? Zuerst Shadow Mode, dann Teilmengen, dann Vollaussteuerung?
• Fallback-Szenarien: Was passiert beim Modellversagen? Gibt es manuelle Workarounds, klar definierte „Stop“-Mechanismen?

Die Realität in vielen Häusern: es gibt einen guten Data-Science-Prototypen, aber keinen voll durchdeklinierten End-to-End-Prozess. Genau hier sehen Calvin Risk und ähnliche Anbieter ihre Rolle – als „Kontroll-, Test- und Nachweisschicht“, die operative Exzellenz im KI-Kontext überhaupt erst möglich macht.

Warum das gerade in Österreich ein Thema ist

Viele österreichische Versicherer arbeiten in historisch gewachsenen Systemlandschaften mit stark regulatorisch geprägten Fachbereichen. KI-Projekte stoßen daher oft auf drei Barrieren:

1. IT-Legacy und Medienbrüche
2. Fachbereiche, die Haftung für KI-Entscheidungen scheuen
3. Unsicherheit, was Aufsicht und Datenschutz wirklich verlangen

Ein strukturiertes Governance-Framework mit klaren Prozessen, Test- und Kontrollpunkten entschärft diese Spannungen. Operative Exzellenz wird damit zur Risikoversicherungs-Police für KI-Projekte.

4. KI-Skalierung: Nur wer Risiken mit skaliert, gewinnt

Die Versicherungsbranche spricht gern über KI-Skalierung: von Piloten in einzelnen Sparten hin zu breiter Nutzung in Underwriting, Schaden, Vertrieb und Service. Der Haken: Viele Häuser skalieren Use Cases, nicht aber ihr Risikomanagement.

Was zu echter Skalierung dazugehört

Aus Sicht von Calvin Risk – und ich teile diese Sicht – besteht verantwortungsvolle KI-Skalierung aus drei Ebenen:

1. Standardisierte Testmethoden

   • einheitliche Metriken zur Performancebewertung
   • Stresstests für Sondersituationen (z.B. Katastrophenschäden, Marktschocks)
   • regelmäßige Re-Validierung der Modelle

2. Zentrale Governance und Dokumentation

   • KI-Register mit allen produktiven Modellen
   • klare Owner je Modell, inkl. Budget- und Haftungsverantwortung
   • nachvollziehbare Entscheidungsgrundlagen für Audit und Aufsicht

3. Laufendes Monitoring und Frühwarnindikatoren

   • automatisierte Alerts bei Daten-Drift
   • Ausreißer-Analysen bei sensiblen Kundengruppen
   • KPI-Dashboards für Management und Fachbereiche

Ohne diese Elemente entsteht zwar „KI im Einsatz“, aber eben keine skalierbare KI-Landschaft, die robust, auditierbar und wirtschaftlich betrieben werden kann.

Beispiel: Betrugsbekämpfung in der Schadenversicherung

Nehmen wir ein realistisches Szenario aus der österreichischen Kfz-Versicherung:

• Ein Fraud-Modell filtert auffällige Schadenmeldungen heraus.
• Am Anfang verbessert es die Trefferquote um 30 % und spart viel manuelle Prüfung.
• Nach 18 Monaten verändert sich jedoch das Schadenbild (z.B. neue Betrugsmuster, andere Werkstattnetzwerke), die Daten-Drift bleibt unbemerkt.
• Plötzlich gehen echte Schäden vermehrt in die „Verdachtsschiene“, Kund:innen sind frustriert, Beschwerden häufen sich.

Mit professionellem KI-Risikomanagement wäre dieses Modell:

• im Shadow Mode getestet worden,
• mit klaren Schwellenwerten für Vertrauensbereiche,
• laufend auf Daten-Drift überwacht,
• und mit Fallback-Regeln hinterlegt, um kritische Schwellen nicht zu überschreiten.

Genau diese Ebene fehlt häufig – und ist das, was Dienstleister wie Calvin Risk liefern wollen.

5. Wie Versicherer Vertrauen in KI systematisch aufbauen können

Der Weg zu vertrauenswürdiger KI ist kein Bauchgefühl, sondern ein konkretes Projektprogramm. Für österreichische Versicherer hat sich in der Praxis ein Fünf-Schritte-Ansatz bewährt.

1. KI-Inventur und Risikoklassifizierung

• Alle bestehenden und geplanten KI-Modelle erfassen
• Modelle nach Risikoklassen einteilen (z.B. Einfluss auf Kund:innen, Volumen, regulatorische Relevanz)
• Prioritäten für Governance und Tests auf Basis dieser Klassifizierung festlegen

2. Governance-Rahmen definieren

• Rollenmodell: Wer ist fachlich, wer technisch verantwortlich?
• Entscheidungskompetenzen und Eskalationswege dokumentieren
• Richtlinien zu Fairness, Transparenz, Dokumentation, Modellfreigabe formulieren

3. Test- und Validierungsframework etablieren

• Einheitliche Metriken für Qualität, Stabilität, Bias
• Standard-Testsets pro Sparte (Kfz, Leben, Gesundheit, Gewerbe)
• Prozess für Abnahme und regelmäßige Re-Validierung festlegen

4. Monitoring und Reporting aufbauen

• Technisches Monitoring (Performance, Daten-Drift)
• Business-Monitoring (Auswirkungen auf Schadenquote, Storno, Beschwerden)
• Dashboards für Management und Revision

5. Schulung und Kulturwandel unterstützen

• Fachbereiche zu Chancen und Risiken von KI schulen
• „Mutige Diskussionen“ fördern – wie Calvin Risk es nennt
• Fehlerkultur stärken: Es ist erlaubt, ein Modell zu stoppen, wenn Signale kippen

Versicherer, die diesen Weg gehen, können KI für Schadenbearbeitung, Risikobewertung, Betrugserkennung und personalisierte Tarife aggressiv vorantreiben, ohne sich in regulatorische oder reputative Sackgassen zu manövrieren.

6. Was die Branche von Calvin Risk und dem InsurLab-Ansatz lernen kann

Das Spannende an der Zusammenarbeit von Calvin Risk und InsurLab Germany ist die Haltung: Man spricht bewusst über unbequeme Themen statt nur über „Use Cases & Success Stories“.

Fragen wie:

• „Wie testet man eine KI, die selbstständig handelt?“
• „Was passiert, wenn der schönste Use Case zum größten Risiko wird?“
• „Wie schafft man Vertrauen in Black-Box-Systeme?“

sollten auch auf österreichischen Branchenevents, in Verbänden und in internen Steuerungskreisen Standard werden.

Für die Serie „KI für österreichische Versicherungen: InsurTech“ heißt das: Wer KI einführen oder ausbauen will, braucht nicht nur Data Scientists und IT, sondern auch Partner für Governance, Risk & Compliance. Startups wie Calvin Risk, aber auch interne „AI Risk Offices“, werden damit zu einem zentralen Baustein moderner Versicherungsorganisationen.

Fazit: Sicher mit KI wachsen – jetzt die Weichen stellen

Vertrauen in KI darf in der Versicherungswirtschaft nie nur auf Bauchgefühl basieren. Es braucht harte Tests, klare Governance und messbare Kontrolle, bevor Modelle in der Schadenbearbeitung, Risikobewertung, Betrugserkennung oder im Pricing ausgerollt werden.

Für österreichische Versicherer eröffnet sich damit eine attraktive Perspektive: Wer heute in professionelles KI-Risikomanagement investiert, kann morgen schneller und mutiger skalieren als der Wettbewerb – mit guten Argumenten gegenüber Aufsicht, Kund:innen und Vertrieb.

Der nächste logische Schritt? Prüfen, wie reif Ihr eigenes Haus in Sachen KI-Governance, Testbarkeit und Monitoring ist – und wo spezialisierte InsurTechs wie Calvin Risk helfen können, die Lücken zu schließen.

Wer KI ernst nimmt, sollte diese Fragen nicht vertagen.