Perspektiven

Voreingenommenheit der KI vermeiden - eine Europäische Sichtweise

Geschrieben von Solomon Philip | 13.07.2023 19:18:00

Solomon Philip ist Leiter der Abteilung Market Intelligence bei Shift Technology

Die Versicherungsbranche als stark reguliert zu bezeichnen, erscheint fast schon etwas altmodisch. Die Versicherer sind nicht nur den Gesetzen und Vorschriften der einzelnen Länder, in denen sie tätig sind, verpflichtet. Sie sind auch grenzüberschreitenden Vorschriften unterworfen. Viele dieser Regelungen zielen auf die Art und Weise ab, wie Versicherer ihre Geschäfte ausführen, z. B. Solvenzbestimmungen oder Bestimmungen zur Bekämpfung der Geldwäsche. Andere beziehen sich wiederum auf die technologischen Verfahren und Ansätze, die Versicherer anwenden. Diese technologiebezogenen Verordnungen dienen häufig dem Schutz der Versicherungsnehmer und sollen gewährleisten, dass Versicherungen für alle Verbraucher fair und zugänglich bleiben.

VOREINGENOMMENHEIT DER VERSICHERUNGS-KI UND DAS UMFELD DER REGULIERUNG
Auch wenn generative KI gegenwärtig im Mittelpunkt des Interesses steht (und wahrscheinlich noch eine Weile stehen wird), haben Versicherer verschiedene Arten von künstlicher Intelligenz eingeführt, um Prozesse zu automatisieren und fundiertere geschäftliche Entscheidungen treffen zu können. Künstliche Intelligenz erleichtert die Entscheidung für neue Produkte und Dienstleistungen und hilft den Versicherern festzustellen, bei welchen Kunden das größtmögliche Interesse besteht, diese in Anspruch zu nehmen.

Künstliche Intelligenz vereinfacht darüber hinaus die Beurteilung, welche Ansprüche - oder Anspruchsteller - die meiste Unterstützung benötigen und welche Ansprüche per  Dunkelverarbeitung reguliert werden können. KI ermöglicht es außerdem, dass Underwriter und Betrugsermittler schnellere und präzisere Entscheidungen über auffällige Versicherungsanträge oder Schadensfälle fällen können. Kurz gesagt: KI hilft Versicherungsunternehmen, Prämienverluste zu verhindern, die Schadenquote zu verbessern und das Kundenerlebnis zu verbessern, neben zahlreichen weiteren Vorteilen.

Doch auch wenn sich KI in der Versicherungsbranche immer mehr durchsetzt, gibt es Bedenken, dass diese Technologie für einige Versicherungsnehmer negative Auswirkungen haben könnte. Es ist seit langem bekannt, dass KI das Risiko birgt, im Laufe der Zeit eine unbewusste Vorurteilsbildung zu entwickeln. Dies kann durch ein schlechtes Design der ursprünglichen Algorithmen, die Verwendung fehlerhafter Datensätze zum Trainieren dieser Algorithmen, einen Mangel an angemessener Überprüfung und Aufsicht oder eine Kombination all dieser und anderer Faktoren geschehen. Da KI oft als "Blackbox"-Technologie betrachtet wird, kann ein Kunde, dessen Versicherungsantrag abgelehnt wurde, oder ein Versicherungsnehmer, dessen Ansprüche aufgrund des Einsatzes dieser Technologie konsequent als betrügerisch untersucht oder abgelehnt werden, das Gefühl haben, dass er kaum Handlungsmöglichkeiten hat.

Die am 25. Mai 2018 in Kraft getretene DSGVO gilt als eines der strengsten Datenschutz- und Sicherheitsgesetze der Welt. Auch wenn sie in erster Linie darauf abzielt, die personenbezogenen Daten und die Art und Weise ihrer Erhebung, Verwendung und Speicherung zu schützen, gibt es auch Bestimmungen in der DSGVO, die vorschreiben, dass Personen Zugang zu aussagekräftigen Erklärungen für sie betreffende automatisierte Entscheidungen haben müssen. Die Nichteinhaltung der DSGVO kann zu drastischen Strafzahlungen führen - bis zu vier Prozent des Gesamtjahresumsatzes eines Unternehmens oder 20 Millionen Euro.

Darüber hinaus hat die EU-Kommission im Jahr 2021 ihr KI-Gesetzesentwurf veröffentlicht. Dabei handelt es sich um einen ehrgeizigen Vorschlag für einen umfassenden Rechtsrahmen für den Einsatz von KI bei Finanzdienstleistern, inklusive Versicherern. Die Bestimmungen sind zwar noch nicht verabschiedet und umgesetzt, verlangen jedoch von KI-Systemen mit hohem Risiko, dass sie qualitativ hochwertige Datensätze, Trainingsmaßnahmen, Validierungen und Tests mit angemessenen Governance- und Managementpraktiken verwenden. Die Versicherer müssen angemessene Maßnahmen treffen, um Data Poisoning, böswillige Attacken und die Ausnutzung von Schwachstellen zu verhindern.

Von den Versicherern erwartet das Gesetz, dass sie bei der Datenerhebung die gebotene Sorgfalt walten lassen, so dass sie in einem angemessenen Verhältnis zum Verwendungszweck stehen. Die Zunahme der algorithmusgestützten Kreditwürdigkeitsprüfung und der Rückgriff auf personenbezogene Daten bei Finanzdienstleistungen haben die Bedenken hinsichtlich einer möglichen Diskriminierung verstärkt. Sollten Versicherer glauben, dass ein Verstoß gegen die Datenschutz-Grundverordnung (GDPR) schon abschreckend genug ist, so verschärft das KI-Gesetz die Anforderungen noch erheblich. Die Nichtbeachtung des KI-Gesetzes kann Versicherer bis zu 30 Millionen Euro an Strafzahlungen oder sechs Prozent des Gesamtjahresumsatzes kosten.

GEWÄHRLEISTUNG DER COMPLIANCE
Versicherungsunternehmen können nicht auf die Verabschiedung der Verordnungsvorschläge warten, bis sie bestimmte Grundprinzipien zur Gewährleistung von Unvoreingenommenheit und Datenschutzvorschriften erarbeitet haben. Die Einführung von KI zur Unterstützung wichtiger Versicherungsprozesse muss auf einer fairen, vorurteilsfreien Bewertung der Kunden vor und nach dem Vertragsabschluss beruhen. Auch die Versicherungsnehmer sollten hinreichend darüber informiert werden, welche Kundendaten erhoben werden und wie sie während der gesamten Kundenbeziehung genutzt werden können. Die Festlegung klarer Grundsätze zu einem frühen Zeitpunkt in der Planungs- und Entwicklungsphase ermöglicht es den Versicherern, sich auf die Umsetzung ihrer Geschäftsstrategie zu konzentrieren, anstatt sich im Nachhinein um die Einhaltung der Vorschriften zu sorgen. 

Darüber hinaus sollten Versicherer versuchen, mit Anbietern und Lösungsanbietern zusammenzuarbeiten, die Experten in der Entwicklung von Algorithmen sind, die bewusste und unbewusste Voreingenommenheit bei KI von vornherein ausschließen. Sie sollten unbedingt die Zusammenarbeit mit Dienstleistern anstreben, die Sicherheit und Datenschutz konsequent verfolgen und dieses Engagement auch nachweislich belegen können.

Abschließend sollten Versicherungsunternehmen Technologieanbieter bevorzugen, die die von ihren Lösungen getroffenen Entscheidungen vollständig erläutern und eine überprüfbare Historie aller Daten oder Variablen bereitstellen können, die mit den von ihrem System generierten Hinweisen und Entscheidungen verknüpft sind.

BALANCE ZWISCHEN INNOVATION UND COMPLIANCE: WIE VERSICHERER DIE MACHT DER KÜNSTLICHEN INTELLIGENZ FÜR SICH NUTZEN KÖNNEN
Künstliche Intelligenz hat sich bereits als äußerst effektives Instrument für Versicherungsunternehmen erwiesen, die ihre kritischen Geschäftsprozesse effizienter gestalten wollen. Gleichzeitig müssen die Versicherer in einer stark regulierten Branche darauf achten, dass die von ihnen eingesetzte Technologie sie nicht in Konflikt mit dem Gesetz bringt.

Eine sorgfältig entwickelte Strategie, die mit den richtigen Technologiepartnern umgesetzt wird, ist eine der besten Möglichkeiten, um die Vorteile der KI auszuschöpfen und gleichzeitig die geltenden Vorschriften einzuhalten.

Wenn Sie mehr darüber erfahren möchten, wie Shift Sie bei der Nutzung von KI zur Verbesserung der Entscheidungsfindung im Versicherungswesen unterstützen kann, kontaktieren Sie uns noch heute.