Blog
Generative KI verändert Betrug in der Risiko- und Versicherungsbranche
May 1, 2024
Neue Technologien bringen neue Chancen mit sich – und neue Risiken, die bewältigt und entschärft werden müssen
Böswillige Betrüger sind seit jeher innovativ und finden immer neue Wege, um Versicherer und ehrliche Versicherungsnehmer zu betrügen. Oft sind sie dabei leider den Ermittlern einen Schritt voraus. Fortschritte in der Technologie, wie KI und generative KI, bringen neue Risiken für die Versicherungsbranche mit sich, da Kriminelle nach neuen Schwachstellen suchen, die sie zu ihrem Vorteil ausnutzen können. Da sich die Technologie durch den Einsatz offener KI-Programme und anderer generativer KI-Anwendungen hin zu einem kollaborativen, offenen Systemansatz verschiebt, müssen die Versicherer diese Risiken verstehen und proaktiv handeln, um Verstöße und Betrugsversuche zu verhindern. Einem kürzlich erschienenen Aon-Bericht zufolge wird KI in den nächsten drei Jahren zu einem der zwanzig größten Risiken werden. Dabei wird deutlich, dass die Branche den damit verbundenen Risiken den notwendigen Stellenwert einräumen muss. Sobald neue Technologien eingeführt werden, suchen böswillige Akteure nach Möglichkeiten, diese auszunutzen. So wurden beispielsweise bereits Kameras von Ring gehackt mit erschreckenden Beispielen von Hackern, die Menschen ausspionieren, Todesdrohungen aussprechen oder Kindern Angst machen. Um hier ein Beispiel dafür, wie Software-Updates ausgenutzt werden können: So wurde ein Jeep gehackt, wobei die Hacker die vollständige Kontrolle über das Fahrzeug übernahmen, während es gefahren wurde. Die verschiedenen Smart-Home-Geräte, die heute in den Haushalten vieler Menschen zu finden sind, stellen häufig Schwachstellen dar, z. B. Smart Fernseher, Glühbirnen und Thermostate. Es ist davon auszugehen, dass sich die von der generativen KI ausgehenden Risiken mit der Technologie weiterentwickeln werden. Dies bedeutet, dass die Branche versuchen muss, mit den bösen Akteuren Schritt zu halten.
Neue Chance, aber auch neue Risiken durch generative KI
Auch wenn die Nutzung von KI und generativer KI noch in den Kinderschuhen steckt, kann die Versicherungsbranche die entstehenden Risiken, die mit den Chancen einhergehen, nicht ignorieren. Zu den Risiken gehören:
Datenschutz- und Sicherheitsbedenken,
Inhärente Verzerrungen in generativen KI-Anwendungen,
Sicherstellung der Einhaltung rechtlicher und regulatorischer Anforderungen,
Möglicherweise übermäßiges Vertrauen in KI und generative KI,
Angriffe von Hackern auf Schwachstellen in generativen KI-Programmen sowie
Datenvergiftung, wenn böswillige Akteure falsche Informationen in KI-Datenbanken einbringen.
FRISS hat vor Kurzem seinen Fraud Report 2024 veröffentlicht, in dem die weltweiten Vorstellungen über Betrug und die Maßnahmen zur Aufdeckung und Verhinderung von Betrug in der Versicherungsbranche untersucht werden. Mit Blick auf neu aufkommende Themen wie Betrug durch KI und andere Technologien wurde in der Umfrage untersucht, wie die Befragten Antrags- und Schadensbetrug aufdecken und verhindern und welche Tools sie zur Betrugsbekämpfung einsetzen. Die Mehrheit der Befragten (59,8 %) würde es begrüßen, wenn ihre Unternehmen Tools zur automatisierten Betrugserkennung einsetzen würden. Die Befragten sind der Meinung, dass die Implementierung dieser automatisierten Tools in Verbindung mit einer verstärkten Schulung zur Sensibilisierung für Betrug und einer besseren Zusammenarbeit zwischen den Abteilungen ihren Unternehmen helfen würde, Betrug besser zu bekämpfen. Um sich gegen diese mit generativen KI-Programmen verbundenen Risiken zu wappnen, können Versicherer Tools und Strategien zur Erkennung, Verhinderung und Kontrolle von Betrug einsetzen.
Wie Versicherer beim Umgang mit generativem KI-Betrug helfen können
Versicherer müssen den Trends und Veränderungen in der Technologie und den Anwendungsfällen voraus sein, um Betrug durch generative KI-Technologie effektiv zu verwalten. Mit dem Wissen, dass ein Hauptrisiko im Datenschutz liegt, können sich Versicherer bereits auf die Verbesserung ihrer Datensicherheitssysteme konzentrieren, um einige der durch generative KI verursachten Risiken abzufangen.
Eine weitere Möglichkeit, den generativen KI-Betrug strategisch zu bekämpfen, ist der Einsatz einer Plattform zur Betrugserkennung und -prävention. Durchschnittlich 28,18 % der Teilnehmer an der FRISS-Umfrage gaben an, dass sie derzeit nicht über eine Plattform zur Aufdeckung und Verhinderung von Betrug verfügen. Hier bietet sich denjenigen, die keine Plattform haben, die Möglichkeit, eine externe oder selbst entwickelte Lösung in Erwägung zu ziehen, um andere Instrumente zu ergänzen, die sie bereits zur Betrugsbekämpfung einsetzen.
33,82 % der Befragten machten sich Sorgen, dass das Schritthalten mit modernen Betrugsmethoden eine ihrer größten organisatorischen Herausforderungen in dem Bereich sei, und 39,8 % waren besorgt über den Datenschutz und den Schutz der Privatsphäre. Die größte Herausforderung war jedoch die Datenqualität: 61,98 % der Befragten äußerten Bedenken hinsichtlich der Qualität der internen Daten.
Die Versicherer können sich auf diese Herausforderungen konzentrieren, indem sie ihre Datensicherheitsmethoden und -instrumente verbessern. Die Qualität interner Daten war in der Vergangenheit eine Herausforderung für etablierte Versicherer, da sie versuchten, ihre Daten zu analysieren und Schlussfolgerungen daraus zu ziehen. Die Modernisierung auf eine digitale Plattform zur Erkennung, Verwaltung und Vorbeugung von Betrug auf Antrags- und Schadensebene könnte eine Möglichkeit sein, zu einem Modell der Betrugsvorhersage und -vorbeugung überzugehen.
Um mehr zu erfahren, lesen Sie den vollständigen Fraud Report 2024.
Externe Quellen:
2. https://www.theguardian.com/technology/2020/dec/23/amazon-ring-camera-hack-lawsuit-threats
3. https://www.wired.com/2015/07/hackers-remotely-kill-jeep-highway/
4. https://cisomag.com/10-iot-security-incidents-that-make-you-feel-less-secure/