„Der Mensch steht an erster Stelle“

Künstliche Intelligenz (KI) gewinnt gesamtgesellschaftlich und besonders im wirtschaftlichen Kontext zunehmend an Gewicht. Sie greift in Prozesse ein, modifiziert sie und übernimmt Aufgaben, die bislang von Menschen ausgeführt wurden. Für ERGO ist sie ein Wachstumstreiber und hat zentrale Bedeutung für die zukünftige Ausrichtung des Unternehmens. Über die Notwendigkeit von klar definierten ethischen Grundsätzen spricht Rolf Mertens, Head of Advanced Analytics & Robotics der ERGO Group AG, im Interview.

Rolf Mertens, Head of Advanced Analytics & Robotics der ERGO Group AG

Herr Mertens, die Entwicklung und der Einsatz künstlicher Intelligenz werden von vielen Menschen skeptisch gesehen. Sie befürchten Kontrollverlust und nicht abschätzbare Risiken. Wie begegnet ERGO solchen Bedenken?

Die Vorbehalte sind nachvollziehbar, denn künstliche Intelligenz klammert emotionale und empathische Aspekte aus, die für unser Zusammenleben eine wichtige Grundlage sind. Wenn es jedoch um rein rationale Prozesse geht, haben sie einen anderen Stellenwert. Es ist daher unsere Aufgabe, berechtigte Fragen unmissverständlich zu beantworten und klare Zuordnungen von Mensch und Technik innerhalb unterschiedlicher Prozesse aufzuzeigen.

Was bedeutet das konkret?

Automatisierung auf Basis künstlicher Intelligenz hat in bestimmten, klar abgesteckten Bereichen viele Vorteile. Wir können beispielsweise Fehlerquoten deutlich minimieren und Prozesse beschleunigen. Zugleich sind an all diesen Prozessen in allen Phasen Menschen beteiligt oder von ihnen betroffen. Deshalb darf kein Zweifel daran bestehen, dass wir uns ohne Ausnahme innerhalb eines Wertesystems bewegen, das auf Verantwortung gegenüber dem einzelnen und der Gesellschaft, auf Sicherheit – vor allem Datensicherheit – und Transparenz beruht. So sieht es auch die Europäische Kommission, die vor einiger Zeit ebenfalls ethische Leitlinien und damit verbundene Anforderungen für den vertrauensvollen Umgang mit künstlicher Intelligenz formuliert hat. 

Welche zentralen Aussagen macht der ERGO Wertekodex, welche Überlegungen waren die Grundlage?

Wir erfüllen als großer Versicherer Aufgaben, bei denen der Mensch und seine Wünsche, seine Lebensentwürfe, seine Zukunftsperspektiven unmittelbar betroffen sind. Deshalb war unser Anspruch, verbindliche Leitlinien, die wir „Leitplanken zum Umgang mit künstlicher Intelligenz“ nennen, festzuschreiben. Ein starker Impuls dazu kam von unseren Betriebsräten. Ihr Anliegen, in Entscheidungen über jede einzelne KI Anwendung einbezogen zu werden, haben wir gern aufgegriffen und schon Anfang 2019 gemeinsam unsere Leitplanken, die wir im gesamten Unternehmen öffentlich gemacht haben, erarbeitet. Die Leitplanken einzuhalten, ist die Aufgabe aller an der Entwicklung der Lösungen Beteiligten. Dazu zählen beispielsweise die jeweiligen Fachbereiche, die IT sowie natürlich auch die Kollegen aus dem Advanced Analystics Team. Wir agieren damit auf einer breiten und qualifizierten Basis.

Welche Botschaft transportiert ERGO in den Leitplanken?

Schon in der Präambel machen wir deutlich, dass wir uns der Risiken ebenso wie der Chancen bei der Umsetzung KI basierter Lösungen bewusst sind. Dass bei der Abwägung von Chancen und Risiken grundsätzlich der Mensch vor der Technik an erster Stelle steht und wir uns auf den Verhaltenskodex der Munich Re Gruppe berufen. In sechs Bekenntnissen, unseren Leitplanken, dokumentieren wir im Anschluss an die Präambel unsere Überzeugungen im Einzelnen. Wir sagen dort, dass sich alle Entscheidungen an den Menschen orientieren müssen.

Verantwortungsbewusstes Handeln gegenüber unseren Kunden und unseren Vertriebspartnern ist Maßstab für ERGO als Unternehmen und für jeden einzelnen unserer Mitarbeiter. Unsere innovativen KI-Lösungen nehmen immer Einfluss auf Arbeitsprozesse und -abläufe, an denen viele mitwirken, die unser Bekenntnis auch nach außen repräsentieren. Wir handeln zum Nutzen aller, da das Anwendungsfeld künstlicher Intelligenz, wie wir sie einsetzen, gesamtgesellschaftliche Effekte hat. Nachhaltige Produkte, Lösungen und Services anzubieten und das Kundenerlebnis kontinuierlich weiter zu verbessern, ist schließlich ein starkes Motiv für ERGO zur Kundengewinnung und zur Kundenbindung. Um Diskriminierung einzelner oder von Gruppen, die durch künstliche Intelligenz entstehen könnte, entgegenzuwirken und auszuschließen, entwickeln und verwenden wir Algorithmen nach den höchsten technischen und wissenschaftlichen Standards – dies ist ein weiteres Versprechen. Der umfassende Datenschatz, den wir nutzen, ist das Fundament für qualitativ hochwertige Lösungen, die wir anstreben und realisieren. Da alle Algorithmen, die wir entwickeln, auf diesen konkreten, zum Teil auch personenbezogene Daten basieren, haben Persönlichkeitsrechte und Datenschutz natürlich höchste Priorität.

Soweit zur Theorie. Können Sie uns ein Beispiel aus der Praxis nennen, bei denen die Leitplanken sichtbar werden?

Die Entwicklung eines neuen KI-Algorithmus ist immer ein Prozess, an dessen Anfang klar definiert werden muss, was wir eigentlich vorhersagen wollen. Zum Beispiel: Wie hoch ist die Wahrscheinlichkeit, dass ein Kunde seinen Versicherungsvertrag am Ende der vereinbarten Laufzeit kündigt. Haben wir diese Frage beantwortet, müssen wir entscheiden, welche Daten wir dazu nutzen können. In diesem Moment kommen die Leitplanken schon erkennbar ins Spiel. Denn wir müssen verhindern, dass Verzerrungen entstehen, indem Daten eingesetzt werden, die das Risiko bergen, unsere ethischen Grundsätze – zum Beispiel die unbedingte Vermeidung von Diskriminierung – zu verletzen. Wir sprechen von Explainable AI: Wir müssen eindeutig nachvollziehbar machen und erklären können, auf welche Weise und auf welcher Grundlage wir zu dem angestrebten Ergebnis kommen wollen. Nehmen Sie als weiteres Beispiel die Erstattung von Arztrechnungen, die wir realisiert haben. Wer eine Arztrechnung bei ERGO einreicht, erwartet eine zeitnahe Erstattung. Was muss ein KI-Algorithmus dabei leisten können? Er muss selbstständig entscheiden, welche Rechnungen sofort erstattet werden und wann weitere Prüfungen oder Bearbeitungen notwendig sind. Er muss gewissermaßen die kognitiven Fähigkeiten des Menschen wie Lesen und Verstehen nachempfinden können. Wir haben Trainingssets auf Basis von Millionen Daten verwendet, die dazu geführt haben, dass der Algorithmus qualitativ und quantitativ hochwertige Entscheidungen erzielt. Wenn wir diesen Algorithmus zur Anwendung bringen, kommen wieder die Leitplanken ins Spiel: Um keine Ungerechtigkeiten entstehen zu lassen und um nicht angreifbar zu werden, lehnen wir keine Rechnungserstattung auf Grund einer KI Entscheidung ab. Dies entscheidet bei uns weiterhin der Fachexperte. Also eine gute Kombination aus KI und Mensch.

Auf welche Schwierigkeiten treffen Sie?

Es sind weniger Schwierigkeiten als vielmehr die Herausforderungen, unseren Ansprüchen zu jeder Zeit und in vollem Maße gerecht zu werden. Unsere Leitplanken sind nicht nur schöne Worte, sondern verbindliche Handlungsanweisungen, an denen wir uns messen lassen müssen und wollen. So verlangt es schon unsere eigene Prozessbeschreibung. Das bedeutet: Nur wenn alle Beteiligten in der Lage sind, in jeder Phase all unsere in den Leitplanken formulierten Versprechen einzuhalten, werden wir einen KI Algorithmus produktiv einsetzen. 

Vielen Dank für dieses Gespräch, Herr Mertens!

Interview: Martin Sulkowsky