In Audio-Interview mit dem Branchendienst heise.de warnt TÜV-Nord-Chef Dirk Stenkamp nicht nur vor dem Einsatz von künstlicher Intelligenz (KI) in sicherheitskritischen Bereichen und den Risiken für unsere Grundrechte. Vielmehr erklärt der promovierte Physiker konstruktiv, wie sich Vertrauen in KI-basierte Systeme aufbauen lasse, wie wir ethische Grundsätze darin verankern sollten – und warum bereits bei den Trainingsdaten für die Algorithmen darauf zu achten sei, ob bestimmte Algorithmen sich für die jeweiligen Anwendungen überhaupt eignen.
Dirk Stenkamp zufolge muss immer wieder darauf geachtet werden, dass KI-basierte Geräte ethischen Grundsätzen entsprechen und diskriminierungsfrei sind. Es gebe sehr „entscheidungsfreudige Algorithmen“, stellt der Experte im unten verlinkten, rund halbstündigen Podcast klar. Am Ende seien aber moderate Entscheidungen zu treffen: „Eine zentrale Frage wird sein: Fühle ich mich als Mensch mit meinen Werten sicher und gut aufgehoben?“ Auch wir bei //next haben uns bereits mehrfach mit den ethischen Implikationen von KI beschäftigt (siehe Links unten).
TÜV-Nord-Chef Dirk Stenkamp
Im weiteren Verlauf des Podcast gibt der Experte zudem einen Überblick über bereits vorhandende und kommende Prüfverfahren, die diesem Anspruch Rechnung tragen – und die teilweise bereits standardisiert seien. „Es gibt aber noch keine gesetzliche Grundlage, wie und durch wen zu prüfen ist.“ Auf EU-Ebene sei im Februar 2020 in einem Weißbuch beschrieben worden, dass es eine EU-weite Regulierung geben soll. Aktuell werde nun ein „AI Act“ im EU-Parlament diskutiert, erarbeitet von der EU-Kommission. Darin würden verschiedene Risikoklassen unterschieden.
In Anwendungsfällen wie etwa dem teilautonomen Fahren oder bei KI-basierten Fahrspurassistenten gibt es laut Dirk Stenkamp bereits heute bestimmte Regularien, die einzelne Prüfungsschritte genau vorschreiben. Hier sei EU-Recht schon in der Anwendung. Dennoch: Erst das erwähnte europäische Gesetz bringe eine verbindliche Rechtsstruktur, welche die Staaten dann in ihre nationalen Systeme überführen müssten.
Neugierig geworden? Dies alles – sowie den Grund dafür, warum selbst das intelligenteste System die Hauptuntersuchung bei Autos auch künftig nicht überflüssig machen kann – hört Ihr hier im Podcast:
Text: Ingo Schenk
Ethik der Algorithmen – warum eine KI Regeln braucht
„KI und Ethik – daraus kann Tolles entstehen“
Umgang mit künstlicher Intelligenz: „Der Mensch steht an erster Stelle“
Am beliebtesten