Zehn statt sechs: Nachdem sich Technologieunternehmen jahrelang auf die so genannte „Fitzpatrick“-Skala mit sechs Farbstufen verlassen hat, um Hautfarben von ihren Algorithmen klassifizieren zu lassen, wird dieses Spektrum nun erweitert. Google will in Produkte wie Google Photos oder Google Search Images einen erweiterten 10-Hautton-Standard integrieren, die so genannte „Monk Skin Tone“-Skala. Dieser Vorstoß könnte unter anderem das Risiko minimieren, dass Menschen mit dunkler Haut von künstlicher Intelligenz weniger zuverlässig erkannt und hierdurch diskriminiert werden.
Dieser Skandal schlug Wellen der Empörung: 2015 brachte ein schwarzer Softwareentwickler den Google-Konzern in Verlegenheit, indem er sich darüber beschwerte, dass die Foto-App des Unternehmens Aufnahmen von ihm mit einem Freund als „Gorillas“ gekennzeichnet hatte. Nur einer von vielen bedauerlichen Vorfällen, bei denen Menschen durch Software-Schwächen diskriminiert wurden.
Die Defizite liegen an der oben erwähnten „Fitzpatrick“-Skala, die in den 1970er Jahren für Dermatologen entwickelt wurde und lediglich sechs Hauttöne umfasst. Laut „Wired“-Magazin beginnt Google nun aber damit, einen Zehn-Hautton-Standard in seine Produkte zu integrieren, die so genannte „Monk Skin Tone“-Skala. Dem Branchendienst zufolge hat dieser Vorstoß gute Chancen, die Verzerrungen in Datensätzen zu reduzieren, die zum Trainieren von künstlicher Intelligenz (KI) in nahezu allen Sektoren verwendet werden – von der Gesundheitsfürsorge bis zur Moderation von Inhalten durch Google und andere Anbieter.
Über die Fitzpatrick-Skala hinausgehen zu wollen, hatten die Kalifornier bereits im vergangenen Jahren angekündigt. Laut „Wired“ geht das Projekt auf eine Initiative von vier schwarzen Google-Managerinnen aus dem Sommer 2020 zurück, um KI „für farbige Menschen besser nutzbar zu machen“, wie Xango Eyeé, eine verantwortliche KI-Produktmanagerin des Unternehmens, in einem Twitter-Thread schreibt.
Mitte Mai erläuterte Google dann auf der I/O-Konferenz, wie weit die Auswirkungen des geplanten neuen Systems auf seine zahlreichen Produkte reichen könnte. Und nicht nur das: Man wolle die erweiterten Farbskalen auch als Open Source zur Verfügung stellen, was bedeutet, dass nach Einschätzung von „Wired“ die unzureichenden „Fitzpatrick“-Vorgaben als Industriestandard für die Auswertung von Kamera-Daten und Computer-Vision-Systemen endlich abgelöst werden könnte. Mehr zu den Hintergründen, der Technologie hinter dem neuen und alten Verfahren sowie dem Potenzial dieses Google-Vorstoßes gibt es hier (auf Englisch):
Text: Ingo Schenk
Am beliebtesten