Stronniczość w rozpoznawaniu twarzy

Usługi rozpoznawania twarzy wykorzystują algorytmy uczenia maszynowego do skanowania twarzy i wykrywania płci, rasy, emocji, a nawet tożsamości danej osoby.

Oto przykładowy wynik usługi rozpoznawania twarzy:

Niestety, algorytmy rozpoznawania twarzy różnią się skutecznością w przypadku różnych typów twarzy. Badaczka z MIT, Joy Buolamwini, odkryła, że musi nosić białą maskę, aby usługa rozpoznawania twarzy w ogóle zobaczyła jej twarz.

Buolamwini wraz z badaczem Timnitem Gebru przetestowali dokładność popularnych usług rozpoznawania twarzy z dużych firm (w tym Microsoft i IBM). Do każdej z usług wprowadzono zróżnicowany zestaw twarzy i odkryto szeroki zakres precyzji w klasyfikacji płci. Wszystkie usługi wypadły lepiej na twarzach mężczyzn niż kobiet, a wszystkie usługi wypadły najgorzej na twarzach kobiet o ciemnej karnacji. $^1$start superscript, 1, end superscript

W innym badaniu przeprowadzonym przez National Institute of Science wypróbowano 189 algorytmów rozpoznawania twarzy na 18,27 mln obrazów i zmierzono, jak często każdy algorytm rozpoznawał, że dwie twarze należą do tej samej osoby. Stwierdzili, że prawdopodobieństwo fałszywych pozytywów było do 100 razy większe dla twarzy wschodnioazjatyckich i afroamerykańskich w porównaniu do twarzy białych. $^2$squared

Dokładność tych algorytmów jest już problemem wymiaru sprawiedliwości w sprawach karnych, ponieważ organy ścigania zaczęły wykorzystywać rozpoznawanie twarzy do identyfikacji osób. Jeśli algorytmy rozpoznawania są stronnicze, to wynikające z nich decyzje organów ścigania mogą być stronnicze, co może potencjalnie prowadzić do fałszywych aresztowań i niepotrzebnych spotkań z policją.

W styczniu 2020 roku policja w Detroit wykorzystała technologię rozpoznawania twarzy na nagraniu z monitoringu z kradzieży, aby aresztować czarnego mężczyznę, który okazał się niewinny. Robert Williams został aresztowany na trawniku przed swoim domem, podczas gdy jego małe dzieci obserwowały tę scenę. Pokazano mu zdjęcia z monitoringu człowieka, który rzekomo był nim, i zatrzymano na 30 godzin. Później Williams tak powiedział o zdjęciach z monitoringu: „Kiedy patrzę na zdjęcie tego faceta, widzę po prostu dużego czarnoskórego faceta. Nie widzę podobieństwa. Nie sądzę, żeby w ogóle był podobny do mnie”. Ostatecznie został oczyszczony z zarzutów po przesłuchaniu, gdy prokurator stwierdził, że nie ma wystarczających dowodów jego winy. $^4$start superscript, 4, end superscript

W styczniu 2020 roku ponad 40 organizacji napisało wspólny list do rządu USA z prośbą o moratorium na systemy rozpoznawania twarzy i zawieszenie ich stosowania do czasu, gdy technologia będzie dokładnie sprawdzona. $^3$cubed W całym kraju już kilka miast i stanów uchwaliło moratoria na poziomie regionalnym. $^5$start superscript, 5, end superscript

W czerwcu 2020 roku IBM ogłosił, że nie będzie już oferował usługi rozpoznawania twarzy: „IBM stanowczo sprzeciwia się i nie będzie przyzwalać na wykorzystanie żadnej technologii, w tym technologii rozpoznawania twarzy oferowanej przez innych sprzedawców, do masowej inwigilacji, profilowania rasowego, naruszania podstawowych praw i wolności człowieka lub jakiegokolwiek celu, który nie jest zgodny z naszymi wartościami i Zasadami zaufania i przejrzystości”. $^6$start superscript, 6, end superscript

🤔 Czy są sytuacje, w których użycie algorytmów rozpoznawania twarzy, które są stronnicze, jest w porządku? Jeśli opracowywałbyś usługę rozpoznawania twarzy za pomocą uczenia maszynowego, w jaki sposób pozyskałbyś zróżnicowany zestaw danych treningowych?

🙋🏽🙋🏻‍♀️🙋🏿‍♂️Czy masz jakieś pytania dotyczące tego tematu? Chętnie odpowiemy — wystarczy zapytać w polu pytań poniżej!