Stronniczność w uczeniu maszynowym

HireView to startup, który reklamuje swoje usługi twierdząc, że potrafi przyspieszyć proces przeprowadzania rozmów z kandydatami do pracy. Kandydat przesyła nagranie wideo swoich odpowiedzi na zestaw możliwych pytań z rozmowy kwalifikacyjnej, a HireView analizuje je za pomocą algorytmu uczenia maszynowego.

Algorytm ocenia kandydata pod względem różnych aspektów jego osobowości, takich jak „chęć do nauki” i „stabilność osobista”. Inżynierowie HireView wyszkolili algorytm na zestawie danych z nagrań z odbytych wcześniej rozmów kwalifikacyjnych, które były oceniane przez pracodawców i psychologów.

Podczas testu algorytmu inżynierowie HireView odkrywają, że algorytm zawsze daje niższe oceny osobom, które mówią wolniej.