Główną bohaterką filmu jest Joy Buolamwini, która będąc doktorantką na prestiżowym Massachusetts Institute of Technology (MIT), odkryła, że nie identyfikują jej technologie rozpoznawania twarzy. Po licznych próbach czarnoskóra kobieta wpadła na pomysł, żeby nałożyć na twarz białą maskę – dopiero wtedy została rozpoznana przez algorytm.

Przedstawiony w filmie przykład pokazuje, że tego typu technologie z trudem rozpoznają twarze kobiet oraz osób o innym kolorze skóry niż biały.

Biorąc pod uwagę, że nad rozwojem sztucznej inteligencji w Dolinie Krzemowej pracują głównie biali mężczyźni, nie powinno to budzić większego zdziwienia. Rodzi jednak sporo zrozumiałych obaw, bo dyskryminujące działanie technologii rozpoznawania twarzy nierzadko prowadzi do realnych szkód w życiu osób, które padają jej ofiarami. Wyobraźcie sobie na przykład sytuację, w której zostajecie odrzuceni przez system z procesu rekrutacyjnego tylko dlatego, że tak podpowiada mu sztuczna inteligencja. Musicie wynieść się z mieszkania, bo zainstalowana w kamerach monitoringu technologia przypisała do waszej twarzy informację, że nie segregujecie należycie śmieci. W ekstremalnym przypadku zostajecie bezpodstawnie aresztowani, bo to na was wskazał system rozpoznawania twarzy – omylny i dyskryminujący grupy o często słabszej pozycji społecznej.

Problem może wydawać się niszowy lub odległy – nic bardziej mylnego.

Do końca roku wszyscy Chińczycy mają być objęci tak zwanym system zaufania społecznego, który korzystając między innymi z technologii rozpoznawania twarzy, pozwala na obserwację i ocenę zachowań obywateli.

Osoby o niskim „kredycie społecznym” nie są na przykład wpuszczane na pokłady samolotów oraz nie mogą zakupić biletów kolejowych (szerzej pisaliśmy o tym tutaj). Londyn jest natomiast drugim po Pekinie miastem z najbardziej rozbudowaną siecią monitoringu na świecie i problematycznych sytuacji wynikających z błędów sztucznej inteligencji tam, jak i na całym świecie, będzie na pewno stale przybywać.

„Zakodowane uprzedzenie” możecie obejrzeć online w ramach American Film Festival – więcej informacji znajdziecie tutaj.

Zdjęcie główne: codedbias.com
Tekst: AD