Władze miasta Nowy Jork postanowiły wprowadzić regulacje w sprawie sztucznej inteligencji. W tym celu w maju zeszłego roku powołano zespół urzędników pod nazwą New York City Automated Decision Systems Task Force (ADS). – Uczciwość i sprawiedliwość mają kluczowe znaczenie dla poprawy życia nowojorczyków. Z każdą nową technologią wiąże się dodatkowa odpowiedzialność. Z niecierpliwością czekam na powitanie mojego zespołu ds. Zarządzania algorytmami i polityki, aby zapewnić, że narzędzia, których używamy do podejmowania decyzji, są uczciwe i przejrzyste – zapowiadał burmistrz miasta, Bill de Blasio. Problem tkwi bowiem w tym, że choć sztuczna inteligencja otacza nowojorczyków każdego dnia – używana jest przez policję, szkoły, a nawet śmieciarki – to system ten nie jest pozbawiony wad.

Często uważamy, że algorytmy nie mogą się mylić – w końcu tylko analizują dane, nie mają własnej agendy czy poglądów. Tymczasem jak najbardziej mogą być rasistowskie, homofobiczne czy seksistowskie.

Z takich właśnie algorytmów korzysta niekiedy policja – i z tego też powodu coraz więcej amerykańskich miast zakazuje wykorzystywania technologii rozpoznawania twarzy.

Wydawało się, że Nowy Jork chce uniknąć takich problemów. Dlatego też ADS pracowało przez ostatnie półtora roku nad raportem, który przedstawiło w ubiegłym tygodniu. Zespół miał stworzyć listę wskazówek, które poprawiłyby funkcjonowanie wykorzystywanej przez miasto sztucznej inteligencji, sprawiając między innymi, że algorytmy stałyby się bezstronne. Podczas debaty, która odbyła się w ubiegłym tygodniu w nowojorskim ratuszu, okazało się, że powołana w tym celu grupa nie jest nawet w stanie zgodzić się co do tego, jak należy zdefiniować sztuczną inteligencję (więcej pisze o tym w artykule dla Fast Company Albert Fox Cahn, który uczestniczył w tym wydarzeniu).

Sam raport natomiast nawet w najmniejszym stopniu nie zajmuje się tym, jak poprawić funkcjonowanie AI w Nowym Jorku.

– Taki raport mógłby powstać bez powołania specjalnej grupy zadaniowej – mówi Meredith Whittaker, współzałożycielka AI Now Institute. Whittaker zaangażowana była na początku w działania ADS, ale następnie zrezygnowała, bo miasto skutecznie blokowało działania twórców raportu. Nie udostępniło im nawet informacji o używanych przez miasto algorytmach i programach komputerowych. Trudno się więc spodziewać, że raport tworzony bez takich informacji będzie w stanie spełnić swój cel. Pierwszy nowojorski raport w spawie sztucznej inteligencji można więc uznać ze spektakularną porażkę – problem w tym, że winę w znacznej mierze ponosi za to miasto, które raport zamówiło.

Zdjęcie główne: Franck V. / Unsplash
Tekst: NS