Podczas gdy system rozpoznawania twarzy próbuje zidentyfikować konkretną osobę, rozpoznawanie afektu (ekspresji emocji) ma na celu wykrycie i sklasyfikowanie emocji poprzez analizę dowolnej twarzy. Obecnie urządzenia do rozpoznawania twarzy oraz występujących na niej emocji można znaleźć w systemach bezpieczeństwa narodowego, na lotniskach i w sektorze edukacji. Bywają też używane w procesie rekrutacji do niektórych firm oraz w programach policyjnych, które mają rzekomo przewidzieć zachowanie przemocowe.

Systemy rozpoznawania emocji zakładają, że istnieje niewielka liczba odrębnych i uniwersalnych kategorii emocjonalnych oraz że emocje, które mimowolnie pokazujemy na naszych twarzach, mogą zostać wykryte przez maszyny.

Jako że mimika jest czymś zależnym od kultury, używanie jej do trenowania systemów uczenia maszynowego powoduje nieuchronne wymieszanie różnych kontekstów, sygnałów i oczekiwań.

Dlaczego więc pomysł, że istnieje pewien zestaw uniwersalnych emocji, łatwo interpretowanych z twarzy osoby, został tak szybko zaakceptowany i zaaprobowany w dziedzinie sztucznej inteligencji? Firmy technologicznie poniekąd chcą wierzyć, że tak jest, ponieważ sama idea automatycznego rozpoznawania emocji i form ich ekspresji wydaje się bardzo przekonująca i dochodowa. Branżowi giganci szybko zajęli się analizą tego, co mieli na ten moment dostępne – miliardy selfie na Instagramie, zdjęcia na Pintereście czy Flickrze oraz filmy na TikToku. Podobnie jak rozpoznawanie twarzy, rozpoznawanie afektów stało się częścią podstawowej infrastruktury wielu firm, od tych największych po małe start-upy.

System rozpoznawania emocji jest stosowany również w jednej ze szkół w Hongkongu – True Light College. Jej uczniowie, podobnie jak inne dzieci na całym świecie, przez ostatni rok musieli uczyć się z domu. Oni jednak byli obserwowani podczas nauki przy swoich biurkach– obraz z kamer ich komputerów był przechwytywany, a następnie analizowany przez specjalne oprogramowanie o nazwie 4 Little Trees. Ten system oparty na sztucznej inteligencji miał odczytywać emocje uczniów podczas nauki. Z założenia miało to pomóc nauczycielom w sprawieniu, aby nauczanie zdalne było bardziej interaktywne i spersonalizowane dzięki reagowaniu na bodźce przesyłane przez poszczególnych uczniów w czasie rzeczywistym.

Algorytm 4 Little Trees mierzy mikroruchy mięśni na twarzach uczniów i próbuje zidentyfikować emocje, takie jak szczęście, smutek, złość, zaskoczenie i strach. Firma twierdzi, że algorytmy generują szczegółowe raporty dotyczące stanu emocjonalnego każdego ucznia, które otrzymują nauczyciele, a także mogą mierzyć motywację i koncentrację.

Nie tylko pojedyncze start-upy interesują się tą nową technologią – rozwijają ją również giganci z Doliny Krzemowej.

Amazon, Microsoft czy IBM już posiadają swoje systemy do wykrywania emocji. Microsoft oferuje taką usługę w swoim interfejsie Face API, identyfikując gniew, pogardę, wstręt, strach, szczęście, neutralność, smutek i zaskoczenie, podczas gdy narzędzie Amazon Rekognition może zidentyfikować 'wszystkie siedem emocji’ i zmierzyć to, jak szybko zmieniają się u użytkownika.

Automatyzacja rozpoznawania emocji niesie za sobą wiele niebezpieczeństw. Takie podejście oraz narzędzia gwarantują nam powrót do przeszłości, kiedy to fałszywe twierdzenia były wykorzystywane do wspierania istniejących systemów władzy oraz szerzenia błędnych teorii. Za przykład może posłużyć popularna w XVIII i XIX wieku frenologia, według której zdolności człowieka i jego cechy psychiczne zależą od kształtu czaszki. Emocje są skomplikowane – rozwijają się i zmieniają w zależności od kultury, historii oraz wszelkich innych, różnorodnych kontekstów, których zrozumienie wykracza poza dotychczasowe umiejętności sztucznej inteligencji. Jeśli my jako ludzie nie jesteśmy w stanie naprawdę wyrazić tego, co czujemy, to dlaczego miałyby to wiedzieć systemy oparte na AI?

Przecież czasami nawet matka nie wie, dlaczego jej dziecko płacze. Widzi tylko grymas na twarzy, za którym może się kryć wiele różnych emocji.

Już teraz za sprawą istniejących algorytmów kandydaci do pracy są niesprawiedliwie oceniani, ponieważ ich wyraz twarzy lub ton głosu nie pasuje do cech innych pracowników. Uczniowie wyróżniają się w szkole, ponieważ ich twarze nie wyglądają tak jak powinny, a klienci są przeszukiwani i przesłuchiwani tylko dlatego, że ich mimika rzekomo wskazuje, że mogą być złodziejami. Ci ludzie ponoszą koszty systemów, które są nie tylko niedoskonałe technicznie, ale przede wszystkim są oparte na wątpliwych metodologiach.

Jeszcze bardziej niepokojące jest to, że w dziedzinie badania emocji naukowcy nie osiągnęli nawet konsensusu co do tego, czym właściwie jest emocja. Czym są emocje? Jak są w nas formułowane i wyrażane? Jakie mogą być ich funkcje fizjologiczne lub neurobiologiczne? Ich stosunek do bodźców? Naukowcy nie są zgodni. Więc dlaczego AI miałoby sobie radzić z naszymi emocjami?

Tekst: MZ