O deepfake, czyli technice, która pozwala na podmienienie twarzy w materiałach wideo, robi się coraz głośniej. W zeszłym roku ostrzegaliśmy was przed upowszechnieniem się tego rodzaju filmowych fałszywek, które w przyszłości mogą zostać wykorzystane do siania dezinformacji. Nie wszystkie przypadki deepfake’ów są jednak tak groźne – tu pisaliśmy o znacznie łagodniejszych (choć robiących równie duże wrażenie) przypadkach, na przykład zamienieniu w „Lśnieniu” Jacka Nicholsona na Jima Carreya. ZAO to chińska aplikacja, która działa na podobnej zasadzie.

Pozwala użytkownikom podłożyć swoje twarze pod istniejące wideo – na przykład fragmenty filmów lub seriali. I robi to naprawdę imponująco.

Popatrzcie tylko na to, jak filmik, w którym jeden z jej użytkowników występuje w roli Leonardo DiCaprio. Podmienienie twarzy zajęło ZAO niecałe 10 sekund.

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.

Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) 1 września 2019

Aplikacja dostępna jest tylko w Chinach, ale o zagrożeniach związanych z użytkowaniem ZAO zrobiło się głośno na całym świecie. Podobnie jak w przypadku popularnego niedawno FaceApp, wątpliwości budzi polityka prywatności aplikacji. Problem znów zasadza się na tym, że użytkownicy nie do końca świadomi są warunków, na które się zgadzają, ściągając ZAO, czyli tego, że przekazują aplikacji „trwałe, zbywalne i licencjonowane” prawo do swoich treści. Twórcy aplikacji już zabrali w tej sprawie głos, zapewniając, że dołożą wszelkich starań, by dane użytkowników nie były wykorzystywane poza ZAO.

Znacznie poważniejszy problem wiąże się jednak samym działaniem aplikacji, która sprawia, że tworzenie deepfake’ów staje się dziecinnie proste.

Podczas gdy generowanie filmowych fałszywek do niedawna wymagało pewnych umiejętności, teraz wystarczy tylko ściągnąć apkę. Czy ZAO doprowadzi do zalewu fałszywych wideo, których celem będzie manipulacja? Nie wiadomo, ale łatwo sobie wyobrazić, co może się stać, gdy aplikacja trafi w niepowołane ręce.

A new line probably needs to be drawn when it comes to "Transformative work" and I'd imagine new clauses will be drawn up in actor's contracts since #Zao's success sets an clear example the advertising industry will not be able to ignore. Next #Avengers movie trailer anyone? pic.twitter.com/rSywFYoYeJ

— Allan Xia (@AllanXia) 2 września 2019

Tekst: NS