Wybory odbywają się w siedmiu fazach od 19 kwietnia do 1 czerwca, a wyniki zostaną ogłoszone 4 czerwca. To największe tego rodzaju wydarzenie na świecie, obejmujące 543 okręgi wyborcze. W tym roku stały się areną masowego wykorzystania technologii deepfake, która jest wykorzystywana do dezinformacji i manipulacji opinią publiczną, co budzi poważne obawy dotyczące integralności procesu wyborczego.

Deepfake są używane do tworzenia fałszywych wizerunków polityków, które są następnie rozpowszechniane za pośrednictwem mediów społecznościowych, zwłaszcza na platformach takich jak WhatsApp i Telegram, gdzie moderacja treści jest trudniejsza.

Przykładem jest użycie deepfake do tworzenia fałszywych nagrań audio, które sugerują korupcję lub inne nielegalne działania polityków. Na przykład, w stanie Madhya Pradesh, manipulowane nagrania wykorzystywane były do oczerniania przeciwników politycznych​. W innym z przypadków, polityk z BJP, K. Annamalai, opublikował dwa nagrania audio rzekomo przedstawiające opozycyjnego lidera P. Thiagarajana z DMK, który oskarżał własną partię o korupcję i chwalił przeciwników. Thiagarajan stanowczo zaprzeczył, twierdząc, że nagrania były sfabrykowane za pomocą AI. Analiza przeprowadzona przez ekspertów od deepfake wykazała, że jedno z nagrań mogło być zmanipulowane, ale drugie było autentyczne.

Firma Obiyan Infotech oferowała tworzenie deepfake’ów, które miały być wykorzystywane do oczerniania przeciwników politycznych. Takie materiały były rozpowszechniane za pomocą mediów społecznościowych i zamkniętych grup na WhatsApp, co utrudniało ich szybkie wykrycie i usunięcie. Polityczne kampanie wykorzystywały te deepfake’i do rozprzestrzeniania fałszywych informacji, co miało wpływ na wyborców i ich decyzje.

Indyjska Komisja Wyborcza (ECI) wprowadziła wytyczne dla partii politycznych dotyczące odpowiedzialnego korzystania z mediów społecznościowych oraz nakazała usuwanie deepfake’ów w ciągu trzech godzin od zgłoszenia. Pomimo tych działań, wyzwanie związane z wykrywaniem i zapobieganiem rozprzestrzenianiu się deepfake’ów pozostaje poważne, zwłaszcza że wiele platform społecznościowych ma ograniczone możliwości moderacji treści w zamkniętych grupach.

Indie wciąż nie mają konkretnych przepisów dotyczących deepfake’ów, co utrudnia walkę z tą technologią.

Chociaż niektóre państwa, takie jak USA, wprowadziły odpowiednie prawo, Indie dopiero zaczynają prace nad regulacjami​​. Platformy takie jak Facebook i Google wprowadziły narzędzia do oznaczania treści generowanych przez AI, ale nie jest to powszechnie stosowane, zwłaszcza na zamkniętych platformach takich jak WhatsApp​​.

Wykrywanie deepfake’ów wymaga zaawansowanych technologii i dużej mocy obliczeniowej, co stanowi wyzwanie dla firm technologicznych. Polityka „safe harbour” chroni platformy przed odpowiedzialnością za treści użytkowników, ale może zostać zmieniona, jeśli firmy nie będą skutecznie przeciwdziałać dezinformacji​.