U Holandiji je prošle godine zabeležen drastičan porast broja lažnih naga fotografija koje je generisala veštačka inteligencija (AI), a koje su zatim postavljene onlajn. Prema podacima stručnog centra Oflimits, broj ovih slika je skočio na 59 u 2024. godini, u poređenju sa samo devet takvih slučajeva iz 2023. godine. Ovaj nagli porast izazvao je zabrinutost među stručnjacima i organizacijama koje se bave podrškom žrtvama, kako piše NL Tajms.
Ove takozvane „dipfejk“ fotografije, koje se kreiraju pomoću aplikacija za svlačenje, postale su jedan od najbrže rastućih oblika online zlostavljanja. Uzimajući u obzir da je dostupnost ovih usluga koje pokreće AI porasla za 45 odsto, identifikovano je čak 47 aplikacija i veb stranica koje omogućavaju korisnicima da pošalju svoje fotografije i prime digitalno izmenjene verzije bez odeće.
Stručnjaci upozoravaju da ovakvi postupci predstavljaju ozbiljan oblik seksualnog nasilja, a ne nešto što bi se moglo smatrati šalom. U ovom kontekstu, važno je naglasiti da žene čine 99 odsto prijavljenih žrtava lažnih nagih fotografija generisanih veštačkom inteligencijom. Ova statistika dodatno naglašava ozbiljnost problema i potrebu za hitnim reagovanjem.
S obzirom na to da se tehnologija razvija brže nego što se društvo može prilagoditi, mnogi stručnjaci smatraju da je neophodno doneti zakone koji će regulisati korišćenje ovih tehnologija i zaštititi potencijalne žrtve. U Holandiji se već vode rasprave o mogućim rešenjima, uključujući strože kazne za one koji koriste AI za proizvodnju i distribuciju ovakvih sadržaja.
Uprkos tome što mnogi korisnici možda ne shvataju ozbiljnost svojih postupaka, stvarnost je da ovakve fotografije mogu imati trajne posledice po reputaciju i mentalno zdravlje žrtava. Stručnjaci ističu da je važno educirati javnost o rizicima i etici korišćenja veštačke inteligencije, kao i o načinima na koje se može zaštititi privatnost pojedinaca.
Osim pravnih regulativa, organizacije koje se bave pravima žena i zaštitom žrtava nasilja na mreži pozivaju i na jaču saradnju između tehnoloških kompanija i vlada. Potrebno je razviti alati koji će omogućiti bržu identifikaciju i uklanjanje ovakvih sadržaja sa interneta. Takođe, važno je da platforme na kojima se ovakvi sadržaji dele preuzmu odgovornost i osiguraju da se njihovi korisnici ne koriste za zlostavljanje drugih.
U svetlu ovih događaja, Holandija se suočava sa izazovima koji se tiču etike veštačke inteligencije i zaštite pojedinaca. Kako se tehnologija nastavlja razvijati, važno je da društvo pronađe ravnotežu između inovacija i zaštite ljudskih prava. Stručnjaci upozoravaju da će, ukoliko se ne preduzmu odgovarajući koraci, porast ovakvih slučajeva samo nastaviti da raste, ostavljajući trajne posledice na društvo u celini.
U zaključku, situacija u Holandiji je alarmantna i zahteva hitnu pažnju. Potrebno je više edukacije, svesti i pravnih okvira koji će zaštititi žrtve i sprečiti dalje zlostavljanje. U svetu gde je tehnologija postala nezaobilazna, ključno je da se etički standardi razvijaju paralelno sa inovacijama, kako bi se obezbedila sigurnost i dostojanstvo svih pojedinaca.
