Lažni AI "rabini" šire antisemitske stereotipe u koordiniranoj TikTok kampanji, otkriva nova CAM studija

Centar za istraživanje antisemitizma (ARC) pri Combat Antisemitism Movement objavio je izvještaj koji detaljno dokumentira koordiniranu kampanju dezinformacije na platformi TikTok. Prema dostupnim podacima iz istraživanja, mreža od 49 TikTok računa koristi lažne AI-generirane likove koji se predstavljaju kao rabini. Ovi računi zajedno su prikupili više od 950.000 pratitelja i generirali preko 10 milijuna lajkova. Iz dokumentacije proizlazi da se radi o sustavnoj operaciji čiji je cilj diseminacija antisemitskih stereotipa i teza među široku publiku, posebno mladim korisnicima platforme.

Istraživanje pokazuje da lažne "rabine" ne samo što šire tradicionalne antisemitske trope, već koriste AI tehnologiju za stvaranje uvjerljivo izgleda sadržaja koji lako dolazi do milijuna korisnika. Postavlja se pitanje kako je takva kampanja mogla trajati toliko dugo bez odlučnijeg reagiranja platforme. Prema dostupnim informacijama, ARC je detaljno analizirao sadržaj, strukture mreža i obrasce koji pokazuju vidljive znakove koordinacije između računa. Ova koordinacija ukazuje da se ne radi o sporadičnim nasilnicima već o organiziranoj infrastrukturi za širenje mržnje.

[[SLIKA_2]]

Važno je naglasiti da trenutna tehnologija generiranja slika i videa putem AI omogućava stvaranje fotorealističnih sadržaja koji je teško razlikovati od autentičnih. Takvi sadržaji mogu biti posebno opasni jer daju lažnu legitimnost propagandi. Iz dostupnih izvora proizlazi da su lažni rabini koristili specijalizirane AI alate za stvaranje videa, audio zapisa i slika s ciljem pojačanja vjerodostojnosti. Ovakav pristup predstavlja kvalitativno novu razinu sofisticiranosti u kampanjama dezinformacije i mržnje prema židovskom narodu.

Sadržaj koji su distribuirali lažni "rabini" pokrivao je spektar antisemitskih teza, od onih tradicionalnih vezanih uz ekonomsku moć do modernih konspirativnih naratora. Prema izvještaju ARC-a, specifični sadržaj je često praćen tehnikom koja se koristi u manipulativnim kampanjama - frejmiranje anti-židovskih stavova kao nekog oblika "unutarnjeg židovskog kriticizma". Ovakva strategija je posebno opasna jer može legitimizirati mržnju prikrivajući je pod plaštom autokritike. Postavlja se legitimno pitanje kako je TikTok mogao biti nedovoljan u identificiranju i blokiranju takvih sadržaja uprkos njihovom opsegu i koordinaciji.

Fenomen lažnih AI-generiranih likova koji distribuiraju mržnju predstavlja novi izazov za tehnološke platforme i regulatore. Tradicionalne metode detektiranja bot mreža i koordiniranih kampanja mogu biti neučinkovite protiv sadržaja koji izgleda autentično i koji je generiran sofisticiranom tehnologijom. Iz dostupnih podataka proizlazi da je prosječna dob pratitelja takvih računa relativno niska, što upućuje da je kampanja posebno ciljala mlađu publiku. To je posebno zabrinjavajuće jer se mlade osobe nalaze u fazi gdje formiraju svoje stavove prema različitim skupinama.

Vrijeme trajanja kampanje prije nego što je otkrivena ostaje nejasno, što sugeriše da su tehnološke platforme značajno zaostale u propitivanju takvih operacija. Potrebno je dodatno razjašnjenje od TikToka o vremenskoj liniji otkrića, o broju podataka koji je ekstrahiran iz računa te o tome što se točno desilo s lažnim računima nakon što je kampanja otkrivena. Transparentnost u ovom slučaju nije samo akademska vrijednost - ona je ključna za javnu razumijevanje kako se mržnja širi digitalno i kako se može spriječiti.

Foto: Combatantisemitism

Studija ARC-a predstavlja važan doprinos dokumentiranju razvoja novih taktika u širenju antisemitizma u digitalnoj eri. Međutim, postavlja se pitanje koliko je učinjena i kakvi su bili konkretni rezultati nakon objavljivanja izvještaja. Potrebno je znati je li TikTok pokrenuo vlastitu, neovisnu istragu te je li sa platforme zaista uklonjeno svih 49 računa ili je bilo primijenjeno selektivno brisanje. Također, razmatranja trebalo bi proslijediti službenim institucijama zaduženim za nadzor velikih tehnoloških platformi.

Koordinirani napadi na određene skupine putem lažnih likova i AI tehnologije predstavljaju nov oblik nasilja koje je po svojoj prirodi dekoncentrizirano i teško locirati. Za razliku od tradicionalne propagande koja ima jasan izvor, ovakve kampanje mogu biti pokrenute iz bilo kojega mjesta na planeti i sa minimalnim tragovima koji bi doveli do odgovornih. Iz izvještaja ARC-a možda je moguće identificirati tehničke znakove koji bi mogli upozoriti regulatore - što su već učinili istraživači - ali pitanje je koliko brzo će velika tehnološka poduzeća reagirati na takve upozore.

Javni interes zahtijeva da sve zainteresirane strane - TikTok, druge platforme, vladine institucije i istraživači - uspostave bolji mehanizam ranog upozorenja i odgovora na slične kampanje. Potrebni su jasni standardi o tome koja minimalna količina koordiniranog sadržaja trigera automatski detaljnu istragu. Također je nužno da platforme budu transparentne u dijeljanju informacija s neovisnim istraživačima kako bi se mogla poboljšati zaštita od budućih kampanja.

Ovaj slučaj pokazuje kako AI tehnologija, kao alat koji sam po sebi nije niti dobar niti loš, može biti zloupotrijebljen za amplificiranje mržnje. Iznimno je važno da društvo, regulatori i same tehnološke kompanije razviju odgovore koji su proporcionalni prijetnji, ali bez ograničavanja legitimnih upotreba tehnologije. Postoji svejedna potreba za edukacijom javnosti o tome kako identificirati AI-generirane sadržaje i kako biti kritičan prema sadržajima koji dolaze od "autoriteta" koji se pojavljuju na društvenim mrežama bez mogućnosti njihove verifikacije kroz tradicionalne kanale.