Text vyšiel pôvodne v denníku Washington Post.
Divyendrovi Singhovi Jadounovi zvoní telefón. Jadoun, známy ako „indický Deepfaker“, využíva umelú inteligenciu na vytváranie bollywoodskych scén a televíznych reklám.
V poslednej dobe ho však kontaktujú stovky politikov – dožadujú sa jeho služieb práve v čase, keď sa v Indii začína etapové hlasovanie v parlamentných voľbách.
Tvrdí, že viac ako polovica z nich od neho zvyčajne žiada „neetické“ veci. Kandidáti ho napríklad požiadali, aby sfalšoval zvukové nahrávky ich oponentov alebo nasadil na pornografické obrázky tváre ich konkurentov. Niektorí tvorcovia politických kampaní si dokonca vyžiadali nekvalitné falošné videá ich vlastného kandidáta, ktoré by mohli byť zverejnené s cieľom spochybniť akékoľvek skutočné usvedčujúce videá, ktoré sa objavia počas volieb.
Tridsaťjedenročný Jadoun tvrdí, že odmieta prácu, ktorej cieľom je niekoho očierniť alebo oklamať. Očakáva však, že politikom mnohí ďalší vyhovejú a budú ohýbať realitu v najväčších voľbách na svete – k urnám sa chystá viac ako pol miliardy indických voličov.
„Jediná vec, ktorá nám bráni vytvárať neetické deepfakes, je naša vlastná etika,“ povedal Jadoun pre The Post. „Je veľmi ťažké to celé zastaviť.“
V článku sa dočítate:
- aké zákony ohľadom využívania AI sa doposiaľ presadili,
- pred čím varovalo americké ministerstvo svojich úradníkov,
- ako sa Čína snaží ovplyvňovať voľby v zahraničí pomocou AI,
- o využívaní AI na poníženie žien,
- čo sľubujú technologické spoločnosti.
Sofistikovanejšie aj presvedčivejšie
Indické voľby, ktoré sa začali minulý týždeň a potrvajú do začiatku júna, ponúkajú ukážku toho, ako explózia nástrojov umelej inteligencie transformuje demokratický proces a uľahčuje vytváranie falošných videí i obrázkov okolo politických kampaní.
Viac ako polovica svetovej populácie žije v desiatkach krajín, v ktorých sa v roku 2024 uskutočnia voľby, čo predstavuje kľúčový rok pre globálne demokracie.
Hoci nie je známe, koľko falošných príspevkov bolo umelou inteligenciou o politikoch vytvorených, odborníci tvrdia, že pozorujú globálny nárast deepfakes spojených s voľbami.
„Tento rok vidím viac politických deepfakes ako vlani a tie, ktoré vidím, sú sofistikovanejšie aj presvedčivejšie,“ povedal Hany Farid, profesor informatiky na Kalifornskej univerzite v Berkeley.
Zatiaľ čo sa tvorcovia politík a regulačné orgány od Bruselu po Washington predháňajú v tvorbe právnych predpisov obmedzujúcich zvuky, obrázky a videá poháňané umelou inteligenciou, na pozadí kampaní vzniká regulačné vákuum.
Prelomový zákon Európskej únie o umelej inteligencii nadobudne účinnosť až po júnových parlamentných voľbách. V americkom Kongrese sa zase legislatíva, ktorá by zakázala nepravdivé zobrazovanie federálnych kandidátov pomocou AI, pravdepodobne nestane zákonom pred novembrovými voľbami. Niekoľko štátov USA však prijalo zákony, ktoré trestajú ľudí vytvárajúcich klamlivé videá o politikoch, čím sa v celej krajine vytvorila mozaika politík.
Zatiaľ existujú len obmedzené nástroje, ktoré by politikov a ich spojencov odradili od používania umelej inteligencie na oklamanie voličov, a verejní činitelia sa len zriedkakedy dokážu vyrovnať s falzifikátmi, ktoré sa zvyknú rýchlo šíriť na sociálnych sieťach alebo v skupinových chatoch.
Demokratizácia umelej inteligencie znamená, že je na jednotlivcoch, ako je Jadoun, a nie na regulačných orgánoch, aby prijali etické rozhodnutia a zabránili volebnému chaosu vyvolanému umelou inteligenciou.
Ovplyvnenie zo zahraničia
Rôzne skupiny už roky zaplavujú Facebook, X a ďalšie sociálne médiá dezinformáciami, napodobňujúc spôsob, ktorý Rusko použilo v roku 2016 na vyvolanie nezhôd v amerických voľbách. Umelá inteligencia však teraz umožňuje účasť menších aktérov, čím sa boj proti falošným informáciám stáva roztriešteným a náročným procesom.
Ministerstvo pre vnútornú bezpečnosť (DHS) vo svojom memorande varovalo úradníkov, že generatívna AI by sa mohla použiť na posilnenie kampaní zameraných na ovplyvňovanie volieb zo zahraničia. Nástroje umelej inteligencie by mohli zlomyseľným aktérom umožniť vydávať sa za úradníkov, uviedlo DHS v memorande, a šíriť tak nesprávne informácie o spôsobe hlasovania alebo o integrite volebného procesu.
Tieto varovania sa stávajú realitou na celom svete. Štátom podporovaní aktéri použili generatívnu AI na zasahovanie do volieb na Taiwane začiatkom tohto roka. V deň volieb skupina napojená na čínsku komunistickú stranu zverejnila podľa správy spoločnosti Microsoft zvuk generovaný umelou inteligenciou, v ktorom prominentný politik, ktorý sa vzdal účasti v taiwanských voľbách, venuje svoju podporu inému kandidátovi. Politik, majiteľ spoločnosti Foxconn Terry Gou, však nikdy takúto podporu nevyjadril a YouTube zvukový záznam stiahol.
Na Taiwane bol nakoniec zvolený kandidát Lai Ching-te, proti ktorému sa postavilo vedenie Komunistickej strany Číny, čo signalizuje obmedzenosť kampane ovplyvniť výsledky volieb.
Microsoft očakáva, že Čína tento rok použije podobný postup v Indii, Južnej Kórei a Spojených štátoch. „Čoraz častejšie experimentovanie Číny so šírením obrázkov, videí a zvukov bude pravdepodobne pokračovať - a môže sa časom stať účinnejšie,“ uvádza sa v správe spoločnosti Microsoft.
Nízke náklady a široká dostupnosť generatívnych nástrojov umelej inteligencie okrem iného umožnili obyčajným ľuďom vytvárať aj bez štátnej podpory dezinformácie, ktoré sa však často vyrovnávajú kampaniam na štátnej úrovni.
V Moldavsku sa na deepfake videách s umelou inteligenciou zobrazuje prozápadná prezidentka krajiny Maia Sanduová, ktorá odstúpila z funkcie a vyzýva ľudí, aby počas miestnych volieb podporili proputinovskú stranu. V Južnej Afrike digitálne upravená verzia rapera Eminema podporila juhoafrickú opozičnú stranu pred májovými voľbami v krajine.
V januári politický agent Demokratickej strany sfalšoval hlas amerického prezidenta Joea Bidena, ktorý vyzýval voličov, aby v primárkach v New Hampshire nešli k urnám - tento trik mal upozorniť na problémy s AI.
Najprv proti ženám
Vzostup umelej inteligencie by tiež mohol zmeniť demografiu v politike, keďže zlomyseľní aktéri používajú obsah vytvorený pomocou AI v nepomerne väčšej miere na ženy.
Rumeen Farhana, politička opozičnej strany v Bangladéši, už roky čelí sexuálnemu obťažovaniu na internete. Minulý rok sa však na sociálnych sieťach objavila jej deepfake fotografia v bikinách.
Farhana uviedla, že nie je jasné, kto obrázok vytvoril. V konzervatívnom Bangladéši, väčšinovo moslimskej krajine, však fotografia vyvolala oplzlé komentáre bežných občanov na sociálnych sieťach, pričom mnohí voliči predpokladali, že fotografia je skutočná.
Takéto útoky by mohli odradiť kandidátky od kariéry v politike, povedala Farhana.
„Nech sa objaví čokoľvek nové, vždy sa to najprv použije proti ženám. Ony sú v každom prípade obeťou,“ povedala Farhana. „AI nie je v žiadnom prípade výnimkou.“
Bez špinavých metód
Keďže americký Kongres nevyvíja žiadnu aktivitu, štáty prijímajú vlastné opatrenia.
Približne desať štátov prijalo zákony, ktoré by postihovali tých, ktorí používajú AI na oklamanie voličov. Minulý mesiac guvernér Wisconsinu podpísal dvojstranný zákon, ktorý by pokutoval osoby, ktoré nepriznajú prácu AI v politických reklamách a michiganský zákon zase potrestá každého, kto by vedome šíril deepfake vytvorený umelou inteligenciou do 90 dní pred voľbami.
Nie je však jasné, či sú tieto tresty - od pokuty do tisíc dolárov až po 90 dní väzenia v závislosti od mesta - dostatočne prísne na to, aby odradili potenciálnych páchateľov.
S obmedzenou detekčnou technológiou a malým počtom určených pracovníkov by mohlo byť pre orgány ťažké rýchlo potvrdiť, či je video alebo obrázok skutočne vytvorený umelou inteligenciou.
Vzhľadom na absenciu nariadení sa vládni úradníci aj medzinárodné regulačné orgány snažia dohodnúť s politikmi a technologickými spoločnosťami na dodržiavaní istých záväzkov, medzi ktoré patrí kontrola šírenia volebného obsahu vytvoreného umelou inteligenciou.
Podpredsedníčka Európskej komisie Věra Jourová uviedla, že zaslala kľúčovým politickým stranám v európskych členských štátoch listy s „prosbou“, aby sa bránili používaniu manipulačných techník. Podľa jej slov však politici a politické strany nebudú čeliť žiadnym dôsledkom, ak jej žiadosť neuposlúchnu.
„Nemôžem povedať, či sa budú riadiť našimi radami alebo nie,“ povedala. „Budem veľmi smutná, ak nie, pretože ak máme ambíciu vládnuť v našich členských štátoch, potom by sme mali ukázať, že dokážeme vyhrať voľby aj bez špinavých metód.“
Jourová uviedla, že v júli 2023 požiadala veľké platformy sociálnych médií, aby pred voľbami označovali príspevky vytvorené umelou inteligenciou. Táto žiadosť sa však stretla so zmiešanou odozvou v Silicon Valley, kde jej niektoré platformy povedali, že by nebolo možné vyvinúť technológiu na detekciu AI.
Celospoločenská záležitosť
Spoločnosť OpenAI, ktorá vyrába chatbota ChatGPT a generátor obrázkov DALL-E, sa tiež snažila nadviazať komunikáciu so spoločnosťami sociálnych médií s cieľom riešiť distribúciu politických materiálov generovaných umelou inteligenciou. Na bezpečnostnej konferencii v Mníchove vo februári sa 20 popredných technologických spoločností zaviazalo, že sa spoja s cieľom odhaliť a odstrániť škodlivý obsah AI počas volieb v roku 2024.
„Ide o celospoločenskú záležitosť,“ povedala Anna Makanju, viceprezidentka OpenAI pre globálne záležitosti. „Nie je v záujme nikoho z nás, aby sa táto technológia takto zneužívala, a všetci sú dosť motivovaní, najmä preto, že teraz máme skúsenosti z predchádzajúcich volieb a z predchádzajúcich rokov.“
Spoločnosti však nebudú čeliť žiadnym sankciám, ak svoj sľub nedodržia. Medzi ich sľubmi a krokmi sa vyskytli isté nezrovnalosti už teraz.
Takzvaný výbor s názvom Super PAC podporovaný ľuďmi zo Silicon Valley spustil chatbota vydávajúceho sa za amerického prezidentského kandidáta Deana Phillipsa - poháňal ho softvér ChatGPT spoločnosti OpenAI, čím spoločnosť porušila zákaz používania jej technológií v politických kampaniach. Firma chatbota nezakázala, kým o tom neinformoval denník The Washington Post.
Jadoun, ktorý vykonáva politickú prácu s umelou inteligenciou pre hlavné indické volebné strany, uviedol, že šírenie deepfakes nemôže vyriešiť len vláda - občania musia byť vzdelanejší.
„Pri akomkoľvek obsahu, ktorý vo vás vyvoláva silné emócie, sa jednoducho na chvíľu zastavte a počkajte s tým, či ho budete zdieľať.“
