TEL AVIV. Niektoré zábery rozbombardovaných domov a spustošených ulíc v Pásme Gazy vynikali absolútnou hrôzou: krvou pokryté, či opustené batoľatá.
Tieto snímky, ktoré boli od začiatku vojny na internete zobrazené už miliónkrát, sú podvrhy vytvorené pomocou umelej inteligencie (AI).
Ak sa pozriete pozorne, môžete si všimnúť náznaky: čudne skrútené prsty alebo oči, ktoré sa lesknú neprirodzeným svetlom. To všetko sú poznávacie znamenia digitálneho podvodu.
Rozhorčenie, ktoré mali fotografie vyvolať, je však až príliš reálne, napísala agentúra AP.
Cielené na najhlbšie pudy
Snímky z vojny medzi Izraelom a Hamasom názorne a bolestivo ukázali potenciál umelej inteligencie ako nástroja propagandy, ktorý sa používa na vytváranie realistických obrazov krviprelievania.
"Bude horšie, oveľa horšie," povedal Jean-Claude Goldenstein, generálny riaditeľ technologickej spoločnosti CREOpoint so sídlom v San Franciscu a Paríži, ktorá využíva umelú inteligenciu na overovanie tvrdení na internete. "Obrázky, videá aj zvuky. S generatívnou AI to bude eskalácia, akú ste ešte nevideli," dodal.
Kalhousová: Konflikt v Gaze sa môže preniesť aj do európskych ulíc Čítajte V niektorých prípadoch boli fotografie z iných konfliktov alebo katastrof znovu použité a vydávané za nové.
V iných boli programy generatívnej umelej inteligencie použité na vytvorenie úplne nových snímok alebo na zhotovenie videí ukazujúcich údajné izraelské raketové údery, tanky prechádzajúce zničenými štvrťami alebo rodiny, ktoré v sutinách hľadajú preživších.
V mnohých prípadoch sa zdá, že tieto podvrhy majú vyvolať silnú emocionálnu reakciu tým, že zobrazujú bábätká, deti alebo rodiny.
Propagandisti, ktorí takýto obsah vytvárajú, sú vycvičení cielene pôsobiť na najhlbšie pudy a obavy ľudí, uviedol Imran Ahmed, generálny riaditeľ Centra pre boj proti digitálnej nenávisti (CCDH), neziskovej organizácie, ktorá sleduje dezinformácie z prostredia vojny.
Či už ide o deepfake dieťaťa, alebo o skutočný obrázok bábätka z iného konfliktu, emocionálny dopad na diváka je rovnaký.
Čím je obrázok odpornejší, tým je pravdepodobnejšie, že si ho užívateľ zapamätá a bude ho zdieľať, čím nevedomky šíri dezinformáciu ďalej.
Prímerie v Gaze nie je „win-win“ situácia (komentár) Čítajte Podobne klamlivý obsah generovaný pomocou umelej inteligencie sa začal šíriť po ruskej invázii na Ukrajinu v roku 2022.
Jedno také video malo zobraziť ukrajinského prezidenta Volodymyra Zelenského, ako nariaďuje Ukrajincom, aby sa vzdali. Takéto tvrdenia sa šírili naposledy ešte minulý týždeň, čo ukazuje, aké vytrvalé môžu byť aj ľahko vyvrátiteľné dezinformácie.
Každý nový konflikt alebo volebné obdobie poskytuje šíriteľom dezinformácií nové príležitosti na demonštráciu najnovších pokrokov umelej inteligencie.
To núti mnohých odborníkov na AI a politológov varovať pred rizikami v budúcom roku, keď sa vo viacerých krajinách konajú významné voľby, vrátane USA, Indie, Pakistanu, Ukrajiny, Taiwanu, Indonézie a Mexika.
Podvodníci sú často o krok vpred
Po celom svete pracuje množstvo začínajúcich technologických firiem na nových programoch, ktoré dokážu rozpoznať deepfake, pripojiť vodoznaky k obrázkom, aby preukázali ich pôvod, alebo skenovať text, aby overili prípadné nepravdivé tvrdenia, ktoré mohli byť vložené umelou inteligenciou.
"Ďalšia vlna umelej inteligencie bude o tom, ako môžeme overiť obsah, ktorý je tam vonku. Ako možno odhaliť dezinformácie, ako analyzovať text, aby sme zistili, či je dôveryhodný?" povedala Maria Amelieová, spoluzakladateľka nórskej spoločnosti Factiverse.
Tá vytvorila program AI, ktorý dokáže skenovať obsah a hľadať v ňom nepresnosti alebo skreslenia vnesené inými programami umelej inteligencie.
Umelá inteligencia ničí životy tínedžerov. Internetom sa šíri falošná pornografia Čítajte Takéto programy by boli bezprostredne zaujímavé pre pedagógov, novinárov, finančných analytikov a ďalších záujemcov o vyvracanie neprávd, plagiátov alebo podvodov. Podobné programy sú vyvíjané aj na odhaľovanie sfalšovaných fotografií alebo videí.
Podľa Davida Doermanna, počítačového vedca, ktorý viedol snahu výskumnej agentúry amerického ministerstva obrany DARPA reagovať na hrozby pre národnú bezpečnosť, ktoré predstavujú obrázky zmanipulované umelou inteligenciou, je táto technológia sľubná.
Tí, ktorí AI využívajú na šírenie klamstiev, sú ale podľa neho často o krok napred.
Doermann, ktorý teraz pôsobí ako profesor na univerzite v Buffale, uviedol, že účinná reakcia na politické a spoločenské výzvy, ktoré dezinformácie umelej inteligencie predstavujú, bude vyžadovať lepšie technológie, lepšie predpisy, dobrovoľné priemyselné štandardy a rozsiahle investície do programov digitálnej gramotnosti, ktoré pomôžu užívateľom internetu zistiť, ako rozlíšiť pravdu od fantázie.
