Text vyšiel pôvodne na webe denníka Washington Post.
V pondelok ráno pridal na sociálnu sieť twitter overený účet s názvom Bloomberg Feed zlovestný príspevok. Pod textom „Veľká explózia v blízkosti komplexu Pentagón vo Washingtone – Počiatočná správa“ sa zobrazil obrázok obrovského kúdolu čierneho dymu vedľa budovy nejasne pripomínajúcej Pentagón.
Pri podrobnejšom skúmaní sa ukázalo, že pravdepodobne išlo o výtvor umelej inteligencie a obrázok bol podvrh. Správu o výbuchu rýchlo vyvrátili – ešte predtým ju však prevzali známe účty vrátane ruského štátneho média Russia Today.
Tento tweet mohol na chvíľu pohnúť aj akciovým trhom, keďže index Dow Jones Industrial klesol v priebehu štyroch minút o 85 bodov, ale potom sa rovnako rýchlo zotavil. Celkovo sa zdá, že hoax nespôsobil veľké okamžité škody.
Twitter neskôr účet Bloomberg Feed, ktorý nebol spojený so skutočnou mediálnou organizáciou Bloomberg, pozastavil, a približne do 20 minút miestne úrady správu vyvrátili.
„Už len pri pohľade na samotný obrázok je jasné, že to nie je Pentagón,“ povedal Nate Hiner, kapitán hasičského zboru v Arlingtone v štáte Virgínia, kde sa Pentagón nachádza. „Netuším, čo je to za budovu. V Arlingtone nie je žiadna budova, ktorá by vyzerala takto.“
Napriek tomu príslušné mechanizmy – od uverejnenia obrázku populárnymi propagandistickými účtami až po takmer okamžitú reakciu burzy – naznačujú potenciál pre ďalšie podobné zlomyseľnosti v prípade, že sa nástroje umelej inteligencie budú naďalej presadzovať pri moderovaní obsahu sociálnych sietí, písaní správ a obchodovaní na burze.
Overené účty šíria falošné správy
Toto sa javí ako čoraz pravdepodobnejšie práve na twitteri, keďže nový majiteľ Elon Musk v spoločnosti zredukoval ľudskú pracovnú silu, prepustil tím, ktorý kedysi overoval fakty o virálnych trendoch, a zmenil proces overovania účtov z manuálneho na do veľkej miery automatizovaný a platený.
Modré odznaky na twitteri kedysi označovali autoritu verejných činiteľov, veľkých organizácií, celebrít a ďalších osôb, ktorým hrozilo, že by sa za ich identitou mohol skrývať niekto iný. Teraz modrý odznak dostane každý, kto je ochotný zaplatiť osem dolárov mesačne a potvrdiť svoje telefónne číslo.
Spoločnosť Twitter na žiadosť o komentár neodpovedala.
Odborníci predpovedajú, že umelá inteligencia ovplyvní milióny pracovných miest, ale dodatočne vznikajú obavy z toho, či umelou inteligenciou generované dezinformácie môžu zavádzať ľudí. „Toto nie je problém umelej inteligencie ako takej,“ povedala Renée DiResta, vedúca výskumu v Stanford Internet Observatory a odborníčka na šírenie dezinformácií.
„Každý, kto má skúsenosti s nejakým photoshopom, by mohol vytvoriť tento obrázok – paradoxne, pravdepodobne by to dokázal aj lepšie. Je to však pohľad na to, ako sa signály, ktoré doteraz ľuďom pomáhali v posudzovaní dôveryhodnosti aktuálnych správ na twitteri, stali nepoužiteľnými. Zároveň sa každému sprístupnila schopnosť vytvárať nereálnosti vo vysokom rozlíšení.“
Jedným z prvých účtov, ktorý zverejnil správu o falošnej udalosti, bol overený účet s názvom OSINTDefender, ktorý tweetoval správu o výbuchu spolu s falošným obrázkom svojim 336 000 sledovateľom o 10.04. Budova na fotografii sa na Pentagón podobá len trochu, ale nesie niektoré znaky toho, že bola vytvorená umelou inteligenciou. Tweet bol vymazaný.
Majiteľ účtu OSINTDefender, ktorého denník Washington Post oslovil prostredníctvom Twitteru, uviedol, že o správe prvýkrát počul niekoľko minút predtým na sociálnej platforme discord od používateľa, ktorý vystupuje pod prezývkou „Walter Bloomberg“. Ďalej uviedol, že obrázok pochádza z facebookovej stránky osoby, ktorá tvrdila, že pracuje v Arlingtone. Stránka bola medzičasom vymazaná.
V nasledujúcich minútach zverejnili podobne formulované falošné správy na twitteri aj ďalšie účty vrátane Waltera Bloomberga, ktorý vystupuje pod rovnakou prezývkou na oboch platformách. Jeho tweet o 10.06 mal najmenej 730 000 zobrazení.
Mnohé z účtov, ktoré ho opätovne uverejnili, sa vydávajú za agregátory finančných správ, vrátane účtu „Breaking Market News“, ktorý má 386 000 sledovateľov a ďalšieho účtu s názvom „Bloomberg Feed“, ktorý so skutočnou agentúrou Bloomberg nesúvisí.
Niektoré z účtov mali modré odznaky, narozdiel od viacerých legitímnych organizácií, ktoré zdieľali pravdu. Oficiálny účet Agentúry pre ochranu síl Pentagónu, ktorá na Pentagón dohliada, za modrú kontrolnú značku nezaplatil a Twitter mu nedal sivú kontrolnú značku symbolizujúcu, že ide o overenú inštitúciu. Agentúra prevzala správu miestnej polície, že o 10.27 nedošlo k výbuchu; tweet mal však k štvrtej hodine iba 78 000 zobrazení.
Miestne úrady bojujú
Hiner, kapitán arlingtonských hasičov, ktorý má na starosti núdzovú komunikáciu oddelenia v Severnej Virgínii, povedal, že mu trvalo asi päť minút, kým si uvedomil, že správy na twitteri sú falošné.
Hiner bol práve na porade, keď o 10.10 mal prvý telefonát. Odišiel zo stretnutia, aby to prešetril.
Prvé znamenie, že niečo nie je v poriadku? Nedostal žiadne upozornenie z pohotovostného softvéru oddelenia First Due, ktorý monitoruje dispečing a posiela mu notifikácie, keď sú vyslaní prví záchranári k závažným udalostiam, ako sú požiare.
Potom skontroloval svoj mobilný dátový terminál – v podstate notebook, ktorý obsahuje zoznam všetkých aktívnych udalostí na linke 911 v Arlingtone – a nenašiel žiadne známky toho, že by sa v blízkosti Pentagónu niečo dialo.
„Neboli tam žiadne lekárske výjazdy, žiadne výjazdy k požiarom, žiadne incidenty,“ povedal.
Napokon sa pozrel na sociálne siete v očakávaní, že na twitteri uvidí nejaké svedectvá očitých svedkov, ale opäť nič nenašiel. Videl len upravenú fotografiu výbuchu.
Vtedy sa obrátil na hovorcov ministerstva a agentúry na ochranu síl Pentagónu. Do 10.27 zverejnil na twitterovom účte Arlington Fire, že správy sú falošné.
„V rezervácii Pentagón ani v jej blízkosti nedochádza k žiadnemu výbuchu ani incidentu,“ stálo v tweete, „a verejnosti nehrozí žiadne bezprostredné nebezpečenstvo ani ohrozenie.“
Hiner uviedol, že niekedy dostáva zvláštne otázky od obyvateľov Arlingtonu po tom, ako vidia hasičské auto v ich okolí, alebo dostáva mylné telefonáty na základe prevádzky skenerov. Nepamätá si však žiaden iný prípad, „keď by sa na sociálnych sieťach objavila správa o mimoriadnej udalosti, ktorá by bola jednoducho stopercentne nepresná“.
Nový zvrat v starom probléme
Virálne lži nie sú na twitteri ničím novým – od photoshopových obrázkov žraloka na diaľnici počas hurikánu Sandy až po falošné správy o úmrtiach celebrít.
Nástroje umelej inteligencie od chatbotov, ako je ChatGPT, ktoré dokážu písať falošné správy, až po generátory obrázkov, ako sú Midjourney a Stable Diffusion, sa už dostali do výbavy hoaxerov.
V posledných mesiacoch ich použili na vytvorenie ďalších virálnych obrázkov vrátane jedného, ktorý vyzeral, že zobrazuje zatknutie Donalda Trumpa, a ďalšieho, ktorý zobrazoval pápeža Františka v značkovom oblečení.
Po internete sa šíria falošné fotky Trumpovho zatknutia. Sociálne siete by mali zakročiť Čítajte Médiá väčšinou tieto dezinformácie úspešne vyvrátili a svet kráčal ďalej tak, ako predtým. Napriek tomu niektoré hoaxy vyvolali chaos. V roku 2013 falošný tweet o útoku na Biely dom vyvolal rýchly pokles na finančných trhoch.
Používatelia sociálnych sietí a spravodajské médiá sa časom naučili na virálne správy, najmä z neoverených zdrojov, pozerať skepticky. Nový systém overovania na twitteri však znamená, že kontrolný modrý odznak, ktorý kedysi predstavoval vizuálnu skratku vyjadrujúcu určitú autoritu účtu, už túto funkciu neplní.
Sam Gregory, výkonný riaditeľ ľudskoprávnej organizácie Witness, ktorej skupina skúma falošné obrázky a dezinformácie, uviedol, že obrázok výbuchu Pentagónu, ktorý bol v pondelok zverejnený na twitteri, nesie viaceré znaky podvrhu vrátane vizuálnych chýb a nepresného pohľadu na Pentagón. Gregory uviedol, že problémom takýchto falzifikátov je rýchlosť, akou sa môžu šíriť internetom.
„Šíria sa rýchlo a schopnosť overiť fakty, vyvrátiť ich alebo overiť na inštitucionálnej úrovni je pomalšia a nedostane sa k tomu istému publiku,“ povedal.
Hoci obrázok môže byť pre niekoho zjavne falošný, to, že bol pripojený k autoritatívne znejúcemu tvrdeniu, zvýšilo pravdepodobnosť, že zaujme, dodal Gregory.
„Ľudia sú vystavení povrchným falzifikátom a nie je potrebné, aby niečo vyzeralo presne tak, ako niečo iné, na to, aby to vzbudilo pozornosť,“ povedal. „Ľudia budú ochotne zdieľať veci, ktoré nevyzerajú presne tak, ako majú, ale pôsobia správne.“
Niektoré falzifikáty boli zdieľané s cieľom získať politické body, iné boli použité na zmätenie alebo vybudovanie publika, na ktorom účet následne zarába.
„Niekedy to robia so zlým úmyslom, a niekedy to robia len preto, aby získali čo najviac zobrazení,“ povedal. „Môžete tak veľmi rýchlo získať kopec sledovateľov, a to je silná droga.“
Predseda okresnej rady Arlingtonu Christian Dorsey povedal, že miestne samosprávy, ako je tá arlingtonská, čelia čoraz väčším výzvam pri reagovaní na dezinformácie, keďže umelá inteligencia uľahčuje rýchle vytváranie hodnoverných podvrhov.
Vysvetlil, že úradníci sa snažia viesť obyvateľov k tomu, aby sledovali miestne úrady na twitteri a obracali sa pri hľadaní spoľahlivých informácií na nie a nie na „nejaký náhodný twitterový účet“. Okres Arlington a jeho policajné a hasičské oddelenia sú na twitteri overené „sivou značkou“, čo znamená, že ide o účty verejnej správy.
Uznáva však, že to nemusí stačiť.
„Počet našich sledovateľov bledne v porovnaní s niektorými najpopulárnejšími účtami na sociálnych sieťach,“ povedal Dorsey. Myslí si však, že „bez toho, aby tieto platformy nejakým kúzlom zabezpečili, aby sa prenášali len tie najlepšie pravdivé informácie, je toto to najlepšie, čo môžu urobiť“.
Autor: Will Oremus, Drew Harwell, Teo Armus
