Text vyšiel pôvodne v denníku Washington Post.
Štyri dni po marcovom útoku Islamského štátu (IS) na koncertnú sálu v Moskve sa na súkromnej platforme napojenej na teroristov začalo šíriť video: v 92-sekundovej relácii moderátor správ v prilbe a uniforme povedal, že útok nebol teroristickou operáciou, ale súčasťou „bežného kontextu zúriacej vojny“ medzi IS a krajinami bojujúcimi proti islamu.
Podľa videí a správ, ktoré denníku Washington Post poskytla SITE Intelligence Group, spoločnosť sledujúca teroristické a extrémistické hnutia na internete, bol „moderátor“ falošný.
Klon vytvorili stúpenci IS v rámci nového mediálneho programu s názvom News Harvest, ktorý vytvára umelá inteligencia.
Od marca program takmer každý týždeň ponúka videosprávy o operáciách IS po celom svete. Vytvorili ho tak, aby pripomínal spravodajské vysielanie televízie al-Džazíra.
Znamená to nástup umelej inteligencie ako mocného propagandistického nástroja, keďže pobočky IS opäť naberajú na sile a obnovujú mediálne operácie, tvrdí Rity Katz, spoluzakladateľka spoločnosti.
„Pre IS znamená AI zmenu pravidiel,“ uviedla Katzová. „Bude to rýchly spôsob, ako šíriť svoje krvavé útoky, aby dosiahli na takmer každý kút sveta.“
V článku sa dočítate:
- čo obsahujú falošné televízne správy IS,
- aké pracovné ponuky ponúkajú médiá podporujúce terorizmus,
- prečo je medzi teroristami rozpoltenie v rámci využívania AI.
Na hollywoodskej úrovni
Ukážky sa začínajú zobrazením grafického loga a na obrazovke sa objavujú moderátori správ generovaní umelou inteligenciou, zvyčajne oblečení v bojovom výstroji alebo v slávnostnej tunike. Potom prichádzajú záznamy ukazujúce členov IS vykonávajúcich teroristické misie a moderátori čítajú depeše z oficiálnych médií IS vrátane.
IS je známy efektnými mediálnymi operáciami, v rámci ktorých vytvára náborové videá na hollywoodskej úrovni, ktoré sú príťažlivé pre mladých ľudí. Ľahko použiteľné nástroje umelej inteligencie im však teraz umožňujú vytvárať takýto obsah rýchlo a lacno – iba za zlomok predošlých nákladov.
Viaceré islamistické militantné organizácie vrátane al-Káidy už signalizovali záujem o využívanie chatbotov, generátorov obrázkov a zvukov na rýchle vytváranie dezinformácií, vyplýva zo správ, ktoré Washington Post získal.
Umelá inteligencia dáva stúpencom IS možnosť vytvárať propagandu, ktorá je zamaskovaná, napríklad ako spravodajské vysielanie, čo sťažuje technologickým spoločnostiam jej obmedzenie, uviedla Katzová.
Videá tak ponúkajú jedny z prvých náznakov toho, že umelá inteligencia pomáha teroristickým skupinám rýchlo šíriť propagandu a verbovať členov, uviedli mediálni experti na terorizmus s tým, že mediálny program dokonca vyvolal medzi členmi IS internú diskusiu o používaní AI v súvislosti s islamským právom.
Vplyv na ľudí
Členovia IS s nadšením využívajú umelú inteligenciu na propagandu. Stúpenec s prezývkou „Al Kurdi 500“ napríklad 15. marca na súkromnom serveri argumentoval, prečo by si aj iní stúpenci IS mali osvojiť umelú inteligenciu.
„Bolo by skvelé, keby [ďalší] bratia vyrábali videá týkajúce sa každodenných správ spôsobom, akým o udalostiach hovoria spravodajské kanály ako al-Džazíra,“ napísal Al Kurdi 500 s tým, že by išlo o alternatívu čítania správ v texte.
„Technológia sa veľmi vyvinula a v súčasnosti by to bolo jednoduchšie, najmä s využitím umelej inteligencie,“ dodal Al Kurdi 500. „Médiá sú rovnako dôležité ako fyzická vojna, alebo dokonca ešte dôležitejšie. Majú totiž na ľudí veľmi veľký vplyv.“
Sedem dní po tomto posolstve zabili členovia IS najmenej 133 ľudí pri útoku na Crocus City Hall. Podporovateľ extrémistickej skupiny s názvom Hisad sa vtedy rýchlo zmobilizoval a vytvoril video generované umelou inteligenciou. Dňa 26. marca Hisad zverejnil na súkromnej platforme prvú epizódu News Harvest.
Francúzi sú kvôli olympiáde v najvyššej protiteroristickej pohotovosti Čítajte Od útoku v Rusku bolo zverejnených šesť vysielaní News Harvest, ktoré poskytujú prehľad nedávnych operácií pobočiek IS po celom svete vrátane Nigeru, Kamerunu, Iraku, Sýrie a Nigérie.
Nie je jasné, aká technológia umelej inteligencie sa používa, hoci niektorí podporovatelia v príspevkoch nabádali na používanie „dobrého“ softvéru, ako je napríklad nástroj na klonovanie hlasu od spoločnosti Eleven Labs. Spoločnosť na otázky neodpovedala.
Tieto epizódy nevytvára oficiálna zložka IS, takže nie je jasné, či sú v súlade s celkovou stratégiou skupiny, hovorí Steven Stalinsky, výkonný riaditeľ Middle East Media Research Institute (MEMRI). Upozorňuje však, že by ho neprekvapilo, keby vytvorila mediálnu divíziu s umelou inteligenciou, keďže vždy rýchlo prijímala najmodernejšie technológie.
Podľa jeho slov médiá podporujúce IS už hľadajú ľudí so zručnosťami v oblasti umelej inteligencie. V správe, ktorú získala MEMRI z 23. apríla, sa uvádza, že od uchádzačov žiadajú ovládanie programov Adobe Photoshop, Premiere a AI nástrojov na tvorbu plagátov, písanie článkov a strih videa.
„Mudžahedíni médií! Médiá čakajú na váš útok,“ píše sa v príspevku.
Výkonný nástroj
O využití umelej inteligencie diskutujú aj iné islamistické militantné organizácie, napríklad al-Káida.
Skupina napojená na al-Káidu 9. februára oznámila, že začne organizovať internetové workshopy o AI. Nasledujúci deň v spolupráci s ďalšou organizáciou spriaznenou s al-Káidou vydala 50-stranovú príručku s názvom „Neuveriteľné spôsoby využitia chatbotov s AI“, ktorá poskytovala základný prehľad o službe ChatGPT od OpenAI vrátane článkov o AI preložených do arabčiny, a to z médií, ako je napríklad časopis Wired, vyplýva z dokumentu, ktorý SITE Intelligence Group poskytla Washington Post.
V príručke sa napríklad uvádza: .„ChatGPT je výkonný nástroj, tak sa poďme pozrieť, čo všetko môžete s týmto nástrojom urobiť, dobre?“
Stalinsky povedal, že technologické spoločnosti, kde stúpenci IS šíria ich obsah - napríklad na Rocket.Chat, Telegram a X - zle odstraňujú islamistické militantné materiály.
Teraz, keď umelá inteligencia umožňuje, aby sa na povrch dostalo viac takéhoto obsahu, to bude podľa neho výzva pre regulačné orgány a protiteroristické úsilie.
Laís Machado Rocha, zástupkyňa pre styk s verejnosťou spoločnosti Rocket.Chat, uviedla, že spoločnosť je platformou s otvoreným zdrojovým kódom, ktorá správy neumiestňuje na svojich serveroch, a preto ich nemôže odstrániť. „Šírenie správ je obmedzené na používateľov konkrétneho nelegálneho pracovného priestoru,“ uviedla Rochová.
Spoločnosti Telegram a X na žiadosti o komentár neodpovedali.
Pred viac ako desiatimi rokmi mediálna odnož IS, al-Haját, umožnila teroristom chrliť vysokokvalitné videá, čo bola kľúčová taktika pri nábore ľudí z celého sveta. Západné vojenské útoky vtedy túto divíziu potlačili, ale odborníci na terorizmus uviedli, že umelá inteligencia teraz umožňuje stúpencom rýchlo vytvárať propagandu v prvých dňoch po teroristickom útoku, keď je príležitosť na radikalizáciu nových členov vysoká.
Tá zároveň môže zostať na internete oveľa dlhšie ako nejaký krvavý obsah.
„Ak vykonáte najlepší útok na svete a nepropagujete ho, prišli ste o svoj úspech,“ povedala Katzová. „To, čo teraz robí umelá inteligencia, im umožňuje v okamihu vytvoriť toľko materiálu, koľko chcú.“
Zakázané tváre
Falošné videá však medzitým vyvolali aj vnútornú polemiku medzi stúpencami IS o tom, či sú umelo vytvorené zobrazenia ľudí podľa islamského práva zakázané.
„Neukazujte tváre kresieb alebo tváre animácií, JE TO HARAM (označenie, ktoré v islame opisuje čokoľvek, čo je podľa práva šaría zakázané, nedotknuteľné, posvätné, pozn. red.),“ napísal podľa dokumentu, ktorý SITE Intelligence Group poskytla denníku Washington Post, stúpenec IS s prezývkou Hamed 123 tvorcovi série News Harvest na súkromnej platforme.
Hamed 123 uviedol, že ľudia, ktorí vytvorili obrázky „kreslením alebo rytím“, budú potrestaní v deň zmŕtvychvstania. „Tieto zakázané obrázky sú obrázky živých bytostí,“ dodal Hamed 123.
Nie je to prvýkrát. Prečo by islamisti útočili v Moskve? Čítajte Hisad reagoval začiatkom mája. „Išiel som sa o tom porozprávať so šejkom a on povedal, že je haram, ak sa zobrazuje animácia alebo kresba [tváre] od AI,“ napísal Hisad. „Navrhol, aby som rozmazal tvár modela, a preto to teraz vidíte takto.“ Hisad narážal na novšie epizódy vysielania News Harvest, v ktorých falošný moderátor vyzerá viac karikatúrne a je so zakrytou tvárou.
Aaron Zelin, vedúci pracovník washingtonského Inštitútu pre blízkovýchodnú politiku, uviedol, že AI by mohla napomáhať rastu domáceho extrémizmu tým, že by ľuďom kdekoľvek ponúkala možnosť nasávať propagandu, vytvárať médiá generované AI a zapojiť sa do extrémistickej skupiny.
„Ak hodíte na stenu čo najviac kúskov špagiet, nakoniec sa jeden z nich prilepí,“ povedal. „Mohlo by to poskytnúť viac možností na internetové šírenie tohto typu obsahu.“
