Dezinformácie vs. pravda: Kto a ako vyhrá tento súboj?

Pamätáte sa ešte na deepfake video Marka Zuckerberga z roku 2019, ktoré vytvorili umelci Bill Poster a Daniel Howe? Ak nie, určite si ho pozrite ešte dnes! Rozpráva tam o tajuplnej organizácii „Spectre“ a o tom, že mu ukázala spôsob, ako dokáže cez dáta a tajomstvá ľudí kontrolovať ich budúcnosť.

Tip redakcie: Mobilné telefóny, smart hodinky, tablety a príslušenstvo za akciové ceny.

Toto video nás núti zamyslieť sa nad tým, akým smerom sa uberajú debaty o dezinformáciách či hoaxoch dnes. Zmenilo sa niečo? Naše zmýšľanie? Alebo schopnosť rozoznať relevantné informácie od tých dezinformačných? A všetko overovať skôr, než informáciu posunieme ďalej? Už pred tými 4 rokmi bolo hneď jasné, že ide o umelecké dielo. A už vtedy sa mu podarilo rozprúdiť hlasnú debatu o nebezpečnosti dezinformácií z dielne umelej inteligencie.

Dnes zažíva AI omnoho väčší boom a prešla nevídaným pokrokom. Je múdrejšia, sofistikovanejšia a pripravená na masové používanie. Programy na generovanie či editovanie fotiek a videí, no dokonca produkciu až neuveriteľne autentického hlasu konkrétneho človeka. To všetko je dnes už masovo dostupné na pár klikov. Otázkou ale ostáva: Sme dnes o krok vpred len vo vývoji AI? Alebo sme sa posunuli aj vo vylepšovaní bezpečnosti pri jej využívaní a v boji proti dezinformáciám?

Náklonnosť k dezinformáciám sa stala typickou črtou

Nič nové, čo myslíte? Suma sumárum, aj samotné dezinformácie sú staré minimálne tak, ako naša civilizácia. Je to jednoduchá psychológia: Ľudia si podvedome vyberajú informácie, ktoré súhlasia s ich presvedčením či skupinou, s ktorou sa identifikujú alebo sú jej súčasťou. Jednoducho, s kým sme, takí sme. A tento tip informácií sme ochotní šíriť veselo ďalej. Nanešťastie, u niektorých ľudí častokrát bez akéhokoľvek overenia. Toto sa asi nezmenilo. Mnohé však, naopak, áno. Čo konkrétne?

Je to spôsob, akým ľudia vzájomne komunikujú a rýchlosť šírenia informácií, ktorá je dnes najrýchlejšia v celej histórii ľudstva. Jediný príspevok s neovereným obsahom na sociálnej sieti sa doslova za pár sekúnd dokáže dostať na druhý koniec sveta. Navyše, s príchodom AI sa tento proces dokáže ešte niekoľkonásobne zrýchliť. BOHUŽIAĽ, to si uvedomujú aj ľudia s nekalými úmyslami a výhody AI zneužívajú vo svoj prospech. CHVALABOHU, sú aj takí, čo chcú AI využívať v prospech spoločnosti.

Dystopická vízia zneužitia AI

Nedávno bol publikovaný zaujímavý článok od profesora Johna Villasenora, v ktorom priam uveriteľne presne opisuje dezinformačný útok, ktorým by mohli byť vďaka AI ovplyvnené voľby v USA. Útočníci by s pomocou AI nástrojov vytvorili veľa falošných účtov na sociálnych sieťach, ktoré by vyzerali na nerozoznanie od tých skutočných. AI tak vygeneruje fotky neexistujúcich ľudí aj obsah, ktorý postujú. Takto by totiž neboli považované za podozrivé a vyhli by sa algoritmom detekujúcim fake účty.

Čo by nasledovalo? Získanie obrovského počtu followerov (falošných, ale aj tých skutočných s veľkým dosahom). Čo ďalej? V ten najvhodnejší deň (napr. v deň volieb) by sa útočníci pustili do akcie! Falošné účty by začali postovať kopu dezinformácií na jednu tému (napr. že im nedovolili hlasovať). Príspevky by boli za pomoci botov masovo zdieľané a čoskoro by sa k nim dostali aj médiá. Tie by o situácii chceli informovať a išli ju na „miesto činu“ overiť. A tu by sa rýchlo dokázalo, že správy boli falošné. Vadilo by to však útočníkom? Nie, pretože ich cieľ bol už splnený.

Taktika „zasmradiť a zdrhnúť“

Počuli ste už o nej? Jej cieľom je zneistiť ľudí, šíriť protichodné informácie a vytvárať tak liaheň ďalších dezinformácií. Tie ľudia ďalej šíria. A podľa najnovšieho GLOBSEC prieskumu sa im to aj darí. A to sa scenár s tak výrazným využitím AI, aký spomína Villasenor, ešte ani zďaleka nenapĺňa. Máme sa báť?

Prvé príklady, kde sa AI obsahu podarilo zmiasť veľa ľudí sú už na svete. Napríklad vo forme umelo vygenerovaných obrázkov. Jasné, častokrát ide o nevinný žart! Ako napr. pri silne medializovanej fotke pápeža v značkovej bunde, ktorá sa šírila rýchlosťou svetla. Inokedy to však až také vtipné nie je! To sme mohli vidieť zase pri vygenerovanej fotke, ktorá ukazovala explóziu blízko amerického Pentagonu. Aj pri takejto citlivej téme ju ľudia na sociálnych sieťach (dokonca aj overené účty) zdieľali obrovskou rýchlosťou bez overenia. Odrazilo sa to dokonca aj na burze, ktorá zaznamenala krátkodobý pokles.

V čom musíme zabrať? Jednoznačne v detekcii dezinformácií!

Dezinformácie sú jednou z TOP výziev médií a sociálnych sietí. Niekto ich koriguje lepšie, niekto horšie. Jedno je ale isté, musíme zabrať! Veľké dezinformačné útoky sú totiž na detekciu a zamedzenie obzvlášť náročné, keďže sa dejú veľmi rýchlo a nedávajú nám luxus času na reagovanie. Tradičné posudzovanie príspevku a jeho hodnovernosti môže trvať dlhé hodiny, čo nezamedzí situácii, o ktorej píše Villasenor. V prípade primitívnych dezinformačných kampaní využívajúcich „záplavu“ copy-paste postov a komentárov z novo-vytvorených účtov je detekcia jednoduchá. Pri sofistikovanejších postupoch však nastáva problém. Pozrime sa však na to aj inak ako kriticky. Naliehavosť problému si začali uvedomovať aj vývojári. Navrhujú a hľadajú výborné, a hlavne konkrétne, riešenia.

Rovnica je jednoduchá: AI je problém? AI riešenie!

Umelá inteligencia nás už predbehla v analyzovaní veľkých objemov dát či rýchlosti generovania obsahu. Ako to kontrolovať? Odpoveďou je opäť AI. A samozrejme, ľudský kapitál a odborníci, ktorí vedia s AI pracovať, testovať ju či trénovať. Na Slovensku ich máme dostatok. Napríklad projekt šikovných Slovákov z Kempelovho inštitútu inteligentných technológií. Minulý rok predstavili AI, ktorú vyvinuli práve na rozoznávanie dezinformácií. Ich model je aktuálne vo fáze učenia a ľudia mu pomáhajú označovať manipulatívne či zavádzajúce príspevky na sociálnych sieťach. Na základe údajov bude potom schopný označovať takéto príspevky sám a pomáhať s ich filtráciou.

Vo vývoji sú pritom aj ďalšie projekty napr. na detekciu botov, kontrolu podozrivých aktivít na profiloch, fast-checkovanie v reálnom čase alebo trackovanie pôvodu informácie. To znie pozitívnejšie, však? K takýmto projektom sa dostávam v rámci našej firmy InoCloud denne a vidím v nich obrovský potenciál. Ich existencia je totiž pre našu budúcnosť doslova nevyhnutná. A my im radi pomôžeme pri testovaní veľkých dátových modelov, trénovaní algoritmov či spracovaní veľkého množstva dát.

Giganti podpísali, Twitter uletel

Ako sa k tomu postavili úradníci, ktorí by mali niesť zodpovednosť za pravidlá pre bezpečnosť používania AI? Aj tu vidíme pozitívny posun a začiatky iniciatív na bezpečnejšie používanie AI. Len pár dní dozadu bol napríklad schválený veľmi dôležitý návrh EÚ s názvom „AI act“. Za zmienku tiež stojí, že tieto regulácie zatiaľ začala riešiť len Európa. Táto naša legislatíva sa tak stane prvou na svete, ktorá bude právne upravovať AI a dezinformácie.

Zároveň,podpredsedníčka Európskej komisie pre hodnoty a transparentnosť Věra Jourová nedávno po stretnutí so signatármi dobrovoľného Kódexu postupov EÚ proti šíreniu dezinformácií uviedla, že AI nesmie byť zneužitá na šírenie informácií. A vyjadrila sa aj o tom, že je potrebné označovať obsah vygenerovaný AI. Vo finále, kódex by mal donútiť veľké platformy zaviesť bezpečnostné opatrenia a zamedziť, aby služby AI zámerne generovali dezinformácie. Čo je na tom zaujímavé? Tento kódex podpísali TOP hráči na online trhu ako Google, Facebook, YouTube, TikTok či LinkedIn. To najzaujímavejšie je však to, že od kódexu odstúpil Twitter pod taktovkou Elona Muska. Ako čerešničku na torte ešte vyhodil aj celé svoje PR oddelene a v médiách sme sa preto nedočítali ani to, z akého dôvodu. Vďaka tomu však budeme mať možnosť sledovať 2 rôzne prístupy k AI či kódexu.

Ľudský faktor, Ľudský faktor, Ľudský faktor,….

Bojovať s dezinformáciami vieme všetci. Nespoliehajme sa len na to, že to za nás vyriešia vývojári a ich vynálezy. Mohlo by sa nám to vypomstiť. Alfou a omegou je stále omieľané KRITICKÉ MYSLENIE. A áno, aj malé deti by si k nemu mali pričuchnúť čo najskôr. Svet technológií sa mení rýchlo a my nemôžeme zaspať na vavrínoch. Overovanie informácií, zdrojov, vyhýbanie sa emocionálnemu zapojeniu či zodpovednosti na sociálnych sieťach? Kedysi možno zbytočné, dnes je to však kľúčové.

Stojíme pred obrovskou výzvou, ktorú musíme zvládnuť. A určite aj zvládneme. Už dnes vidíme, že kroky vpred robia firmy, vývojári aj úradníci. A na konci dňa bude kľúčové práve to, ako a či budú medzi sebou komunikovať. Pretože na vybudovanie účinného filtra na dezinformácie to budeme potrebovať.