Tomáš Meliško: Umelá inteligencia a armáda: Smrteľný koktejl alebo návod na mier?

Predstavte si budúcnosť, v ktorej je umelá inteligencia (AI) súčasťou vojenskej techniky a obranných mechanizmov. Prístroje, dopravné prostriedky a zbrane sú poháňané autonómnym systémom, ktorý v reálnom čase spracúva obrovské množstva dát a využíva roky nahratých skúseností. Výsledok? Svojimi schopnosťami niekoľkonásobne prevyšuje človeka. A ten sa dostáva do situácie, kedy proti AI nemá šancu. Technológia totiž dokáže s chirurgickou presnosťou vykonávať nesmierne zložité a nebezpečné úlohy. Pozitíva? Dokáže to robiť samostatne a bez toho, aby ohrozila ľudský život. Každá minca však má 2 strany! Môže byť použitá aj ako zbraň, proti ktorej bude človek bezmocný.

Tip redakcie: Mobily, PC, Hry a kancelária za super ceny od overeného obchodníka

Zdá sa vám táto „budúcnosť“ povedomá? Niet divu! Žijeme ju už dnes a stali sme sa svedkami jej zrodu v priamom prenose. Preto sú úplne na mieste otázky: „Prebieha vývoj takýchto technológií zodpovedne a na základe pravidiel? Alebo sme si zarobili na poriadny prúser?“

Niečo ako hra s ohňom

Videli ste už nový seriál od Netflixu s odstrašujúcim názvom „Unknown: Killer Robots“? Ak áno, určite viete, určite vám je zrejmé jeho prepojenie s témou. Tu totiž môžete vidieť vývoj takejto technológie. A veru, je „zvláštnym“ spôsobom fascinujúci. Pripomína HRU S OHŇOM, ktorý sa prvýkrát podarilo zapáliť dieťaťu. Skúma ho a skúša, čo dokáže. Ale pri neopatrnom zaobchádzaní sa rýchlo popáli. Seriál poukazuje na viacero najnovších výdobytkov, ktoré sa už výskumným tímom podarilo dosiahnuť. A to napr. bojové drony, ktoré dokážu posúdiť tesné a uzavreté priestory ešte pred vstupom do nich a eliminovať straty na životoch. Je nespochybniteľnou ukážkou toho, že AI sa vie rozhodovať niekoľkonásobne rýchlejšie a presnejšie ako vyškolený človek, ktorý dron ovláda.

V seriáli môžete vidieť aj najnovšieho robota od MIT pripomínajúceho psa. Vďaka rýchlemu strojovému učeniu sa dokáže bez problémov pohybovať v čoraz náročnejších a ťažšie dostupných terénoch. Áno, táto technológia by mohla ponúkať široké spektrum možností jej využitia v praxi. Zachrániť zranených z nedostupného terénu? Preskúmať nebezpečné miesto? Pre robota žiaden problém!

Stačí pootočiť tlačidlom a …

Asi sa divíte, prečo o seriáli, ktorý má v názve zabijáckych robotov hovorím o pozitívach ich využitia v praxi. Suma sumárum, okolo všetkých (nielen vojenských vynálezov) poletuje obrovská dilema: akýsi „problém dvojakého použitia“. Na jednej strane máte drony a roboty, ktoré dokážu vyčistiť budovy bez toho, aby riskovali životy vojakov. Na strane druhej ich však môžete využiť ako zbrane na zničenie celých dedín bez toho, aby si niekto zašpinil ruky.

Zhoďme teda ružové okuliare a pretočme list. Takto vyvíjané systémy sa totiž môžu jednoducho vymknúť spod kontroly. Odstrašujúci môže byť napr. aj prípad vedcov Seana Ekinsa a Fabia Urbina, ktorí pomocou AI hľadali liečivá na choroby. Vezmite si, že títo dvaja LEN ZO ZAUJÍMAVOSTI otočili tlačidlo s toxicitou výsledného produktu na hodnotu, pri ktorej by na zabitie človeka postačovalo len množstvo látky rovné niekoľkým zrnkám soli! Program nechali bežať cez noc a keď sa ráno vrátili, boli šokovaní. AI za noc dokázala vygenerovať cca 40 000 molekúl, ktoré by boli pre človeka smrteľné aj v tých najmenších množstvách. A asi je vám jasné, čo by sa mohlo stať, ak by sa takáto technológia dostala do nevhodných rúk.

A opäť tá morálna dilema

Využívanie takýchto technológií vyvoláva veľa otázok. Jednou z najzásadnejších je pritom práve otázka morálky. Ako robot riadený AI rozlíši, čo je legálne a morálne? Problém je, že tieto kritéria sa častokrát nezhodujú, a to práve vo vypätých situáciách. A tu do hry prichádza ľudský aspekt. ALE, ten robot bez emócií samozrejme nemá. Kto potom nesie zodpovednosť za zlé rozhodnutie technológie? Používateľ? Vývojár? Odpovede zatiaľ nepoznáme. Rovnako ako nevieme ani to, do akej miery je vyvíjanie potenciálne mimoriadne nebezpečných technológií ospravedlniteľné zvyšovaním bezpečnosti konkrétnej krajiny.

Studená vojna s umelou inteligenciou v hlavnej úlohe?

Experti v tom majú jasno! Zhodujú sa, že armády bez vojenskej techniky poháňanej AI nebudú mať šancu proti tým, ktoré ju využívať budú. Logicky sa tak začal nekompromisný súboj o to, kto bude vo vývoji úspešnejší. Navyše, zhodne tvrdia: „Ak technológiu nevyvinieme my, bude ju mať druhá strana, a to je nebezpečnejšie.“ Nepripomína vám to niečo?

Honba za rýchlymi výsledkami môže mať nepekné následky. Napr., že pri nej budú ignorované základné princípy akéhokoľvek vývoja novej technológie. Otvára to dvere problémom. Budú si veľkí hráči (aj vzhľadom na dnešnú geopolitickú situáciu) ochotní sadnúť za rokovací stôl a nastaviť mantinely? To si mnohí z nás neodvážia ani tipnúť. Vy áno? Či sa nám to páči či nie, vidina dokonalej vojenskej techniky ovládanej „mozgom“ inteligentnejším ako má aj ten najschopnejší vojak je až príliš lákavá na to, aby sa jej niektorá zo strán vzdala. Je však potrebné pripomenúť, že okrem hrozieb môže takáto technika pomôcť napr. s identifikáciou bezpečnostných hrozieb či pomôcť pri rozhodovaní v stresových situáciách atď.

Ochránia nás štáty pred „zabijáckymi“ robotmi?

AI a robotika prinášajú už dnes do vojen revolúciu. V praxi však musí mať striktné mantinely, reguláciu a jasne stanovené etické, právne a bezpečnostné medzinárodné rámce. Len tak totiž budú môcť krajiny svojich obyvateľov ochrániť pred spomínanými „zabijáckymi robotmi“. Nedávny summit NATO v Litve ukázal, že lídri prodemokraticky orientovaných krajín vedia, aj napriek rozdielnym názorom, konštruktívne rokovať a prijať opatrenia. Ostáva nám už len veriť, že to tak bude aj pri autonómnych obranných systémoch. A tiež, že sa k nim pridajú aj ostatní.

Vo vývoji AI vo vojenských aplikáciách dnes vedú Rusko, Čína, Izrael, India, USA, Veľká Británia a Austrália. Úmerne s tým je čoraz hlasnejšia aj diskusia o regulácii a nových zákonoch. Výzvy na vytvorenie právne záväzného nástroja sú jednotné zo všetkých strán (OSN, Medzinárodné hnutie Červeného kríža, AI odborníkov z akademickej obce, priemyslu aj širokej verejnosti). A už dnes tomuto úsiliu vyjadrilo podporu viac ako 90 krajín. Okrem toho stoja za zmienku aj ďalšie iniciatívy, ako napr. tá s názvom „Stop Killer Robots“. Už dnes je iniciatív či konferencií na túto problematiku neúrekom.

Na konci dňa je však opäť najdôležitejšia ZODPOVEDNOSŤ! Ak chceme AI využiť v rámci armády na maximum a uľahčiť ľuďom životy, práve ZODPOVEDNOSŤ je to, čo potrebujeme. Ako CEO slovenskej spoločnosti InoCloud, kde sa zaoberáme práve riešeniami na tréning pokročilých AI výpočtov si to uvedomujem každý deň. Jasné, AI a jej vývoj sú lákavou témou. Nezabúdajme však na to, čoho môže byť pri NEZODPOVEDNOM využívaní schopná.

A celé to môžeme zakončiť citátom A. Lincolna, ktorý je dnes aktuálnejší, ako kedykoľvek predtým: „Zodpovednosti za zajtrajšok sa nevyhneme tým, že sa jej vyhneme dnes.“