Prelomový AI Act bol schválený. Čo od neho očakávať?

Ak sa budeme v budúcnosti učiť o míľnikoch vývoja umelej inteligencie, dátum 21. máj 2024 bude rozhodne jedným z nich. A to aj napriek tomu, že mu v súčasnosti nebola venovaná výraznejšia pozornosť a väčšina bežných ľudí zrejme netuší, čo sa udialo. V praxi sa tento moment totiž prejaví až v budúcnosti a postupne. O čom teda hovorím? O schválení dokumentu s názvom „AI Act“, prvom ucelenom súbore pravidiel o umelej inteligencii, ktorý začne v Európskej Únii platiť už čoskoro. A začína sa ním úplne nová etapa.

Doteraz to bola neriadená strela

Dovolím si tvrdiť, že AI Act je prelomovým zákonom. Prináša totižto jednotné pravidlá a usmernenia pre umelú inteligenciu (AI), ktoré budú platiť vo všetkých členských štátoch Európskej Únie. Žiadna takáto regulácia doteraz v Európe v zásade neexistovala. AI a jej vývoj kontrolovali len samostatné štáty, aj tie však len veľmi všeobecne. Práve takýto zákon môže jednotlivé štáty nasmerovať správnym smerom a naštartovať aj ich zákonodarcov. Vývoj AI je nielen v Európe, ale najmä v iných častiach sveta rýchly a častokrát aj neprehľadný, pripomínajúci auto bez bŕzd. Nie je preto prekvapením, že sa objavili otázky ohľadom bezpečnosti alebo súkromia. Predsa len – modely umelej inteligencie dokážu fungovať iba vďaka tomu, že sú kŕmené veľkým množstvom dát. A veľké množstvo dát zaváňa vždy rizikom…

Ako dopadne ChatGPT alebo Copilot?

Ak sa o oblasť AI aspoň trochu zaujímate, príchod tohto zákona ste už určite zachytili. Diskusie o ňom, rovnako ako legislatívna príprava, trvali dlhé mesiace. 21. mája ho však definitívne schválila Európska rada a od  druhej polovice roka 2024 sa začne postupne dostávať do platnosti. Tento proces rozhodne nebude jednoduchý. V prvom polroku sa bude zameriavať najmä na reguláciu a zákaz takých systémov, ktoré predstavujú najväčšie, „neakceptovateľné riziko“. Ku koncu roka 2025 by mali na rad prísť usmernenia pre firmy, ktoré poskytujú všeobecné AI modely. Nasledovať bude dlhý proces nasadzovania pravidiel do praxe a monitorovania trhu. Až potom budú jednotlivé členské štáty nastavovať penalizácie za porušenia zákona. Dalo by sa teda povedať, že AI Act má už za sebou dlhú cestu. Oveľa dlhšiu má však ešte pred sebou. Až postupne sa budeme učiť čo všetko treba sledovať, monitorovať a podobne.

Tip redakcie: Mobily, PC, Hry a kancelária za super ceny od overeného obchodníka

Pýtate sa, ako sa zákon dotkne bežného užívateľa? Komerčne využívané generatívne AI modely ako napríklad ChatGPT, Gemini či Copilot, ktoré používa najväčšie množstvo ľudí, dostanú k dispozícii dlhšiu „prechodnú dobu“. Tá bude trvať až 36 mesiacov a nechá tak veľkým, rozbehnutým spoločnostiam dostatok času na zosúladenie svojich systémov s novým zákonom. Finálne upravené produkty tak uvidíme až o nejaký čas, predpokladám však, že bežný užívateľ si zmeny ani len nevšimne.

Čím väčšie riziko, tým prísnejšie pravidlá

Druhov a typov systémov umelej inteligencie je nespočetné množstvo a každý jeden deň vznikajú nové. AI Act sa v tom preto snaží nájsť poriadok a pracuje s jednoduchým pravidlom: čím vyššie je potenciálne riziko spôsobenia škody spoločnosti, tým prísnejšie sú jeho pravidlá. Obsahuje aj niekoľko výnimiek – nevzťahuje sa napríklad na systémy určené na vojenské a obranné účely či výskum.

AI systémy zadefinované ako najrizikovejšie, budú pred vstupom na trh EÚ podliehať najprísnejším procesom a budú zároveň musieť byť najtransparentnejšie. AI Act priamo zadefinoval aj systémy, ktoré budú zakázané úplne. Ide napríklad o systémy využívané na behaviorálnu manipuláciu, tvorbu „sociálnych rebríčkov“, či rôzne druhy prediktívneho či iného dohľadu, ktoré využívajú biometrické dáta alebo pracujú s osobnými informáciami ako príslušnosť k rase, vierovyznanie či sexuálna orientácia.

Špecifikom tohto zákona je aj to, aké veľké dopady bude mať. Bude sa totiž vzťahovať nielen na európske spoločnosti, ale aj na všetky ostatné, ktoré na území EÚ pôsobia. Dotkne sa tak napríklad aj najväčších amerických gigantov, ktorí momentálne vo vývoji AI jednoznačne vedú. Dá sa očakávať, že mnohé krajiny a regióny ho následne použijú ako vzor pre tvorbu podobných zákonov aj na svojom území, podobne, ako to urobili v prípade GDPR.

Nezadusíme ďalšími reguláciami inovácie?

Samozrejme, ako pri zavádzaní akejkoľvek regulácie, aj teraz sa naskytá otázka, či a ako veľmi ovplyvní samotné firmy. A či neurobí naše podnikateľské prostredie menej konkurencieschopným. V tejto téme sa ako CEO spoločnosti InoCloud pohybujem dlhodobo a nevidím to vôbec tak čierno. Paradoxne, myslím si, že AI Act môže nášmu podnikateľskému prostrediu v niečom aj pomôcť.

Doterajší divoký a nekontrolovaný vývoj a používanie AI vyvolával v mnohých obavy. Ak však budú existovať jasné pravidlá zaručujúce jej bezpečnosť a etickosť, môže to zvýšiť dôveru tých, ktorí s jej využívaním doteraz váhali. Spoločnosti, ktoré systémy vyvíjajú, budú mať lepšiu predstavu o tom, čo je povolené a čo nie a môžu sa tak vyhnúť rôznym problémom. Takto vyvinuté produkty môžu byť zároveň atraktívne aj na iných trhoch. Veď povedzme si na rovinu: kúpili by ste si radšej produkt, ktorý bol vyvíjaný transparentne, eticky a má bezpečnostné štandardy alebo by ste radšej siahli po nejakom, ktorého pozadie je prinajmenšom nejasné?

Samozrejme, každá minca má dve strany. Dodržiavanie nových nariadení spoločnostiam určite zdvihne náklady a dá sa predpokladať, že to najviac pocítia tie najmenšie. Rozhodne to môže predĺžiť aj niektoré procesy a znížiť flexibilitu vývoja. A áno, niekto sa môže obávať aj odlivu technologických spoločností z EÚ do iných štátov. Ako však bolo spomenuté vyššie, na konci dňa bude úplne jedno, kde ste systém vyvíjali. Ak ho budete chcieť predávať a používať aj v krajinách EÚ, AI Act musíte dodržiavať.

Prístupy vo svete sa líšia

Je zrejmé, že regulácia umelej inteligencie sa bude ďalej vyvíjať – rovnako, ako sa bude vyvíjať aj samotná umelá inteligencia. A v náznakoch už môžeme pozorovať, ako to bude vyzerať v rôznych regiónoch. Ako už bolo spomenuté, V EÚ sa pri AI bude dôraz klásť najmä na etické aspekty, ochranu základných práv, GDPR a bezpečnosť. Očakávam, že práve u nás bude kontrola a transparentnosť systémov v budúcnosti na najvyššej úrovni. A zároveň dúfam, že sa obavy z prehnanej administratívy či nákladov navyše nenaplnia.

V USA naopak zatiaľ pozorujeme flexibilnejší a menej centralizovaný prístup k regulácii a zatiaľ to nevyzerá to tak, že by sa to malo v blízkej dobe výraznejšie zmeniť. Zdá sa, že Američania budú chcieť aj naďalej čo najviac podporovať konkurencieschopnosť svojich spoločností. Komplexnú štátnu reguláciu tu, ako aj v iných odvetviach, môže sekundovať samoregulácia alebo regulácia konkrétnych odvetví.

A Ázia? Samozrejme, aj medzi jednotlivými krajinami sú rozdiely, môžeme však povedať, že napríklad v Číne alebo Južnej Kórei sa vlády snažia o čo najrýchlejšie zavádzanie AI do praxe a pripravujú rôzne stratégie. Spolu s výraznou štátnou podporou môžeme preto očakávať, že tu vývoj bude mimoriadne rýchly. Veľký otáznik však (najmä v prípade Číny) visí nad ochranou súkromia alebo zamedzením zneužitia technológie v oblastiach, v ktorých napríklad AI Act umelú inteligenciu v EÚ úplne zakazuje.

Určite teda bude zaujímavé sledovať, ako budú tieto rozličné prístupy pokračovať a kam sa s nimi jednotlivé regióny dostanú. Osobne si myslím, že v Európe sme vykročili tým správnym smerom. A ak nezabudneme okrem regulácie aj na strategickú podporu AI projektov, môžeme byť v budúcnosti príkladom aj pre iných.