EU: Kyberbezpečnosť a AI

Umelú inteligenciu možno zneužiť na identifikáciu zraniteľností, automatizáciu útokov aj zvýšenie rozsahu a rýchlosti kybernetických incidentov bezprecedentnou rýchlosťou. Nový akčný plán štruktúrovanej reakcie spojí členské štáty, priemysel a organizácie na úrovni EÚ s cieľom posilniť kybernetickú bezpečnosť digitálneho prostredia. Podľa aktu o umelej inteligencii sa pokročilé modely AI musia pred uvedením modelov na trh EÚ dôkladne posúdiť. Európska komisia vyhlási osobitnú výzvu na vytvorenie hodnotiacej kapacity EÚ v oblasti kybernetickej bezpečnosti, ktorá by mala začať fungovať v roku 2027.

Agentúra EÚ pre kybernetickú bezpečnosť (ENISA) a Spoločné výskumné centrum komisie vytvoria platformu na testovanie umelej inteligencie z hľadiska kybernetickej bezpečnosti vrátane používania simulovaných prostredí. Prevádzkovatelia v kritických odvetviach, akými sú financie, energetika, zdravotníctvo, doprava a verejná správa, tak získajú know-how o bezpečnom používaní umelej inteligencie. Organizácie by mali zintenzívniť postupy kybernetickej hygieny, opatrenia na riadenie rizík a zásady bezpečnosti už v štádiu návrhu. Mali by začať využívať už dostupné spôsobilosti umelej inteligencie, a to aj prostredníctvom modelov s otvoreným zdrojovým kódom, s cieľom rýchlejšie identifikovať a opraviť zraniteľnosti, ako aj predchádzať kybernetickým útokom a reagovať na ne. ENISA bude podporovať a uľahčovať partnerstvá medzi verejnými orgánmi, podnikmi a komunitami s otvoreným zdrojovým kódom v kybernetickom ekosystéme. To bude zahŕňať usmernenia, odporúčania a najlepšie postupy, ako aj kampaň na zabezpečenie kritického softvéru s otvoreným zdrojovým kódom.

Komisia spustí veľkú výzvu EÚ v oblasti umelej inteligencie pre kybernetickú bezpečnosť. Súťaž spojí spoločnosti, výskumných pracovníkov a organizácie s cieľom vyvinúť riešenia umelej inteligencie pre kybernetickú bezpečnosť. EÚ musí naďalej investovať do rozvoja svojich vlastných suverénnych pokročilých spôsobilostí v oblasti umelej inteligencie a využívať infraštruktúru, ktorú poskytujú továrne na umelú inteligenciu a budúce gigatovárne. Pripravovaná európska kapitálová kapacita v oblasti technológií oznámená v balíku technologickej suverenity by mohla prilákať súkromné investície na rozšírenie domácich spôsobilostí umelej inteligencie.

Právny rámec EÚ na riešenie kybernetickej bezpečnosti: V akte o umelej inteligencii sa vyžaduje, aby sa posudzovali a zmierňovali riziká vyplývajúce z modelov umelej inteligencie, zatiaľčo v kódexe postupov pre umelú inteligenciu na všeobecné účely sa tieto požiadavky bližšie špecifikujú a uľahčuje sa dodržiavanie predpisov zo strany pokročilých poskytovateľov modelov. Tieto ustanovenia sa začnú presadzovať 2. augusta 2026. V akte o kybernetickej odolnosti, ktorý sa má začať uplatňovať do konca roka 2027, sa stanovuje povinnosť špecificky navrhnutej bezpečnosti hardvérových a softvérových produktov. Cieľom smernice o sieťových a informačných systémoch alebo smernice NIS2 je okrem toho posilniť bezpečnosť kritických odvetví, ako je doprava a energetika, spolu s aktom o digitálnej prevádzkovej odolnosti (DORA) pre finančný sektor. Akt o kybernetickej solidarite posilňuje kapacity v EÚ na odhaľovanie významných a rozsiahlych kybernetických hrozieb a útokov, prípravu a reakciu na ne.

Ďalšie informácie

Akčný plán pre kybernetickú bezpečnosť a umelú inteligenciu

Prehľad