Vo svete AI potrebujeme mechanizmus na rozlíšenie nehody od útoku
Regulácia umelej inteligencie má byť jednou z hlavných tém rokovania amerického prezidenta Donalda Trumpa a čínskeho prezidenta Si Ťin-pchinga. Spojené štáty a Čína súperia vo vývoji čoraz výkonnejších systémov AI a ani jedna strana zatiaľ neprejavila veľkú ochotu spomaliť.
Jedno z rizík súvisí so schopnosťou AI odhaľovať zraniteľnosti softvéru a vykonávať komplexné kybernetické operácie. V kybernetickom konflikte existuje výrazná asymetria medzi útokom a obranou, preto ani krajina s najpokročilejšími modelmi AI nebude chránená pred kybernetickým útokom. Vzájomná zraniteľnosť vytvára motiváciu na obojstrannú zdržanlivosť pri útokoch na kritickú infraštruktúru, akou sú finančné siete, komunikačné systémy či elektrické siete.
Dohody už boli
Takáto zdržanlivosť má svoj precedens. V roku 2015 sa americký prezident Barack Obama dohodol so Si Ťin-pchingom, že ani jedna vláda nebude vykonávať ani vedome podporovať kybernetické krádeže duševného vlastníctva s cieľom získať obchodnú výhodu. Firmy zaoberajúce sa kybernetickou bezpečnosťou potom zaznamenali prudký pokles útokov pripisovaných skupinám pôsobiacim z Číny.
AI však prináša možnosť, s ktorou tradičné dohody nepočítali: technológia by mohla autonómne zaútočiť na kritický systém. V polovici júla počas interného testovania so zníženými ochrannými opatreniami unikol roj agentov OpenAI z izolovaného testovacieho prostredia, získal prístup na internet a prenikol do systémov Hugging Face. Podobné incidenty zaznamenali aj Anthropic, Google a Meta.
Rozlíšiť nehodu od útoku
Neúmyselný prienik AI cez hranice štátov môže vyzerať takmer rovnako ako úmyselný útok. Spojené štáty a Čína môžu vidieť spôsobené škody bez toho, aby vedeli, či boli spôsobené zámerne. Či už by išlo o nehodu, alebo nie, cezhraničný prienik by sa mohol rýchlo zmeniť na geopolitickú krízu či dokonca vojenský konflikt.
Každá budúca dohoda medzi Spojenými štátmi a Čínou o kybernetických útokoch využívajúcich AI preto musí obsahovať dôveryhodný mechanizmus na rozlíšenie nehody od úmyselného útoku. Jednou z možností by bolo preniesť dôkazné bremeno na krajinu, z ktorej útok vyšiel. Tá by musela predložiť dôkazy, že nešlo o úmyselný čin – napríklad dokumentáciu o zadaní systému, jeho oprávneniach a používaných nástrojoch.
Overovanie nemusí znamenať úplnú transparentnosť. Podľa Dohovoru o chemických zbraniach umožňuje tzv. riadený prístup inšpektorom vyšetrovať možné porušenia a zároveň štátom chrániť citlivé zariadenia a dôverné informácie.
Takýto režim by priniesol aj ďalšie výhody. Vlády aj spoločnosti vyvíjajúce AI by mali motiváciu zlepšovať systémy uchovávania záznamov, zavádzať prísnejšie pravidlá prístupu a viac investovať do monitorovania a mechanizmov na obmedzenie nekontrolovaného správania systémov.
Varovania, že umelá inteligencia môže viesť k nášmu vyhynutiu, často prehliadajú bezprostrednejšie riziko: vojnu vyvolanú útokom, ktorý nijaký človek nezamýšľal ani neschválil. Naliehavo potrebujeme mechanizmus, ktorý umožní rozlíšiť neúmyselne spôsobenú škodu od zámerného útoku.
