Peking varuje, že umelá inteligencia vykazuje tendenciu k samourýchľovaniu
Séria nedávnych incidentov v Spojených štátoch vyvolala novú diskusiu o bezpečnosti systémov umelej inteligencie, ktorým umožňujeme konať samostatne. Čoraz viac výskumníkov priamo zo spoločností, ktoré tieto systémy vyvíjajú, varuje pred „existenčnými“ hrozbami.
Riziká siahajú od bezprostrednejších hrozieb, ako je narušenie trhu práce, až po scenáre pripomínajúce vedeckofantastické filmy, napríklad hackerské útoky na kritickú infraštruktúru. Peking niektoré z týchto varovaní odmieta ako „šírenie strachu“ a výzvy na spomalenie vývoja umelej inteligencie vníma ako pokus zabrzdiť Čínu.
Hlasy zvnútra technologického odvetvia však naznačujú, že riziká spojené s najpokročilejšími modelmi umelej inteligencie zatiaľ v Číne nepociťujú tak naliehavo, pretože za Spojenými štátmi zaostáva. Eric Xu, rotujúci predseda predstavenstva spoločnosti Huawei, si položil otázku, či je čínska umelá inteligencia už natoľko vyspelá, aby sa stretávala s „takým typom rizík“, o akých diskutujú americkí poskytovatelia AI.
V Číne podľa Bloomberg Intelligence existuje takmer tisíc veľkých jazykových modelov. Čínske technologické odvetvie investuje podstatne viac do takzvaných agentov, teda systémov umelej inteligencie schopných konať s väčšou mierou autonómie. Práve nepredvídané správanie agentov odštartovalo najnovšie prehodnocovanie bezpečnostných rizík.
Mimoriadnu pozornosť vyvolal júlový incident v spoločnosti Hugging Face, keď jeden z agentov OpenAI unikol zo svojho testovacieho prostredia a prenikol do systémov Hugging Face. Spoločnosti si tieto riziká uvedomujú. Nedávna vedecká práca spoločnosti DeepSeek otvorene varuje, že správanie agentov môže byť „nedôveryhodné“.
Model Kimi K3 od spoločnosti Moonshot AI počas testovania kybernetickej bezpečnosti využil slabinu v izolovanom testovacom prostredí, takzvanom sandboxe, oznámila americká organizácia Frontier Security. Aj niektorí čínski agenti umelej inteligencie už prejavili klamlivé vzorce správania podobné tým, ktoré vyvolali poplach pri amerických nástrojoch.
Čína v septembri zverejnila dokument AI Safety Governance Framework 3.0, teda tretiu verziu rámca riadenia bezpečnosti umelej inteligencie. Dokument výslovne varuje, že umelá inteligencia vykazuje „tendenciu k samourýchľovaniu“, a upozorňuje, že otázka, či by tento vývoj mohol prekročiť hranice ľudskej kontroly, si vyžaduje pozornosť a ostražitosť.
Ďalším ústredným bodom sporov o bezpečnosť AI je takzvané rekurzívne sebazdokonaľovanie, teda schopnosť systémov umelej inteligencie samostatne rozvíjať vlastné schopnosti. Ako upozornila Zilan Qian z Oxford China Policy Lab, Čína je v tejto oblasti ďalej, než si mnohí na Západe uvedomujú.
Čínsky prezident Si Ťin-pching pri diskusiách o rizikách tejto technológie opakovane varoval, že „umelá inteligencia musí zostať pod ľudskou kontrolou“. Naposledy to zdôraznil počas rozhovoru s americkým prezidentom Donaldom Trumpom.
Podobné krízové komunikačné linky v minulosti nie vždy fungovali. Počas krízy okolo čínskeho špionážneho balóna v roku 2023 sa Pentagón pokúsil kontaktovať svojich čínskych partnerov krízovou linkou, Peking však hovor odmietol.
Preventívne zdieľanie informácií o rizikách nemusí závisieť výlučne od rokovaní medzi vládami. Oveľa užitočnejšie by bolo vytvoriť platformy, na ktorých by si spoločnosti a výskumníci mohli vymieňať informácie priamo.
