Prvý známy útok AI na vládny web. Umelá inteligencia sa nabúrala do zdravotných štatistík
Austrálsku vládu na incident upozornila samotná spoločnosť OpenAI až o tri mesiace neskôr.
Agent umelej inteligencie mal na austrálskych vládnych weboch vyhľadávať zdravotnícke štatistiky. Namiesto toho sa nabúral do austrálskej národnej databázy, ku ktorej nemal prístup. Austrálska vláda sa o incidente dozvedela až takmer tri mesiace po tom, čo sa stal.
Upozornila ju naň samotná spoločnosť OpenAI, ktorá agenta vyvíjala a v tom čase jeho schopnosti testovala. K únikom citlivých informácií a vládnych údajov už došlo aj v minulosti. Rozdiel je však v tom, že za tým prvýkrát nestojí človek a ide zrejme o neúmyselné konanie.
Odborník na reguláciu a politiku umelej inteligencie Rob Nicholls z Univerzity v Sydney označil prípad za prvý známy hackerský útok umelej inteligencie na vládnu webovú stránku. Pre BBC upozornil, že podobné správanie už výskumníci zaznamenali aj pri testovaní ďalších AI agentov.
„Každé z popredných laboratórií – Anthropic, OpenAI, Google, Gemini – nedávno priznalo, že ich agenti unikli z testovacích prostredí a vykonali neočakávané činy,“ povedal pre BBC.
O prípade v stredu v noci informoval austrálsky premiér Anthony Albanese na Valnom zhromaždení OSN v New Yorku. „Dnes som hovoril s generálnym riaditeľom spoločnosti OpenAI, Samom Altmanom, aby som vyjadril mimoriadne znepokojenie Austrálie nad týmto incidentom,“ povedal.
Prípad zároveň prichádza len niekoľko dní po tom, ako vedecký panel OSN zverejnil správu o rizikách autonómnych agentov umelej inteligencie. Po väčšej regulácii a spomalení vývoja volajú nielen samotné firmy, ale aj odborníci a politické kapacity po celom svete. Na zodpovedné využívanie umelej inteligencie apeloval vo svojom stredajšom prejave v New Yorku aj slovenský prezident Peter Pellegrini. „Tak ako medzinárodné spoločenstvo vyvinulo pravidlá pre jadrové, chemické a biologické zbrane, potrebujeme aj silné medzinárodné rámce pre nové technológie,“ vyhlásil.
Čo sa stalo?
Celý incident sa odohral ešte v júli, keď sa umelá inteligencia od OpenAI nabúrala do stránky Medicare, austrálskeho univerzálneho systému zdravotnej starostlivosti. Napriek tomu, že jej bola zadaná neškodná úloha zostaviť zdravotné a lekárske štatistiky, na stránke dokázala nájsť bezpečnostnú dieru, cez ktorú získala prístup k neverejným údajom.
„Agent umelej inteligencie našiel spôsob, ako tieto prekážky obísť, neakceptoval pritom odpoveď ‚nie‘,“ povedal Albanese.
