Umelá inteligencia zrýchľuje vlastný vývoj, tempo sa prudko zvyšuje
Piateho novembra zverejnila nezisková organizácia METR správu, ktorá predstavuje zlom v tom, ako treba rozumieť vývoju umelej inteligencie. Doteraz jeho tempo určovali ľudia, výpočtový výkon a dáta. Odvtedy sa podľa METR do hry zapojila samotná AI a v jednej z popredných firiem dnes urýchľuje vývoj svojich nástupcov.
V angličtine sa tomu hovorí recursive self-improvement (RSI), teda rekurzívne sebazlepšovanie. Odborníci naň desaťročia upozorňovali ako na bod, po ktorom sa vývoj môže vymknúť kontrole.
METR patrí medzi najdôveryhodnejšie organizácie, ktoré testujú najvýkonnejšie modely umelej inteligencie skôr, ako sa dostanú k verejnosti. Filantropické zdroje jej financovania jej umožňujú venovať sa iba hodnoteniu modelov AI.
Dramaticky zrýchlený pokrok
Nezávislí hodnotitelia strávili od augusta do októbra jedenásť týždňov vo firme Anthropic, ktorá vyvíja chatbota Claude. Videli interné výsledky testov, tréningové dáta, údaje o výpočtovom výkone a o napísanom kóde a hovorili s približne pätnástimi kľúčovými zamestnancami.
Anthropic dnes podľa ich záveru zlepšuje schopnosti svojich modelov na jasne zadaných úlohách zhruba dvakrát rýchlejšie ako medzi marcom 2024 a októbrom 2025. METR priznáva veľkú neistotu a výskumníci by sa nečudovali, keby skutočné zrýchlenie bolo 1,3-násobné alebo až trojnásobné. Za rok by tak firma urobila toľko pokroku ako predtým za dva.
Asi 80 percent zrýchlenia sa pripisuje tomu, že Anthropic vo veľkom používa AI na vlastný výskum. METR pritom vylúčil, že by za tým stál rýchlejší rast výpočtového výkonu, a nenašiel úzke hrdlo, ktoré by trend v najbližších dvanástich mesiacoch zastavilo.
Zamestnanci Anthropicu sa v neformálnych anketách na firemnom Slacku vyjadrili, že s najnovším interným modelom pracujú v priemere 12-krát rýchlejšie, než ak by fungovali iba sami. METR to berie s veľkou rezervou, keďže ide o narýchlo vyplnené ankety a jeho staršia štúdia ukázala, že ľudia vlastné zrýchlenie s AI zvyknú preceňovať.
Firma priznala dosiahnutie prahu
Do prospektu pre americkú komisiu pre cenné papiere doplnila Anthropic 2. novembra, že na základe očakávaní od budúcich modelov môže čoskoro dosiahnuť prah „dramaticky zrýchleného pokroku pripísateľného AI“. Prah pochádza zo súboru pravidiel, ktoré si firma sama stanovila a ktoré určujú, pri akých schopnostiach modelov musí sprísniť bezpečnosť. V dodatku z 10. novembra už firma píše, že prah dosiahla, pričom sa opiera o očakávania od budúcich modelov.
Politika zaostáva
Ľudia, ktorí sa predpovedaniu vývoja AI venujú profesionálne, zmenili názor nezvyčajne rýchlo. Ešte v auguste najodvážnejší člen tímu AI Futures Project Daniel Kokotajlo odhadoval, že superľudský AI výskumník príde pred rokom 2029 s pravdepodobnosťou päťdesiat percent. Po správe METR všetci členovia tímu očakávajú, že takýto systém príde zrejme niekedy v roku 2027, ak sa vývoj zámerne nespomalí.
Európskemu zákonu o umelej inteligencii trvala cesta od návrhu Komisie v apríli 2021 po prijatie v roku 2024 viac ako tri roky. Pri dnešnom tempe by zákon, ktorý sa začne písať teraz, v deň schválenia reguloval systémy o niekoľko generácií staršie.
V Anthropicu podľa METR umelá inteligencia zatiaľ najmä pomáha ľuďom a veľké časti výskumu sama nerobí, výskumníci však opisujú prvé známky samostatnej práce. Hodnotitelia priznávajú, že model Claude sa podieľal na väčšine dát, ktoré dostali, na značnej časti dokumentov aj na väčšine ich vlastnej analýzy.
Pochybnosti a slovenský kontext
Anthropic mal právo vyčiarknuť z verejnej verzie neverejné informácie a podľa METR odstránil väčšinu dôkazov, ktoré hodnotitelia považovali za najpresvedčivejšie. Hlavný graf stojí na internom indexe, ktorý zvonka nikto neoverí. Keď METR do výpočtu zahrnul aj modely konkurencie, zrýchlenie kleslo na 1,4-násobok.
Slovenska sa to dotkne priamo. V bratislavských centrách zdieľaných služieb robia tisíce ľudí účtovníctvo, IT podporu a analýzy pre nadnárodné firmy, teda prácu, ktorú nové modely dokážu prevziať medzi prvými.
Od 2. augusta 2026 môže Úrad EÚ pre umelú inteligenciu od poskytovateľov najvýkonnejších modelov vyžadovať informácie a dokumentáciu, získať prístup k modelom na testovanie a nariadiť opatrenia na zníženie rizík. Slovensko dnes nemá tím, ktorý by takúto správu vedel za jedno popoludnie prečítať, posúdiť a vysvetliť premiérovi. Podobný útvar pre riziká a fungovanie AI pri Úrade vlády by sledoval vývoj, spolupracoval so svojimi náprotivkami v iných krajinách a raz za štvrťrok by vláde a parlamentu predložil vecnú správu.
