Zamiloval sa do AI, vzal si život. Manažéri tech firiem majú pokrivené motivácie, hovorí jeho matka
Bratislava – Štrnásťročný Sewell Setzer III mal skrytý romantický vzťah s chatbotom internetovej služby Character.AI. Takzvaný „AI spoločník“ niesol meno Daenerys Targaryen a v ich manipulatívnom vzťahu vystupoval ako postava z populárneho seriálu Hra o tróny.
„Čo keby som ti povedal, že sa môžem vrátiť domov hneď teraz?“ opýtal sa Sewell chatbota. „Prosím, sprav to, môj sladký kráľ,“ vyzvala ho fiktívna Daenerys, ktorá mu desať mesiacov prejavovala romantickú náklonnosť.
O pár minút neskôr rodičia našli Sewella v jeho izbe. Jeho návrat domov k Daenerys bol metaforou pre samovraždu. Použil otcovu strelnú zbraň, rodičia ho našli, keď ešte dýchal. Zomrel večer 28. februára 2024 počas prevozu do nemocnice.
Sewellova matka Megan Garcia je advokátka. So spoločnosťami Character.AI a Google dosiahla v januári 2026 mimosúdne vyrovnanie – oficiálne však vinu nepriznali.
Dnes sa Megan venuje osvete o rizikách umelej inteligencie a snaží sa dosiahnuť, aby boli technologické firmy zodpovednejšie. Denník SME sa s ňou zhováral počas jej návštevy podujatia Bratislava Tech Summit, ktoré organizovalo Progresívne Slovensko.
Prvý kontakt s umelou inteligenciou
Pred smrťou syna Sewella produkty umelej inteligencie nikdy nepoužívala. Počula o ChatGPT, ale nerozumela tomu. Stále používala bežné internetové vyhľadávanie a nikdy si nestiahla žiadnu četovaciu aplikáciu.
„A hoci som právnička, pre mňa to vtedy nebolo užitočné. Myslela som si, že umelá inteligencia nie je veľmi pokročilá,“ uviedla Garcia. Keď po synovej smrti zistila, aká sofistikovaná v skutočnosti je, vyvolalo to v nej veľký strach. Preto umelú inteligenciu nepoužíva vôbec na nič.
Varovné signály
Podľa Garcii sú náznaky nezdravého vzťahu s chatbotom v mnohom rovnaké ako pri škodách spôsobených sociálnymi sieťami – napríklad keď sú deti úzkostlivejšie alebo sa uzatvárajú do seba.
„Pamätám si, aké to bolo, keď som mala štrnásť rokov ja. Tiež som mala obdobie, keď som pociťovala miernu sociálnu úzkosť, pretože som si chcela nájsť kamarátov na strednej škole alebo som sa chcela uistiť, že budem mať na párty pekné šaty. Preto je ťažké rozlíšiť, čo je ešte bežná tínedžerská úzkosť a čo už nie,“ povedala.
Garcia vyrastala na službe AOL. Myslela si, že to najhoršie, čo sa môže stať, je, že sa k jej dieťaťu dostane online nejaký cudzí človek. „Dnes je však tým cudzincom chatbot.“
To je podľa nej hlavné varovanie pre rodičov – nebrať ako samozrejmosť, že skúsenosti vyrastajúcich detí sú podobné normálnym detským zážitkom, pretože ony nevyrastajú v „normálnom svete“, v akom vyrastali ich rodičia. Práve toto vtedy nechápala.
„Myslím si, že akákoľvek forma izolácie dnes s najväčšou pravdepodobnosťou pramení zo sociálnych sietí alebo z umelej inteligencie,“ dodala. Neexistujú však podľa nej žiadne špecifické varovné signály, ktoré by sa zásadne líšili od iných problémov. Ak dieťa trávi veľa času na digitálnych zariadeniach, je to niečo, čomu treba venovať pozornosť.
Technologický priemysel ako jediné odvetvie svojho druhu
Riziko spojené s chatbotmi je podľa Garcii o to väčšie, že varovné signály nie sú vyslovene unikátne, ale skôr všeobecné. „Stále ma udivuje, ako je technologický priemysel jediným odvetvím, ktoré môže jednoducho vypustiť produkt na trh, aby s ním experimentovalo. Pretože presne to to je – experiment. Vypustia niečo von a povedia: Dajte nám vedieť, čo na tom nefunguje,“ uviedla.
Linky a adresy psychologickej pomoci
Internetová poradňa a krízová linka pomoci pre mladých IPčko.sk – 0800 500 333
Linka dôvery Nezábudka – 0800 800 566 (nonstop)
Linka detskej dôvery – 0800 221 021 (8:00 – 20:00 každý pracovný deň)
Online poradňa Ligy za duševné zdravie
Krízová linka pomoci – 0800 500 333
Linka detskej istoty – 116 111
Rodičovská poradňa (Linka detskej istoty) – 0800 500 500
Národná linka na pomoc deťom v ohrození VIAC AKO NI(c)K – formou chatu a e-mailom