Británia vyšetruje sieť X pre obvinenia z generovania sexualizovaných obrázkov detí
Britský mediálny regulačný úrad Ofcom sa pustil do vyšetrovania sociálnej siete X, ktorú vlastní Elon Musk. Dôvodom sú sťažnosti, že funkcia umelej inteligencie Grok na tejto platforme vytvára falošné pornografické obrázky detí. Ofcom v pondelok potvrdil, že sa obrátil na X, aby získal informácie o krokoch, ktoré podnikli na ochranu detí a dodržiavanie právnych predpisov v Spojenom kráľovstve.
„Boj proti nelegálnemu obsahu na internete a ochrana detí zostáva prioritou Ofcomu,“ uviedol hovorca úradu. Zároveň upozornil, že sú si vedomí vážnych obáv, ktoré vyvolávajú produkcie nahých postáv a sexualizovaných snímok detí pomocou nástroja Grok.
V súvislosti s týmito sťažnosťami sa Ofcom zameriava na to, ako platformy spĺňajú svoje zákonné povinnosti a ako reagovali na výzvy na riešenie týchto problémov. Podľa ich vyjadrení bude ďalšie konanie závisieť od odpovedí, ktoré X a startup xAI predložia.
Európska únia sa tiež zapojila do tohto prípadu, keď vo vyhlásení uviedla, že „vážne preveruje“ sťažnosti na Grok, najmä vzhľadom na niektoré jeho funkcie, ktoré generujú explicitný obsah. Hovorca EÚ pre digitálne záležitosti zdôraznil, že „to, čo sa generuje, nie je pikantné, ale nezákonné a desivé.“
Zástupcovia Groku uznali, že ich AI nástroj obsahuje chyby v bezpečnostných opatreniach, ktoré sa snažia urgentne odstrániť. Britský zákon o online bezpečnosti vyžaduje, aby platformy na šírenie obsahu, kde by sa mohlo objaviť potenciálne škodlivé materiály, mali zavedené prísne vekové overovanie.
Okrem toho je nezákonné pre sociálne siete a podobné webové stránky vytvárať alebo šíriť intímny obsah bez súhlasu subjektov, alebo obsah znázorňujúci sexuálne zneužívanie detí, vrátane deepfakeov.
