Britský mediálny regulačný úrad Ofcom v pondelok oznámil, že kontaktoval sociálnu sieť X amerického miliardára Elona Muska v súvislosti so sťažnosťami, že jej nástroj umelej inteligencie (AI) Grok generuje falošné pornografické obrázky detí. TASR o tom informuje podľa správy agentúry AFP.
„Boj proti nelegálnemu škodlivému obsahu na internete a ochrana detí naďalej patria medzi naliehavé priority Ofcomu,“ uviedol hovorca dozorného orgánu vo svojom stanovisku. „Sme si vedomí vážnych obáv, ktoré vyvolala funkcia Grok na (platforme) X, ktorá produkuje obrázky nahých ľudí a sexualizované snímky detí,“ dodal.
Sťažnosti vážne prešetruje aj Európska únia
Hovorca uviedol, že Ofcom „urýchlene kontaktoval (platformu) X a (startup) xAI, aby zistil, aké kroky podnikli platformy na splnenie svojich zákonných povinností chrániť používateľov v Spojenom kráľovstve“.
Our statement on Grok ⬇️ pic.twitter.com/UsXh96zjQY
— Ofcom (@Ofcom) January 5, 2026
V závislosti od odpovede platforiem úrad „určí, či existujú potenciálne problémy s dodržiavaním predpisov, ktoré by si vyžadovali ďalšie vyšetrovanie“.
Toto rozhodnutie nasleduje po tom, ako Európska únia v pondelok uviedla, že „vážne prešetruje“ sťažnosti týkajúce sa nástroja Grok, ktorý podľa bloku ponúka tzv. „pikantný režim“ zobrazujúci explicitný sexuálny obsah, pričom niektoré jeho výstupy generujú obrázky detí.
„To nie je pikantné. To je nezákonné. Je to desivé,“ zdôraznil novinárom hovorca EÚ pre digitálne záležitosti Thomas Regnier.
In case they take it all down.
This Grok public „spicy“ mode insane. Literally posting nude edits of people. pic.twitter.com/Xu5VM9zU99
— Ben Shapiro’s Biceps 💪🍋🔆 (@conro) December 31, 2025
Zástupcovia aplikácie Grok v piatok uviedli, že zistili chyby v nástroji umelej inteligencie, ktoré opísali ako „nedostatky v bezpečnostných opatreniach“, s tým, že „naliehavo“ pracujú na ich odstránení.
Podľa britského zákona o online bezpečnosti sú webové stránky, sociálne siete a platformy na šírenie videí, na ktorých sa môže zobraziť potenciálne škodlivý obsah, povinné zaviesť prísne overovanie veku prostredníctvom nástrojov, ako sú kontroly tváre alebo kreditných kariet.
Je tiež nezákonné, aby sociálne siete a podobné webové stránky vytvárali alebo ďalej šírili intímne materiály bez súhlasu dotknutých osôb alebo materiály zobrazujúce sexuálne zneužívanie detí vrátane sexuálnych deepfakeov vytvorených pomocou umelej inteligencie.
Nahlásiť chybu v článku