Napísať otázku chatbotovi na e-shope je dnes pre mnohých omnoho pohodlnejšie ako vyvolávať na zákaznícku linku. Umelá inteligencia radí s výberom produktov, odpovedá na otázky aj pripravuje texty, ktoré zákazníci čítajú každý deň. Práve tieto nástroje však už o niekoľko týždňov čakajú nové pravidlá.
Tisíce internetových obchodov sa budú musieť pripraviť na povinnosti, o ktorých mnohé z nich stále netušia.
E-shopy čakajú od augusta nové povinnosti
E-shopy majú už len niekoľko týždňov na to, aby sa pripravili na ďalšiu fázu európskeho nariadenia o umelej inteligencii (AI Act). Od augusta 2026 totiž začnú platiť nové povinnosti pre systémy umelej inteligencie s takzvaným obmedzeným rizikom, medzi ktoré patria najmä AI chatboti zákazníckej podpory či nástroje na generovanie textov a ďalšieho obsahu.
Práve tieto technológie dnes využíva veľká časť internetových obchodov. Napriek tomu podľa spoločnosti Heureka Group mnohí obchodníci stále nevedia, že sa na nich nová regulácia vzťahuje, alebo si jej požiadavky nesprávne vysvetľujú. Heureka Group, ktorá spolupracuje s viac ako 50-tisíc e-shopmi v strednej a východnej Európe, upozorňuje, že neinformovanosť patrí medzi najväčšie riziká. Podľa spoločnosti si mnohí prevádzkovatelia internetových obchodov stále myslia, že AI Act je určený len pre technologické firmy alebo veľké korporácie.
Častým omylom je výklad pravidiel GDPR
„AI Act sa netýka len technologických firiem alebo veľkých korporácií. Ak prevádzkujete e-shop s chatbotom zákazníckej podpory alebo používate AI na tvorbu produktových popisov, regulácia sa na vás vzťahuje. Otázka nie je, či sa vás to týka, ale či ste na to pripravení,“ upozorňuje šéf produktu a vývoja Heureka Group Stanislav Sopko.
Jedným z najčastejších omylov je presvedčenie, že pri každom využívaní umelej inteligencie na spracúvanie osobných údajov je nevyhnutný súhlas zákazníka podľa pravidiel GDPR. V skutočnosti GDPR neupravuje samotné používanie umelej inteligencie, ale spracúvanie osobných údajov. Súhlas je pritom len jedným z možných právnych základov. V mnohých bežných situáciách internetových obchodov môže byť spracúvanie údajov založené na oprávnenom záujme alebo na plnení zmluvy.
Ďalším rozšíreným omylom je predstava, že obsah vytvorený umelou inteligenciou možno bez akýchkoľvek obmedzení voľne používať. Nové pravidlá však prinášajú viaceré povinnosti. Prevádzkovatelia budú musieť označovať deepfake obsah, poskytovatelia AI systémov zabezpečiť technické označenie výstupov, napríklad pomocou digitálnych vodoznakov, a samotné vygenerovanie loga či produktového obrázka ešte automaticky nezakladá autorské práva k výslednému dielu.
Firmám hrozia nepríjemné prekvapenia
„Nejde o ojedinelé situácie, ale o každodenné scenáre pre väčšinu e-shopov. Problémy budú mať nie tie firmy, ktoré si boli vedomé rizík, napriek nim do toho išli a napríklad nakoniec aj urobili chybu. Budú to tie firmy, ktoré predpokladali, že je všetko v poriadku, bez toho, aby si to vôbec niekedy overili. Môže ich totiž čakať viacero nepríjemných prekvapení,“ upozorňuje advokátka spoločnosti eLegal Karolína Houžvičková.
Európske nariadenie rozdeľuje systémy umelej inteligencie do štyroch kategórií podľa miery rizika, a to na zakázané, vysoko rizikové, systémy s obmedzeným rizikom a systémy s minimálnym rizikom. Práve kategória obmedzeného rizika je pre väčšinu e-shopov najrelevantnejšia, keďže zahŕňa najčastejšie využívané AI nástroje v elektronickom obchode. Oveľa prísnejším pravidlám budú neskôr podliehať systémy označené ako vysoko rizikové, medzi ktoré patria napríklad niektoré riešenia využívané pri nábore zamestnancov alebo v oblasti ľudských zdrojov.
Heureka odporúča pripraviť sa ešte pred augustom
Heureka preto odporúča obchodníkom, aby si ešte pred augustovým termínom zmapovali, aké AI nástroje vo firme využívajú, či vystupujú ako poskytovatelia alebo iba prevádzkovatelia týchto systémov, overili, či niektorý z nich nespadá do kategórie vysokého rizika, skontrolovali, či je chatbot jasne označený ako umelá inteligencia, a posúdili, či nevytvárajú alebo nešíria obsah typu deepfake.
Podľa Stanislava Sopka pritom väčšina internetových obchodov zistí, že splnenie nových povinností nie je neprimerane náročné. Kľúčové je však urobiť si prehľad o tom, ako a kde umelú inteligenciu využívajú. „Väčšina e-shopov zistí, že ich situácia je zvládnuteľná, hneď ako ju reálne zmapujú. Riziko spočíva v tom, že predpokladajú, že nie je čo mapovať,“ uzatvára Sopko.
Nahlásiť chybu v článku