Výkonný riaditeľ OSN pre ľudské práva Volker Türk v pondelok vyzval krajiny a popredné spoločnosti vyvíjajúce umelú inteligenciu (AI), aby okamžite konali a obmedzili technológiu, ktorá podľa neho predstavuje bezprecedentné riziká. V liste adresovanom štátom a vývojárom AI, ktorý bol zdieľaný s médiami, Turk upozornil, že svet stojí na prahu nezvratnej zmeny, ktorá ovplyvní nielen nás, ale aj budúce generácie ľudstva.
správy od nás budete mať ako prví.
„Súčasný závod za stále výkonnejšou AI predstavuje zásadný krok smerom k väčším existenčným rizikám pre všetky aspekty našich životov,“ uviedol. „Vyzývam štáty a spoločnosti, aby sa prostredníctvom multilaterálnych fór urgentne zmobilizovali a vytvorili plán na riadenie pokročilých, špičkových AI modelov, založený na medzinárodnom práve ľudských práv.“
Intenzívne debaty o spomalení
Výzva prichádza v čase intenzívnej debaty o tom, či by sa vývoj AI mal spomaliť. Americký prezident Donald Trump a jeho kľúčoví spojenci sa postavili proti výzvam na spomalenie vývoja AI. Tento mesiac vyvolala rozruch rezignácia výskumníka z firmy Anthropic, ktorý sa obával, že technológia by mohla uniknúť ľudskej kontrole.
Iný zamestnanec Anthropic verejne vyhlásil, že „úprimne veríme, že AI by mohla zabiť všetkých ľudí“ a odhadol pravdepodobnosť na viac než 10 percent v nasledujúcom desaťročí. V reakcii na tieto obavy vyzval generálny riaditeľ Anthropic Dario Amodei v sobotu AI firmy, aby „spomalili vývoj na hranici“, čo verejne podporili aj jeho hlavní konkurenti Elon Musk zo spoločnosti xAI a Sam Altman z OpenAI. List od Turka dostalo desať popredných vývojárov AI vrátane Meta, Microsoftu a Google.
„V dnešnom svete sme takmer úplne závislí na malej skupine mocných spoločností, aby urobili správne rozhodnutia o vývoji AI pre celé ľudstvo,“ napísal Türk. „Spolupráca v rámci priemyslu je nevyhnutným prvým krokom, no sama o sebe nestačí.“
Varoval pred rizikami
Varoval pred „bezprecedentnými rizikami“ spojenými s rastúcou schopnosťou AI agentov.
„Celé populácie by mohli byť odrezané od čistej vody, vykurovania a finančných služieb, a agentná AI už zrýchľuje tempo a rozsah vojenských konfliktov a oslabuje ochranné mechanizmy, ktoré nás chránia pred použitím zbraní hromadného ničenia,“ upozornil. Türk zdôraznil, že spoločnosti na čele vývoja špičkovej AI, prevažne z Číny a USA, majú zodpovednosť a schopnosť okamžite znížiť riziká.
Zároveň však vyzval na medzinárodnú spoluprácu, pretože „žiadna krajina nemôže túto technológiu riadiť sama a žiadna spoločnosť by nemala rozhodovať o tom, aké riziká musí svet akceptovať“.
„Nikto by nemal byť nútený vzdať sa svojich ľudských práv výmenou za tvrdenia o technologickom pokroku,“ uzavrel.
Trump má iný názor
Americký prezident Donald Trump v pondelok na svojej platforme Truth Social odmietol výzvy na reguláciu umelej inteligencie (AI) a konštatoval, že Spojené štáty si musia udržať náskok v tejto oblasti, aby porazili konkurenčnú veľmoc Čínu. Zároveň označil kritiku rozvoja AI a dátových centier za „chorú konšpiráciu“ a kritizoval šéfa spoločnosti Anthropic, ktorý minulý týždeň vyzval na spomalenie vývoja systémov AI. TASR o tom informuje na základe správ agentúr AFP a AP.
Trump tvrdí, že dostatočnou zárukou bezpečnosti a hrádzou proti nekontrolovateľnému rozvoju umelej inteligencie je on sám. „Jedinou kontrolou či ‚mantinelmi‘, ktoré AI potrebuje, je SILNÝ A INTELIGENTNÝ PREZIDENT (s vysokým IQ!) – a USA ho majú, a to vo vrchovatej miere!“ napísal šéf Bieleho domu.
Trump v uplynulom týždni opakovane odmietol tieto varovania argumentom, že regulácia v USA by poskytla výhodu konkurenčnej Číne.
Nahlásiť chybu v článku