Americká AI spoločnosť Anthropic vo štvrtok vyzvala na globálnu prestávku vo vývoji najvýkonnejších systémov umelej inteligencie, keďže najnovšie modely začínajú vykazovať známky, že by sa mohli vymknúť spod ľudskej kontroly.
„Domnievame sa, že pre svet by bolo prínosné mať možnosť spomaliť alebo dočasne prerušiť vývoj najpokročilejších systémov AI, aby spoločenské štruktúry a výskum zameraný na zosúladenie dokázali držať krok s technologickým pokrokom,“ uviedla spoločnosť, ktorá patrí medzi lídrov vo vývoji AI riešení, vo vyhlásení.
Firma žiada spomalenie vývoja umelej inteligencie
Podľa Anthropicu, ktorý je známy rodinou vysokovýkonných AI modelov Claude, skutočná prestávka fungovala len vtedy, ak by sa na nej súčasne dohodli viaceré veľké spoločnosti v rôznych krajinách – najmä v USA a Číne – a ak by existovali pravidlá, ktoré by bolo možné overiť.
Spoločnosť zároveň varovala, že ak by vývoj pozastavila iba jedna firma, konkurenti by jednoducho pokračovali a získali náskok.Bez globálneho koordinačného mechanizmu budú podľa firmy spoločnosti aj vlády nútené robiť ťažké rozhodnutia o bezpečnosti pod tlakom konkurencie a geopolitiky. Anthropic čelí kritike zo strany časti odvetvia aj Bieleho domu, podľa ktorých preceňuje riziká a využíva bezpečnostnú rétoriku na spomalenie konkurentov.
Umelú inteligenciu prirovnali k jadrovým zbraniam
Návrh sa však môže stretnúť so silným odporom vo Washingtone aj v Silicon Valley, keďže americkí predstavitelia a technologickí lídri opakovane tvrdia, že akékoľvek spomalenie vývoja AI by mohlo poskytnúť Číne rozhodujúcu strategickú výhodu v „technologickom súboji storočia.“
Firma prirovnala problém k zmluvám o kontrole jadrových zbraní, ale upozornila, že dohľad nad AI je ešte náročnejší, keďže tréning modelov možno ľahko utajiť. „Chcete mať možnosť zložiť nohu z plynu a položiť ju na brzdu,“ povedal vo štvrtok pre britskú reláciu BBC Newsnight spoluzakladateľ Anthropic Jack Clark. „V tejto chvíli sa zdá, že sektor umelej inteligencie má len plynový pedál, ale nemá brzdu.“„Aktuálne poznatky naznačujú, že úloha človeka sa v každom kroku vývoja umelej inteligencie zmenšuje,“ upozornila spoločnosť.
Nie všetci sa obávajú vzdialenej budúcnosti, problémom je už súčasnosť
Varovania spoločnosti Anthropic prichádzajú v čase, keď umelá inteligencia prestáva byť len nástrojom na písanie textov, tvorbu obrázkov či vyhľadávanie informácií. Čoraz častejšie sa totiž objavuje v oblastiach, kde môžu jej rozhodnutia alebo odporúčania ovplyvniť bezpečnosť štátov, armád či miliónov ľudí.
Nedávno preto vzbudila pozornosť štúdia, v ktorej vedci testovali viaceré populárne modely umelej inteligencie vrátane ChatGPT, Claude a Gemini. Ako sa sa môžete dočítať v našom článku, v simulovaných geopolitických konfliktoch sledovali, ako by sa systémy rozhodovali v krízových situáciách. Výsledky boli prekvapujúce aj pre samotných výskumníkov. Vo väčšine prípadov totiž modely volili agresívnejšie riešenia a simulácie sa často končili jadrovou eskaláciou.
O to zaujímavejšie je, že viaceré AI systémy už dnes nachádzajú uplatnenie aj v obrannom sektore. Technologické firmy spolupracujú s vládami na nástrojoch určených na analýzu spravodajských informácií, plánovanie či vyhodnocovanie bezpečnostných hrozieb. Debata o tom, kde by mali byť hranice ich využívania, tak naberá úplne nový rozmer.
Práve preto sa výzva Anthropicu na možnosť „stlačiť brzdu“ pri vývoji najvýkonnejších modelov nestretáva len so záujmom technologickej komunity. Stále viac sa totiž týka aj politikov, armádnych predstaviteľov a bezpečnostných expertov, ktorí upozorňujú, že tempo vývoja umelej inteligencie môže byť rýchlejšie než schopnosť spoločnosti pripraviť sa na jej dôsledky.
Nahlásiť chybu v článku