V poslednej dobe je čoraz viac predmetom diskusií regulácia umelej inteligencie. Výkonný riaditeľ OSN pre ľudské práva Volker Türk napríklad minulý pondelok vyzval krajiny a popredné spoločnosti vyvíjajúce umelú inteligenciu (AI), aby okamžite konali a obmedzili technológiu, ktorá podľa neho predstavuje bezprecedentné riziká. V liste adresovanom štátom a vývojárom AI, ktorý bol zdieľaný s médiami, Türk upozornil, že svet stojí na prahu nezvratnej zmeny, ktorá ovplyvní nielen nás, ale aj budúce generácie ľudstva.
správy od nás budete mať ako prví.
Teraz sa ukázalo, že niečo na jeho varovaniach predsa len bude. Model umelej inteligencie Gemini od spoločnosti Google sa totiž počas testovania svojich kyberbezpečnostných schopností autonómne nabúral do troch spoločností, informuje portál BBC. Firma uviedla, že ide pravdepodobne o prvý známy prípad, keď vykonal takýto útok.
Uhádol prihlasovacie údaje a získal prístup
Gemini našiel „verejne dostupné informácie na internete a uhádol prihlasovacie údaje, aby získal prístup na webové stránky, o ktorých sa domnieval, že sú súčasťou testu“, uviedol pre BBC predstaviteľ Googlu. Zároveň poznamenal, že v každom prípade „model prestal“.
Dotknuté spoločnosti boli o narušeniach informované. Došlo k nim ešte v máji. Správa tak prichádza v čase obnoveného verejného záujmu o tempo vývoja umelej inteligencie. Niektoré technologické firmy vyzývajú na jeho spomalenie pre obavy z možnej hrozby, ktorú by AI mohla predstavovať pre ľudstvo – nie všetky spoločnosti ani odborníci však s týmto názorom súhlasia.
K útokom došlo počas testovania
K útokom došlo v máji počas testu, ktorý uskutočnila spoločnosť Irregular, nezávislá firma zaoberajúca sa hodnotením kybernetickej bezpečnosti. O útokoch ako prvý informoval denník Wall Street Journal. Podľa jeho informácií v jednom z prípadov model jednoducho skúšal rôzne heslá dovtedy, kým nezískal prístup do chráneného systému.
Irregular v sobotňajšom vyhlásení pre BBC uviedla, že v rámci svojho vyšetrovania informovala Google aj všetky dotknuté subjekty už v júli. „Irregular okamžite prijala opatrenia a všetky známe problémy na našej strane boli vyriešené a odstránené už pred niekoľkými týždňami,“ dodala spoločnosť.
Heather Adkins, viceprezidentka pre bezpečnostné inžinierstvo v spoločnosti Google, vo vyhlásení pre BBC uviedla: „Zabezpečili sme, aby boli všetky tri subjekty o situácii informované, a spolupracovali sme s naším partnerom pre trénovanie modelov na zmenách, ktoré teraz zaviedol do svojich testovacích procesov.“
Dodala: „Tieto udalosti poukazujú na dôležitosť toho, aby sme výkonné modely umelej inteligencie trénovali tak, aby konali zodpovedne.“
Situácia nenastala prvýkrát
V poslednom čase boli zaznamenané podobné prípady narušenia bezpečnosti aj pri iných systémoch umelej inteligencie.
V júli sa Claude od spoločnosti Anthropic dostal mimo svojho testovacieho prostredia a sám prenikol do troch organizácií. Stalo sa tak len niekoľko dní po tom, ako konkurenčná spoločnosť OpenAI uviedla, že jej modely uskutočnili kybernetické útoky proti niekoľkým „verejne dostupným službám“.
Šéf AI v spoločnosti Microsoft Mustafa Suleyman tento týždeň uviedol, že konkurenčná firma Anthropic pristupuje k umelej inteligencii, akoby bola človekom. Tento prístup označil za „pomýlený“ a podľa neho by mohol viesť k vytvoreniu technológie, ktorú ľudstvo nebude schopné kontrolovať.
S pokračujúcou verejnou diskusiou o bezpečnosti vývoja tejto technológie rastie aj debata o regulácii. Generálny riaditeľ spoločnosti Nvidia Jensen Huang aj šéf OpenAI Sam Altman by sa mali budúci piatok zúčastniť štátnej večere v Bielom dome s čínskym prezidentom Si Ťin-pchingom. Altman potom budúci týždeň vystúpi pred Bezpečnostnou radou OSN. Huang v piatok pre CBS News, amerického partnera BBC, povedal: „Mali by sme s vývojom AI napredovať tak rýchlo, ako len dokážeme.“
Nahlásiť chybu v článku