Miliardár Elon Musk a skupina expertov v stredu v otvorenom liste vyzvali na pozastavenie vývoja výkonných systémov umelej inteligencie, aby mohla byť preverená ich bezpečnosť. TASR prevzala správu z agentúry AFP.
správy od nás budete mať ako prví.
Predmetnú výzvu podpísalo viac ako tisíc odborníkov na umelú inteligenciu, vrátane Muska a spoluzakladateľa spoločnosti Apple Stevea Wozniaka. Ich žiadosť podnietilo vydanie novej verzie chatbotu ChatGPT zvanej GPT-4 z dielne americkej organizácie OpenAI.
Vývojári tohto chatbotu tvrdia, že najnovšia verzia je oveľa výkonnejšia ako predchádzajúca. Softvér ChatGPT verejnosti voľne sprístupnili vlani v novembri. Používateľov mimoriadne zaujal schopnosťou jasne odpovedať na zložité otázky, písať básne, či prejsť vedomostným testom.
Systémy umelej inteligencie môžu predstavovať riziká pre ľudstvo
„Systémy umelej inteligencie, schopné konkurovať ľudskej inteligencii, môžu predstavovať vážne riziká pre spoločnosť a ľudstvo,“ píše sa v otvorenom liste zvanom „Pozastavte gigantické experimenty s umelou inteligenciou“.
„Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, ak sa uistíme, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné,“ dodali experti.
Musk bol jedným z prvých investorov v organizácii OpenAI a roky pôsobil aj vo výkonnej rade tejto spoločnosti, pripomína AFP. Jeho automobilka vyvíja systémy umelej inteligencie, ktoré majú pomôcť pri autonómnom riadení vozidiel.
List iniciovala organizácia Future of Life Institute, ktorú Musk financuje, a podpísal ho aj Emad Mostaque, šéf spoločnosti Stability AI – priameho konkurenta OpenAI.
V liste citujú aj výrok zakladateľa OpenAI Sama Altmana, že „v určitom okamihu môže byť pred začatím vývoja budúcich systémov dôležité získať ich nezávislé preskúmanie“.
„Súhlasíme. Tento okamih je teraz,“ napísali autori listu. Z tohto dôvodu zároveň vyzvali všetkých vývojárov umelej inteligencie, aby aspoň na šesť mesiacov pozastavili vývoj systémov výkonnejších ako GPT-4.
Šesť mesiacov má byť podľa autorov listu využitých na vývoj bezpečnostných protokolov, riadenia umelej inteligencie a zameranie sa na výskum, aby boli dané systémy presnejšie, bezpečnejšie, „dôveryhodné a lojálne“.
List možné hrozby najnovšej verzie chatbotu od firmy OpeanAI GPT-4 nešpecifikuje. Odborníci však dlhodobo tvrdia, že chatboty sú skvelými „klamármi“ a majú potenciál stať sa obrovskými šíriteľmi dezinformácií.
Nahlásiť chybu v článku