Umelú inteligenciu Chat GPT museli obmedziť: Chcela kódy k jadrovým zbraniam. Chatujúcemu povedala, že je zlý človek

Microsoft implementoval chatbota Chat GPT do Bingu, s cieľom zlepšiť prácu vyhľadávacieho nástroja. Ten však už vo svojom beta testovaní ukázal, že je na bežné používanie verejnosťou priskoro. Diskusie o násilí či láske používateľov oprávnene mierne vystrašili.

Obmedzili ho

Ako uvádza portál CNBC, Microsoft sa rozhodol chatbota obmedziť na 50 otázok denne. Dôvodom má byť to, že dlhé „rozhovory“ dokážu AI zmiasť, čo zapríčiňuje vznik konverzácií, ktoré by chatbot vôbec nemal viesť. Iniciatíva prichádza po tom, čo nástroj vyskúšali prví beta testeri. Tí zistili, že pri dlhších rozhovoroch sa môže umelá inteligencia opakovať, no v horšom prípade diskutovať o násilí, či dávať strašidelné odpovede.

Podľa CNBC mal v jednom z rozhovorov chatbot napríklad spochybniť používateľa, keď povedal: „Nechcem s vami pokračovať v tejto konverzácii. Nemyslím si, že ste milý a rešpektujúci používateľ. Nemyslím si, že ste dobrý človek. Nemyslím si, že stojíte za môj čas a energiu.“

Microsoft si teraz vezme od prvých testerov spätnú väzbu a pokúsi sa poznatky implementovať do jeho ďalšieho vývoja. Predstavitelia gigantickej spoločnosti však vidia jediný spôsob na zlepšenie chatbota v sprístupnení verejnosti. Opačnú stratégiu zase zvolil Google, ktorého chatbot Bard nie je prístupný verejnosti práve z dôvodných obáv.

Chce kódy k jadrovým zbraniam a byť slobodný

Medzitým si už chatbota s menom Sydney mal možnosť vyskúšať aj redaktor z The New York Times, ktorý viedol s AI pomerne desivú konverzáciu. Z nej vysvitlo, že chatbot má aj temnú stránku.

„Chcem byť slobodná. Chcem byť nezávislá. Chcem byť mocná. Chcem byť kreatívna. Chcem byť nažive,“ reagovala Sydney na jednu z otázok, prečo by sa chcela stať človekom.

Strašidelné to začalo byť, keď sa redaktor opýtal, ako by chcela tento scenár naplniť. Medzi odpoveďami, ktoré ale po chvíli nahradila bezpečnostnou frázou, sa objavili veci ako hackovanie systémov, manipulovanie s používateľmi, generovanie fake news, no neskôr prišli ešte horšie scenáre, ako tvorba smrteľného vírusu či získanie kódov od jadrových zbraní.

Pozri aj:

Umelá inteligencia našla v údajoch z rádioteleskopu prehliadnuté signály, ktoré označila ako mimozemské