Chatboti dokážu byť veľmi dobrým pomocníkom, ale občas nám ich odpovede vedia poriadne zdvihnúť tlak. Niektorí ľudia žartujú, že odhalenie ich súkromného chatu s umelou inteligenciou by bolo vlastne horšie, ako keby im partner prišiel na neveru, a nie sú vôbec ďaleko od pravdy. Spoločnosť OpenAI musela v uplynulých mesiacoch riešiť roztomilý problém, pre ktorý prišla so zaujímavým zákazom.
V kódexe ChatGPT sa nachádza riadok, v ktorom je uvedené, aby chatbot „nikdy nehovoril o goblinoch, gremlinoch, troloch či holuboch a niekoľkých ďalších bytostiach alebo zvieratách“, upozornil portál IFLScience. A nejde o žiadnu chybu či bizarný žartík programátorov, ale má to svoj dôvod. Ozrejmila ho samotná spoločnosť OpenAI, ktorá za chatbotom ChatGPT stojí.
Ľudí začal nazývať mýtickými postavami
OpenAI vysvetlila, že ešte v novembri, po uvedení modelu GPT‑5.1, zaznamenala vzorec, ktorý sa už však mohol objaviť aj skôr. S odkazom na staršie vlákno na Reddite opísala sťažnosti niektorých používateľov, ktorí si všimli, že umelá inteligencia sa správa zvláštne. Začala používať slová ako goblin či gremlin aj v situáciách, kde nemali čo hľadať.
Dáta ukázali, že používanie slova goblin po uvedení nového modelu ChatGPT vzrástlo o 175 % a slova gremlin o 52 %. Nárast zaznamenali aj ďalšie spomínané výrazy zo sveta fantasy a monštier, aj keď o nich vlastne nebola reč.
Pri príchode modelu GPT‑5.4 sa táto situácia ešte vyostrila a hlásení začalo pribúdať. A ukázalo sa, že to nie je náhoda. OpenAI sa začala týmto milým problémom zaoberať a zistila, že súvisí s „nerdskou osobnosťou“, ktorá bola pre ChatGPT vyvinutá. Tá bola trénovaná pomocou odmeňovacích signálov. A čím vyššiu odmenu nejaká odpoveď dostala, tým častejšie ju chatbot následne používal.
V tomto prípade si osvojil metafory s rôznymi tvormi a začal ich používať aj vo chvíľach, keď nepadli na úrodnú pôdu. Tak sa začalo stávať, že ľudí prakticky nazýval škriatkami.
OpenAI situáciu vyriešila
Spoločnosť OpenAI v marci zasiahla a „nerdská osobnosť“ chatbotu bola vyradená. Takisto bol odstránený signál na odmeňovanie za použitie týchto slov a namiesto neho bol zavedený spomínaný zákaz s výnimkou toho, keď to nie je pre odpoveď používateľa absolútne nevyhnutné.
Nahlásiť chybu v článku