ChatGPT dostal zákaz používať niektoré slová. Spoločnosť vysvetlila dôvod

Chatboti dokážu byť veľmi dobrým pomocníkom, ale občas nám ich odpovede vedia poriadne zdvihnúť tlak. Niektorí ľudia žartujú, že odhalenie ich súkromného chatu s umelou inteligenciou by bolo vlastne horšie, ako keby im partner prišiel na neveru, a nie sú vôbec ďaleko od pravdy. Spoločnosť OpenAI musela v uplynulých mesiacoch riešiť roztomilý problém, pre ktorý prišla so zaujímavým zákazom. 

V kódexe ChatGPT sa nachádza riadok, v ktorom je uvedené, aby chatbot „nikdy nehovoril o goblinoch, gremlinoch, troloch či holuboch a niekoľkých ďalších bytostiach alebo zvieratách“, upozornil portál IFLScience. A nejde o žiadnu chybu či bizarný žartík programátorov, ale má to svoj dôvod. Ozrejmila ho samotná spoločnosť OpenAI, ktorá za chatbotom ChatGPT stojí.

Ľudí začal nazývať mýtickými postavami

OpenAI vysvetlila, že ešte v novembri, po uvedení modelu GPT‑5.1, zaznamenala vzorec, ktorý sa už však mohol objaviť aj skôr. S odkazom na staršie vlákno na Reddite opísala sťažnosti niektorých používateľov, ktorí si všimli, že umelá inteligencia sa správa zvláštne. Začala používať slová ako goblin či gremlin aj v situáciách, kde nemali čo hľadať.

Dáta ukázali, že používanie slova goblin po uvedení nového modelu ChatGPT vzrástlo o 175 % a slova gremlin o 52 %. Nárast zaznamenali aj ďalšie spomínané výrazy zo sveta fantasy a monštier, aj keď o nich vlastne nebola reč.

Pri príchode modelu GPT‑5.4 sa táto situácia ešte vyostrila a hlásení začalo pribúdať. A ukázalo sa, že to nie je náhoda. OpenAI sa začala týmto milým problémom zaoberať a zistila, že súvisí s „nerdskou osobnosťou“, ktorá bola pre ChatGPT vyvinutá. Tá bola trénovaná pomocou odmeňovacích signálov. A čím vyššiu odmenu nejaká odpoveď dostala, tým častejšie ju chatbot následne používal.

V tomto prípade si osvojil metafory s rôznymi tvormi a začal ich používať aj vo chvíľach, keď nepadli na úrodnú pôdu. Tak sa začalo stávať, že ľudí prakticky nazýval škriatkami.

OpenAI situáciu vyriešila

Spoločnosť OpenAI v marci zasiahla a „nerdská osobnosť“ chatbotu bola vyradená. Takisto bol odstránený signál na odmeňovanie za použitie týchto slov a namiesto neho bol zavedený spomínaný zákaz s výnimkou toho, keď to nie je pre odpoveď používateľa absolútne nevyhnutné.

Pozri aj:

Umelá inteligencia do 9 rokov vymaže 7 % profesií: Pozrite si, ktoré tri nikdy nenahradí