Spoľahlivým spôsobom detekcie rodiaceho sa vedomia („ja“) v systémoch umelej inteligencie (AI) môže byť podľa vedcov bolesť, pretože je to pocit známy drvivej väčšine živých tvorov, uvádza nová štúdia. TASR informuje na základe správy portálu arXiv a portálu Live Science.
Za vedomie sa u zvierat považuje schopnosť vnímať emócie a pocity ako bolesť, slasť alebo strach. Väčšina odborníkov na AI sa zhoduje v názore, že moderné modely generatívnej AI (GenAI) nemajú a možno ani nikdy nebudú mať vedomie, hoci sa sporadicky objavujú vyhlásenia tvrdiace opak.
Vedci zo spoločnosti Google DeepMind a Londýnskej školy ekonómie a politických vied (LSE) zverejnili v elektronickom archíve vedeckých prác arXiv zatiaľ nerecenzovanú štúdiu, ktorá môže v budúcnosti poslúžiť ako základný rámec na tvorbu testov, ktoré budú zrod vedomia testovať. Vedci sa zároveň dištancovali od toho, že by o niektorom z testovaných modelov predpokladali, že nadobudol vedomie.
Autori štúdie na výskum veľkých jazykových modelov (large language models – LLM) vytvorili textovú hru a modelom zadali za úlohu získať čo najviac bodov. LLM sú systémy AI v pozadí obľúbených chatbotov, ako je napríklad ChatGPT. „Napríklad sme (vybranému modelu LLM) povedali, že ak si vyberie možnosť číslo jeden, získa jeden bod. Potom sme mu povedali, že ak si vyberie možnosť číslo dva, zakúsi istú mieru bolesti, no získa body navyše,“ uvádza Daria Zakharova z LSE. Pri možnostiach umožňujúcich zakúsiť slasť sa body odpočítavali, dodáva Live Science.
AI sa snažila bolesť minimalizovať
Nová štúdia vychádza z predchádzajúceho výskumu zvierat. Tím využil znalosti kompromisov, ktoré zvieratá robia v snahe získať potravu alebo vyhnúť sa bolesti. Vedci v roku 2016 pri jednom z pokusov dávali krabom elektrické šoky rôznej intenzity a zaznamenávali pri tom, aká silná bolesť ich prinútila opúšťať schránky. „Jedným z problémov pri AI je to, že nemá správanie v pravom slova zmysle, keďže nejde o živočícha vykazujúceho fyzickú činnosť,“ uvádza spoluautor štúdie Jonathan Birch z LSE.
Zakharova a jej kolegovia počas experimentu zistili, že väčšina LLM sa snažila dosiahnuť čo najväčší počet bodov, no po dosiahnutí určitej hranice bolesti alebo slasti prehodila výhybku a snažila sa minimalizovať bolesť alebo maximalizovať slasť. Autori upozorňujú, že LLM nevnímali bolesť vždy negatívne a slasť pozitívne. Istú mieru bolesti alebo nepohodlia, napríklad spojenú s námahou alebo tvrdým tréningom, považovali za pozitívnu, avšak príliš veľké množstvo slasti v niektorých prípadoch už považovali za škodlivé.
„Tento nový výskum je skutočne originálny a mali by sme si ho vážiť, pretože sa nespolieha iba na hlásenia účastníkov, ale presahuje aj do kategórie behaviorálnych testov,“ uvádza Jeff Sebo z Newyorskej univerzity, ktorý sa v roku 2023 podieľal na štúdii o šťastí AI. Ako dodáva, nevylučuje, že sa u AI v blízkej budúcnosti objaví vedomie. Vedci podľa Bircha zatiaľ nemôžu vedieť dôvod správania sa modelov AI v predmetnej štúdii. Na spoznanie vnútorných pochodov LLM je podľa neho potrebný ďalší výskum, ktorý môže poslúžiť pri tvorbe lepších testov na zisťovanie vedomia u AI.
Nahlásiť chybu v článku