Nebojí sa útočiť. Umelá inteligencia od Google sa naučila byť v stresových situáciách agresívna

Približne pred rokom sme vám priniesli článok, v ktorom sa celosvetovo uznávaný vedec Stephen Hawking zamýšľal nad hrozbami, ktoré ohrozujú ľudstvo. V ňom za potenciálne riziko označil aj umelú inteligenciu. Tu si ale nebol istý a uviedol, že rozvoj umelej inteligencie bude tá najlepšia alebo tiež tá najhoršia vec, ktorá sa udeje ľudstvu. A síce vývoj v tejto oblasti napreduje rýchlo, stále tu nie sú reálne dôvody na obavy. No nové pokusy vykonané Googlom ukazujú, že umelá inteligencia sa môže niekedy skutočne správať „nebezpečne“. 

Google testoval svoju umelú inteligenciu a z týchto testov vyplýva, že pri programovaní a budovaní umelých autonómnych systémov, by sme mali byť opatrní. Pomocou jednoduchých počítačových hier Google sledoval, ako sa umelá inteligencia učí vyhrávať nad súperom, ktorý nebol nikto iný, ako takisto umelá inteligencia.

Na test poslúžila jednoduchá hra v ktorej počítačové systémy zbierali „jablká“ reprezentované zeleným štvorčekom. Keďže obidva systémy dosahovali remízu, no ich cieľom bolo druhý systém poraziť, začali sa venovať tomu, ako druhej strane znemožniť zbieranie jabĺk. Umelá inteligencia tak začala v hre využívať „laser“ aby získala prevahu.

Ak by systémy nezačali používať laser, hra by sa mohla skončiť nerozhodne, čo je z pohľadu umelej inteligencie a príkazov, ktoré dostala, „menej inteligentné“. Systémy tak začali využívať útok a agresiu aby boli úspešnejšie ako druhá strana.

Spolupráca

V inej hre, ktorú vedci testovali na umelej inteligencii, bola potrebná aktívna spolupráca umelých systémov. Túto hru hrali tri umelé systémy inteligencie, pričom dva z nich predstavovali vlkov a jeden korisť.  Kým pri prvej hre sa systémy naučili používať agresivitu aby dosiahli požadovaný výsledok, pri tejto hre pochopili, že kľúčová je spolupráca a že keď systémy spolupracujú, dosahujú lepšie výsledky ako keď pracujú individuálne.

Aj keď sú to iba jednoduché hry, ukazujú, ako sa správa myslenie umelých systémov. Tie, pokiaľ nie sú cielene usmernené, hľadajú všetky možnosti, ako dosiahnuť požadované výsledky. Tieto zistenia nám ukazujú, že pri tvorbe „samomysliach“ systémov je potrebné byť zdravo opatrní a nenechať, aby si systémy robili vždy „čo chcú a čo usúdia za vhodné“ aby dosiahli požadované ciele.

Elon Musk, jeden z najvýznamnejších osobností moderných technológií zašiel ešte ďalej. Ten už v roku 2015 uviedol, že by sme sa mali s umelou inteligenciou začať prepájať, inak budú ľudia v budúcnosti úplne zbytoční.

Pozri aj: Ako bude vyzerať svet v roku 2022? Tieto zmeny vám vyrazia dych

interez.sk (mmm), sciencealert.com