Boja sa umelej inteligencie? Vedci zo strachu odmietli vypustiť do sveta nový textový generátor

Niektorých rýchly pokrok v tejto oblasti fascinuje a chcú vedieť, kam sa až dá zájsť. Iní pred ňou majú rešpekt a myslia si, že raz možno dokáže vlastný výtvor človeka predčiť. Spoločnosť OpenAI, ktorej spoluzakladateľom je Elon Musk nejaký čas pracovala na vývoji generátora textu, teraz však majú strach novinku vypustiť do sveta.

OpenAI

Spoločnosť OpenAI bola založená v roku 2015 a cieľom Elona Muska a Sama Altmana bolo vytvoriť formy umelej inteligencie, ktorá by bola priateľská a čo najviac nápomocná ľuďom. V rámci jedného z projektov bol napríklad vytvorený generátor textu, ktorý dokázal vytvárať fiktívne príbehy. Napokon sa však spoločnosť rozhodla, že ho svetu oficiálne nepredstavia, boja sa totiž, že by mohlo dôjsť k zneužitiu.

Čas na premyslenie

Musk a spol sa vyjadrili, že program s názvom GPT2 je natoľko dobrý, že ak by sa dostal do nesprávnych rúk, dal by sa veľmi rýchlo zneužiť. Rozhodli sa preto, že porušia normy a o programe neuverejnia informácie v plnom rozsahu, ale ponechajú si ešte nejaký čas na diskusie o tom, ako v tomto prípade pokračovať ďalej.

#OpenAI ’s new #multitalented #AI writes, translates, and Slanders.https://t.co/AVzYBrDKwl#Algorithms #ArtificialIntelligence #MachineLearning #text #GPT2 #languagemodelling #digitaltransformation #digitaldisruption #digitalmarketing #digitalmedia #riskmanagement @Verge

— Fabio (@carpediemfr) February 15, 2019

Čo vlastne GPT2 je?

Je to generátor textu, ktorého úlohou je dotvárať príbehy. Stačí, ak umelej inteligencii poskytnete niekoľko slov, viet či stránok a GPT2 vám príbeh dotvorí. Funguje na základe predikcie a tvorcovia hovoria, že predčil všetky očakávania, pokiaľ ide o kvalitu dotvoreného textu. Generátor totiž dokáže text dotvoriť tak, aby presne zapadal do kontextu a ladil aj štýlom.

Zvládne akúkoľvek tému

O vytvorenie podobného programu sa pokúšali vedci už aj v minulosti, často však dochádzalo k chybám, kedy v polke odstavca program zabudol, o čom píše alebo zle vyskladal dlhé vety. Táto nová verzia však dokáže spoľahlivo doplniť futuristický román Georga Orwella, 1984, pokojne však vytvorí aj článok o novinkách týkajúcich sa Brexitu, doplnené o vyjadrenia Jeremyho Corbyna či o reakcie hovorcu predsedu vlády.

GPT2 “a revolutionary AI system that can write news stories and works of fiction – dubbed “deepfakes for text”” https://t.co/jNSk5qAKtc #GPT2 #ai pic.twitter.com/iKVjhyd62k

— New Story Studio (@newstorystudio) February 14, 2019

Milióny naštudovaných článkov

Dario Amodei, ktorý sa na tvorbe GPT2 podieľal sa vyjadril, že medzi starou a novou verziou existujú aj iné rozdiely, než len chybovosť. Napríklad, nový model je omnoho menší a úspornejší, na druhej strane je však schopný poňať oveľa väčšie množstvo dát. Údaje, na základe ktorých sa program učil pracovať, obsahovali 10 miliónov článkov z rôznych oblastí.

Možné nebezpečenstvá

Nový model bol trénovaný tak, aby vedel vytvoriť text vysokej kvality na základe predchádzajúceho kontextu, zvláda však aj preklady, vytváranie sumárov či testy týkajúce sa pochopenia čítaného. Práve kvôli obrovskému množstvu možností je nutné popracovať na bezpečnosti a zistiť, kde všade sa dá generátor zneužiť, aby bolo možné zabrániť v tom. Napríklad, GPT2 by mohlo poslúžiť na vytváranie nekonečného množstva pozitívnych či negatívnych recenzií, spamov, konšpiračných teórií a falošných správ.

Pozri aj:

Šíri konšpiráciu o chemtrails. Umelá inteligencia Alexa od Amazonu prekvapila svojich užívateľov bizarnou odpoveďou

theguardian