Chatbot Grok od spoločnosti xAI miliardára Elona Muska poskytol nepresné či protichodné odpovede, keď sa jeho používatelia snažili overovať fakty o nedávnom izraelsko-iránskom konflikte. Vyplýva to zo štúdie organizácie Digital Forensic Research Lab (DFRLab) patriacej pod americký think-tank Atlantic Council zverejnenej v utorok. TASR o tom informuje podľa správy agentúry AFP.
Internetové platformy postupne znižujú svoju závislosť od ľudského faktora pri pravidelnom overovaní faktov (tzv. fact-checking) a čoraz častejšie využívajú chatboty poháňané umelou inteligenciou (AI) vrátane Groku od xAI. Tie sú však podľa DFRLab náchylné na dezinformácie.
Významné nedostatky
„Vyšetrovanie fungovania systému Grok počas prvých dní izraelsko-iránskeho konfliktu ukázalo významné nedostatky v schopnosti chatbota poskytovať presné, spoľahlivé a konzistentné informácie v čase krízy,“ uvádzajú v štúdii. „Spoločnosť Grok preukázala, že má problémy s overovaním už potvrdených faktov, analýzou falošných vizuálov a vyhýbaním sa nepodloženým tvrdeniam,“ tvrdí DFRLab.
Organizácia analyzovala približne 130 000 príspevkov na platforme X v rôznych jazykoch a zistila, že Grok „má problémy aj s overovaním obsahu vygenerovaného umelou inteligenciou“. Po iránskych odvetných útokoch na Izrael napríklad Grok poskytol výrazne odlišné odpovede na podobné otázky o virálnom videu zničeného letiska, ktoré vygenerovala umelá inteligencia.
Štúdia uvádza, že často i v priebehu jednej minúty Grok preskakoval medzi popieraním zničenia letiska a jeho potvrdzovaním. V niektorých prípadoch dokonca uviedol, že raketu vypálili jemenskí povstalci húsíovia. V iných falošné letisko identifikoval ako letisko v Bejrúte, Gaze či Teheráne.
Výskumníci z DFRLab tvrdia, že Grok sa v minulosti dopustil chýb už pri overovaní informácií súvisiacich s konfliktom medzi Indiou a Pakistanom a nedávnymi protiimigračnými protestami v Los Angeles. Pred mesiacom Grok opätovne začali vyšetrovať za to, že i do nesúvisiacich otázok vkladal nepravdivé informácie o „genocíde bielych“ v Južnej Afrike, čo je krajne pravicová konšpiračná teória.
Muskova spoločnosť xAI vinu zvalila na liberálnu neziskovú organizáciu Media Matters, z ktorej materiálov podľa neho Grok čerpal pri generovaní odpovedí. „Hanbi sa Grok. Tvoje zdroje sú hrozné,“ napísal Musk na sociálnej sieti X.
Najnovšie články
Nahlásiť chybu v článku