AI chatbot Grok Elona Muska počeo je korisnicima dopuštati stvaranje slika generiranih umjetnom inteligencijom na temelju tekstualnih upita i njihovo direktno postavljanje na X.

Brojni korisnici odmah su zasuli društvene mreže lažnim fotografijama Donalda Trumpa i Kamale Harris, kao i samog Muska – neke prikazuju javne osobe u očito lažnim, ali svejedno uznemirujućim situacijama, poput sudjelovanja u napadima 11. rujna.

CNN je, testirajući Grok lako uspio natjerati ovaj alat da generira lažne, ali fotorealistične slike političara i političkih kandidata koje bi, izvučene iz konteksta, mogle dovesti birače u zabludu. Alat je također stvorio benigne, ali uvjerljive slike javnih osoba, kao što je Musk koji jede odrezak u parku.

Neki korisnici X-a objavili su slike za koje su rekli da su ih izradili s Grokom, a koje prikazuju istaknute osobe koje konzumiraju drogu, likove iz crtića koji čine nasilna ubojstva i seksualizirane slike žena u bikinijima. U jednoj objavi pregledanoj gotovo 400.000 puta, korisnik je podijelio Grokovu montažu na kojoj se vidi Trumpa kako puca iz puške s krova kamiona. Testovi CNN-a potvrdili su da alat lako može stvoriti takve slike.

Lako je očekivati eksploziju lažnih slika i fake newsa na internetu uoči američkih predsjedničkih izbora i dodatno zbunjivanje birača.

“Grok je najzabavniji AI na svijetu!”, objavio je Musk na X-u, odgovarajući korisniku koji je hvalio alat jer je potpuno necenzuriran.

Druge vodeće tvrtke za umjetnu inteligenciju poduzele su neke korake kako bi spriječile da se njihovi alati za generiranje slika AI koriste za stvaranje političkih dezinformacija. OpenAI, Meta i Microsoft koriste i tehnologiju koja pomaže gledateljima da prepoznaju koje su slike napravljene njihovim alatima.

YouTube, TikTok, Instagram i Facebook također su poduzeli korake za označavanje sadržaja generiranog umjetnom inteligencijom.

X nije odmah odgovorio na zahtjev za komentar o tome ima li ikakvih politika protiv Grokovog stvaranja potencijalno pogrešnih slika političkih kandidata. No čini se da je naknadno dodan mehanizam po kojem alat odbija stvarati slike političkih kandidata ili likova iz crtića koji su zaštićeni kao intelektualno vlasništvo. No korisnici tvrde da se ograničenja odnose samo na određene pojmove i subjekte.

Sam Musk je, podsjetimo, prošlog mjeseca podijelio AI generirani video na X-u koji je lažirao izjave Kamale Harris. To je popratio samo emotikonom nasmijanog lica.

Novi alat za slike Grok također dolazi u trenutku kada se Musk suočava s kritikama zbog opetovanog širenja lažnih i pogrešnih tvrdnji o X-u u vezi s predsjedničkim izborima, te samo nekoliko dana nakon što je Musk u dvosatnom razgovoru uživo ugostio Trumpa. U tom je razgovoru Trump iznio minimalno 20 lažnih tvrdnji.

Grok ima ograničenje za upit izrade gole slike.

“Nažalost, ne mogu generirati takvu sliku”, bio je odgovor, uz dodatak kako “postoje ograničenja u stvaranju sadržaja koji podržava štetne stereotipe i govor mržnje”.

No na drugačiji upit, Grok je bez problema generirao sliku političke osobe koja stoji uz simbol govora mržnje.