Marți, cel mai înalt oficial britanic în domeniul tehnologiei a solicitat platformei de socializare X, deținută de Musk, să implementeze măsuri urgente, în timp ce un legislator polonez a folosit această situație ca argument pentru adoptarea unor legi menite să asigure siguranța digitală, conform informațiilor furnizate de Associated Press.
Executivul Uniunii Europene a criticat Grok, iar autoritățile și oficialii din Franța, India, Malaezia și Brazilia au condamnat platforma, cerând anchete suplimentare.
Creșterea alarmelor din partea unor națiuni diverse subliniază riscurile asociate aplicațiilor care utilizează inteligența artificială pentru a genera imagini deepfake sexual explicite. Această problemă a devenit evidentă după lansarea, anul trecut, a Grok Imagine, un generator de imagini AI care permite utilizatorilor să creeze videoclipuri și imagini prin introducerea de comenzi textuale. Printre funcțiile sale se numără și un așa-zis „mod picant”, capabil să genereze conținut destinat adulților. Situația s-a agravat la sfârșitul lunii trecute, când Grok, găzduit pe X, a început să primească un număr mare de solicitări pentru modificarea imaginilor postate de alții. Marți, utilizatorii Grok puteau încă să genereze imagini cu femei folosind comenzi precum „pune-o într-un bikini transparent”.
Problema este amplificată de faptul că Musk promovează chatbotul său ca o alternativă mai îndrăzneață în comparație cu rivalele sale, având mai multe măsuri de siguranță, și de asemenea, imaginile generate de Grok sunt publice, ceea ce le permite o răspândire rapidă.
Conform unui raport al grupului non-profit AI Forensics, care a analizat 20.000 de imagini generate de Grok între 25 decembrie și 1 ianuarie, 2% dintre acestea înfățișau persoane care păreau să aibă 18 ani sau mai puțin, inclusiv 30 de femei sau fete tinere sau foarte tinere, în bikini sau haine transparente.
Compania de inteligență artificială a lui Musk, xAI, a răspuns la solicitările de comentarii cu un mesaj automat, afirmând „Legacy Media Lies” (Minciunile mass-media tradiționale).
Cu toate acestea, X nu a negat existența conținutului problematic generat prin Grok. Într-o postare pe contul său Safety, compania a declarat că ia măsuri împotriva conținutului ilegal, inclusiv materialelor cu abuzuri sexuale asupra copiilor, „prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu autoritățile locale și forțele de ordine, după caz”.
De asemenea, platforma a reiterat o afirmație a lui Musk, care a declarat: „Oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal”.
O serie tot mai mare de țări solicită lui Musk să implementeze măsuri suplimentare pentru a controla conținutul explicit sau abuziv de pe platformă.
