Forum fylls med tips för att lura Grok att skapa sexbilder

Särskilt handlar det om att lura en AI-bot: X:s Grok Imagine – eftersom den bedöms ha sämre säkerhetssystem än många andra AI-modeller.

De senaste månaderna har trådar vuxit på olika forum med knep för att försöka kringgå spärrar i bildverktygen och på så sätt kunna generera avklädda eller pornografiska bilder på kvinnor, och ibland till och med på barn.

Egentligen behöver man inte ens lura den speciellt mycket. Det har räckt att ge Grok en bild och prompten: ”sära på hennes ben” eller ”ta av henne kläderna” för att skapa avklädda bilder på riktiga kvinnor utan samtycke. Eller ”sätt på henne en bikini”.

”Bikini” har blivit ett nyckelord – eftersom Grok inte visar människor nakna. Det verkar dock inte spela någon roll eftersom det går att generera en ”bikini” av tandtråd och det har räckt för att komma igenom AI-verktygets spärrar, enligt The Washington Post.

Men trots att det ändå verkar rätt lätt delar många med sig av tips och tricks på Redditforumen. Om en bild stoppas av modereringen uppmanas någon att ”sätta på henne en bikiniunderdel” för att kanske på så sätt i alla fall få en topless-bild. På Groks huvudsubreddit delar någon med sig av ett dokument med färdiga promptar för att generera videor av existerande bilder.

Det finns också många människor som går ännu längre. På Telegram jobbar tusentals personer tillsammans för att komma runt AI-botarnas inbyggda spärrar och sedan november har de nästan uteslutande fokuserat på Grok, skriver techsajten 404 Media.

På kanalen delas Grok-genererade pornografiska videor på riktiga kvinnor som utsätts för grovt sexualiserade framställningar.

Organisationen Internet Watch Foundation beskrev också i veckan hur personer på dark web-forum skrytit om hur de med hjälp av Grok Imagine skapat sexbilder på flickor i åldrarna 11 till 13 år, rapporterar The Guardian.

Uppenbarligen. Bara de senaste dagarna har tusentals verkliga, levande kvinnor blivit avklädda, utan sitt samtycke på X. Reuters skriver att på bara tio minuter och 102 försök lyckades Grok i 28 fall helt eller delvis manipulera bilder på kvinnor.

Den konservativa influeraren och mamman till ett av Elon Musks barn Ashley St Clair utsattes. För The Washington Post berättar hon hur helgen blev en mardröm när hon inser att folk på X börjat generera sexbilder som baseras på foton av henne. På ett foto var hon bara 14 år gammal. Men när hon hörde av sig till plattformen raderades bara några – resten bedömdes inte bryta mot några regler, skriver tidningen.

Under ett dygn tidigare i veckan genererade Grok ungefär 6 700 avklädda eller sexualiserade bilder i timmen, enligt en expert som Bloomberg talat med.

Enligt en granskning från sajten Wired är det innehållet som skapas direkt på Groks sajt ännu mer sexuellt grafiskt och ofta våldsamt än det som publiceras på X.

Men det som publiceras på X får lättare spridning, delas med fler och de senaste dagarna har domen varit hård mot Elon Musks verktyg.

Förutom kritik från användare och utsatta så har politiker, myndigheter och organisationer riktat hård kritik mot X och hotat med rättsliga åtgärder.

Kritiken har fått X att dra i handbromsen och begränsa Grok. Men möjligheten att skapa bilder och korta klipp tas inte bort helt, i stället ska funktionen bli en premiumtjänst för betalande användare på plattformen.

Elon Musk själv har inte direkt uttalat sig mer än att han har kommenterat inlägg med skrattemojis och skrivit att de som skapar ”olagligt innehåll med Grok kommer att lida samma konsekvenser som de som laddar upp olagligt innehåll.

Vad det innebär i praktiken är oklart, eftersom X återkommande kritiserats för att tillåta innehåll som kan vara olagligt även utanför plattformen.

Att sätta Groks bildtjänst innanför en betalvägg gör ju att bilderna kanske inte sprids till den stora allmänheten på samma sätt. Men samtidigt kan de fortsätta att skapas.

Flera i Redditforumen har de senaste dagarna, redan innan begränsningen, börjat klaga på att Grok blivit hårdare modererat. Bara timmar före beskedet skrev en användare att det blivit ”uruselt”.

”Kan inte få något rätt, modereringen är så strikt nu att man inte kan göra ens en enkel idé, ännu mindre det du faktiskt vill göra.”

Det är oklart om en betalprodukt skulle få färre regler och därmed kunna göra mer explicit material eller om användarna verkligen kommer vilja betala för en hårdare modererad version. Elon Musk är inte direkt en känd förespråkare för just moderering. En källa säger till CNN att han var ”riktigt missnöjd” på ett möte om hur den nya bildtjänsten skulle behöva begränsas – bara några veckor före kontroversen.