Elon Musks AI-bot Grok användes för att klä av kvinnor – och barn – på X.
Efter kraftig kritik och växande politiskt tryck slår EU tillbaka.
Nu kan den frispråkiga och provokativa boten i praktiken stoppas i Europa.
Grok är en AI-chattbot utvecklad av X AI, Elon Musks eget AI-bolag.
Jämfört med Open AI:s Chat GPT eller Anthropics chatbot Claude är Grok mer provokativ, mer frispråkig, och mindre ”woke” – helt i linje med hur Elon Musk vill ha det. Vardagsfrågor om väder eller färdväg kan besvaras med kaxig attityd: Grok kryddar ofta med sarkasm och politiska pikar.
Boten är också tätt integrerad i plattformen X som också ägs av Musk.
Det var under julledigheten som X svämmade över av nakenbilder. Appar som klär av människor har funnits länge, men de är normalt svåra att få tag på. Appbutikerna blockerar dem eftersom de strider mot reglerna.
Men plötsligt var det fritt fram på X. Via Grok kunde användare skapa avklädda bilder av vem som helst.
Det gick till såhär: En person postar en helt vanlig bild på sig – till exempel vid ett fikabord. En annan användare snappar upp bilden och instruerar Grok att göra en bikinibild av samma foto. På nolltid postas den halvporriga deepfake-manipulerade bilden i tråden, fullt synlig för alla som följer kontot.
I praktiken blev Grok ett sätt att ta sig runt de spärrar som normalt stoppar avklädningsappar från att nå en bred publik.
Elon Musk är inte känd för att hålla sig till reglerna, eller fråga om lov. Och genom att vara inbyggd i X:s plattform nådde Grok användare utan att granskas på samma sätt som andra deepfake-appar i appbutiker.
Reaktionerna kom blixtsnabbt.
Bland de drabbade fanns helt vanliga användare, men också kvinnliga företagsledare, influencers och skådespelare. I USA blev den demokratiska kongressledamoten Alexandria Ocasio-Cortez en måltavla. I Sverige spreds manipulerade bilder av KD-ledaren Ebba Busch.
– Världen behöver fler bra män och kvinnor – och färre skitstövlar, sa Busch om sin egen ”bikinigate” i ett inlägg på X, med udden tydligt riktad mot Elon Musk.
Musks ex-partner Ashley St Clair, mamma till ett av hans barn, berättade öppet om chocken över de sexualiserade bilderna i CBS Morning Show.
– Make it stop! AI ska inte tillåtas att skapa nakenbilder av barn och kvinnor. Dit måste vi nå, sa hon.
Många drabbade försökte få bilderna raderade, men responsen från X var långsam. I flera fall tog det närmare två dygn innan plattformen agerade – samtidigt som bilderna fortsatte att spridas och kommenteras.
– Det här är inte bara en story om porr. Det handlar om makt: om att påverka politik, förnedera sina meningsmotståndare och få dem att hålla tyst, sa techjournalisten Casey Newton i sin egen podcast.
Lansering: November 2023
Tillgänglighet: Har appar för iOS och Android och är integrerad med X
Användare: Runt 64 miljoner aktiva användare i månaden
Tidigare kontroverser: Kort efter lanseringen kritiserades Grok för att kalla sig själv ”MechaHitler”. X AI stramade därefter åt botens svar.
Källa: Wikipedia, The Verge och X AI
När Groks sexualiserade bilder började trenda i julas skämtade Elon Musk i ett inlägg om att ”klä av” en av sina rymdraketer. Men tonen ändrades snabbt när kritiken växte.
Det första steget var att låsa in nakenverktyget till betalande användare. När den begränsade åtgärden inte dämpade reaktionerna – och hotet om åtgärder från EU rullade in – backade Musks bolag ett steg till och tog bort deepfakefunktionen helt.
”Vi står fast vid vårt åtagande att göra X till en trygg plattform för alla och har nolltolerans mot alla former av sexuella övergrepp mot barn och nakenbilder utan samtycke”, skrev X i ett inlägg i mitten av januari.
Senast EU bötfällde X handlade det om att plattformen vårdslöst delat ut den blå verifikationssymbolen till konton som inte kontrollerats. Det öppnade för bedrägerier och manipulation från oseriösa användare, enligt EU-kommissionen.
Elon Musk höll inte med. Hans kommentar på X var kort:
”Bullshit”
EU-kommissionen har fått kritik för att vara för långsam med att reagera mot techjättarna. Men i Grok-fallet gick det ovanligt snabbt.
Digital Service Act (DSA) – EU-lagen som ska hålla techbolagen ansvariga för vad som händer på plattformarna, är tydlig: sexuella deepfakes av kvinnor och barn klassas som olagligt innehåll och grova kränkningar av EU-medborgares rättigheter. Kommissionen menar att X dessutom borde ha gjort en särskild riskanalys innan Grok lanserades i Europa – men det skedde aldrig.
– När AI-system används på ett sätt som skadar kvinnor och barn måste EU-lagarna tillämpas utan dröjsmål, säger Regina Dorothy, irländsk ledamot i EU-parlamentet till The Guardian.
Nakenbilder är känsligt. Och sexuella bilder på barn är brott. Bedömare pekar på att just därför gick processen snabbt: läget var akut – och skadan var redan skedd.
Inte formellt – men i praktiken, ja.
Om EU bedömer att X inte gör tillräckligt för att stoppa spridningen av olagligt innehåll kan kommissionen kräva att Grok stängs ner i Europa. Det skulle i praktiken göra Grok oanvändbar för europeiska användare – utan att EU formellt förbjuder AI-verktyget i sig.
Det är precis så Indonesien, Filippinerna och Malaysia redan har gjort: inte förbjudit artificiell intelligens, utan blockerat Grok tills säkerhetskraven har uppfyllts.
Men smällen mot X – som nu hamnar under EU-lupp igen — handlar inte bara om Grok. Det visar också att EU-politiker är beredda att använda sina nya tech-lagar snabbt.