Tog världen med storm – nu vill allt fler länder reglera Chat GPT

Italien var först ut. I slutet av mars meddelade tillsynsmyndigheten Garante att Open AI:s chattbot Chat GPT tillfälligt skulle blockeras efter att man upptäckt en rad oroväckande dataöverträdelser.

Enligt AP handlade det bland annat om hanteringen av användares konversationer och betalningsuppgifter, och att boten ibland helt enkelt hittat på fakta och historier.

Fram tills att Open AI kan förklara för de italienska användarna hur deras persondata behandlas, och har möjligheten att korrigera felaktig information om sig själva är det alltså stopp.

Bara några dagar efteråt gick Kanada ut med att man fått in en orosanmälan om att boten ”samlat in, bearbetat och delat personlig information utan medgivande”, rapporterar den franska finanstidningen Les Échos.

Och den senaste veckan gick den franska dataskyddsmyndigheten CNIL ut med att den fått in minst fem liknande anmälningar som nu håller på att utredas.

Irland och Tyskland har också uttryckt en oro, och i dagarna drog Spanien så pass i handbromsen för appens relativt oreglerade existens att den europeiska dataskyddsstyrelsen tillsatte en arbetsgrupp för att se över hur Chat GPT bör tyglas.

Det är här det börjar bli lite luddigt.

Fram till i början av mars i år använde sig nämligen Open AI av användares konversationer och annan persondata för att lära upp sina botar och för att ”förbättra Open AI:s tjänsteerbjudande”.

Det var också oklart hur länge datan sparades, eller hur den eventuellt delades vidare till en tredje part.

Företaget fick massiv kritik för den enorma bristen på insyn och skrev därför nyligen om sin policy, där användarna nu har möjlighet att välja bort att dela med sig av sin data för att ”träna” botarna. Datan sparas numer också bara i 30 dagar av säkerhetsskäl. Om man som användare klickar för det alternativet vill säga.

Den franska advokaten Zoé Vilain berättar för tidningen Les Échos hur hon ägnat flera månader åt att mejla med Open AI för att få raka svar på exakt hur hennes data används, samlas in, och för vilka syften, men aldrig fått några tillfredsställande svar. Till slut anmälde hon företaget till den franska dataskyddsmyndigheten.

– Det finns flera hypoteser, antingen vill de inte ge mig informationen, eller så lyckas de inte identifiera mig [som användare] vilket isåfall är ännu värre eftersom det går stick i stäv med GDPR, säger hon med hänvisning till EU:s dataskyddslag.

Att skapa sig ett Chat GPT konto är enkelt. Allt som krävs är en giltig mejladress och ett mobiltelefonnummer. Man behöver varken berätta hur gammal man är, eller bläddra igenom något långt avtal som i detalj beskriver vad man faktiskt går med på. För flera länder är det just detta som är oroväckande.

Det finns ingen färsk statistik på hur många användare Chat GPT har i nuläget, men i början av februari, när appen var drygt två månader gammal, räknades de redan till fler än 100 miljoner.

Till att börja med: att de inte alls är lika smarta som de verkar.

Trots att de underliggande systemen matats med miljontals med fakta och formler från böcker, dokument och andra digitala texter, så skriver Open AI att den även kommer från källor ”på internet som skrivits av människor”. Och det har minst sagt skrivits mycket på internet sedan det rullades ut till världens befolkning 1993.

Jonathan May, professor i datavetenskap på University of Southern California, beskriver till exempel i The Conversation hur han försökt använda sig av boten för att hitta boktitlar till sin sons skolprojekt, och hur den gång på gång gett honom felaktiga svar.

I vissa fall var svaren till och med påhittade. ”När jag slutligen avslöjade sanningen körde maskinen gladeligen på med min rättelse,” skriver han.

Han lyckades även lura boten om vem som egentligen författat en viss bok, ”och den köpte min lögn”.

Men att botarna inte är så smarta ännu, är kanske inte det värsta.

I mars meddelade Open AI att man varit tvungen att tillfälligt ta ned Chat GPT på grund av en bugg som gjort att användare kunnat se rubriker från andras chattar, och i vissa fall, det första meddelandet som de skickat.

Några användare fick även sin betalningsinformation synliggjord i ett antal timmar.

Här finns det två läger.

Medan vissa menar på att det skulle kunna leda till en revolutionär utveckling inom till exempel utbildning och sjuk- och hälsovård, varnar andra – däribland Teslas grundare Elon Musk – om faran för en okontrollerad evolution av botarna. Nyligen skrev han på ett upprop om att pausa utvecklingen av AI i minst sex månader.

Fram till sin död 2018, varnade även den brittiska fysikprofessorn Stephen Hawking vid upprepade tillfällen om att låta utvecklingen av AI gå för långt. I en intervju med TV-kanalen BBC 2014 så sa han att det annars skulle ”kunna leda till mänsklighetens utplåning.”

Men så långt har AI alltså inte kommit. Men vissa rapporter utgör ändå kuslig läsning.

Tidigare i år skrev bland annat belgisk media om en man som misstänkts ha drivits till självmord efter många och långa samtal med en AI-bot på appen Chai.

Enligt den belgiska tidningen La Libre led mannen av klimatångest, och skriver att boten, som körs på ett annat system än Open AI, snarare eldade på hans värsta farhågor än att försöka lugna honom. Boten ska också ha uttryckt sig på ett känslomässigt sätt – trots att inga botar har känslor.

I ett annat exempel skriver Vice om en användare av Chaos GPT som nyligen uppmanade en bot att utplåna mänskligheten, varefter boten började göra efterforskningar om kärnvapen och rekrytera andra botar i sin mission.

Än så länge har boten dock misslyckats. I sina rekryteringsansträngningar vägrade till exempel en tillfrågad bot att medverka i planerna, och när den försökte twittra sig till support visade sig twitteranvändaren som den vände sig till vara föga lovande: den hade enbart 19 följare.

Vill du läsa mer?