Stjärnan blev AI-röst mot sin vilja – har Open AI gått för långt?

För tio år sedan spelade Scarlett Johansson en förförisk AI-röst i ”Her”, en succéfilm om den dumpade och deprimerade Theodore som hittar en romantisk partner i en intelligent röstassistent.

När bolaget Open AI i förra veckan presenterade en uppdaterad version sin av röstrobot Sky var det många som reagerade på likheten mellan Sky och Scarlett – inte minst Scarlett själv.

Nu hotar skådespelerskan att stämma Open AI för att ha kopierat hennes röst, utan tillstånd.

I ett uttalande förklarar Scarlett Johansson att hon redan i september förra året tackade nej till Open AI-vd:n Sam Altmans erbjudande om att låna ut sin röst till Chat GPT.

Bara två dagar före lanseringen av Sky i förra veckan gjorde Sam Altman ett nytt försök. Han kontaktade Johanssons agent, för att övertala henne. ”Men innan vi hann svara fanns den nya modellen ute”, skriver Johansson i sitt uttalande, som radiobolaget NPR var först med att publicera.

Hon förklarar också att hon är ”chockad” och ”förbannad” över Altmans tilltag, och att han motvilligt gick med på att ta bort rösten från systemet i söndags.

I ett mejl till Washington Post skriver Sam Altman: ”Skys röst är inte Scarlett Johanssons, och det var aldrig meningen att rösten skulle likna hennes”.

Flera medier, och Scarlett Johansson själv, har pekat på att uttalandet går stick i stäv med Sam Altmans eget inlägg på X strax efter demonstrationen av röstroboten i förra veckan. Då twittrade han ett enda ord – ”Her”.

Altman har i tidigare intervjuer sagt att filmen med den flirtiga AI-assistenten är hans favorit. Han har också uttryckt att det är viktigt att AI-system inte försöker likna människor – chatbottar är verktyg, inte skapelser, enligt Altman.

Än så länge har inga regelverk kommit på plats i USA när det gäller användandet av riktiga personers röster åt artificiell intelligens. Förra året jobbade en rad senatorer fram ett lagförslag som skulle sätta stopp för AI-appar som utnyttjade verkliga musiker och skådespelare för att skapa nytt innehåll, men än är lagen inte klubbad.

Det kan också vara svårt för Scarlett Johansson att bevisa att det är just hennes röst som använts, även om den låter lik.

I sitt uttalande skriver skådespelerskan att ”transparens och lagstiftning” på området är nödvändig.

”I en tid då vi alla brottas med deepfakes, skyddet av våra identiteter och vårt eget arbete måste frågorna få tydliga svar”, skriver hon.

Bråket med Scarlett Johansson är inte det enda Open AI tvingas hantera just nu.

Game of Thrones-författaren George R. R. Martin och nyhetsjätten New York Times anklagar Open AI för upphovsrättsbrott.

Elon Musk är på krigsstigen och har stämt bolaget för att att ha brutit mot löftet att utveckla artificiell intelligens på ett sätt som hela mänskligheten kan dra nytta av.

Dessutom utreder konkurrensmyndigheten FTC om Open AI brutit mot dataskyddsregler när man dammsugit inlägg i sociala medier för att träna sina AI-modeller.

På senare tid har Open AI också drabbats av avhopp. Medgrundaren och forskningschefen Ilya Sutskever, som under turbulensen i höstas försökte peta Sam Altman, lämnar bolaget. Det gör också chefen för säkerhetsteamet, Jan Leike, som i en lång tråd på X uttryckt oro för bolagets AI-strategi.

”Säkerheten har hamnat i baksätet”, skrev han när han hoppade av i fredags.

Sprickan mellan team Altman – som vill springa fort och lansera nya produkter – och profilerna inom bolaget som vill gå försiktigare fram, är tydlig. Och det verkar inte vara säkerhetsivrarna som vinner kampen.

Mycket tyder på att det håller på att blåsa upp till storm på Open AI. Igen.

Företaget, som enligt alla mått är en storartad succé, har sedan starten hävdat att säker AI-utveckling står i fokus. Ändå har företagets vårdslösa beteende och inre maktstrider hamnat i strålkastarljuset gång efter gång.

“Behandlingen av Scarlett Johansson borde oroa alla”, skriver techsajten Platformer. I artikeln målas Open AI upp som ett företag som vill vinna AI-racet till vilket pris som helst. Redan i dag är Microsoft storägare och megakund, och snart lanseras ett samarbete med giganten Apple. Pengarna fortsätter rulla in.

”Så varför bry sig om en skådespelerska, när alla siffror pekar uppåt?”, skriver Platformer syrligt.