”Riskfyllt när AI-kloner ska hålla minnen av oss levande”

Visst går det att skapa en realistisk kopia av George Clooney, men det finns begränsningar med att försöka klona personligheter. Digitala kopior ställer flera frågor på sin spets: Vem ansvarar om något går fel? Det undrar AI-experten Anna Felländer i en gästkrönika.

Det går att skapa en ganska komplett digital kopia av en person med dagens AI-teknik när det gäller röst, utseende, mimik och kroppsrörelser. Det går även att skapa en interaktiv personlighet med en relativt grundlig karaktär. Det beror på vad som ska återskapas, grad av kontroll och budget. Ju mer data som samlas desto mer realistiskt blir kopian.

Exempelvis kan en realistisk kopia av George Clooney skapas, eftersom han finns med i många filmer. Det går att återskapa honom i en ny film med ett tydligt nytt manus. Men att klona en personlighet som interagerar med en djupare karaktär är mer begränsat.

Nu kopplas nämligen den digitala kopian till text och tal i realtid. Jag tyckte att begränsningarna blev tydliga i SVT:s dokumentär ”Klonad med AI: Döden skiljer oss inte åt.” I detta fall tränas en AI-modell med de videor, mejl, sms, och fakta kring huvudrollsinnehavaren Stephan, som är döende i cancer.

Data samlas in sedan 2015 då han träffade sin fru som även är drivande i detta projekt i syfte att hålla kvar minnet av Stephan så levande som möjligt efter hans bortgång. De samlar in gemensamma minnen de upplevt som familj och Stephan läser in fakta om sin personlighet. Tiden är knapp och begränsningen ligger i datainsamlingen som bestämmer hur realistisk Stephan blir att interagera med efter hans död. Datainsamling mellan 2015 och 2023 kan betraktas som både en kort och en lång tidsperiod. Kort eftersom modellen behöver lära sig Stephans djupare personlighet för att kunna interagera i nya sammanhang. Och lång, med tanke på att deras relation som kärlekspar antagligen utvecklats sedan de träffades första gången.

Här kommer mina reflektioner kring AI-etiska och legala utmaningar:

• Det som skapas är en mekanisk replika av Stephan vilken saknar själ. Men omgivningen kan manipuleras till att tro det och agera utifrån det.
• Den digitala kopian har sannolikt begränsningar i att fånga nya sammanhang och kommer att agera på ett sätt som den levande Stephan inte skulle göra. Det finns ett begrepp som kallas ”post-human integrity”. I detta fall blir frågan om den digitala kopian representerar Stephans talan.
• Samtycke: Stephan samtycker i denna dokumentär. Men i takt med att tekniken utvecklas kan digitala kopior missbrukas och resultera i identitetsstöld, deepfakes, bedrägerier och så vidare.
• Psykologiska och moraliska frågetecken. Är detta ett hälsosamt sorgearbete? Är det upp till varje individ att bestämma och får alla tillgång till tekniken?
• Vem ansvarar om något går fel?

Ju snabbare AI utvecklas ju högre upp på agendan kommer etiska frågeställningar. Generellt släpar regelverket efter teknikutvecklingen. I EU:s AI-reglering finns krav om transparens och märkning av AI-genererat innehåll. Kalifornien har en lag som skyddar skådespelarna så att exempelvis George Clooney faktiskt inte kan bli en digital kopia i en annan film mot hans vilja. Och i Danmark har medborgarna upphovsrätt till sitt eget utseende.

Det är dock inte första gången i historien som allmännyttan balanseras mot individens behov. Och nu behöver även individen, Stephans fru, fundera om det initiala behovet av tröst går hand i hand med vad som långsiktigt är bra för förmågan att gå vidare.

Jag har inga svar, men för att individer ska kunna ge samtycke behövs i alla fall information om de AI-etiska dilemman som uppstår samt AI-modellens begränsningar. Och, skydd mot att den digitala kopian inte missbrukas, det vill säga skydd mot identitetsstöld.