”Open AI begick övertramp långt före Scarlett”

Kontroversen kring skådespelaren Scarlett Johanssons röst är bara det senaste exemplet som visar att ökad reglering av AI-modellerna är nödvändigt, skriver AI-experten Anna Felländer i en gästkrönika för Omni Ekonomi.

”Har Open AI med Sam Altman i spetsen gått för långt?” Kommentarerna kommer i samband med dramatiken kring Open AI och företagets eventuella övertramp mot Scarlett Johanssons rättigheter till sin röst i filmen ”Her” i Open AI:s senaste chattversionen Sky.

Svaret är ja. Fast för länge sen.

Utvecklingen av tekniska verktyg och regelverk för att spåra och motverka IP-relaterade (intellektuell egendom, reds anmärkning) brott och integritetsöverskridanden halkar rejält efter. Det kan tyckas vara som vanligt - att hastigheten av den tekniska utvecklingen gör det svårt för regelverk att hänga med. Men, med generativ AI har gapet aldrig varit större. Därtill gör den höga grad av centrering, där makten ligger hos få stora aktörer, att vi lämnar mycket av den etiska kompassen i händerna på ett antal få vinstdrivande företag.

Alla som använt en chattmodell som till exempel Chat GPT vet att det ibland skapas felaktigt innehåll samt sker etiska och legala övertramp. Utvecklingen av generativ AI är enastående, fantastisk och helt underbar. Tills den inte är det… Hur ska vi förhålla oss till att vi alla är med om detta som experimentkaniner? När gav vi vårt medgivande och när fick vi en förklaring till innebörden?

Ett exempel på den snabba utvecklingen är Googles nyligen lanserade ”AI Overviews”, en ruta som sammanfattar användares sökresultat med hjälp av generativ AI. Den är fortfarande inte tillförlitlig men kommer på sikt att förändra webbupplevelsen till ett AI-kurerat kunskapsekosystem. En uppskattning visar att 38 procent av webbsidor från 2013 inte längre är tillgängliga. Om utvecklingen fortsätter riskeras webbens arkiv och arv gå förlorat när sidor dör och aldrig når sökindexen för språkmodeller. Denna utveckling skyndar ännu mer på ansvar och förklarbarhet för det AI-generade innehållet.

Det regulatoriska landskapet är snårigt – vad är förväntningarna på IP-rättigheter av språkmodellernas träningsdata? Open AI:s stora ”stängda” språkmodeller, där träningsdata och algoritmer varken kan förklaras eller spåras, gör det svårt för Scarlett Johansen att bevisa att rösten är hennes eller om den tränats på mängder av röster och skapar en unik ny röst. Vi kommer att se fler rättsprocesser och debatt om medgivande. EU:s AI-reglering AI Act driver på de stora techjättarna till större transparens, förklarbarhet och spårbarhet.

Tekniska metoder håller på att utvecklas, så kallade watermarks, för att särskilja AI-genererat innehåll. Mönster läggs till i digitalt innehåll (såsom bilder) och förmedlar information om innehållets ursprung; dessa mönster kan sedan kännas igen antingen av människor eller algoritmiskt. I nuläget saknas dock tillräckligt stabila lösningar för att hantera desinformation och samtycke.

Under tiden regelverk och tekniska lösningar hanterar förklarbarhet, ansvar och spårbarhet, vad kan vi kräva av de få dominerande techjättarna? Open AI har som uttalat mål att utveckla AGI, artificiell generell intelligens, samtidigt som de värnar om ”mänsklighetens bästa”. Den balansgången inte kan läggas i händerna på kommersiella bolag. Det skadar vår demokrati och våra mänskliga rättigheter.

Regelverk kommer inte hämma den långsiktiga utvecklingen. De kommer möjliggöra innovationer mänskligheten kan lita på.