”Diskriminering av kvinnor missas i AI-rapport”

Sverige kan bli bäst i världen på AI-lösningar som hela befolkningen kan lita på. Inte bara halva. Men de negativa effekterna av att tekniken diskriminerar kvinnor är ett borttappat perspektiv i AI-kommissionens nya rapport, skriver experten Anna Felländer i en gästkrönika.

Att säkerställa ansvarsfull och etisk AI är en förutsättning för att kommersialisera och innovera AI. Det är inte något sido-moment så som det presenteras i AI-kommissionens rapport, utan en grundbult för att vi ska kunna lita på AI.

Utan styrning av AI ökar de etiska fallgroparna och våra mänskliga rättigheter riskeras att förbises. AI är en fantastik teknologi som ska användas och omfamnas inom vissa områden. Inom andra områden, där konsekvenserna av att det blir fel är allvarliga, behövs tydliga kontroller och valideringsmetoder.

Jämställdhetsperspektivet I AI-kommissionens rapport är borttappat. De negativa konsekvenserna på samhället av att AI diskriminerar kvinnor kan inte underskattas. Mängder av studier visar att kvinnor systematiskt exkluderas, är underrepresenterade i data och att algoritmer överdriver stereotyper av det kvinnliga skönhetsidealet. En studie från Berkeley Haas Center for Equity, Gender and Leadership analyserade 133 AI-system i olika branscher och fann att cirka 44 procent av dem uppvisade könsfördomar.

Dessa är orsakerna:

• Partiskhet i data: AI speglar de förlegade könsnormerna och underrepresentationen av kvinnor i träningsdata. Det kan ledan till att när kvinnor använder vissa AI-lösningar för att diagnostisera sjukdomar får de felaktiga svar, eftersom AI inte är medveten om symptom som kan uppträda annorlunda hos kvinnor. Om vi inte bryter denna trend kommer AI resultera i lägre kvalitet på tjänster, partiska beslut om jobb, krediter, hälsovård och så vidare.
• Partiskhet i algoritmer: AI har sämre precision för kvinnor, förstärker stereotyper och generaliserar. Algoritmers målvariabler så som vinst, engagemang och ökat försäljning uppnås omedvetet på bekostnad av jämställdhet.
• Partiskhet i de teams som utvecklar AI lösningen. Enligt Global Gender Gap Report från 2023 är det bara 30 procent kvinnor som för närvarande arbetar inom AI. När teknik utvecklas med bara ett perspektiv är det som att se världen halvblint.

I AI-kommissionens rapport nämns att riskerna för partiskhet i data behöver beaktas. Men det är datasäkerhet och sekretesskydd som ges uppmärksamhet i budgeten. 2022 tog mitt bolag tillsammans med Jämställdhetsmyndigheten, Försäkringskassan och Skatteverket, finansierat av Vinnova, fram en metod för att detektera diskriminering kopplat till kön och validera jämställd AI.

Sverige kan bli bäst i världen på AI-lösningar hela befolkningen kan lita på.

Inte bara halva.