AI förstärker stereotyper – mer snedvriden än människor
Den AI-baserade text-till-bild-tjänsten Stable Diffusion förstärker stereotyper i sina bilder, skriver Bloomberg som analyserat över 5 000 bilder.
När de bad tjänsten ta fram en läkare, advokat eller domare var de sällan kvinnor. En vd var en vit man – och dök upp oftare än hur representationen är i verkligheten.
Nyhetsbyråns analysenhet räknar med att marknaden för generativ AI kan omsätta över 1 000 miljarder dollar om tio år. I dag finns tjänsten redan i företag som Adobe och Nvidia och påverkar annonserna.
– Frågan är vem som bär ansvaret? Är det datauppsättningsleverantörerna? Är det modelltränarna? Eller är det skaparna? säger Sasha Luccioni, forskare på AI-startupen Hugging Face, till Bloomberg.
Stable Diffusion
Wikipedia (en)
Stable Diffusion is a deep learning, text-to-image model released in 2022. It is primarily used to generate detailed images conditioned on text descriptions, though it can also be applied to other tasks such as inpainting, outpainting, and generating image-to-image translations guided by a text prompt. It was developed by the start-up Stability AI in collaboration with a number of academic researchers and non-profit organizations.Stable Diffusion is a latent diffusion model, a kind of deep generative neural network. Its code and model weights have been released publicly, and it can run on most consumer hardware equipped with a modest GPU with at least 8 GB VRAM. This marked a departure from previous proprietary text-to-image models such as DALL-E and Midjourney which were accessible only via cloud services.
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen