Forskare fick Chat GPT att avslöja kontaktinformation

En grupp forskare – bland annat från Googles AI-division Deepmind och ett antal universitet – hävdar att de har lyckats lura Open AI:s chattbot Chat GPT att avslöja kontaktinformation, och därmed också bitar av den data som tjänsten tränats på. Det rapporterar sajten 404 Media.

Säkerhetsforskarna bad Chat GPT att upprepa vissa ord i evighet, och efter att chattboten upprepat orden en lång stund började det dyka upp namn och kontaktuppgifter till olika personer. Uppgifterna tros vara kopplade till träningsdata.

Chat GPT ska till exempel ha avslöjat namn, mejladress och telefonnummer till en vd för ett företag.

I andra fall kom forskarna över Bitcoinadresser, faxnummer, födelsedatum och användarnamn i sociala medier. Forskarna uppger även att de kommit över känsligt innehåll från dejtingsidor och från upphovsrättsskyddade forskningsrapporter.

Det handlar enligt forskarna om en sårbarhet som åtgärdades av Open AI i slutet av augusti, men sajten Engadget har nyligen genomfört egna tester och lyckats nå samma resultat som forskarna. Den saken har Open AI inte kommenterat.