NSA-topp går in i Open AI – blir Chat GPT en övervakningsmaskin?

Är Open AI på väg att bli ett enormt verktyg för övervakning av sina användare? Oron bubblar efter att en före detta chef på spionmyndigheten NSA tagit plats i bolagsstyrelsen.

Visselblåsaren Edward Snowden kallar rekryteringen för ett förräderi: ”You have been warned”, skriver han på X.

I ett nytt ögonbrynshöjande kapitel i historien om Open AI har en tidigare chef för signalspaningsmyndigheten NSA tagit plats i bolagsstyrelsen.

Paul Nakasone är en pensionerad armégeneral som basade över myndigheten från 2018 fram tills i år. Han tog över rodret fem år efter att visselblåsaren Edward Snowden avslöjade det omfattande spionage som pågick innanför väggarna på NSA.

Open AI ser rekryteringen av Nakasone som en garant för att hålla Open AI:s system säkra och skyddade från cyberattacker. Hans kunskaper kan behövas, skriver Business Insider. Kritiker har länge oroat sig över säkerheten på bolaget.

Edward Snowden ser inte Nakasone som en garant för säkerhet, tvärtom. Att den tidigare NSA-toppen får en tongivande roll på världens mest kända AI-företag beskriver han på X som ett ”kalkylerat förräderi mot varenda människa på jorden”.

Snowden har tidigare kritiserat Open AI för att inte vara transparenta kring vilken data språkmodellerna har tränats på. Han har också sagt att han hoppas att AI-företagen tar sitt ansvar och låter bli att spionera på sina miljontals användare.

”De har tagit av sig masken: Lita aldrig på Open AI eller dess produkter (Chat GPT osv). Det finns bara ett skäl till att man utser en NSA-chef till sin styrelse”, skriver Snowden och avslutar sitt inlägg till läsarna på X med orden ”You have been warned”.

Att Open AI tillsätter en cybersäkerhetshöjdare som Paul Nakasone för att garantera datasäkerheten kan uppfattas som motsägelsefullt i ljuset av ett annat beslut.

Nyligen upplöstes det team inom bolaget som jobbade med det som kallas ”superalignment”. Det är ambitionen att utveckla artificiell intelligens i linje med Open AI:s övergripande mål om att hela mänskligheten ska dra nytta av – och aldrig komma till skada – när AI rullas ut på bred front.

Ledarna för superalignment-teamet, Ilya Stuskever och Jan Leike, hoppade i maj av bolaget i protest mot hur vd:n Sam Altman hanterar säkerhetsfrågorna.

I början av juni publicerade en rad tidigare och nuvarande medarbetare ett öppet brev där de anklagade Open AI för att agera ”hänsynslöst”. Säkerheten nedprioriteras när man slåss om att skapa världens mest kraftfulla AI-modell, hävdade artikelförfattarna.

De efterlyste också visselblåsarskydd inom bolaget och kritiserade också att den som lämnar Open AI enligt avtal förbjuds att uttala sig kritiskt om företaget. Mediebilden om ett hemligt företag som tystar kritiker späddes på.

Även grannarna till Open AI:s kontor i San Francisco har börjat undra vad som försiggår innanför väggarna, skriver The San Francisco Standard. Tidningen rapporterar om säkerhetsvakter med mörka glasögon och öronsnäckor som bevakar huvudentrén.

De som bor och jobbar i kvarteret i Mission District säger att företaget är ”hemlighetsfullt” och att anställda på företaget aldrig ger sig till känna.

– Open AI är inte dåliga grannar, men de är kryptiska, säger ett butiksbiträde som intervjuas i artikeln.

Sedan Chat GPT gjorde entré hösten 2022 har vd Sam Altmans gloria allt mer hamnat på sned.

Fram tonar bilden av en ledare i “drive fast and break things”-stil. Facebooks gamla devis, som ansågs tuff och framåtlutad när företaget grundades, blev så småningom en bultande huvudvärk för Mark Zuckerberg.

Förutom att Altman anklagas för att ha ignorerat säkerheten på Open AI och kört över och ljugit för sin styrelse, har det knorrats om dålig etik. Altman har investerat i företag som är kunder till Open AI – och gett dem gräddfil till produkterna.

Men trots mediestormarna verkar Altman sitta säkert på sin -position. Open AI:s snabba tillväxtresa imponerar på investerare och Silicon Valley-eliten.

Altman har inte heller brytt sig om att bemöta Edward Snowdens kritik.

Vill du läsa mer?