”Oppenheimer moment” eller pengabråk? Fyra teorier om Altmans respass

Grundbulten i Open AI är jakten efter något som kallas generell artificiell intelligens, på engelska förkortat AGI – kort och gott en människoliknande superintelligens som skulle kunna forska på sig själv, men också träna och förbättra sig själv utan mänsklig inblandning.

AI-bevakaren Rowan Cheung tror att Open AI kan ha uppnått AGI och att det ska ha skrämt forskningschefen och styrelseledamoten Ilya Sutskever, vilket kan ha lett till att Altman fick foten.

I ett inlägg på X noterar Cheung att Altman – blott en dag före han fick sparken – satt på en scen någonstans och förklarade att Open AI gjort ”en gigantisk upptäckt” de senaste två veckorna.

Ganska exakt två veckor före det – i början av november – skrev Sutskever ett något kryptiskt inlägg på X:

”Om du värderar intelligens över alla andra mänskliga egenskaper, kommer du att få det tufft.”

Enligt Cheungs teori skulle genombrottet i AGI-utvecklingen ha kunnat leda till ett ”Oppenheimer moment” för Ilya Sutskever, där han – likt atombombens fader Robert Oppenheimer – fick kalla fötter när han insåg vad det skulle kunna innebära för mänskligheten.

I ett senare inlägg på X bekräftade Altman att han fått sparken och skrev om hur mycket han älskade Open AI och sina kollegor. Men inledningen av inläggstexten har fått Cheung att haja till.

Inlägget inleds nämligen med orden: ”I love you all”, alltså ”jag älskar er alla” – vilket ger akronymen ILYA…

Senare under måndagen skrev Sutskever ett nytt inlägg där han beklagade sin medverkan i beslutet att avsätta Altman: ”Jag ska göra allt jag kan för att återförena bolaget.”

En annan teori för fram att Altmans entusiasm för AGI-utvecklingen kan ha skapat en spricka mellan honom och styrelsen, skriver techsajten Techcrunch. Altman och ett par allierade i styrelsen uppges tillhöra den minoritet som vill växla upp i takt med efterfrågan, bete sig som ett techbolag och ”move fast and break things”.

Resten uppges tillhöra den lite halvinofficiella rörelsen ”effektiv altruism”, som hellre satsar pengar på att avvärja existentiella risker än att låta bolaget ohämmat gasa på.

I styrelsens uttalande efter att Altman fått sparken pekade man bland annat på att Open AI som organisation är uppbyggt enligt en ”medveten struktur” för att se till att hela mänskligheten gynnas av superintelligensen AGI.

Open AI stod från början på två ben: det icke-vinstdrivande Open AI Inc, och det vinstdrivande Open AI Global. Idén var i begynnelsen att Open AI skulle fungera mer som en tankesmedja eller en forskningshubb än ett bolag. Plikten skulle vara mot mänskligheten i stort, inte mot investerare eller anställda.

Techcrunch konstaterar att Altman har styrt kosan djupare in i näringslivet än tanken var från början. För några år sedan slopade man tvåbensmodellen till förmån för en ny struktur, mer lik det traditionella bolagets. Altman har därmed gått all-in på vinstspåret, samtidigt som styrelsen främst består av personer från den icke-vinstdrivande delen.

En av teorierna som florerar efter helgen är att styrelsen ska ha surnat till rejält efter Open AI:s utvecklarkonferens i början av november. När Altman presenterade den nya produkten, GTP Store, ska bägaren ha runnit över för de som ansåg att det hela hade blivit ett försäljningsjippo.

Enligt The Information ska Ilya Sutskever ha sagt till de anställda att styrelsen, genom att sparka Altman, ”gjorde sin plikt och hedrade den icke-vinstdrivande grundpelaren”.

En källa som beskrivs som ”bekant med styrelsens sätt att tänka” säger till Financial Times att det inte finns en ensam schism som ligger bakom utvecklingen.

– Styrelsen nådde en punkt där de inte trodde på någonting som Sam sa till dem.

Enligt Financial Times sipprade det i helgen för första gången ut detaljer om att Altman ska ha försökt ta in tiotals miljarder dollar i kapital för att starta ett nytt bolag med syfte att sköta tillverkningen av de chip som krävs för att driva Open AI:s modeller. Ett sådant tilltag skulle sätta Altman på direkt kollisionskurs med sin arbetsgivare.

Även Techcrunch spekulerar kring huruvida Altman kanske hade egna projekt och överenskommelser på gång, som styrelsen inte hade kontroll över eller insyn i. Styrelsen skrev nämligen i sitt pressmeddelande i fredags att Altman ”inte varit konsekvent uppriktig” – en eufemism för att han ljugit.

En teori är att Altman hade någonting i görningen, kanske tillsammans med Microsoft. Techjätten är nämligen sedan länge djupt insyltat i Open AI, som ägare med en investering på 13 miljarder dollar, men också som kund. Vd:n Satya Nadella och Altman har en rätt kärvänlig relation. Det syntes inte minst på Open AI:s utvecklarkonferens i början av november, då Nadella intog scenen och öste kärlek över samarbetet.

Men det skulle också kunna handla om oenighet kring hur Open AI tjänar pengar, vad pengarna ska satsas på och i vilken utsträckning.

Altman uppgav senast för en vecka sedan, i en intervju med just Financial Times, att Open AI fortfarande inte är lönsamt och att man bränner hutlösa belopp på att underhålla AI-modellerna. Och än dyrare skulle det bli, förvarnade han, om man skulle komma upp i superintelligensens AGI.

Men i den frågan förväntade han sig att Microsoft återigen skulle öppna fickorna.

Eftersom tekniken bränner sådana otroliga mängder pengar är det ur Altmans synvinkel därför inte särskilt konstigt att man vill att bolaget ska ta in så mycket pengar och skapa så många intäktsben som möjligt för att kunna öka tempot.

Övriga styrelsen beskrivs i en Time-artikel som domedagsprofeter, som ser framför sig hur ett kraftfullt AI-verktyg skulle kunna användas för hemska, civilisationshotande ändamål – som för att ta fram ett biokemiskt vapen.

En av dem sägs vara tidigare nämnde Sutskever, redan då något av en legend inom sitt område, som blev rekryterad av Open AI-medgrundaren Elon Musk.

I en intervju med techprofilen Lex Fridman för drygt en vecka sedan uppgav Musk att han lockade över Sutskever från sin tjänst på Googles AI-enhet Deep Mind för att han var orolig för att sökmotorjätten gasade på med sin AI-utveckling utan att ta hänsyn till riskerna.

På Open AI skulle utvecklingen göras med större försiktighet, menar han. I alla fall var tanken det, då.

– Det skapades som en icke-vinstdrivande organisation med öppen källkod, men nu är det ett stängt bolag som jobbar för vinstmaximering. Det är inte bra karma, säger Musk i intervjun.

Det finns ett antal detaljer som skulle kunna peka på att en omfattande dataläcka ägt rum hos Open AI, noterar AI-bevakaren Rowan Cheung.

Den 6 november höll Open AI sin första utvecklarkonferens, där Altman fick ta emot applåder och jubel av den uppenbart Altman-frälsta skaran som samlats. Tre dagar senare stoppade storägaren Microsoft sina anställda från att använda Chat GPT på grund av ”oro för säkerheten”.

Ytterligare sex dagar senare meddelade Open AI att man stoppar användares uppgradering till Chat GPT Plus. Lägg till två dagar så landar vi den 17 november – dagen då Altman sparkades.

Det sammanfaller dessutom med att en ny version av Chat GPT rullades ut, och nu funderar en del bedömare på om den nya versionen kanske innehöll någon typ av säkerhetshål av det allvarligare slaget, som man ännu inte gått ut med – förutom möjligen till Microsoft, då.

Det hade inte varit helt otänkbart – det har ju faktiskt hänt förut. I mars i år uppdagades en bugg som gjorde att användare fick tillgång till andras privata chattrådar.

I det här fallet spekuleras det i att Altman & co prioriterade att få ut uppdateringen på marknaden, på bekostnad av kvaliteten i säkerhetstesterna.

Dessutom skriver den indiska techsajten Business Today att ett antal större incidenter kopplat till överbelastning och verifieringsproblem rapporterades in mellan den 6 och den 15 november, dagen då Open AI stoppade nya uppgraderingar till Chat GPT Plus.

Det som talar emot teorin är dock att bolagets tekniska chef Mira Murati blixtbefordrades till tillförordnad vd efter att Altman petades. Det låter inte som en rimlig tågordning om det faktiskt handlade om en brist i teknologin, poängterar Rowan Cheung.

Enligt Time pausades kontouppgraderingen på grund av att varje fråga en användare skickar in i Chat GPT – särskilt i den nyaste versionen – tar enorma mängder datakraft i anspråk, så pass att man helt enkelt inte lyckades hålla jämna steg med efterfrågan.