Open AI och FTX – bakslag för effektiv altruism?

På mindre än en vecka hann Sam Altman sparkas från vd-rollen på Open AI och bli headhuntad av Microsoft – för att sedan göra comeback på AI-bolaget.

Oavsett vad som utlöste avgången står det klart att klyftan hann växa sig djup mellan styrelsen och Altman. På ena sidan: Kommersiella ambitioner hos vd:n och Open AI:s storägare Microsoft. På andra sidan: Styrelsemedlemmar som oroade sig för att tekniken en dag skulle kunna utplåna mänskligheten.

Riskkapitalisten och Open AI-investeraren Vinod Khosla skräder inte orden:

”Open AI-ledamöters religion kring effektiv altruism och dess felaktiga tillämpning kunde ha försenat världen att nå enorma fördelar med artificiell intelligens”, skriver han i en debattartikel för The Information.

Just AI-säkerhet är en betydande fråga inom effektiv altruism, som blivit en inflytelserik kraft inom Silicon Valley och techvärlden, skriver Wall Street Journal och Bloomberg.

Rörelsen har samtidigt stött på bakslag. Inte minst efter att en av dess frontfigurer, FTX-grundaren Sam Bankman-Fried, dömts för kryptobedrägeri och nu riskerar upp till 110 års fängelse.

Effektiv altruism är både ett filosofiskt ramverk och en social rörelse, där förespråkarna vill använda evidens och kritiskt tänkande för att förbättra världen i största möjliga mån.

De filosofiska idéerna fick spridning på 70-talet och grundar sig utilitarismen, som syftar till att maximera det goda i världen.

En av dess grundare, den australiska filosofen Peter Singer, argumenterar för att människor borde lägga sina pengar på att rädda så många liv som möjligt – särskilt i delar av världen där ett liv kan räddas till en relativt låg kostnad.

2011 grundades Center for Effective Altruism (CEA) som en paraplyorganisation för effektiva altruister. Välkända miljardärer som Elon Musk och Peter Thiel har stöttat rörelsen, vilket lett till ett uppsving i intresset.

Vox beskriver det som att rörelsen har växt från ”en nischrörelse till en mångmiljardindustri”.

Traditionellt sett har effektiva altruister prioriterat frågor som fattigdom i utvecklingsländer, lidandet i djurindustrin och globala katastrofrisker. Men under det senaste årtiondet har rörelsen breddat sitt uppdrag till hot mot mänskligheten. Från att undvika kärnvapenkrig och pandemier – till att ducka en AI-apokalyps.

Open AI grundades med det i åtanke och har uppdraget ”att säkerställa att AI gynnar hela mänskligheten”. Det kan vara en delförklaring till maktkampen och Altmans plötsliga avgång.

Enligt Reuters ska vd:n inte ha varnat styrelsen för nya, farliga upptäckter som skulle kunna utgöra ett hot mot mänskligheten. Open AI:s projekt ska ha gått under namnet Q* och ha nått ett genombrott i utvecklingen av generell artificiell intelligens, AGI, enligt källor till nyhetsbyrån.

Det är svårt att kritisera viljan att göra gott i världen. Problemet har snarare handlat om hur idéerna omsätts i praktiken. Eller hur effektiv altruism använts som svepskäl för att håva in pengar.

Sam Bankman-Fried, grundare av FTX och en hängiven effektiv altruist, hade som mål att tjäna så stora summor som möjligt för att senare kunna ge bort dem till välgörenhet. I stället övergick det till att tjäna pengar till varje pris.

”Ledare inom effektiv altruism har visat att de är villiga att bedra investerare, tänja på gränserna för civiliserat beteende och förstöra några av samhällets mest innovativa företag”, skriver Forbes.

Sam Altmans avgång var ett exempel ”ineffektiv effektiv altruism”, skriver Bloombergs kolumnist Jessica Karl.

Det finns flera sätt, men bland idéerna finns 10-procentsregeln och frågan om yrkesval.

Den första, som organisationen Giving What We Can förespråkar, går ut på att man ska ge 10 procent av sin inkomst för att lindra global fattigdom.

Organisationen 80 000 Hours ger i sin tur karriärrådgivning till effektiva altruister som vill välja ett meningsfullt yrke.

”Du har 80 000 timmar i din karriär. Det är din bästa chans att påverka världen positivt”, står det på hemsidan.

Organisationen listar dels yrken som gör skillnad direkt, dels högavlönade jobb som gör det möjligt att donera mer till välgörenhet och forskning.

Det yrke som anses ha störst potential att rädda världen: Forskare inom AI-säkerhet.