Krönika: Att koppla något vilt

Olle Häggström, professor i matematik vid Chalmers och ledamot i Kungl. Vetenskapsakademin, är orolig. Han är inte ensam. Den 24 april höll Naturskyddsföreningen ett webbinarium med den långa titeln ”AI-utvecklingen som ett avgörande vägskäl för mänskligheten och biosfären?”. Häggström gav en timmeslång föreläsning för att förklara varför. Och varför vi andra också ska vara oroliga. Känsliga läsare varnas för en möjligen deprimerande samt lång krönika.

Samtalen kring AI är liksom klimatdebatterna otroligt homocentriska, ibland navelskådande och ofta komplicerade. Ingenjörerna pratar ingenjörspråk, matematikerna pratar statistik och utvecklarna kunde lika gärna tala i tungor vid det här laget. Jargongen är som ett nytt språk för en oinvigd. Olle Häggström gör sitt bästa för att sammanfatta ett komplicerat ämne, men han når tyvärr inte hela vägen fram. Det är han heller inte ensam om.

Minska risken för att AI utrotar oss

Föreläsningen baseras löst på Häggströms nyskrivna essä Our AI future and the need to stop the bear. Björnen i fråga är kommen ur ett uttalande av Connor Leahy som lyder ”It is not useful to philosophize about the communist utopia if a bear is currently ramming down your door”. Leahy driver ett företag som utvecklar AI-lösningar med öppen källkod och betoning på säkerhetsprinciper. Poddavsnittet är väl värt en lyssning för den som har tid. Både Häggström och Leahy, visselblåsare och AI-forskare Max Tegmark, samt världsledande utvecklare hos Open AI, Anthropic, Deepmind, xAI, gamle stånken Bill Gates, nobelpristagare och AI-veteran Geoffrey Hinton och många, många andra har undertecknat det öppna brev som kort och koncist lyder;

”Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”

Mitigate… mildra. Inte stoppa. Mildra risken. Jämför med hur Leahy uttrycker det; ”we need to slam the brakes on AI”. Extinction. Utrotning. Inget milt med den formuleringen. Ingenting har heller hittils inneburit alla hot ovan nämnda samtidigt; med förmågan att trigga en pandemi genom att infiltrera digitalt styrda laboratorium, starta krig via manipulation och sluka upp naturens resurser.

AI är som en hund

Låt mig dra en – lite skämsig, men symboliskt relevant – anekdot ur mitt liv för att illustrera vad jag tror är Häggströms huvudpoäng. Min hund, en fyraårig spansk vattenhund, är snäll för det mesta. Han är lurvig, gullig och lite egen, som den här sortens hundar tenderar att vara. En vacker dag just när solen börjat värma var vi ute i vår hage på promenad. Vi satt en stund i gräset. Allt var frid och fröjd. En motionär kom gående längs med vägen utanför hagen, i rask takt. Min hund vädrade en nyhet i omgivningen, spetsade öronen och stack iväg. Han var okopplad. Hagens grind stod på glänt. Jag ropade in honom men han kom inte tillbaka till mig som han brukar.

Min ganska snälla men lite vilda hund rusade nu rakt mot motionären, och i vad jag inte vet om det var glädje eller agg, bet tag i hennes träningsbyxor i farten. Han rev upp ett hål i tyget, men som tur var inte i hennes hud. Var det en attack eller ett glädjeryck? Jag vet inte och får aldrig riktigt veta.

Men skammen, att be om ursäkt till den rädda kvinnan och insikten att min hund som är 99% snäll också lämnar utrymme för 1% möjlig fara för andra var påtaglig. Han är mitt ansvar och jag kan inte låta honom gå lös på grund av detta. Bara när vi är 100% ensamma, djupt i skogen, utan risk för att ta hål på motionärer. Ungefär så är det med AI och dess utvecklare. Men de får inte ordning på sitt koppel.

Skylls på användare – vem håller i kopplet?

Dario Aimodeo, VD för det ledande AI-företaget Anthropic har uttalat sig om att sannolikheten att tekniken ska få katastrofala konsekvenser för mänskligheten ligger mellan 10 och 20%. Häggström följer upp det med att ”vad vi ska ha klart för oss är att de här värsta scenarierna riskerar att slå lika hårt mot hela biosfären.” Förutom föreläsningens titel så är det också den enda gång naturen kommer på tal under den inte tillräckligt långa timme som webbinariet pågår.

Ingen vill riktigt ställa utvecklarna mot väggen och säga – Det är faktiskt er hund. Man har säkerhetskonferenser och lagförslag och öppna brev som alla som vet nåt skriver under – ändå är det precis som med klimatet – det är marknaden som regerar med sina handlingar. Och skyller ifrån sig på konsumenterna som använder deras produkter. Så står vi här med klimatskam och existensiell ångest över AI.

Personligen vill jag mycket hellre gå runt i skogen, känna vårsolen kittla på näsan, klappa mossa och fundera på nästa kapitel av min bok, men situationen med AI pockar på min uppmärksamhet konstant. Senast i en essä om artificiell fantasi och om den riskerar att göra kalhyggen av våra inre likväl som våra yttre landskap. Jag är på riktigt sur över att våren prunkar utanför och jag är klistrad vid skärmen för att försöka förstå och illustrera. Min hund tjurar under skrivbordet och vill gå ut.

Kan utvecklingen inte längre bromsas?

Olle Häggströms föreläsning och essä kan sammanfattas i teorin om teknisk singularitet som uppkom i slutet på 50-talet. Matematikern John Von Neumann förutspådde en punkt i tiden då tekniken blir så avancerad att utvecklingen inte längre kan bromsas, en omvälvande vändpunkt för mänskligheten.

Den artificiella intelligensens snöboll har varit i rullning sedan dess men avstannat under perioder, de så kallade AI-vintrarna. Häggström började intressera sig för ämnet 1989, då just en sådan paus i utvecklingen pågick. Han menar idag att den AI-vinter som upphörde omkring 2012 var vår sista. Liksom på planeten accelerar temperaturen inom tech-sfären och med lika stor risk för kaskadeffekter. Den avgörande punkten anses vara när AI används för att vidareutveckla AI, vilket exponentiellt ökar intelligensnivån mycket snabbt. Redan nu talar man om en fördubblingstid – perioden det tar för AI- modellerna att bli dubbelt så bra – på 7 månader. Singulariteten inom AI-teknik kallas också ”intelligensexplosion” och kan liknas vid begreppet tipping point som används i klimatsammanhang – the point of no return. Inget vet riktigt när en sådan punkt är nådd, eller hur det ser ut när vi kommer dit.

Hade en hund gjort större skada, visat vidare aggression, så hade den i bästa fall berövats all sorts frihet och i värsta fall avlivats. Vilket är en följdfråga gällande AI som ofta dyker upp, så även under webbinariet; – Men kan man inte bara dra ut sladden? Häggström liknar det vid ifall chimpanser hade haft chansen att utrota Homo Sapiens när de såg tecken på överlägsen intelligens. För att rädda sin egen art. En chimpans är fysisk mycket starkare än en människa, det hade varit fullt möjligt. Vi är i nuläget nära att vara på en chimpansnivå jämfört med AI. Och självklart finns det inte bara en sladd att dra ut, inte bara en server att slå sönder, utan miljontals olika digitala platser som tusentals artificiella intelligenser befolkar.

Hur stor är risken och vad består den av?

Den överhängande risken bedöms hejvilt olika. Föreläsningen lyfter en rapport gjord av Dario Armodei, VD för AI-bolaget Anthropic, som uppskattar att risken för att utvecklingen ska få katastrofala följder för mänskligheten är 10-20%. Häggström tillägger att ”vad vi ska ha klart för oss är att de här värsta scenarierna riskerar att slå lika hårt mot hela biosfären.” Det är också det enda omnämnande naturen får under webbinariet.

För i skuggan av den legitima oron att utvecklingen av AI går för fort hamnar dess ekologiska påverkan. Inget nytt under solen. En påtaglig och dagsaktuell fara är resurserna som krävs för att AI alls ska kunna finnas. Antalet datacenter har sedan 2012 ökat från 500 000 till 8 miljoner idag. Studier förutspår att de globalt inom kort årligen kommer att kräva vatten mostvarande Danmarks årsförbrukning (en enda fråga ställd till en AI-modell kräver 0,5 liter vatten) och elektricitet motsvarande Japans (945 TWh). Under 2024 producerade datacentren 140 megaton koldioxid. Det innefattar inte de koldioxidutsläpp som produktionen av själva hårdvaran kräver, samt utvinningen av koppar. Har planeten råd med denna belastning? Datacentren som driver AI blir länder inom länder, inte längre osynliga spöken i maskinen utan reellt påfrestande när det gäller vattentäkter, bullernivåer och hårdgjorda ytor.

Sveriges attraktivitet som plats för att anlägga megadatacenter har lockat hit bland andra Microsoft, Google, Amazon och Meta. Detta på grund av det svala klimatet, billig (och subventionerad) energi och tillgänglig landyta. Antalet datacenter på svensk mark är idag 95. I USA utvecklas kärnkraftslösningar hand i hand med serverhallarna för att lösa energibristen. Den andra frågan som kommer upp men som inte hinner besvaras under föreläsningen är om AI kan lösa klimatproblemen? Det är möjligen den farligaste uppgiften vi skulle kunna be AI för att lösa, då det är högst rationellt att plocka bort hela eller delar av mänskligheten ur ekvationen för att nå klimatmålen.

De naiva menar att det inte finns nån anledning att tro att en AI skulle vilja skada oss och de skeptiska menar att det inte finns nån anledning att tro att en AI skulle bry sig om de skadar människor eller naturen om dessa står i vägen dess mål. Den digitala infrastrukturen skulle ge en superintelligens många olika möjligheter. Som verktyg i fel händer är konsekvenserna outgrundliga.

Har vi utvecklat vårt eget utrotningshot?

Man bör kanske inte oroa sig så mycket om självmedveten artificiell intelligens utan om självständig? För vad är kan vara farligare än intelligens som saknar själ? Som kan allt, ser allt och har förmågan att manipulera – vilket studier visar – men en total avsaknad av medkänsla. Det är vad vi utvecklar. Vi utvecklar vårt alldeles egna utrotningshot.

Det handlar både om klimatet och tekniken för de är lika stora, abstrakta, omvälvande och kräver båda att individer, företag och regeringar tar sitt ansvar. Men de kan sammanfattas i ett gemensamt globalt hot; okopplad utveckling. Och allt vi kan göra är att vara medvetna om riskerna, försöka lära oss vad de innebär och inte acceptera en vild vidareutveckling som kan leda till utrotning av varken människa, djur eller natur.

Jag tyckte tidigare inte om att ha min hund kopplad – det kändes som ett frihetsberövande. Nu har jag lärt mig att tycka om kopplet; ett band av tillit mellan honom och mig – en försäkran om att vi inte utgör något hot. Oavsett om hotet beror på otyglad naivitet eller farlig instinkt. Kontrollen är vår trygghet. Men den största tryggheten vi alla delar är naturen och det är den vi måste översätta statistik och teknikjargong till dagligt tal för att skydda.