AI-forskaren: ”Vi behöver vaccination mot desinformation”

Den senaste krönikan har en mer allvarsam ton. ”År 2024 är det globala supervalåret då 4 miljarder människor i 76 länder går till valurnorna. Dessa val sker samtidigt som världen för tionde månaden i rad slår värmerekord”, skriver han. Valen i bland annat USA menar han kan bli helt avgörande för vår framtid.

– Jag tror verkligen det. Att det är i år som allt kan avgöras, säger han.

Det är vår i Stockholm, men kylan håller fortfarande i sig när Miljö & Utveckling träffar Victor Galaz på Beijerinstitutet vid Kungliga Vetenskapsakademien. Där har han ett av sina tre kontor. De andra två är på Stockholm Resilience Centre vid Stockholms universitet samt i hemmet i Hägersten.

De två institutionerna har nära band. På Beijerinstitutet, som driver forskning inom ekologisk ekonomi, är Victor Galaz programchef. På Stockholm Resilience Centre är han docent i statsvetenskap. Där ligger fokus på att utveckla förståelsen för så kallade socialekologiska system. Han är också styrelseledamot för Mistraprogrammet FinBio och satt fram till förra året som styrelseledamot för Sida.

Han visar vägen genom Vetenskapsakademiens ståtliga lokaler till ett av mötesrummen. Det som tar upp en stor del av hans tid just nu är arbetet med boken ”Dark Machines” där han skriver om det område som han specialiserat sig inom – hållbar utveckling kopplat till AI och digitalisering.

– Boken går brett och handlar om hur AI och digitalisering kan påverka, och redan i dag påverkar, klimat- och miljöutmaningen. Jag började skriva den för några år sedan, men arbetet drog ut på tiden. Det var bra för under tiden kom hypen kring generativ AI, som ChatGPT. Annars hade boken känts gammal, säger han.

Utvecklingen inom artificiell intelligens, AI – en maskins förmåga att visa på förmågor som är människoliknande –går snabbt framåt. Under de senaste åren har intresset och användandet ökat lavinartat med allt fler som ser potentialen med AI, inte minst för att driva på hållbarhetsomställningen.

Victor Galaz lutar sig tillbaka i stolen i mötesrummet. Det som resten av världen nu har insett såg han tecken på redan vid sekelskiftet. Då studerade ett fenomen som kom att bli en ögonöppnare och bana vägen för hans fortsatta karriär. Men innan vi går in på det, backar vi bandet lite.

Victor Galaz var åtta år gammal när han för första gången kom till Sverige tillsammans med sina föräldrar. Det var under Pinochets diktatur i Chile och föräldrarna, som var politiskt engagerade, valde att fly landet. De landade i Tensta i Stockholm och föräldrarnas politiska engagemang smittade av sig på Victor Galaz.

– Hemma var samtal om politik en del av min vardag. Det gick inte att komma undan. Så det är från mina föräldrar jag har fått med mig en vilja att förstå världen och att förbättra den, säger han.

Under gymnasietiden växte hans intresse för klimatet och miljön, vilket förde honom vidare till studier inom miljövetenskap vid Göteborgs universitet. Men relativt snabbt insåg han att det inte var där han hörde hemma.

– Jag insåg dels att jag är ganska dålig på naturvetenskap, dels att det inte är där problemet ligger. Det ligger snarare i samhället, hur det fungerar och hur politiken genomförs, säger Victor Galaz.

Insikten fick honom att byta bana till att bli samhällsvetare och statsvetare, med en ingång i klimat- och miljöfrågor. Under studietiden engagerade han sig i oljeutvinningen i Nigeria och hur den drabbade urfolksgruppen Ogonifolket, som bor i en del av Nigerbältet.

För att kunna säkra oljeutvinning genomförde den nigerianska militären, med oljebolagens goda minne, extrema brott mot mänskliga rättigheter med mord, våld och enorma miljökonsekvenser. För Victor Galaz blev det ytterligare en insikt om det han redan insett – att världen inte går att förstå genom att bara studera ett enskilt område.

– För mig är klimatfrågan i grunden en social och politisk fråga. Det går inte att separera, så det har alltid varit min ingång. Jag är inte särskilt intresserad av klimatsystemet i sig, utan vad som händer med människor som drabbas. Särskilt de som drabbas hårdast.

Är det något som ibland glöms bort?

– Jag tycker utvecklingen rör sig mot att man ser sambanden mer och mer. Sedan beror det på vilka man pratar med. I Sverige har vi exempelvis en stark ingenjörstradition, vilket innebär att man sätter stort hopp om att ingenjörskonst och tekniska lösningar ska fixa allt. Det kan vara tacksamt att se klimatet som en teknisk fråga, för då finns det inte så mycket att debattera. Inga värderingar ställs mot varandra, och inga kompromisser behöver göras. Tyvärr är det inte så enkelt, utan verkligheten är mer komplex, säger han.

Att det blev forskare av Victor Galaz var ingen självklarhet, åtminstone inte för honom själv. När han var i mitten av 20-årsåldern och klar med grundutbildningen i statsvetenskap föreslog två av hans lärare att han skulle fortsätta sin bana inom universitetsvärlden.

– Jag hade knappt någon aning om vad forskarutbildningen innebar, men jag läste på lite, sökte och fick en av fem platser. Så på den vägen är det. Vid den tidpunkten kände jag att det också var viktigt att överge min mer aktivistiska sida, för att lära mig det vetenskapliga hantverket och vara transparent och saklig. Men jag har fortfarande med mig engagemanget i botten. Det ser jag också hos mina kollegor, att det är människor som brinner för frågorna och ser stor mening i sitt arbete.

Att världen är sammanlänkad, och att olika områden endast kan förstås i relation till varandra, blev ännu tydligare för Victor Galaz när han började intressera sig för digitalisering och AI. Utvecklingen vid den tiden hade börjat röra sig mot att studera klimatfrågan som en risk och krisfråga. Det var då han fick upp ögonen för ett helt annat, men även det sammanlänkat spår – nämligen hälsorisker och pandemier.

– Då kallade man det inte för AI, utanför ICT, alltså informations- och kommunikationsteknologi. Men jag minns det som om någonting klickade i huvudet, säger han.

Det som fick det att klicka var ett nytt övervakningssystem som letade efter tidiga varningssignaler för när en pandemi växer fram. Systemet skannade bland annat kinesiska nyhetsmedier och bloggar efter specifika sökord. Victor Galaz säger att det exempelvis kunde vara ”unga män som dör i lunginflammation” under sommarhalvåret, vilket kunde tyda på en kommande pandemi.

– Då såg jag hur den typen av nya tekniker helt förändrade samarbeten mellan länder hur och Världshälsoorganisationen WHO jobbade med att förebygga och förstå pandemier, säger han.

Det var runt 2000-talet och sedan dess har Victor Galaz kombinerat studier inom hållbarhet med AI och digitalisering, alltid utifrån en samhällsdimension och social dimension.

– Ny teknik fördelar risker, vinster och fördelar på olika sätt för olika samhällsgrupper. Därför är de så intressanta att studera och samtidigt en fullständigt grundläggande del av hållbarhetsutmaningen.

Den snabba AI-utvecklingen innebär stora möjligheter att driva på klimatomställningen menar Victor Galaz. Framför allt ser han potential kring hur AI-modeller kan hjälpa oss att förstå och se vad som händer i världen på helt nya sätt. Han lyfter övervakningssystem som snabbt kan upptäcka naturkatastrofer och se hur haven förändras, samt nya språkmodeller med specialutformad kommunikation.

Har du någon favorit AI-modell?

– Ja, ja deltog nyligen i en konferens om digitalt jordbruk. Då visade man upp en mobil AI-modell som jobbar med jordbruksrådgivning till små lantbrukare i varmare länder. Ett av de största problemen inom jordbruket är att nå ut med expertråd. Den här modellen har tagits fram för att ge anpassade råd. Dessutom är den gratis, säger han.

Vilka risker finns det med den?

– Det kan exempelvis vara om invasiv art som AI-modellen inte vet om, och att den ger felaktiga råd som försämrar skörden. Därför är det väldigt viktigt att använda AI på ett ansvarsfullt sätt, säger Victor Galaz.

En del av diskussionen i dag handlar om att AI skulle ta över världen och utplåna mänskligheten. Det är ingenting som oroar Victor Galaz – Nej, det är en ganska liten, men högljudd, skara som tror det. Jag ser det inte hända, säger han.

Ett större orosmoln har är AI-modellernas resursanvändning. Victor Galaz drar med handen över luften för att demonstrera en graf. Trots användningen av olika digitala tjänster ökar förklarar han att miljöpåverkan under lång tid följt en platt kurva. Det menar han i huvudsak handlar om att man blivit bättre på att använda resurser effektivt. Men i takt med att användningen av AI-tjänster ökar, säger han att man nu börjar se ett trendbrott där kurvan börjar peka uppåt.

– Det kommer allt fler studier som visar på att AI-modellerna kräver enorma mängder energi och vatten, så det är någonting vi behöver fundera över och lära oss mer om.

Vad kan behövas tror du?

– Det kan handla om att vi behöver se över vad vi använder AI till. Det kan användas för att ta fram gulliga kattvideos att skicka till sina vänner, eller för vattenrening i länder med vattenbrist. Om jag måste välja så säger jag nej till fler kattvideos.

Hur stor tror du medvetenheten är kring digitaliseringen och AI-modellernas resursanvändning?

– Generellt dålig. I berättelsen kring det digitala tror man inte att ”molnet” är materiellt. Den bilden behöver ändras. Vi säger att vi lagrar bilder, dokument och filer i moln. Jag tycker att det är mer rimligt att likna digitaliseringen vid en gruva.

En annan risk han ser framför med den snabba AI-utvecklingen är att den bidrar till ökad ojämlikhet, där makten över tekniken koncentreras till en elit med tillgång till expertkompetens.

– Det blir de stora techjättarna som driver utvecklingen. I dag drivs exempelvis den mest använda AI-forskningen av privat sektor och inte av oberoende institut, vilket är ett stort problem. Dels blir det minskad transparens. Titta bara på ChatGPT, där det finns många frågetecken kring vilken data man tränar modellerna på, var de kommer från och om de är rättighetsskyddade. Det blir det bara en viss typ av AI-lösningar man väljer att skapa. För en aktör som drivs av privata vinstintressen blir det mer intressant att utveckla saker som går att sälja.

Syns det tecken på det i dag?

– Ja, tittar vi på klimatutmaningen är det stort fokus på energieffektivisering och minskade utsläpp eftersom det där finns en marknad. Andra områden som också behöver uppmärksamhet, men där det inte är lika lätt att veta vem som tjänar på det, är inte lika prioriterade. Det kan vara modeller om stödjer grupper som drabbas av havsförsurning, eller som snabbt upptäcker sjukdomar som kommer från klimatförändringen.

Victor Galaz säger att det är svårt att vilket håll utvecklingen kommer att gå. Men i ett försök att sia om framtiden jämför han den digitala utvecklingen med utvecklingen inom läkemedelssektorn som han säger ligger ungefär 20 år framför.

– Där utvecklade man till en början läkemedel och vaccination för grupper med stark köpkraft. Det innebar att man valde bort att utveckla läkemedel för de svagare grupperna, som kanske behövde det mer. Det positiva är att läkemedelssektorn har blivit bättre, som exempelvis utvecklingen av malariavaccination. Samtidigt kan man fråga sig varför det inte kom tidigare.

Vad krävdes för att de skulle bättra sig?

– Det som krävdes var att regeringar klev in för att stimulera fram innovation inom områden där det inte finns några uppenbara kommersiella fördelar. En viktig del var arbetet som drevs av WHO. Så det går att styra innovation för att inte bara en liten grupp eliter ska gynnas. Vi är inte där än, men förhoppningsvis kan vi komma dit.

Hur bra är vi i Sverige på att se den här kopplingen mellan hållbarhet och AI?

– I den politik som vi för just nu i Sverige finns det ingen plan för en nationell AI-strategi för klimatet överhuvudtaget. Det finns ingen integrerad del, eller politik för seriösa investeringar.

Hur kommer det sig tror du?

– Det är ingen prioritering. Prioriteringen är snarare att använda AI för att stärka Sveriges konkurrenskraft och driva nya affärsmodeller generellt. Det man missar är att satsningar på hållbarhet och AI är ett sätt att stärka Sveriges konkurrenskraft. EU är något bättre, med sin Twin Transition som utgår från att klimatomställningen och digitaliseringen går hand i hand.

Victor Galaz har lämnat mötesrummet och ska snart skynda vidare för att fortsätta sin arbetsdag. Innan vi avslutar lyfter han en sista risk han ser med den snabba AI-utvecklingen och som knyter an till krönikan i Svenska Dagbladet om det globala supervalåret. Det handlar om den enorma mängden klimatdesinformation som sprids i samhället där olika grupper försöker påverka väljare och människor i hur de ska rösta eller agera.

– Det är en farlig utveckling. Med hjälp av AI-modeller kan man ta fram och sprida falsk information mycket snabbare, mycket större och mycket mer sofistikerat och individanpassat än tidigare. Ett vanligt falskt påstående är att klimatförändringen inte drivs av människor.

Tror du att det kommer att påverka valen i år?

– Jag tror och hoppas att vi människor är smartare än så. Bara för att du ser något på sociala medier tusen gånger, är det inte direkt så att du ändrar din åsikt. Så jag tror inte att det är den omedelbara faran, att vi byter åsikter. Däremot skapar det en osäkerhet kring information, att människor inte litar på sanningen. Det är ett problem då klimatfrågan kräver att vi agerar kollektivt, baserat på gemensamma fakta och en gemensam syn på världen.

Hur ska vi undvika det?

– Vi behöver vaccination mot desinformation. Genom att ringa in de vanligaste punkterna som sprids och driva informationskampanjer går det att slå hål på myterna. Det har visat sig fungera bra i tidigare experiment som gjorts.

Så människan är med andra ord smartare än AI?

– Ja, det tycker jag.

Victor Galaz kliver ut i vårkylan och går nerför de stora trapporna vid Kungliga Vetenskapsakademien. Utöver boken om AI-teknikers effekter på klimatutmaningen är han på gång med en annan bok om Rongelap, som är en atoll i Stilla havet som hör till Marshallöarna. Området var mål för USA:s kärnvapentester på 1950-talet, vilket drabbade och än idag drabbar befolkningen hårt genom sjukdomar och förorenad mark.

För en tid sedan var Victor Galaz där på besök för research inför boken. Han blev då vän med en ung kille som han fortsatt håller kontakt med digitalt. Det för in honom på det han tycker att den digitala utvecklingen gör allra bäst – att bidra till en mer sammanlänkad värld.

– Det gör mig hoppfull. Att vi kan förstå och kommunicera med personer som bor på andra sidan jordklotet. Det skapar sociala relationer och empati för vad som händer omkring oss, vilket verkligen behövs i dag, avslutar han.