Guide: 7 råd för att använda AI ansvarsfullt i hållbarhetsarbetet

ISEP framhåller att användningen av AI kan innebära både möjligheter och risker. Därför bör nyttan i olika användningsfall vägas mot bland annat energi- och vattenanvändning, utsläpp och sociala konsekvenser. Det professionella ansvaret ligger samtidigt kvar hos den som använder AI i sitt arbete.

Här är de sju principerna.

1. Se till att det finns tydliga regler
   
   Börja med organisationens styrning. Enligt ISEP bör det finnas en tydlig policy för ansvarsfull AI-användning där miljö- och hållbarhetsfrågor ingår.
   
   Den som använder AI ska arbeta inom organisationens befintliga styrning och rutiner. Det bör också finnas en process för att hantera etiska dilemman. I sådana bedömningar rekommenderar ISEP att olika perspektiv finns representerade.
2. Behåll ansvaret för resultatet
   
   Den som använder AI-genererat material som underlag för beslut ansvarar också för hur materialet används.
   
   Samma princip gäller när AI byggs in i system och processer för exempelvis styrning, rapportering eller beslut om organisationens hållbarhets- och miljöprestanda. AI-systemet tar alltså inte över det professionella ansvaret.
3. Var öppen med hur AI har använts
   
   ISEP rekommenderar att AI-användning redovisas när tekniken används i bedömningar, utvärderingar och rapportering.
   
   Det bör framgå vilket verktyg eller system som har använts, när det användes, på vilket sätt och var AI har använts i det dokumenterade materialet.
   
   Transparensen gäller även gentemot personer som deltar i exempelvis intervjuer, revisioner eller samråd. Om AI används för att spela in eller analysera deras uppgifter ska de informeras och ges möjlighet att avstå.
   
   Även kända begränsningar, exempelvis snedvridningar i modellen, ofullständiga data eller otydliga indata, bör redovisas innan resultatet används som beslutsunderlag. När AI används i underlag till tillstånd, myndighetsrapportering eller andra regulatoriska processer rekommenderar ISEP full öppenhet gentemot ansvarig myndighet.
4. Kontrollera vilka regler som gäller
   
   AI-användningen ska följa relevanta nationella och internationella standarder, lagar och vetenskapliga protokoll.
   
   ISEP lyfter särskilt dataskydd och mänskliga rättigheter. Organisationer och yrkesverksamma bör dessutom aktivt ta reda på vilka krav tillsynsmyndigheter ställer på användningen av AI, bland annat när det gäller systemkontroller och informationskrav.
5. Granska AI:s svar innan de används
   
   AI-genererade resultat behöver professionell kontroll.
   
   ISEP rekommenderar att användaren granskar resultatet för att upptäcka fel och säkerställa att data och slutsatser återges korrekt. När AI-resultat används i kritiska beslut kan expertgranskning eller oberoende validering behövas.
6. Säkerställ rätt kompetens
   
   Den som använder AI i sitt professionella arbete behöver ha tillräcklig kunskap om tekniken för den aktuella användningen.
   
   Det handlar också om att förstå riskerna. ISEP pekar bland annat på immateriella rättigheter, sekretess och vad som händer med information som lämnas till externa AI-tjänster.
   
   AI-användningen måste dessutom följa gällande lagstiftning, inklusive regler om dataskydd.
7. Bedöm om AI verkligen är motiverat
   
   Det sista rådet handlar om AI-användningens egen miljömässiga och sociala påverkan.
   
   ISEP rekommenderar att organisationer skaffar sig kunskap om konsekvenserna av olika typer av AI-användning och väger nyttan i ett enskilt användningsfall mot den negativa påverkan.
   
   Organisationen bör också följa påverkan över tid, både när det gäller affärsrisker och miljömässiga och sociala konsekvenser. ISEP pekar även på risken för inbyggda snedvridningar som kan leda till diskriminerande resultat.
   
   En annan fråga gäller kompetens på längre sikt. ISEP varnar för att ett alltför stort beroende av AI kan påverka utvecklingen av bland annat kritiskt tänkande och rekommenderar att organisationer tar hänsyn till den risken när tekniken införs.