"rootPage" is not defined.

AI

Skellefteå och Umeå universitet tar avstamp mot AI-policy

Att Artificiell Intelligens (AI) redan i dag är en del av mångas liv råder det inget tvivel om. Men hur införlivas ny teknik i offentlig sektor utan att invånarna påverkas negativt? Skellefteå kommun grundar införandet av AI på etiska och sociala aspekter. Ett unikt strategiskt partnerskap har ingåtts med Umeå universitet och 2022 planeras en dialog med invånare kring hur policyn bör utformas.

Skellefteås snabba samhällsomvandling med stor efterfrågan på kvalificerad arbetskraft och en växande befolkning, gör att man står inför en rad utmaningar för att kunna ställa om till ett mer hållbart samhälle och framtida välfärdslösningar.

AI förväntas kunna skapa stor nytta i den här omställningen men precis som med all teknik finns det också risker som man måste ta i beaktande.

I Storbritannien till exempel ställdes gymnasieprov in på grund av pandemin och för att kunna fastställa behörighetsbetyg till eleverna skapades en standardiseringsalgoritm. Men algoritmen sänkte en stor del av alla elevernas betyg en nivå, vilket ledde till att de inte tog sig in på de önskade utbildningarna. Det här ledde till massiv kritik och algoritmens resultat drogs tillbaka.

I Nederländerna användes en algoritm till att räkna ut försörjningsstöd, men i designen av algoritmen upptäcktes det spår av rasprofilering. Detta först efter att tiotusentals låginkomstfamiljer felaktigt anklagades för bidragsfusk.

”Föredömligt engagemang”

Exempel av den här typen har synliggjort att det behövs kraftsamlas kring AI-tjänsters etiska och sociala utveckling. I Skellefteå skrev fullmäktigeledamoten Felicia Lundmark (S) hösten 2020 en motion till kommunfullmäktige med en önskan om att kommunen tar fram underlag för att upphandling av AI ska kunna ske utifrån jämställda, inkluderande, etiska och icke-diskriminerande grunder.

Michael Carlberg Lax är CIO, strategiskt digitaliseringsansvarig på Skellefteå kommun och hyllar det politiska initiativet att sätta fokus på tillförlitlig AI.

– Det är fantastiskt bra att politiken för upp frågan på bordet då den tekniska utvecklingen går väldigt snabbt. AI är inte längre science fiction utan finns inom allt fler områden av den kommunala verksamheten. Det finns tyvärr allt för många exempel i vår omvärld där algoritmer och automatiserade beslut får oväntade konsekvenser som påverkar människors liv på ett negativt sätt. Det är föredömligt av våra folkvalda att de engagerar sig i teknisk utveckling utifrån ett samhällsperspektiv. Policy, teknik och forskning behöver utvecklas samtidigt, säger Michael.

Krokade arm med Umeå

I november 2019 publicerade EU-kommissionens AI-expertgrupp etiska riktlinjer för tillförlitlig AI. Riktlinjerna beskriver hur utvecklare och användare kan bidra till att AI utgår från grundläggande mänskliga rättigheter, etik, lagar och hur tekniken kan bli tekniskt robust och tillförlitlig. Detta följdes i april 2020 av ett förslag från EU-kommissionen på en AI-reglering som är snarlik GDPR men siktar in sig specifikt på vissa högrisk-tillämpningar av AI vilket bland annat innefattar offentlig sektor.

Arbetet med att uppnå en tillförlitlig AI har många likheter med det systematiska informationssäkerhetsarbetet som redan bedrivs inom Skellefteå kommun. Motionen resulterade därför i att kommunstyrelsen fattade beslut om att införliva etisk och tillförlitlig AI som en del i kommunens systematiska informationssäkerhetsarbete. Detta innebär att man kan nyttja redan existerande processer och organisation för att snabbt komma i gång på bred font.

För att ta arbetet framåt krokade Skellefteå kommun och Umeå universitet arm i ett strategiskt partnerskap under 2021. En partnerskapsdag i april tog avstamp mot att hitta och utveckla former för samverkan och bygga relationer men också hitta konkreta förslag där AI är ett av områdena.

Umeå universitet ligger i framkant vad gäller AI, mycket tack vare Virginia Dignum som är professor inom ansvarsfull artificiell intelligens vid Institutionen för datavetenskap.

– Virginia har varit med och tagit fram riktlinjer och förslaget inom EU, hon och hennes kollegor är bland de vassaste i Europa på den här typen av AI-relaterade frågor, så deras kompetens är fantastiskt viktig för hur vi går vidare. Med förutsättningarna på plats är det viktigt att snabba på policyarbetet. Den tekniska utvecklingen i det här området springer framåt och styrningen får inte komma i efterhand utan måste ligga i samma takt, säger Michael.

Nyttan med AI: 140 miljarder

Det finns en stark ekonomisk aspekt för att införliva AI i det dagliga välfärdsarbetet. Med en åldrande befolkning och minskade skatteintäkter finns det rapporter som talar om att det saknas 40 miljarder kronor för att upprätthålla den välfärd som behövs. I Sverige beräknas den potentiella

ekonomiska nyttan av AI till 140 miljarder inom offentlig sektor.

– När det kommer till planering, logistik och mönsterigenkänning är AI fantastiskt bra och ett användbart instrument. Men vi behöver ett kontrollinstrument så att vi förhindrar negativa effekter i samhället av tekniken, säger Michael.

Arbetet med GDPR har bidragit till en ökad uppmärksamhet och organisationens mognad kring dessa frågor, menar Michael.

– Vi har hittat en tydlig väg i en komplex fråga och börjar se vilka steg som krävs för att ta oss dit. Vi börjar förbereda oss redan nu för den kommande EU-lagstiftningen ska träda i kraft samtidigt som vi har AI-lösningar som redan är implementerade eller på väg ut i verksamheten, säger han.

Kommunen upphandlar redan en mängd AI-lösningar, till exempel städrobotar, lösningar som används för att upptäcka lässvårigheter hos barn, smarta energilösningar och det börjar även komma metoder på marknaden som riktar sig till socialtjänst, vård och äldreomsorg.

I arbetet med att definiera vilka krav kommunen ställer under livscykeln för en AI-lösning blir dialog med kommunens invånare ett viktigt moment.

– Invånarnas förväntningar och värderingar bör vara med och forma de krav kommunen ställer på sig själv och dess leverantörer, säger Michael.

Sidinformation

Senast uppdaterad:
1 april 2022