Artificiell intelligens är med och skapar jämställdhet

När staten väljer att använda sig av digitala verktyg som artificiell intelligens i den offentliga sektorn, finns det risk att den kan bidra till diskriminering och ojämställdhet. Men digitala verktyg kan också främja jämställdhet. Under Bokmässan bjöd Jämställdhetsmyndigheten in till samtal tillsammans med Vinnova, Statskontoret, Försäkringskassan och Ekonomistyrningsverket.

Samtal om AI och jämställdhet från Bokmässan.Artificiell intelligens, AI, är på inmarsch in i Sveriges offentliga sektor. Men bidrar eller försvårar de digitala verktygen de jämställdhetspolitiska målsättningarna? Det digitala verktyget AI är ett tekniskt system som ska kunna agera mindre regelstyrt, det vill säga agera självständigt inom vissa parametrar. För att systemet ska kunna göra detta tränas det på att göra olika vägval med hjälp av tidigare data om våra medborgare. I samtalet under Bokmässan uppmärksammades möjligheter och risker i användningen av AI kopplat till jämställdhet.

– Vår uppgift på Jämställdhetsmyndigheten är att samverka med andra statliga myndigheter för att förena arbetet med AI och jämställdhet, betonade Sara Nilsson, senior utredare på Jämställdhetsmyndigheten, som ledde samtalet.

Stereotypa föreställningar

Under samtalet uppmärksammades exempel där användning av AI lett till diskriminering och ojämställdhet i sitt sätt att behandla data. Ett exempel som Försäkringskassan har identifierat är läkarintyg där stereotypa föreställningar kring kön har förekommit och som AI-systemet har utgått från. Detta gör att AI förstärker ojämställdhet istället för att förebygga.

– När vi gör som vi alltid gjort upprätthåller vi ojämställdhet säger Åsa Trotzig, jämställdhetsstrateg på Försäkringskassan. Det beror på vilken information vi ger AI.

Kommer AI ta över allt beslutsfattande? Nej, det tror inte Svenne Junker, forskare och på Ekonomistyrningsverket. Maskinerna har inga problem att ta till sig hundratals sidor data, vilket människan har. AI kan fylla en viktig funktion i beslutsunderlag som en kollega istället för någon som faktiskt fattar beslut.

– AI kommer inte ersätta den mänskliga hjärnan utan snarare komplettera den, säger Svenne Junker

Bygga broar

Den statliga värdegrunden kan bidra till att AI-utvecklingen i staten i större utsträckning främjar jämställdhetspolitiken framhöll Kristina Althoff, strateg på Statskontoret.

– Vi som jobbar med demokrati har ansvar att bygga broar, säger Åsa Trotzig, Det har funnits ganska lite samarbete och samverkan mellan de som arbetar med AI-utveckling och vi som jobbar med jämställdhet och demokrati. Vår kompetens behövs.

I människans tjänst kan AI vara användbart menar Sophia Ivarsson, programansvarig på Vinnova. Det gäller att skapa rätt förutsättningar för AI att vara ett verktyg i jämställdhetsutmaningar. Vinnova, har till exempel tagit fram en chatbot för kvinnors sexuella och reproduktiva hälsa, en tjänst som ska kunna detektera symptom och påkalla att det kan vara läge för läkarbesök.

– Det vi gör nu är att skapa en portfölj med AI-lösningar kopplade till de jämställdhetspolitiska målen menar Sophia Ivarsson.

Senast uppdaterad: 12:13 - 13 okt, 2020
  • Jämställdhet
  • Jämställdhetsintegrering