Unikt pilotprojekt om AI-utveckling och jämställdhet på statliga myndigheter

Riskerar självlärande datorprogram att leda till jämställdhetsproblem när Artificiell Intelligens (AI) införs hos myndigheter? Det ska Jämställdhetsmyndigheten söka svar på i ett pilotprojekt om att upptäcka och mäta möjliga risker med AI-applikationer när det gäller jämställdhet. Projektet finansieras av Vinnova och genomförs i samarbete med AI Sustainability Center.

– AI kommer att innebära stora möjligheter för myndigheternas arbete. Förhoppningen är att digitaliseringen kommer att utveckla och påverka servicen till medborgarna positivt i framtiden. Här finns det mycket vi inte kan överblicka i dag och som vi behöver mer kunskap kring. AI skulle kunna främja jämställdheten men även kunna leda till det motsatta. I det här pilotprojektet vill vi undersöka en modell för att motverka just risken för att jämställdhetsproblem uppstår inom AI-applikationerna, säger Lena Ag, generaldirektör för Jämställdhetsmyndigheten.

Vinnova har beviljat 1 660 000 kronor för det ettåriga pilotprojektet som pågår till november 2021.

– Diskriminering på grund av kön i AI-applikationer kan till exempel härledas till partiskhet i data och avsaknad av transparens i AI-modellen. För att upptäcka negativa etiska konsekvenser av AI krävs ett integrerat tekniskt, legalt och samhälleligt perspektiv. AI Sustainability Center har utvecklat en metod för att identifiera, mäta och styra de etiska fallgroparna vid utveckling och implementering av AI. I detta projekt vidareutvecklar vi vår beprövade metod för att fokusera på diskriminering kopplat till kön samt innovationer för att undvika dem. Detta arbete kan skapa grund för att Sverige ska kunna ta ledartröjan i arbetet med att öka jämställdheten genom användningen av AI, säger AI Sustainability Centers grundare Anna Felländer.

Senast uppdaterad: 10:48 - 21 dec, 2020
  • Jämställdhetsintegrering