FRA: Rapporten om artificiell intelligens och grundläggande rättigheter har publicerats

En ny rapport från Europeiska unionens byrå för grundläggande rättigheter (FRA) visar att det råder förvirring om hur AI påverkar människors rättigheter.

FRA – Pressmeddelande Wien/Berlin den 14 december 2020

Nu är det dags att se till att artificiell intelligens fungerar för européerna

Artificiell intelligens (AI) påverkar livet för miljontals européer, från att spåra spridningen av covid-19 till att bestämma vem som ska få sociala förmåner. Automatisering kan förbättra beslutsfattande. Men AI kan leda till misstag och diskriminering och kan vara svår att bestrida. En ny rapport från Europeiska unionens byrå för grundläggande rättigheter (FRA) visar att det råder förvirring om hur AI påverkar människors rättigheter. Detta gäller även organisationer som redan använder sig av AI. FRA uppmanar beslutsfattare att tillhandahålla mer vägledning om hur befintliga regler tillämpas på AI och se till att eventuella framtida lagar om AI skyddar de grundläggande rättigheterna.

”AI är inte ofelbar, den har skapats av människor – och människor kan begå misstag. Därför måste människor vara medvetna om när AI används, hur AI fungerar och hur automatiserade beslut kan bestridas. EU måste klargöra hur befintliga bestämmelser ska tillämpas på AI. Organisationer måste bedöma hur deras teknik kan stå i vägen för människors rättigheter både när det gäller utveckling och användning av AI”, säger FRA:s direktör Michael O’Flaherty. “Vi har möjlighet att forma AI på ett sätt som inte bara respekterar våra mänskliga och grundläggande rättigheter utan som också skyddar och främjar dem.”

I FRA:s rapport Getting the future right – Artificial intelligence and fundamental rights identifieras fallgropar vid användningen av AI, till exempel vid prognostiserat polisarbete, medicinska diagnoser, sociala tjänster och riktad reklam. I rapporten uppmanas EU och EUländerna till följande:

• Se till att AI respekterar ALLA grundläggande rättigheter: AI kan påverka många rättigheter, inte bara integritet eller dataskydd. AI kan också diskriminera eller hindra rättvisa. Framtida lagstiftning om AI måste beakta detta och effektiva skyddsåtgärder måste vidtas.
• Säkerställa att människor kan bestrida beslut som fattas av AI: Människor måste ha kunskap om när och hur AI används samt om hur och var man framför klagomål. Organisationer som använder AI måste kunna förklara hur deras system fattar beslut.
• Bedöma AI före och under dess användning för att minska de negativa effekterna: Privata och offentliga organisationer bör göra bedömningar av hur AI skulle kunna skada de grundläggande rättigheterna.
• Tillhandahålla mer vägledning om dataskyddsbestämmelser: EU bör klargöra ytterligare hur dataskyddsbestämmelser ska tillämpas på AI. Det behövs också bringas större klarhet i konsekvenserna av automatiserat beslutsfattande och rätten till mänsklig granskning när AI används.
• Bedöma om AI diskriminerar: Medvetenheten om möjligheten att AI diskriminerar, och konsekvenserna av detta, är relativt låg. Detta kräver mer forskningsfinansiering för att undersöka vilka potentiellt diskriminerande effekter AI har, så att Europa kan skydda sig mot dem.
• Skapa ett effektivt tillsynssystem: EU bör investera i ett mer samordnat system för att hålla företag och offentliga förvaltningar ansvariga när de använder AI. Myndigheter måste se till att tillsynsorgan har tillräckliga resurser och färdigheter för att kunna utföra sitt arbete.

Rapporten är en del av FRA:s projekt om artificiell intelligens och stordata. Den bygger på över 100 intervjuer med offentliga och privata organisationer som redan använder AI. Dessa inbegriper observationer från experter som deltar i övervakningen av potentiella kränkningar av de grundläggande rättigheterna. Analysen i rapporten bygger på faktiska användningar av AI från Estland, Finland, Frankrike, Nederländerna och Spanien. Den 14 december anordnar FRA och det tyska ordförandeskapet för Europeiska unionens råd konferensen Doing AI the European way: Protecting fundamental rights in an era of artificial intelligence.

För mer information, kontakta: media@fra.europa.eu/Tfn: +43 1 580 30 653

Läs rapportens del av Finland här.