Sverige kan bli bäst i världen på AI-lösningar som hela befolkningen kan lita på. Inte bara halva. Men de negativa effekterna av att tekniken diskriminerar kvinnor är ett borttappat perspektiv i AI-kommissionens nya rapport, skriver experten Anna Felländer i en gästkrönika för Omni Ekonomi.
Att säkerställa ansvarsfull och etisk AI är en förutsättning för att kommersialisera och innovera AI. Det är inte något sido-moment så som det presenteras i AI-kommissionens rapport, utan en grundbult för att vi ska kunna lita på AI.
Utan styrning av AI ökar de etiska fallgroparna och våra mänskliga rättigheter riskeras att förbises. AI är en fantastik teknologi som ska användas och omfamnas inom vissa områden. Inom andra områden, där konsekvenserna av att det blir fel är allvarliga, behövs tydliga kontroller och valideringsmetoder.
Jämställdhetsperspektivet I AI-kommissionens rapport är borttappat. De negativa konsekvenserna på samhället av att AI diskriminerar kvinnor kan inte underskattas. Mängder av studier visar att kvinnor systematiskt exkluderas, är underrepresenterade i data och att algoritmer överdriver stereotyper av det kvinnliga skönhetsidealet. En studie från Berkeley Haas Center for Equity, Gender and Leadership analyserade 133 AI-system i olika branscher och fann att cirka 44 procent av dem uppvisade könsfördomar.
Dessa är orsakerna:
Partiskhet i data: AI speglar de förlegade könsnormerna och underrepresentationen av kvinnor i träningsdata. Det kan ledan till att när kvinnor använder vissa AI-lösningar för att diagnostisera sjukdomar får de felaktiga svar, eftersom AI inte är medveten om symptom som kan uppträda annorlunda hos kvinnor. Om vi inte bryter denna trend kommer AI resultera i lägre kvalitet på tjänster, partiska beslut om jobb, krediter, hälsovård och så vidare.
Partiskhet i algoritmer: AI har sämre precision för kvinnor, förstärker stereotyper och generaliserar. Algoritmers målvariabler så som vinst, engagemang och ökat försäljning uppnås omedvetet på bekostnad av jämställdhet.
Partiskhet i de teams som utvecklar AI lösningen. Enligt Global Gender Gap Report från 2023 är det bara 30 procent kvinnor som för närvarande arbetar inom AI. När teknik utvecklas med bara ett perspektiv är det som att se världen halvblint.
I AI-kommissionens rapport nämns att riskerna för partiskhet i data behöver beaktas. Men det är datasäkerhet och sekretesskydd som ges uppmärksamhet i budgeten. 2022 tog mitt bolag tillsammans med Jämställdhetsmyndigheten, Försäkringskassan och Skatteverket, finansierat av Vinnova, fram en metod för att detektera diskriminering kopplat till kön och validera jämställd AI.
Sverige kan bli bäst i världen på AI-lösningar hela befolkningen kan lita på.
Inte bara halva.
It was in 2016 that Anna realised artificial intelligence technology (AI) was becoming the new general-purpose technology: a technology that would drastically impact the economy, businesses, people and society at-large. At the same time, she noticed that AI was also causing a negative externality — a new type of digital pollution. Consumers have opted in to receive the benefit of digitalization, but are simultaneously facing a dark cloud of bias, discrimination and lost autonomy that businesses needed to be held accountable for. In the traditional environmental sustainability model, organisations are held accountable for physical negative externalities, such as air or water pollution, by outraged consumers and sanctions handed down by regulators. Yet no one was holding technology companies accountable for the negative externalities — the digital pollution — of their AI technology. Regulators have had difficulties interpreting AI in order to appropriately regulate it and customers didn’t understand how their data was being used in the black box of AI algorithms.
Anna’s multidisciplinary research group at the Royal Institute of Technology was the origin to anch.AI. Anna founded anch.AI in 2018 to investigate the ethical, legal and societal ramifications of AI. The anch.AI platform is an insight engine with a unique methodology for screening, assessing, mitigating, auditing and reporting exposure to ethical risk in AI solutions. anch.AI believes that all organisations must conform to their ethical values and comply with existing and upcoming regulation in their AI solutions, creating innovations that humans can trust. It is an ethical insurance for companies and organisations.
