Ta chansen att påverka EU:s AI-reglering

– Förordningen har förhandlats och diskuterats i närmare två års tid. Under den tiden har många djupdykt i vissa delar av den medan andra delar inte har uppmärksammats lika mycket, säger Susanne Stenberg, forskare på RISE och rättslig expert inom ny teknik.

I ett så kallat position paper har Susanne Stenberg och Håkan Burden sammanfattat cirka ett och ett halvt års analysarbete av AI Act. Här lyfter de ett flertal delar som de menar inte synts så tydligt i diskussionerna kring lagförslaget. I sin analys pekar de på framväxten av något de kallar för ”A Triangle of Trust”: tre komponenter som tillsammans ska ge pålitliga, kvalitativa och trygga AI-system.

CE-märkning av programvara

Den första spetsen i triangeln är en CE-märkning av den mjukvara som kommer att klassas som hög risk i förslaget.

– Detta är något helt nytt. Vi är redan vana att hitta CE-märket på produkter vi möter i vardagen och i framtiden kan det bli lika vanligt för mjukvaror som omfattas av AI-regleringen, säger Håkan Burden, forskare på RISE inom AI- och IT-system. 

Tilliten till CE-märket är hög i Europa och detta verkar EU-kommissionen vilja dra nytta av genom att introducera det i AI Act, menar de två forskarna.

– Detta är en medveten insats av kommissionen för att höja kvaliteten på dagens mjukvaror. Samtidigt kommer det att kräva en rad anpassningar av såväl mjukvaruutvecklare som köpare och återförsäljare.

Myndigheter blir innovationspartners

Den andra spetsen är den roll som lokal myndigheter kan komma att få i utvecklingen av AI-system. I förslaget får myndigheterna en övervakande roll samtidigt som de ska underlätta utveckling och marknadsintroduktion.

– Det är något av en skräll att myndigheterna i praktiken blir till innovationspartners. Detta ställer nya kompetenskrav på myndigheterna som både ska kunna värdera innovation och vara med att främja den. Genom att de är myndigheter så bygger det tillit, de ges ju en insyn i själva koden, säger Håkan Burden. 

Att myndigheter ska agera mjukvaruutvecklare ökar också behovet av IT-kompetens dramatiskt. I EU:s digitaliseringsstrategi ”Europas digitala decennium” finns också beskrivet behovet av att öka antalet IT-specialister från dagens åtta till cirka 20 miljoner till år 2030.

Kräver ansvarsfulla företag

Den tredje spetsen i triangeln betonar ansvaret som faller på företagen att bidra till en hållbar utveckling. Trots att förslaget kommer att innebära stora förändringar, bland annat i form av nya standarder, så behöver de bidra med nya affärsmodeller där det är ekonomiskt lönsamt att bidra till den social hållbarheten.

– Det gäller att se möjligheterna i regleringen av mjukvara och användningen av data. Här finns många möjligheter att göra affärer, det gäller bara att hitta dem.

Förslaget till förordningen har föregåtts av en etisk diskussion där EU:s expertgrupp för etik har utarbetat en rad rekommendationer för att utveckla AI på ett etiskt sätt. Och dessa rekommendationer är en tydlig del av förslaget, betonar Susanne Stenberg.

– Det är tydligt vilka etiska krav som ligger till grund för de olika delarna av förslaget. Men något som saknas är en tydlig koppling mellan digitalisering och hållbar utveckling. Här kunde EU-kommissionen gjort en koppling till den gröna given men har valt bort den möjligheten, säger Susanne Stenberg.

En chans att påverka

Nu slutförhandlas förslaget för att beslutas tidigast under våren. Parallellt med det ska tekniska standarder, riktlinjer och definitioner tas fram för att realisera lagkraven. Här deltar bland annat de två europeiska standardiseringsorganen: European Committee for Standardization, CEN, och European Committee for Electrotechnical Standardization, CENELEC.

– De nya standarderna ska bland annat beskriva vad som är representativa data och  relevanta data för ett AI-system. Samt beskriva vad som är tillräcklig tillförlitlighet och robusthet, säger Håkan Burden.

Standardiseringsarbetet kommer att pågå fram tills dess att förordningen träder i kraft cirka 2025-2026. Här uppmanar de två forskarna fler företag och organisationer att engagera sig. Dels finns det en god chans att påverka utformningen av de nya standarderna, dels en möjlighet att öka sin egen kunskap.

RISE arbetar redan för att förstå hur de nya standarderna ska se ut och hur de påverkar utvecklare och inköpare av mjukvara.

– Vi har pågående samarbeten med myndigheter och näringslivet men fler är välkomna att delta, ju fler perspektiv som kommer med desto bättre. Samtidigt är det en möjlighet att påbörja en nödvändig omställning för att kunna efterleva de nya kraven, säger Håkan Burden.

FÖR DIG SOM VILL VETA MER:

Så utvecklas Artificial Intelligence Act

Syftet med AI Act är att EU:s medborgare ska kunna känna tillit till de digitala system. Initiativet ska ses som en del av EU:s digitaliseringsstrategi ”Europas digitala decennium” som pekar ut visionen för unionens väg mot en digital omställning fram till 2030.

Läs mer om bakgrunden till förordningen och vad den omfattar

EU:s marknad för AI-system

RISE-forskarna Håkan Burden och Susanne Stenberg har en podd som diskuterar hur AI-förordningen kommer förändra marknaden för AI-utveckling. Här lyfts frågor som: vad betyder ansvarsfull utveckling i relation till AI som teknologi, och vilka kompetenser som vi tror kommer behövas framöver.

Lyssna här via Spotify, eller via Acast.

Regulating Trust – An Ongoing Analysis of the AI Act

Ladda ned och läs analysen från de båda forskarna som bygger på närmare 1,5 års arbete. Analysen förutsätter att du redan har en viss förförståelse av förordningen.