Den nya EU-förordningen AI Act ställer nya krav på företag som tar fram AI-lösningar. Syftet är att medborgarna inom EU ska känna tillit till tekniken. Men vad säger reglerna och vad innebär det för företag som arbetar med nya innovativa AI-system?
Vi befinner oss i spännande tider. Utvecklingen av AI har jämförts med det språng vi såg under den industriella revolutionen.
– Utvecklingen hoppade över minst en växel i och med att man upptäckte att AI kan skapa så mycket värde. Företag investerar enorma belopp i att vidareutveckla den underliggande tekniken, säger Sverker Janson, senior forskare och ledare för Centrum för tillämpad AI på RISE.
Värdeskapande AI ger investeringsvilja
Idag ser han två huvudströmningar inom artificiell intelligens. Den ena är där AI skapar så stora värden att företagen är beredda att investera mycket.
– Bra exempel på det är läkemedels- och telekomindustrin. Där har man sett att användningen av AI är helt avgörande för kärnverksamheten.
Det andra är där AI-verktyg är billiga och lättillgängliga, som de olika språkmodellerna eller andra generativa AI-verktyg.
– En språkmodell som ChatGPT kan användas interaktivt som en assistent, eller i en lite mer specialiserad variant, som i olika typer av kundtjänster. Alla lite större företag och organisationer utforskar sådana lösningar.
Men med alla möjligheter finns också farhågor om att tekniken kan användas av krafter som vill destabilisera. I Global Risk Report 2024 från World Economic Forum finns AI-genererad miss- och desinformation med som en av de allra största riskerna på både kort och lång sikt.
Bland annat därför har EU antagit AI Act – en förordning som syftar till att minska riskerna med AI-verktyg genom att reglera utvecklingen av AI-system. AI Act träder i kraft under våren 2024, men blir stegvis tillämpbar under ett par år framåt.
– AI Act inför en definition av vad som anses vara ett AI-system i rättslig mening. Den ställer också krav på att vissa typer av AI-produkter behöver CE-märkas, säger Susanne Stenberg, senior forskare och rättslig expert på RISE.
Reglering införs med omtanke om medborgarna
Anledningen till att man inför regleringarna är en omtanke om EU:s medborgare.
– Vi ska som medborgare kunna känna tillit till AI som teknologi. Du vet inte hur din brödrost fungerar. Men du känner tillit till tekniken och köper den utan att veta allt om tillverkningsprocessen bakom. Samma sak vill EU uppnå med AI Act: nämligen produktsäkerhet, säger Håkan Burden, senior forskare på RISE som tillsammans med Susanne Stenberg jobbar med frågor kring EU:s regleringsförsök av digitalisering.
Syftet med AI Act är att värna om hälsa, säkerhet och grundläggande rättigheter. Det innebär att inte alla AI-verktyg omfamnas av förordningen.
Håkan Burden förklarar:
– Om du har ett system som idag guidar folk till rätt gång i din affär med en AI-baserad teknologi så är du mer eller mindre opåverkad.
Susanne Stenberg tar vid:
– Men om det är ett AI-verktyg som bestämmer i vilken ordning du ska skicka polis, ambulans eller brandman och till vilken plats, så måste det vara CE-märkt.
AI Act ersätter inte andra regler, som GDPR, regler om dataskydd, immaterialrätt och så vidare. Den kompletterar och försöker skapa tydlighet i vem som bär på ansvaret när till exempel ett AI-verktyg har medverkat till diskriminering vid ett anställningsförfarande.
Nya regleringar kommer att medföra ökade krav och kostnader för de företag som sysslar med utveckling av de berörda produkterna. Det väcker frågor huruvida reglering av AI kommer att bromsa innovationskraften.
– Ett nytt företag som utvecklar en ny innovativ lösning kanske inte har möjlighet att lägga en halv miljon på att ordna certifieringen, säger Sverker Janson.
Vi behöver ställa krav på att produkter håller en viss miniminivå, oavsett om det är en sågklinga eller en mjukvara
Merkostnader kan bli hinder – men det behöver inte vara en nackdel
Merkostnaderna kan bli ett hinder, alltså. Men både Susanne Stenberg och Håkan Burden ser inte att det behöver vara ett problem ur ett samhällsperspektiv.
– Vi behöver ställa krav på att produkter håller en viss miniminivå, oavsett om det är en sågklinga eller en mjukvara, säger Susanne Stenberg.
– AI Act kan medföra att vissa små eller medelstora företag väljer att utveckla en chatbot till ett varuhus istället för att utveckla ett betygsättande AI-system, för kraven på det sistnämnda kräver att man har ett kvalitetsledningssystem på plats i den egna organisationen, säger Håkan Burden och fortsätter:
– Å andra sidan: är du inte beredd att göra ett internt kvalitetsledningsarbete så kanske du inte heller ska vara i en skolsituation och betygsätta elever.
AI Act kan göra det svårare för mindre företag att etablera sig på vissa marknader. För att motverka en sådan utveckling nämner Håkan Burden flera exempel där EU stöttar innovativa små och medelstora företag.
– Det finns ett jättestort innovationsprogram inom EU där det sätts upp en massa test- och experimentationsfaciliteter (TEF). RISE är aktivt i flertalet, för att små och medelstora företag ska få tillgång till den kompetens som behövs för att kunna sätta CE-märken på sina produkter.
Organisatorisk förmåga och kompetens för att undvika flaskhalsar
Det krävs en mognad och investeringar från ett antal olika aktörer i samhället, och AI Act visar att det behovet kostar, menar Susanne Stenberg.
– Företag måste bygga förmåga organisatoriskt och myndigheter behöver kompetens inom AI. Vi behöver också någon som kan utfärda certifikat, så att vi undviker de flaskhalsar som kan göra att vi inte får ut de AI-verktyg som industrin behöver.
– Utöver det behöver vi få till forskning – och då inte bara på generativ AI. Det finns många olika inriktningar och ett stort behov av tillämpad forskning.
I allt detta spelar RISE en roll.
– Nu har vi ett fönster på tre år där små och medelstora företag har världens möjlighet att ta kontakt med oss för att bedriva forskningsaffärer, säger Håkan Burden.
Susanne Stenberg fortsätter:
– RISE som aktör kan hjälpa till på flera olika ställen. Det kan handla om ett företag som vill utveckla ett system och fortsätta med det i ett forskningsprojekt. Eller så är det beslutsfattare i offentlig sektor som behöver vägledning i att förstå ett AI-system som de ska köpa in.
– Det kan också handla om frågor som vilken typ av AI en organisation behöver. Bara för att det är en hype kring språkmodeller just nu så behöver inte det betyda att det är det rätta för just ditt företag eller organisation.
