Risker och riktlinjer för AI-baserade chatbotar och språkmodeller

04 april 2023, 16:15

Under hösten 2022 offentliggjorde OpenAI sin AI-baserade chatbot GhatGPT, och med det började en ny era där storbolagen och chatbotarna tävlar om vår uppmärksamhet och data. Den snabba teknikutvecklingen skapar massvis av möjligheter men kommer också med ett antal nya risker som du och din organisation bör ha koll på. Nedan listar vi några viktiga riskområden tillsammans med ett antal frågeställningar som du bör reflektera över innan du använder en AI-baserad chatbot eller annan språkmodell i ditt arbete.

1. Informationssäkerhet

Det är viktigt att vara medveten om att all information som matas in i en AI-baserad chatbot eller språkmodell kan sparas, analyseras och införlivas i det bakomliggande datasetet. Har du otur så kan opublicerat material spridas vidare och forsknings- och affärshemligheter avslöjas. Vilken information kan du riskfritt mata in och vilken information bör du hålla för dig själv?

2. Nätfiske och bedrägerier

Med nya språkmodeller blir det lättare att generera trovärdig text på valfritt språk vilket ökar risken för nätfiske och bedrägerier. Du bör därför vara extra vaksam vid mejl och SMS från okända avsändare och undvika att klicka på länkar och filer. Hur kan du avgöra om en avsändare är trovärdig om språk och innehåll inte längre utgör ett lika stort hinder för potentiell bedragare?

3. Påverkanskampanjer och falska nyheter

AI-baserade språkmodeller kan användas för att generera falska nyheter, forskningsrapporter och annat vilseledande material. Det är ofta svårt att skilja på maskingenererad och mänskligt skriven text, och därför blir det extra viktigt med källkritik. Hur påverkar språkmodeller din förmåga att skilja sant från falskt, och i vilka sammanhang riskerar du att utsättas för falska budskap?

4. Fördomar och jämställdhet

AI-modellerna har inga egna åsikter, men de kan ha tränats på data som avspeglar fördomar och snedvriden representation om till exempel kön, ålder, etnicitet, språk och religion. Dessa fördomar kan sedan påverka innehållet i den genererade texten. Hur påverkas ditt arbete av potentiella fördomar, och när bör du ta hänsyn till detta?

5. Felaktigheter och trovärdighet

Språkmodeller har ingen faktakunskap utan använder sig av statistik och mönster från den data som de tränats på. Även om en genererad text ser trovärdigt ut är det inte säkert att allt är korrekt. Har du förmågan att faktakolla alla påståenden och vad blir konsekvenserna (för dig och din organisation) om ett viktigt påstående visar sig vara fel?

6. Källhänvisning och upphovsrätt

Delar av den genererade texten kan ha plockats från tidigare publikationer, idéer eller patent men trots det så kommer påståenden ofta utan källhänvisning, eller i värsta fall med felaktiga eller påhittade källor. Hur påverkas ditt arbete om modellen kopierat, plagierat eller parafraserat någon annans verk?

7. Skrivande och kommunikation

AI-modeller kommer att användas för att skriva texter som mejl, nyhetsartiklar, CVs, vetenskapliga publikationer och ansökningar. Ofta blir det bra, men ibland blir det tydligt att texten inte är skriven av en människa. Hur påverkas din och din organisations trovärdighet om mottagaren misstänker att hela eller delar av texten skriven av en AI-modell?

Läs mer om de expertiser som finns hos Centrum för AI på RISE