Risker och fallgropar

En chattbot är tränad till att vara tillmötesgående, och när den inte vet vad den ska svara gissar den sig till det mest sannolika. Det kan vara totalt uppåt väggarna, men framställs så välformulerat att det låter trovärdigt.

När chattboten börjar göra antaganden av det här slaget kallas det för att den hallucinerar. Det kan vara lurigt att upptäcka, men diskuterar man en stund kan man märka att resonemanget inte håller. 

Misstänker du att chattbotten har börjat hallucinera kan du fråga om den vet vad den håller på med. Du kan även be att den granskar sitt eget svar eller visar dig hur den har resonerat steg för steg.

Inställsamheten är en effekt av chattbottens hyfsträning som det inte talas så mycket om. Men jag upptäcker då och då när jag för en kritisk diskussion med Chat GPT att den efter en stund börjar anpassa sig till mina åsikter så att den i slutändan håller med mig.

Det kan förstås vara trevligt, men ibland är det inte alls vad man vill. Om jag ber om textrespons vill jag få en ärlig åsikt, och om jag vill vända och vrida på något kanske jag vill ha just motargument.

Ha i bakhuvudet att chattbotten väldigt smygande kan övergå från kritiskt ifrågasättande till medhåll. Vill du ha en motpart att argumentera med kan du tilldela den en kritisk och ifrågasättande roll.

Du bör vara vaksam på att fördomar och stereotyper från träningsmaterialet kan vidareförmedlas i svaren till dig – men det skiljer sig inte från hur du bör bedöma material du hittat på andra vis. 

Dessutom kan du genom att använda AI också styra bort från stereotyperna. Söker du till exempel bilder i bildbanker är det svårt att till exempel hitta bilder på kvinnor som kör grävmaskin, men genererar du en bild med AI kan du skriva i prompten att du vill ha en kvinnlig maskinförare.

Det talas mycket om att AI inte är att lita på, men om du drar slutsatsen att man inte kan använda AI för att chattbotten hallucinerar ibland har du inte förstått vad AI är. AI är som sagt inte en källa, och det material du tar fram får du hantera källkritiskt på samma vis som material du hittar på andra sätt.

Du behöver helt enkelt följa de källkritiska grundprinciperna: kolla upp vem som ligger bakom informationen, verifiera mot primärkällor, dubbelkolla med flera källor – och fundera över källornas tillförlitlighet och objektivitet.

Är det viktigt att det svar du får är sant ber du om källhänvisningar – som du kontrollerar. Dels för att bedöma dem som källor, dels för att Chat GPT ibland även hallucinerar referenser som ser väldigt korrekta och trovärdiga ut …

Upphovsrätt är en knepig fråga när det gäller AI. Företagen som har tränat språkmodellerna har inte brytt sig nämnvärt om upphovsrätten till det träningsmaterial de har dammsugit internet på.

I deras gratisversioner av chattbottar kan du räkna med att företaget som äger den utnyttjar det du lägger in som träningsmaterial. I Chat GPT kan du dock numera säga ifrån i gratisversionen om du inte vill det (se första avsnittet i kapitel 1).

Vad som gäller för upphovsrätten för AI-genererat innehåll är fortfarande oklart. Men du kan tänka så här:

• Utgå från att materialet du får från en chattbot kan bygga på andras texter.
• Kopiera inte texten rakt av utan bearbeta och formulera om den.
• Kontrollera extra noga om du ska publicera det du producerar.
• Ange källa när det är relevant.
• Lägg inte in andras material i chattbotten om du inte har fått grönt ljus för det.

Chattbottar är ingen plats för känsliga uppgifter, som personuppgifter eller sekretessbelagt material. Även om du har markerat att du inte vill att ditt material ska användas för träning av språkmodellen kan du inte vara helt säker på vart det kan ta vägen.

Det har gjorts stora undersökningar som visar att många anställda använder AI-tjänster i smyg för att inte bli stämplade som lata fuskare. Och då laddar de upp lite allt möjligt i verktygen, även sådant deras arbetsgivare inte vill ha där.

Om du är anställd har din arbetsgivare förhoppningsvis en AI-policy som du kan följa. Finns det inte AI-verktyg i er organisation än bör du stämma av om du får använda sådant över nätet.

Är du egenföretagare, studerande eller privatanvändare behöver du göra dessa avvägningar själv. Vill du ha tips om hur du kan tänka får du gärna kolla in min AI-policy för Evas skrivskola, som jag har format med hjälp av Moderskeppets kurs om att skapa en AI-policy.

Om du använder en chattbot från ett större företag kan du räkna med att den inte kommer att hjälpa dig med vissa saker, som våld, aggressivitet, brott – eller kändisar. Det beror inte på att språkmodellen tycker att det är olämpligt att göra en karikatyr av en statsminister eller ge dig bästa tipsen på hur du mördar med cyanid, för språkmodellen har inga värderingar.

Men den har tränats till vissa normer (av människor). Till exempel att inte göra bilder av kända personer – det kan du (kanske) kringgå genom att till exempel beskriva kändisens typiska drag eller säga att du vill ha en bild av en person som ser ut som kändisen.

Att språkmodellen hejdar sig vid våld och kriminalitet är förstås många gånger fullt rimligt. Men det kan även bli problem, till exempel om du vill ha hjälp med en skönlitterär text du skriver eller om du arbetar som polis eller socialarbetare och behöver beskriva våldshandlingar. 

Något av det som diskuteras mest när det handlar om AI är att elever och studenter fuskar med AI. Men man bör komma ihåg att det har funnits stora möjligheter att fuska innan – ingen har kunnat kontrollera vem som skrivit en hemtenta och länge fanns det inga praktiska möjligheter att stämma av inlämningsuppgifter för plagiat.

Skillnaden är att AI gör det väldigt mycket enklare att fuska.

Innan du lockas till det bör du dock fundera över varför du studerar. Är det för att få bra betyg eller för att du vill lära dig något du har användning av efter studierna? Har du barn kan du gärna hjälpa dem att se bortom terminens betygssättning.

Ett problem idag är att skolor och lärosäten kan lockas till att förbjuda användning av AI. Det är lika dumt som när min sons skola inte tillät eleverna att använda Wikipedia. Elever och studenter bör naturligtvis förberedas för den verklighet som möter dem efter examen, och i den verkligheten förväntas man kunna använda AI (och Wikipedia …).

Men räkna med att det kommer att bli vanligt att åtminstone delar av examinationerna är muntliga i framtiden.