”AI överlever när bubblan spricker”

När Kristina Knaving, senior forskare på forskningsinstitutet RISE, tittade på språkmodeller för fem år sedan kunde hon omöjligen förutspå utvecklingen. Inte heller de experter som hon intervjuade i samband med att hon skrev rapporten ”AI i de kulturella och kreativa sektorerna” för EU-kommissionens räkning.

Men bara ett år senare lanserades den virtuella assistenten ChatGPT, en så kallad LLM, en stor språkmodell, som tränats upp med hjälp av text, och som baserat på statistik över ordföljder kan förutsäga nästa ord i en text. Det visade sig att när språkmodeller blev tillräckligt stora skrev de texter som var förvånansvärt mänskliga.

Idag har ChatGPT omkring 800 miljoner användare varje vecka.

I september 2025 noterades att ChatGPT:s lavinartade ökning av användare har börjat avta. Andra undersökningar bekräftar att inställningen till AI inte längre är odelat positiv. När det amerikanska konsultföretaget Gallagher i somras presenterade sin undersökning om företagens inställning till AI framgick att 68 procent av företagsledarna ser en möjlighet med AI, vilket är en minskning från 82 procent jämfört med föregående år.

Kristina Knaving tror att det minskade förtroendet för AI är ett resultat av ”mängder av misslyckade experiment”, framför allt bland företag som försökt skapa lösningar med språkmodeller, som ChatGPT.

– Det är när AI förväntas vara sanningssägare, för precisa uttalanden, som det blir svårt att testa språkmodeller, säger hon.

– Vissa egenskaper hos språkmodeller, som att de kan hallucinera, gör att man fortfarande behöver människor som verifierar resultatet. När företag använder språkmodeller istället för människor kan det bli fel.

Vettiga svar och effektivisering

Att det ändå är så många som omfamnat – och fortfarande omfamnar – generativ AI tycker inte Kristina Knaving är överraskande alls. I likhet med internet adopterades AI nerifrån och upp; det var individer, inte företag, som var först med att förstå hur de kunde använda språkmodeller i privatliv och jobb.

Dessutom framstår fördelarna tidigt som uppenbara.

– Även företagsledarna stoppar in frågor och får ofta vettiga svar, och då ser de en möjlighet att effektivisera. Det är ju så det funkar. Det finns massor av studier som indikerar att folk inte blir så mycket effektivare med AI, men de känner att de blir hållna i handen, och att de får rutinuppgifter gjorda med det, säger hon.

Här bestämmer sig många organisationer för att, på relativt vaga grunder, implementera AI.

– Jag tror att många inte funderar över sina användningsfall, vad det innebär att ha den här tekniken. Det går överlag bra, men man behöver hantera när det blir fel, för det blir det fortfarande. De som har sålt in den översäljer hur väl tekniken ska fungera. Jag träffar ju fortfarande människor som hävdar att AI inte kommer att hallucinera, bara man använder den på rätt data. Och det är inte sant, säger hon.

– Jag tycker att alla organisationer som använder AI numera är skyldiga att göra sina användare till AI-litterata, i enlighet med EU:s AI-förordning från förra året. Det tycker jag är relevant.

För några år sedan gjorde Kristina Knaving iakttagelsen att de allra flesta som använder AI-verktyg i arbetet inte nämner det för sina kollegor.

Man jobbar med AI i smyg, med andra ord.

– Vi hade redan för mycket information och hade svårt att verifiera den. Nu har vi ännu mer information, men vi har inte tid att kolla allt, säger hon och konstaterar att ”folk generellt inte har en plan för hur AI-skapat material ska hanteras”. Det är lätt att skapa tio sidor, men kostnaden kommer när man ska kolla den.

Teknikföretaget Samsung gick tidigt ut till sina medarbetare och sade ”ni får inte stoppa in företagshemligheter i AI-tjänster”, men på det hela har organisationer varit långsamma i jämförelse med många anställda.

–  Det brukade vara så att bara företag som specifikt jobbade med AI hade en AI-strategi, men med ChatGPT och liknande lösningar uppstår det en teknik som arbetar med ord och därmed fungerar för alla människor som jobbar med ord; alltså alla organisationer. Jag hör hårresande historier om vad anställda stoppar in i sina AI-tjänster, som känsliga personuppgifter, säger hon.

”Superrelevant för museerna”

Något som intresserar Kristina Knaving, och som hon tycker är relevant för museer, arkiv och bibliotek, är generativ AI:s hot mot informationsekosystem. Hon talar om model collapse, som innebär att om AI tränas på sitt eget material så blir det som kommer ut mer och mer likriktat tills det blir helt meningslöst.

– Den går på normen av den data den tränas på. Om det är 70 procent män i bilder på chefer, så får man nära 100 procent bilder på män när man ber om en bild på en chef. Och tränar man på de bilderna så blir det snart 100 procent: normen av normen. Och om man tittar på det här med filterbubblor och människors beslutsstöd så kommer vår förmåga att tänka oss ut ur boxen minska, om vi fylls av en verklighet som består av normativ AI-data. Det är klart att jag är orolig över det.

I en artikel i New York Times från 2023 intervjuades läkare om deras AI-användande. Läkarna sade att de inte skulle kunna tänka sig att använda chattbottar för att ställa diagnoser. Lite överraskande berättade de att de använder chatbottar för att få stöd och riktlinjer för hur de skulle bemöta människor som har fått en livshotande sjukdom.

– AI var jättebra att beskriva hur man ber dem sätta sig, hur konversationen startas, vad man kan säga, att man tänker på anhöriga och allting sådant. Ingen av läkarna tycker om att göra det, men AI blir ett bra stöd. Och det är inte så konstigt, för vi har väldigt mycket information, böcker och instruktioner, om hur man bör behandla andra människor. AI konvergerar mot gyllene regler. AI gillar ju att normalisera saker. Och när normen är det vi är ute efter så blir det väldigt bra, säger hon.

– Och där tänker vi oss inte att maskiner ska vara. De ska ju inte vara mänskliga, med empati och sådana saker. Men det verkligt magiska med AI ligger inte i arkitekturen eller hur träningen ser ut, utan den information som vi som människor skapar som sedan visar sig konvergera mot resonemang och intressanta tankar när man tränar AI på den, säger Kristina Knaving.

Hennes uppfattning är att museer, precis som arkiv och motsvarande, har insett att möjligheten med AI inte enbart är det generativa. Det finns goda möjligheter att hjälpa sökningen i arkiv. RISE har varit involverat i ett projekt med porslinstillverkaren Gustavsberg, där AI använts för att känna igen porslin.

Det kan också vara handskrivet material som man försöker katalogisera.

– Att kunna värdera material som dyker upp och att få hjälp i verifiering av korrekthet är ju superrelevant för museer, säger hon.

AI överlever att bubblan spricker

När det gäller chattbottar finns det många möjligheter att göra rutinarbete eller få hjälp med det man inte är expert på, som annars tar mycket tid. Ett exempel är att förstå varför en dator krånglar. Chattbottar är då ofta effektiva som manualer, eftersom det finns så mycket skrivet om att lösa den sortens problem, säger Kristina Knaving.

Kristina Knaving ser AI-företagens ekonomiska modell och finansiering som ”en hårboll av oanade mått”. Företaget Nvidia, som är marknadsdominerande inom utvecklingen av AI-chip, lånar just nu ut pengar till andra företag för att de ska kunna köpa chip av dem.

Den överhängande risken för en finansiell AI-bubbla påminner henne om vad som hände med internet runt millennieskiftet, då ett stort antal företag övervärderades och sedan kraschade.

Det innebar ingalunda internets död. Även AI kommer att överleva att bubblan spricker.

– Internet hade faktiska användningsområden och det har även generativ AI. Jag kan inte se att folk inte kommer att vilja fortsätta betala för sina AI-assistenter. Det finns saker de gör tillräckligt bra. Och apparna kommer att förfinas, så att det blir lättare för en människa att göra den sista kollen på materialet. Så även om tekniken har begränsningar finns det ingen anledning till att den skulle försvinna. Vi behöver bara bli bättre på att använda den.