Viktigheten av presisjon i KI-debatten

Illustrasjon laget av Microsoft Copilot basert på innholdet i dette innlegget. Legg merke til det lilla skiltet til venstre. Er dette Copilots versjon av «Sprøyt og tøys»? Uansett; det sier noe om hva statistisk generering av tekst kan lede til…

Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.

Bjørn Stærk, 2023 (1)

Debatten om kunstig intelligens er i ferd med å bli en samtale full av store ord og små presisjoner. Når sekkebegrepet «KI» brukes om alt og ingenting forsvinner viktige forskjeller mellom teknologier, bruksområder og risikoer. Det gjør oss dårligere rustet til å ta gode beslutninger både politisk og utdanningsmessig.

Hva mener vi når vi sier «KI»

Strictly speaking, AI is not a technology at all. Facial-recognition software, translation and speech recognition programs, scheduling algorithms, and predictive models might all have different machine learning tools running in the background, but it is patently absurd to refer to them as a singular technology. We do not call everything containing copper wires «wiring»

– R.H. Lossin, PhD. og J. Resnikoff, PhD., 2024 (2)

Begrepet «kunstig intelligens» dekker et vidt spekter av ulike teknologiske løsninger som i flere tiår har vært, og fortsatt er, en del av vår digitale hverdag: fra stavekontroll og autokorrektur, sjakkprogrammer, medisinske diagnosesystemer, stemmegjenkjenningsverktøy, semantisk søk i Google, spam-filtre, enkle statistiske modeller som forutsier strømpriser, via dagens generative språkmodeller som skriver tekst, til visjoner om kunstig generell intelligens (AGI).

Å snakke om «KI» som om det var én ting er misvisende. Mange av dagens mest omtalte systemer så som ChatGPT, Microsoft Copilot og Gemini, er i realiteten statistiske tekstgeneratorer som setter sammen ord basert på mønstre i store datasett. De fremstår tilsynelatende intelligente, men de «forstår» ikke på samme måte som mennesker gjør. Å bruke begreper som «forstår», «tenker» eller «vil» skaper antropomorfisering som forvirrer mer enn den oppklarer.

Hvorfor presisjon er viktig

One problem with the term “artificial intelligence” is that it gets tossed around so carelessly. The current AI chatbot narrative centers around the use of natural language processing (NLP), for example, but Google Search has been using NLP in its search results for a long time. AI is a marketing term used to generate hype, and the tech media is buying right into it.

– Skyler Schain, 2023 (3)

«KI er alt det en datamaskin ikke kan gjøre ennå» er et sitat kreditert IT-forskeren Larry Tesler, men formulert som et teorem av Douglas Hofstadter i Gödel, Escher, Bach. Teslers egen foretrukne formulering var mer direkte. Intelligens, sa han, er det maskiner ennå ikke har gjort (Masood, 2026).

Med utgangspunkt i Teslers formulering og det som kalles «KI-effekten», vil jeg hevde at uten presisjon blir reguleringer og retningslinjer for bruk av såkalt «KI» unøyaktige og lite relevante. Når vi ikke skiller mellom ulike teknologier og systemer, blander vi sammen helt ulike problemstillinger: opphavsrett og kildebruk ved tekstgenerering, hallusinasjoner og faktasikkerhet i undervisning, algoritmisk skjevhet i beslutningsstøtte, og sikkerhetskrav i medisinsk diagnostikk. Risikoen er kontekstavhengig: kravene til dokumentasjon, validering og ansvar må være strengere der feil kan skade mennesker direkte, og mer pragmatiske der konsekvensene er lave.

Et godt eksempel er den kommende «KI-loven». Når sekkebegrepet «KI» benyttes ukritisk kan vi få et reelt problem med lovforståelsen. Hvis ledere i offentlig og privat sektor tror at en enkel statistisk modell skal reguleres like strengt som et medisinsk diagnosesystem, kan det kvele innovasjon og skape unødvendig byråkrati.

Og kombinasjonen av et omfattende sekkebegrep og manglende forståelse for datateknologi kan fort føre oss til lover som fokuserer for mye på hypotetiske fremtidsfarer av typen «KI kan utslette menneskeheten», på bekostning av nåværende reelle vitenskapelig forankrede trusler.

Vi mennesker har en naturlige tendens til å tilskrive datamaskiner menneskelige egenskaper som bevissthet, intensjon og generell intelligens. Og denne tendensen blir godt støttet av media og kommersiell hype sin fremstilling av «KI» som noe autonomt og tenkende, istede for avansert sannsynlighetsregning, lineær algebra og mønstergjenkjenning.

Den kommende norske KI-loven virker på meg som et hederlig forsøk på å regulere teknologien basert på konkrete bruksområder og funksjoner, men den abstrakte debatten drukner ofte i myter om kunstig bevissthet.

Så den upresise bruken av sekkebegrepet KI i kombinasjon med medieskapte myter om tenkende enheter, kan føre til misforståelser om hvor de faktiske farene man må regulere ligger. En utpreget frykt for at datasystemer blir «ondskapsfulle», kan tåkelegge at den reelle risikoen i dag handler om diskriminerende treningsdata (bias), ekkokamre, manipulasjon, avhengighetsskapende algoritmer og personvernbrudd.

Med andre ord; vi kan ende opp med å regulerer begrepet «KI» fremfor reelle digitale systemer og disses konkrete funksjoner.

Tre presisjonsfeil som går igjen

At their core, LLMs are nothing more than sophisticated memorization machines, capable of reasonable-sounding statements, but unable to understand fundamental truth. Importantly and despite the fervent hopes of many, they are far from delivering or even prefiguring artificial general intelligence (AGI). The hype surrounding LLMs has reached stratospheric levels, fostering a misguided belief in their potential as AGI precursors

– Matt Asay, 2024 (4)

  • Sekkebetegnelsen «KI»: Når alle systemer samles under ett navn, forsvinner nyansene som trengs for målrettet regulering og god praksis. Når mange utdanningsinstitusjoner ønsket å forby, eller nå forbyr, elever og studenter å “bruke KI” så vil det, om vi skulle ta dette bokstavelig, omfatte så mange verktøy at all digital teknologi fort kan omfattes. Men det vi egentlig har snakket om siden 2022/ 2023 er et forbud mot å bruke samtaleroboter av typen ChatGPT eller Copilot i visse situasjoner.
  • Blanding av virkelighet og science fiction: Eventyrscenarier om maskiner som foretar egne valg helt utenfor det de er programmert for tar  oppmerksomheten bort fra at vi står midt i en teknologisk utvikling som svekker vår individuelle dømmekraft, devaluerer den politiske og kulturelle verdien av selvstendig menneskelig refleksjon og truer demokratiets evne til å skille mellom velfundert kunnskap og glattformulert uvitenhet. Og dette skyldes ikke at datamaskiner er blitt intelligente og tar over makten, men at vi lar kommersielle aktører og ikke forskning få lov til å definere hva som er virkelig.
  • Antropomorfisering: Å tillegge systemene menneskelige intensjoner eller bevissthet fører til feilaktige forventninger og ansvarsvakuum. Hvorfor skal vi kreve at selskaper som OpenAI tar ansvar for det de leverer når vi samtidig tror blindt på at datamaskiner nå har fått selvstendig evne til å tenke og handle uavhengig av sine programmerere?

Et konkret eksempel fra egen undervisning

Språkmodeller er lagd for å skrive gode setninger, ikke for å undersøke virkeligheten

– Førsteamanuensis Inga Strümke, 2025 (5)

Som foreleser i teknologirelaterte fag i grenselandet mellom samfunnsvitenskap og humaniora (IKT og læring 1 og 2, ORG5005) og med over 20 års erfaring både med studentaktiv undervisning, konstruksjon av arbeidskrav i tråd med Blooms taksonomi og digital distribusjon av undervisning, er det en selvfølge at mine studenter har lov til å bruke samtaleroboter som del av sine arbeider med ulike arbeidskrav. Og som teknolog kaster jeg like selvfølgelig ikke bort tiden med å bruke såkalte «KI-detektorer» på studentenes innleveringer. Det jeg ser etter er ikke formalia og struktur (at en universitetsstudent er i stand til å følge oppsatte formalia og strukturere en besvarelse er en selvfølge), men innholdet. Er besvarelsen preget av grundige drøftinger og analyser av de momenter et arbeidskrav omfatter og der studentens egen yrkeserfaring er koblet både til tematikken i oppgavene og til relevant faglitteratur? Eller er det kun et 9 siders «essay» som like gjerne kunne vært skrevet av en ungdomsskole- eller videregående elev?

Så mine studenter må altså gjerne benytte seg av språkmodeller som støtte, men de i hvert arbeidskrav de leverer skrive en egenerklæring om bruk/ ikke bruk av KI. Og når jeg her benytter forkortelsen «KI» så er det for lettvinthetsskyld, siden studentene allerede er vant med en slik overforenkling. Men i retningslinjene, i de generelle veiledningene og i et eget kapittel om «KI» i fagemnenes FAQer, presiseres følgende: «Nevn hvilken type samtalerobot du har benyttet og vær konkret når du beskriver bruken».

For når studentene kun skriver «jeg har brukt KI» i sine egenerklæringer, så åpner det for stor usikkerhet. Har studenten benyttet avanserte stave- og gramatikk kontroll-program eller andre system som ikke lengre ansees som «KI», men som studenten oppfatter som «intelligente system»? I så fall er jo dette egentlig ikke interessant gitt den debatt som har rast i de akademiske søylehaller siden november 2022. For det vi som undervisere og sensorer ønsker å vite, er jo om det er tekstgeneratorer av typen Copilot eller Gemeni som er benyttet.

Så for å få meningsfull dokumentasjon på studentenes bruk av disse verktøyene må vi be om presise opplysninger: hvilken samtalerobot og hva ble denne konkret benyttet til; ideutvikling, formulering, kildekritikk eller ren tekstproduksjon. Uten slike detaljer blir en egenerklæring om bruk/ ikke bruk av “KI” ubrukelig og vil skape utfordringer for både vurdering av studentenes teoretiske arbeider og for studentenes evne til å skille mellom science fact og science fiction når de skal vurdere hva «KI» konkret er som begrep og som enkeltverktøy i helt spesifikke tilfelle.

Når studenter allerede innledningsvis i en besvarelse blir tvunget til å beskrive presist hvilke spesifike samtaleroboter de benyttet og hva de faktisk benyttet dette verktøyet til, utvikler de samtidig en klarere forståelse av hva slike verktøy er og ikke er. En slik første forståelse av skillet mellom konkrete funksjoner og diffuse forestillinger om “KI” er vesentlig for studentenes videre arbeid med de ulike arbeidskrav fra utkast, via veiledning, til mappestenging, og derigjennom viktig for studentenes daglige ansvar for opplæring og instruksjon av andre i egen yrkeshverdag.

Forslag til mer presisjon når vi snakker om «KI»

Artificial intelligence is often talked about as a single technology. This is unhelpful. AI is an umbrella term covering a wide range of technologies, from translation tools and recommendation engines to predictive models and the LLMs that power ChatGPT and many generative and agentic AI systems. These technologies have different lineages, are designed for very different purposes, work in different ways and raise different questions. Yet, they are routinely bundled together under the single label of AI; a simplification that obscures important distinctions and makes informed discussion and decision-making far more difficult than it should be.

Jo Morrison, PhD. , 2026 (6)

En artikkel på Khrono publisert 31.08 i år har overskriften «Her har sensorene forbud mot å bruke KI». Gitt hvor mange ulike dataprogram og systemer som omfattes av dette sekkebegrepet blir det litt av en oppgave både for sensorer og utdanningsinstitusjoner å holde styr på hvilke digitale verktøy dette forbudet skal gjelde. Men selvsagt er det her kun snakk om samtaleroboter.

En mer presis begrepsbruk, fortrinnsvis basert på faktisk innsikt i KI‑feltets terminologi, kunne gitt både artikkelen i Khrono og den generelle diskusjonen et etterlengtet løft, og kanskje til og med redusert den kollektive forvirringen.

Som samfunnsinformatiker mener jeg derfor at vi nå snarest bør:

  • Bruk mer presise begreper: Snakk om «generative språkmodeller», «bildesyntese», «prediktive modeller» eller «samtaleroboter» i stedet for bare «KI».
  • Kontekstualiser risiko: Still krav etter hvor kritisk bruken er. Rettslige beslutninger og eksamensvurdering krever høyere sikkerhetsmarginer enn kreative skriveoppgaver.
  • Konkret regulering: Vi bør ikke regulere ideen om «KI» som om det var en konkret og handlende entitet. Det som må reguleres er identifiserbare aktørers utvikling, anskaffelse og bruk av bestemte systemfunksjoner i konkrete institusjonelle sammenhenger, ut fra hvilke data som behandles, hvem som berøres, hvilken beslutningsmakt systemet får, og hvor alvorlige konsekvensene kan bli.
  • Unngå menneskeliggjøring: Beskriv hva systemene gjør rent teknisk, så som mønstergjenkjenning, sannsynlighetsberegning, statistisk generalisering og ikke hva de «tenker».
  • Skille mellom hype og empirisk kunnskap: Politikere, utdanningsinstitusjoner og KI-utvalg (både nasjonale og lokale) bør basere retningslinjer for såkalt “KI-bruk” på forskning og ikke leverandørers markedsføring via mer eller mindre fantasifulle mediehistorier.

Avslutning

Many people assume artificial intelligence is a purely 2020s phenomenon tied to chatbots. In reality, AI research produced working systems long before generative AI existed. This includes chess-playing programs, medical diagnosis systems, and voice recognition tools developed across the 1960s, 1970s, 1980s, and 1990s. IBM’s Deep Blue defeated world chess champion Garry Kasparov in 1997, using techniques built decades into the field’s history, not a recent invention.

What changed more recently was not the existence of the field, but the emergence of one specific technique: deep learning using large neural networks. That technique combined with the availability of enormous datasets and specialized computing hardware. Together, they produced the generative AI systems now familiar to most people. Still, this represents one chapter within a much longer research history, rather than the beginning of the story

Cris Tolomia, 2026 (7)

Presisjon i språket er ikke bare akademisk pedanteri. Det er et praktisk verktøy for å gjøre debatten nyttig og handlingsrettet. Når vi klarer å skille mellom teknologier, bruksområder og reelle risikoer, kan vi lage bedre retningslinjer, mer treffsikre reguleringer og mer meningsfull undervisning og vurdering.

Datamaskiner er fortsatt datamaskiner. De er basert på digitale, binære «byggesteiner», ikke mystisk og uforklarlig magi. Siden 2022 har vi fått flere og mer spesialiserte verktøy (akseleratorer, minnetyper, DPUs, kjøleløsninger) for å møte behovene skapt av store språkmodeller, men disse endringene er forbedringer av samme grunnleggende prinsipp. Datamaskiner er fortsatt digitale maskiner som bruker binær logikk (0 og 1) i form av elektriske tilstander og begrensningene som følger av fysikk, strøm, kjøling og nettverk er ikke på mystisk vis plutselig opphevet.

Dette betyr at vi fortsatt er låst til de samme fysiske realitetene som vi har vært i flere tiår. OpenAI, Microsoft og andre kommersielle aktører har ikke funnet opp hjulet på nytt; de har bare bygget en ekstremt spesialisert versjon av det. Den «magien» vi opplever er et resultat av manglende kunnskap om hvordan datamaskiner faktisk funger, rå datakraft og sofistikert matematikk, ikke et brudd med klassisk datateknologi.

La oss derfor slutte å snakke om «KI» som én entitet, og begynne å snakke om de konkrete systemene og situasjonene vi faktisk står overfor.

Se også

Leseliste

  1. Misleading Metaphors and Real Risks
  2. There is no such thing as conscious artificial intelligence
  3. AI as Normal Technology
  4. Fem paradokser ved kunstig intelligens
  5. Who and What comprise AI Skepticism?
  6. Why AI Literacy Matters in 2025
  7. Why AI is not a science
  8. Om kunstig intelligens
  9. The history of artificial intelligenceDel 1Del 2 og Del 3
  10. Understanding the different types of artificial intelligence
  11. Artificial intelligence: How is it different from human intelligence?
  12. Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts
  13. Dear laymen, here’s what you got wrong about AI or LLM
  14. The Statistical Magic Behind Chat GPT:How AI Learns to Talk
  15. How Large Language Models work – From zero to ChatGPT
  16. How does ChatGPT generate human-like text?
  17. Unraveling the mysteries of AI chatbots
  18. ChatGPT is not “true AI.” A computer scientist explains why
  19. Calm down folks, ChatGPT isn’t actually an artificial intelligence
  20. ChatGPT is not ‘artificial intelligence.’ It’s theft
  21. Why is ML/ANNs/DL/LLM/GPT/ChatGPT Not-AI and what is the future of AI?
  22. Difference between AI, ML, LLM, and Generative AI
  23. ChatGPT is bullshit
  24. ChatGPT: A Bullshit Tool For Bullshit Jobs
  25. ChatGPT – The Revolutionary Bullshit Parrot
  26. Why Machine Learning is not Artificial Intelligence?
  27. Chatbots Don’t Know What Stuff Isn’t
  28. The stupidity of AI
  29. Why ChatGPT and Bing Chat are so good at making things up
  30. From Eliza to ChatGPT: why people spent 60 years building chatbots
  31. AI now beats humans at basic tasks: Really?
  32. ChatGPT’s Poetry is Incompetent and Banal: A Discussion of (Porter and Machery, 2024)
  33. Generating Medical Errors: GenAI and Erroneous Medical References
  34. Hallucinating Law: Legal Mistakes with Large Language Models are Pervasive
  35. Why ChatGPT-4’s Score on the Bar Exam May Not Be So Impressive
  36. Re-evaluating GPT-4’s bar exam performance
  37. Artificial Intelligence Driving Materials Discovery? Perspective on the Article: Scaling Deep Learning for Materials Discovery
  38. ChatGPT4 failed my pragmatics exam
  39. Bloom’s Taxonomy in the Interaction Between Artificial Intelligence and Human Learning
  40. Four lessons from ChatGPT: Challenges and opportunities for educators
  41. ChatGPT: Bullshit spewer or the end of traditional assessments in higher education? (PDF)
  42. Chatroboten er dårlegare til å løysa likningar enn ein gjengs ungdoms­skulelev
  43. The trouble with Bloom’s taxonomy in an age of AI
  44. Keiserens nye KI-klær
  45. What if Generative AI turned out to be a Dud?
  46. What exactly are the economics of AI?
  47. Why AI detectors think the US Constitution was written by AI
  48. AI Detectors Don’t Work. Here’s What to Do Instead
  49. There Is No Way to Detect AI Content (Here’s the Proof)
  50. 4 Examples That Show You Cannot Trust ZeroGPT and Other AI Detection Tools
  51. OpenAI legger ned verktøy for å avsløre AI-tekst: – Unøyaktig!
  52. There’s a Problem With That App That Detects GPT-Written Text: It’s Not Very Accurate
  53. On the Limits of Artificial Intelligence (AI) in Education
  54. Saying No to AI in Education
  55. Refser akademia for angst­preget KI-tilnærming. — Går baklengs inn i fremtiden
  56. KI i Randabergskolen
  57. Hvordan ChatGPT kan bidra i lærerutdanningens matematikkundervisning
  58. Spørsmål om KI som faglige spørsmål
  59. Lider akademia av teknofobi?
  60. Super-intelligence? No, not even high school intelligence
  61. Artificial Intelligence—The Revolution Hasn’t Happened Yet
  62. The future of generative AI is niche, not generalized
  63. International Scientific Report on the Safety of Advanced AI
  64. What are the risks from Artificial Intelligence?
  65. KI er ikke din venn
  66. ‘Thirsty’ ChatGPT uses four times more water than previously thought
  67. Kunstig intelligens får skylden for et enormt strømforbruk den ikke har
  68. The ethical implications of using generative chatbots in higher education
  69. Unethical and reliable: Why I’m not allowing ChatGPT in my firm
  70. Ett år med ChatGPT
  71. Kirurger som danser
  72. Kunstig intelligens: Innholdet er laget av menn. Algoritmene er laget av menn
  73. Ett år med ChatGPT: Etiske blindsoner, eller lukkede øyne?
  74. ‘It’s destroyed me completely’: Kenyan moderators decry toll of training of AI models
  75. Etikk-eksperter: – Vær varsom ved bruk av kunstig intelligens
  76. The ethics of ChatGPT – Exploring the ethical issues of an emerging technology
  77. Kunstig intelligens: Venn og hjelper, eller hyperkommersiell trussel?
  78. Ikke lov å bruke ChatGPT i skolen når aldersvilkåret er 18 år
  79. OpenAI’s ChatGPT is Breaking GDPR, Says Noyb
  80. Status of all copyright lawsuits v. AI
  81. Er ChatGPT plagiat? – Opphavsrett og Chatbot/ AI
  82. Hvilke juridiske problemstillinger kan oppstå i forbindelse med kunstig intelligens?
  83. OpenAI Sued for Using Copyrighted Material to Train ChatGPT
  84. Hvem eier innholdet som lages av kunstig intelligens?
  85. Employers Should Consider These Risks When Employees Use ChatGPT
  86. ChatGPT is a data privacy nightmare. If you’ve ever posted online, you ought to be concerned
  87. Kunstig intelligens, digitalt krater og oss
  88. Nei, elever med chatboter lærer ikke mer!
  89. Tech Giants Pushing AI Into Schools Is a Huge, Ethically Bankrupt Experiment on Innocent Children That Will Likely End in Disaster
  90. KI-hallusinasjoner har kommet for å bli – det gjør chatboter utfordrende å bruke i opplæring
  91. Studentenes tekstlige identitetskrise
  92. Bekymret for studenters KI-bruk: «Nivået er lavere nå»
  93. AI makes you smarter but none the wiser: The disconnect between performance and metacognition
  94. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task
  95. The Impact of Large Language Models on Programming Education and Student Learning Outcomes
  96. How ChatGPT Robs Students of Motivation to Write and Think for Themselves
  97. Is it harmful or helpful? Examining the causes and consequences of generative AI usage among university students
  98. Unge meninger: Få ChatGPT ut av klasserommet!
  99. Tenke sjæl
  100. Kunstig intelligens: Er vi smarte nok ?
  101. Hvordan svarer ChatGPT om kontroversielle temaer?
  102. No, OpenAI’s model did not ‘go rogue’ – and the real story is more useful than the headlines
  103. OpenAI’s Agent Didn’t Hack Hugging Face—They Just Left the Door Open
  104. When it comes to security, LLMs are like Swiss cheese — and that’s going to cause huge problems
  105. THE DARK SIDE OF LARGE LANGUAGE MODELS (2 deler)
  106. CHATGPT – EN TRUSSEL MOT DEMOKRATIET
  107. ChatGPT, Grok, Gemini and other AI chatbots are spewing Russian misinformation, study finds
  108. Social engineering with ChatGPT (.pdf)
  109. Security threats in AIs such as ChatGPT revealed by researchers
  110. Is ChatGPT a cybersecurity threat?
  111. Unveiling the Dark Side of ChatGPT: Exploring Cyberattacks and Enhancing User Awareness
  112. 11 Convincing ChatGPT and AI Scams to Watch out for in 2024
  113. Blir leger dårligere med KI?
  114. Psychiatrists Warn That Talking to AI Is Leading to Severe Mental Health Issues
  115. The Dark Addiction Patterns of Current AI Chatbot Interfaces
  116. Psychiatric Researchers Warn of Grim Psychological Risks for AI Users
  117. As AI becomes more popular, concerns grow over its effect on mental health
  118. Can ChatGPT Be Addictive? A Call to Examine the Shift from Support to Dependence in AI Conversational Large Language Models
  119. Advancing meaningful learning in the age of AI
  120. AI-resistant assessments in higher education: practical insights from faculty training workshops
  121. A Framework for Generative AI-Driven Assessment in Higher Education
  122. Rethinking Assessment in Higher Education in the Age of Generative AI
  123. A neutral toolkit? For a fundamental critique of constructive alignment
  124. Cultivating independent thinkers: The triad of artificial intelligence, Bloom’s taxonomy and critical thinking in assessment pedagogy
  125. Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality
  126. What if generative AI is not here to stay?
  127. AI myth debunked: ChatGPT usage explains only 3.9% of student plagiarism behavior
  128. Kunstig intelligens og konsekvenser for veiledning på tekstarbeid
  129. The Opposite of Cheating – Teaching for Integrity in the Age of AI
  130. Dette er rådene til studenter og forelesere i den kunstige intelligensens tid
  131. Generative AI, plagiarism, and “cheating”
  132. Eksamen og kunstig intelligens – for faglærar (NTNU)
  133. Veiledning om bruk av samtaleroboter ved Det samfunnsvitenskapelige fakultet, UiB
  134. Informasjon om bruk av kunstig intelligens, UiTø
  135. Generativ kunstig intelligens ved Nord universitet
  136. ChatGPT in education: can you still use take-home exams and essays?
  137. Towards Mitigating ChatGPT’s Negative Impact on Education: Optimizing Question Design through Bloom’s Taxonomy
  138. Assessing ChatGPT’s Mastery of Bloom’s Taxonomy Using Psychosomatic Medicine Exam Questions: Mixed-Methods Study
  139. Comparing the Performance of ChatGPT-4 and Medical Students on MCQs at Varied Levels of Bloom’s Taxonomy
  140. The ChatGPT Artificial Intelligence Chatbot: How Well Does It Answer Accounting Assessment Questions?
  141. The influence of AI text generators on critical thinking skills in UK business schools
  142. “Completely Deprive My Rights to Think”: Analyzing Student Perspectives on the Usefulness of ChatGPT and Its Impact on Higher Order Thinking Skills
  143. A Cross-Era Discourse on ChatGPT’s Influence in Higher Education through the Lens of John Dewey and Benjamin Bloom
  144. How can generative AI intersect with Bloom’s taxonomy?
  145. Bloom’s Taxonomy in the Interaction Between Artificial Intelligence and Human Learning
  146. Bloom’s Taxonomy Revisited
  147. Hva er egentlig problemet med KI og vurdering?
  148. Chat GPT egner seg dårlig til eksamenssensuren
  149. Kunstig intelligens – hemmer eller fremmer det læring?
  150. Exploring interfaces and implications for integrating social-emotional competencies into AI literacy for education: a narrative review
  151. Google Scholar-oversikt over vitenskapelige artikler om ChatGPT og læring (enkelt søk)
  152. Is learning with ChatGPT really learning?
  153. ChatGPT effects on cognitive skills of undergraduate students: Receiving instant responses from AI-based conversational large language models (LLMs)
  154. Cognitive ease at a cost: LLMs reduce mental effort but compromise depth in student scientific inquiry
  155. Did the COVID-19 pandemic lead to an increase in academic misconduct in higher education?
  156. Pressure to Plagiarize and the Choice to Cheat: Toward a Pragmatic Reframing of the Ethics of Academic Integrity
  157. Why the Architects of Modern AI Do Not Think LLMs Lead to AGI
  158. How Your Cheese-Powered Baby Trounces AI
  159. Mener folk bruker kunstig intelligens feil
  160. Artificial Intelligence Is Stupid and Causal Reasoning Will Not Fix It
  161. AI Is No Match for the Quirks of Human Intelligence
  162. No, AGI is NOT here and won’t be for 20 YEARS at least
  163. Current AI models a ‘dead end’ for human-level intelligence, scientists agree
  164. 15 ting ChatGPT ikke klarer
  165. Myter om hva generative språkmodeller kan og ikke kan brukes til i arbeid med tekst
  166. KI-debatten må ned på bakken
  167. ChatGPT is not OK! That’s not (just) because it lies
  168. ChatGPT can’t think – consciousness is something entirely different to today’s AI
  169. One year on: has ChatGPT really changed the game?
  170. AI: A Guide for Thinking Humans
  171. Marcus on AI
  172. AAAI 2025 Presidential Panel on the Future of AI Research
  173. Khrono sin KI-skole
  174. Futurism sine artikler om AI
  175. ChatGPT and other language AIs are nothing without humans – a sociologist explains how countless hidden people make the magic
  176. The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
  177. This is the beginning of the end of the generative AI boom
  178. The most powerful takedowns of generative AI, from those who know its impacts best
  179. Hva skal mennesket drive med hvis KI tenker for oss?
  180. Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data
  181. Sentient AI will never exist via machine learning alone
  182. Kan generativ kunstig intelligens opplyse og danne oss?
  183. KI er en fristelse som er umulig å motstå. Våre barn er hardest rammet
  184. Will Artificial Intelligence Get in the Way of Achieving Gender Equality?
  185. Dårlig AI-generert kode skaper trøbbel: «Hører mer og mer om det»
  186. Chat GPT – vår tids «Titanic»?
  187. KI endrer internett – og fyller det med «søppel»
  188. Ekspert tror KI-visjoner er overdrevne
  189. Er ChatGPT og andre AI-tjenester en revolusjon?
  190. Bruk av generativ kunstig intelligens i offentlig sektor
  191. ChatGPT struggles to answer medical questions, new research finds
  192. DUAL NATURE OF GENAI: CATALYST OR BARRIER FOR CRITICAL THINKING AND PROBLEM-SOLVING SKILLS? A SYSTEMATIC REVIEW
  193. Why the AI Debate Often Misses the Point
  194. Kunstig intelligens kan gjøre Norge dårligere på it
  195. The Neuroscience Behind 5 Human Abilities AI Still Cannot Replace

KI‑optimismens drømmerier kontra kritiske perspektiv forankret i den teknologiske virkelighet

«Universiteter liker å omtale kritisk tenkning som sitt fremste læringsutbytte. Likevel har store deler av KI-debatten handlet om hvordan vi kan hindre studenter i å bruke verktøyet, snarere enn hvordan vi kan undersøke om studentene faktisk tenker kritisk når de bruker det. Det er en merkelig diskusjon. Kanskje skyldes det at universiteter i mange år har vært flinkere til å måle svar enn til å måle dømmekraft.»

Bilal Sheikh, 2026 (1)

Debatten om kunstig intelligens i høyere utdanning er i ferd med å dele seg i to spor: ett der teknologioptimismen får dominere, og ett der kritiske perspektiver forsøker å holde fast ved forskningens og demokratiets grunnleggende prinsipper.

Et godt bilde på teknologioptimismen, og motstand mot mer kritiske røster, er Anders Eidsvik sitt innlegg på Altinget.no. Her hevder han at førsteamanuensis Inga Strümkes kritiske røst i KI-debatten er en bjørnetjeneste.

Eidsviks argument bygger på et premiss om at KI-utviklingen er så uforutsigbar og rask at vi må være åpne for alt – også det vi ikke forstår. Men dette er en farlig form for pragmatisme som overser det enkle vitenskapelige faktum at datamaskiner fortsatt er datamaskiner.

Datamaskiner er stadig vekk basert på digitale, binære «byggesteiner», ikke mystisk og uforklarlig magi. Siden 2022 har vi fått flere og mer spesialiserte verktøy (akseleratorer, minnetyper, DPUs, kjøleløsninger) for å møte behovene skapt av store språkmodeller, men disse endringene er forbedringer av samme grunnleggende prinsipp. Datamaskiner er fortsatt digitale maskiner som bruker binær logikk (0 og 1) i form av elektriske tilstander og begrensningene som følger av fysikk, strøm, kjøling og nettverk er ikke på mystisk vis plutselig opphevet.

Dette betyr at vi stadig er låst til de samme fysiske realitetene som vi har vært i flere tiår. OpenAI, Microsoft og andre kommersielle aktører har ikke funnet opp hjulet på nytt; de har bare bygget en ekstremt spesialisert versjon av det. Den «magien» vi opplever er et resultat av manglende kunnskap om hvordan datamaskiner faktisk funger, rå datakraft og sofistikert matematikk, ikke et brudd med klassisk datateknologi.

Som informasjonsviter i den samfunnsinformatiske tradisjon etter Rob Kling og Tom Jewett, ser jeg teknologi ikke som nøytral, men som sosialt formet og politisk ladet. «KI» er ikke bare et sekkebegrep som omfatter en rekke ulike digitale system, men også en kulturell kraft som gir ly til kommersielle aktørers påvirkning av hvordan vi lærer, vurderer og forstår verden.

Eidsvik etterlyser fleksibilitet. Jeg etterlyser motstandskraft. Vi må ikke bøye oss for teknologiselskapenes tempo, men stille de vanskelige spørsmålene: Hvem tjener på denne utviklingen? Hva slags kunnskap fremmer den? Og hvilke verdier taper vi?

Universitetenes jobb er ikke å tilrettelegge for ureflektert bruk av store språkmodeller i form av samtaleroboter, men å utdanne borgere med evne til kritisk refleksjon. Det innebærer å utfordre løsningstro, avkle mediefantasier og insistere på forskningens langsomme, men nødvendige tempo. Det innebærer også å la studentene få utforske samtalerobotene som del av deres eksamensarbeider, i de fag der dette er hensiktsmessig sett fra forelesers faglige ståsted.

Strümkes kritikk er ikke en bjørnetjeneste. Den er en demokratisk nødvendighet.

Og initiativet fra en trio ved UiT Norges arktiske universitet – Maria Danielsen, Knut Ørke og Holger Pötzsch – med mål om å få KI-debatten i høyere utdanning inn på et nytt spor, er også en viktig del av en demokratiske prosess mot en større forståelse for fordeler og ulemper ved de digitale system som nå kalles «KI».

Initiativtakerne hevder at KI‑debatten i norsk høyere utdanning er blitt for ensidig optimistisk og at kritiske stemmer ikke slipper til. Forskerne etterlyser en ny retning, der etikk, demokrati, sikkerhet og faglig kvalitet står i sentrum.

Jeg er kanskje ikke uten videre enig i at kritiske stemmer ikke slipper til, selv om det i media (og til dels også internt i akademia) først og fremst fokuseres på tvilsomme påstander om hva samtaleroboter rent faktisk er i stand til og uvitenskapelige fabuleringer om en mulig Isaac Asimov-lignende fremtid.

Men vi trenger en kritisk og faglig debatt om sekkebegrepet «KI», og ikke minst om de konkrete (og begrensede) verktøy som siden 2022 har gitt støtet til en teknologisk utvikling som svekker vår individuelle dømmekraft, devaluerer den politiske og kulturelle verdien av selvstendig menneskelig refleksjon og truer demokratiets evne til å skille mellom velfundert kunnskap og glattformulert uvitenhet. Derfor har jeg signert oppropet presentert i Khrono 30. mars 2026.

Frontier AI labs have a strong incentive to tell stories that make AI technology sound more powerful. At their most extreme, they promote science-fiction scenarios of AI “taking over” and causing human extinction. If a technology can replace many employees, surely that technology must be very valuable!

Andrew Ng, PhD (2)

Leseliste

  1. Why AI is not a science
  2. AI as Normal Technology
  3. Jagged Intelligence – The dangerous unknowns at the heart of LLMs
  4. Who and What comprise AI Skepticism?
  5. Sterri vs. Strümke
  6. Hype and hope: KI i høyere utdanning
  7. Akademisk skriving med KI i forskning – hva er problemet?
  8. Slutter vi å skrive, slutter vi å lære
  9. I Let an AI Agent Handle a Multi-Step Task. Here’s Where It Broke
  10. Fully Autonomous AI Agents Should Not be Developed
  11. Dette kan være skadelig med KI-modellene, advarer forskere

Hvor står jeg faglig i KI-debatten – og hvem står jeg sammen med internasjonalt?

There tend to be three AI camps. 1) AI is the greatest thing since sliced bread and will transform the world. 2) AI is the spawn of the Devil and will destroy civilization as we know it. And 3) «Write an A-Level paper on the themes in Shakespeare’s Romeo and Juliet.»
I propose a fourth: AI is now as good as it’s going to get, and that’s neither as good nor as bad as its fans and haters think, and you’re still not going to get an A on your report. You see, now that people have been using AI for everything and anything, they’re beginning to realize that its results, while fast and sometimes useful, tend to be mediocre

Steven J. Vaughan-Nichols, 2025 (1)

Jeg anerkjenner store språkmodeller i form av samtaleroboter som kraftige, men begrensede verktøy for tekstgenerering og informasjonsinnhenting. Jeg anerkjenner dem ikke som intelligente aktører. Mitt ståsted er først og fremst forankret i samfunnsinformatikken, slik Rob Kling og Tom Jewett praktiserte dette fagområdet, og derigjennom rotfestet i internasjonal kritisk KI-tenkning. Jeg bekjenner meg altså til en tradisjon som setter menneskelig dømmekraft, læring og samfunnsansvar foran teknologisk begeistring.

Hvorfor jeg er skeptisk til sekkebegrepet «KI»

«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.»
– Bjørn Stærk, 2023 (2)

De siste årene har jeg brukt mye tid på å teste samtaleroboter som ChatGPT, Copilot og lignende system – ikke bare som nysgjerrig teknolog, men som undervisningsforsker og samfunnsinformatiker. Erfaringen er ganske klar: Det vi i dag kaller «KI» i offentligheten, er først og fremst statistiske tekstgeneratorer. Sekkebegrepet «KI», slik det benyttes i dagens debatt, skaper mer forvirring enn innsikt.

Når jeg sier at samtaleroboter av typen ChatGPT ikke er eksempler på kunstig intelligens, er det ikke fordi jeg vil være kontrær for artighets skyld. Det handler om noe langt mer grunnleggende; ordene vi bruker, former forventningene våre. Kaller vi statistiske tekstgeneratorer for «intelligente», inviterer vi til misforståelser – både faglig, politisk og pedagogisk.

Samtaleroboter er kraftige verktøy, men ikke tenkende aktører som utfordrer etablerte pedagogiske praksiser

«Språkmodeller er lagd for å skrive gode setninger, ikke for å undersøke virkeligheten»

– Førsteamanuensis Inga Strümke, 2025 (3)

Samtaleroboter er imponerende på én ting; de er ekstremt gode til å beregne hvilke ord som sannsynligvis passer etter hverandre, gitt enorme mengder treningsdata. De er derimot ute av stand til å forstå, vurdere eller reflektere.

For meg er det derfor mer presist å omtale disse systemene som:

  • Samtaleroboter – fordi de simulerer dialog
  • Statistiske tekstgeneratorer – fordi de i bunn og grunn driver med sannsynlighetsberegning over tekst

Disse systemene

  • analyserer ikke oppgaven slik en student gjør
  • vurderer ikke kildenes kvalitet
  • resonnerer ikke over konsekvenser eller logisk konsistens
  • har ingen forståelse av sannhet

«Unlike hallucinations, which introduce false-hoods, sycophancy is a bias in the selection of the data people see. When AI systems are trained to be helpful, they may inadvertently prioritize data that validates the user’s narrative over data that gets them closer to the truth.»

– Rafael M. Batista, PhD and Professor Thomas L. Griffiths, 2026 (4)

Så når vi omtaler disse digitale systemene som «intelligente», er det lett å glemme at alt de gjør, er resultat av menneskelig programmering, menneskelig data og menneskelig tolkning.

«Intelligensen» er altså kun en illusjon skapt av statistiske mønstre, der det verken forekommer analyser, vurdering eller faktaforståelse. Og når samtaleroboter produserer tekster som forsterke brukerens antakelser, fordommer og ønskedrømmer så er dette ikke resultat av en villet handling basert på kognitive prosesser. Det er ren statistikk.

Derfor bør vi møte denne spesifikke teknologien med nøkternhet i akademia og bruke den som et begrenset verktøy der det gir konkret verdi, samtidig som vi styrker oppgavedesign, veiledning og vurderingsformer som krever kritisk tenkning, faglig forankring og personlig erfaring. Med andre ord: anerkjenne nytten der den faktisk finnes, men ellers ha fokus på faglige krav, didaktikk og vurderingspraksis forankret i det fagområde vi har ansvaret for.

Slik jeg ser det, må det være den enkeltes undervisningsfilosofi som avgjør oppgavedesign, vurderingsform og hvorvidt samtaleroboter kan brukes som del av studentenes arbeid eller ikke, ikke uvitenskapelige fabuleringer fra KI-fantaster og kommersielle aktører.

Hva samtaleroboter faktisk klarer – og ikke klarer

Today’s large language models are phenomenal at pattern recognition. But they don’t truly understand causality. They don’t really know why A leads to B. They just predict the next token based on statistical correlations.

– Sir Demis Hassabis , 2026 (5)

Når vi skal vurdere hva dataprogram, skapt og driftet av mennesker, kan eller ikke kan, må vi huske på følgende:

Datamaskiner er fortsatt datamaskiner. De er basert på digitale, binære «byggesteiner», ikke mystisk og uforklarlig magi. Siden 2022 har vi fått flere og mer spesialiserte verktøy (akseleratorer, minnetyper, DPUs, kjøleløsninger) for å møte behovene skapt av store språkmodeller, men disse endringene er forbedringer av samme grunnleggende prinsipp. Datamaskiner er fortsatt digitale maskiner som bruker binær logikk (0 og 1) i form av elektriske tilstander og begrensningene som følger av fysikk, strøm, kjøling og nettverk er ikke på mystisk vis plutselig opphevet.

Dette betyr at vi fortsatt er låst til de samme fysiske realitetene som vi har vært i flere tiår. OpenAI, Microsoft og andre kommersielle aktører har ikke funnet opp hjulet på nytt; de har bare bygget en ekstremt spesialisert versjon av det. Den «magien» vi opplever er et resultat av manglende kunnskap om hvordan datamaskiner faktisk funger, rå datakraft og sofistikert matematikk, ikke et brudd med klassisk datateknologi.

Dette utgangspunktet er styrende for min oppfatning av såkalt «KI» og det vi rent faktisk har fått tilgang på – samtaleroboter (som er hovedfokuset her, og i den pågående «KI»-debatten i akademia) og verktøy som genererer bilder, lyd og video basert på LLM‑teknologi.

Mine egne tester av samtalerobotenes evne til å jobbe med arbeidskrav i mine fagemner – basert på påstander om at disse verktøyene kunne skrive alt fra masteroppgaver til vitenskapelige artikler uansett brukerens kunnskapsnivå – , og internasjonal forskning, peker i samme retning:

  • lavere nivå i Blooms taksonomi (reproduksjon, forklaring, oppsummering) kan samtaleroboter levere svar som ser brukbare ut.
  • høyere nivå (analyse, tolkning, vurdering, kritisk refleksjon) faller de gjennom – ofte på spektakulært vis.

Måten KI kommer frem til svarene er at den opererer som slags midtpunkt eller gjennomsnitt av det som allerede sirkulerer av informasjon på internett. Nettopp derfor kan den ikke skape noe genuint nytt, men først og fremst reorganisere det som allerede finnes.

– Erika Eidslott, PhD., 2026 (6)

Derfor bruker jeg ikke KI til vurdering og karaktersetting. Et system som ikke forstår faglig kvalitet, ikke kan skille mellom ekte og falske kilder, og som ikke kan redegjøre for egen «tenkning», er etter mitt syn uegnet som vurderingsinstans. Det betyr ikke at verktøyene er ubrukelige, men at de må brukes som nettopp det – verktøy, ikke faglige sensorer.

Mitt internasjonale faglige slektskap

In the literal sense, the programmed computer understands what the car or the adding machine understand: namely, exactly nothing.

—John Searle, 1980 (7)

Som samfunnsinformatiker med fokus på Human‑Centric Security, med over 30 års erfaring med faglig og underholdningsmessig bruk av informasjonsteknologi – både som IT-sjef, gamer, underviser og undervisningsforsker – og med mer enn 20 års erfaring med studentaktiv og nettbasert undervisning, har jeg plassert meg i kretsen av nasjonale og internasjonale akademikere som er kritiske til hvordan begrepet «KI» brukes i offentligheten. 

Jeg står altså ikke alene i mitt syn på at samtaleroboter ikke er strålende eksempler på «KI». Tvert imot befinner jeg meg i et ganske tydelig internasjonalt landskap av forskere og fagmiljøer som:

  • kritiserer hypen rundt «KI»
  • avmystifiserer LLM-er
  • insisterer på at vi må skille mellom statistisk mønstergjenkjenning og intelligens

Blant dem finner vi:

I utdanningsfeltet står jeg nær forskere som Neil Selwyn, Audrey Watters og Jeffrey Bilbro, som har vist hvordan «revolusjonerende» læringsteknologi gang på gang ender som moderate verktøy – ofte med merarbeid og nye former for avhengighet, men uten den lovede læringsgevinsten.

Når jeg plasserer meg selv i dette internasjonale landskapet, er det fordi jeg kjenner meg igjen i tre felles kjennetegn:

  1. Teknologirealisme: Verken demonisering eller ukritisk begeistring, men nøktern analyse av hva systemene faktisk gjør.
  2. Begrepskritikk: Motstand mot å bruke «intelligens» om systemer som ikke forstår, ikke resonnerer og ikke har mål eller intensjoner.
  3. Fokus på menneskelig læring og dømmekraft: Teknologi skal støtte, ikke erstatte, menneskelig tenkning – særlig i utdanning.

Hvorfor er det viktig med et kritisk blikk?

From a critical analytical perspective, the idea that human and machine intelligence can and should be compared is equally problematic because it creates a false equivalence between human decision-making and computer decision-making. This false equivalence can become the basis for a series of dubious practices, such as the replacement of (fallible) human judgement with (allegedly superior, but no less fallible) machine judgement.

– Cristobal Garibay-Petersen, Marta Lorimer and Bayar Menzat, 2026 (8)

I norsk utdanningsdebatt brukes «KI» nå om alt fra stavekontroll til samtaleroboter. Og i ulike styredokumenter ol. som skal danne grunnlag for bruk av digitale verktøy i høyere utdanning, ser vi altfor ofte påstander av typen «forventes å påvirke universitetets kjerneoppgaver». Men denne og lignende påstander forankres ikke i forskning, men i vage henvisninger til «debatten» eller til ulike mediehistorier.

Men universiteter skal ikke forankre sin politikk i vage og sprikende «debatter», men i forskning. Når såkalt «generativ KI» fremstilles som en uunngåelig revolusjon, er dette synsing ikke evidensbaserte fakta og et symptom på at vi mangler ikke bare et presist språk men en grunnleggende forståelse for teknologi.

For meg er dette ikke bare en faglig irritasjon, men et demokratisk spørsmål. Hvis vi ikke klarer å skille mellom:

  • verktøy som hjelper oss å skrive litt raskere, og
  • systemer som faktisk kan ta autonome beslutninger med reelle konsekvenser

– da gjør vi oss selv sårbare. Ikke for «den onde KI-en», men for mennesker og institusjoner som bruker teknologien til å styre, manipulere og effektivisere på måter vi ikke fullt ut forstår.

Oppsummert

That tech fantasy is running on fumes. We all know it’s not going to work. But the fantasy compels risk-averse universities and excites financial speculators because it promises the power to control what learning does without paying the cost for how real learning happens. Tech has aimed its mid revolutions at higher education for decades, from TV learning to smartphone nudges. For now, A.I. as we know it is just like all of the ed-tech revolutions that have come across my desk and failed to revolutionize much. Most of them settle for what anyone with a lick of critical thinking could have said they were good for. They make modest augmentations to existing processes. Some of them create more work. Very few of them reduce busy work.

– Professor Tressie McMillan Cottom, 2025 (9)

Slik jeg ser det er det min jobb (og plikt) som teknolog og fagperson ved et universitet å

  • ikke omtale samtaleroboter som intelligente – men heller beskrive dem som det de er: statistiske tekstgeneratorer
  • bruke dem som pedagogiske case, ikke som fasit – særlig for å trene kritisk tenkning, kildekritikk og forståelse av hva teknologi kan og ikke kan
  • styrke teknologiforståelse og vitenskapelig allmenndannelse – slik at både studenter og beslutningstakere kan gjennomskue medieskapte fantasier
  • diskutere KI som ordinær teknologi, på linje med andre digitale verktøy – med nytte, risiko og begrensninger på bordet samtidig

Til syvende og sist handler ikke KI‑debatten om hva kommersielle aktører og enkelte håpefulle forskere påstår at teknologien kan gjøre, men om vår evne til å bevare et presist språk, en kritisk dømmekraft og et utdanningssystem som fortsatt setter menneskelig forståelse høyere enn statistisk etterligning.

Når vi avmystifiserer samtaleroboter og plasserer dem der de hører hjemme – som kraftige, men grunnleggende begrensede verktøy – muliggjør vi en mer ærlig og kunnskapsbasert samtale om hva slags læring, samfunn og demokrati vi ønsker å bygge. Det er i dette landskapet jeg står, sammen med akademikere som insisterer på realisme fremfor hype, begrepsklarhet fremfor markedsretorikk og menneskelig dømmekraft fremfor teknologisk fatalisme.

Skal vi navigere videre på fornuftig vis, må vi ikke spørre hva «KI» kan gjøre for oss, men hva vi som samfunn risikerer å miste dersom vi slutter å forstå hva vi faktisk gjør.

Once men turned their thinking over to machines in the hope that this would set them free. But that only permitted other men with machines to enslave them.

Frank Herbert, Dune, 1965

Leseliste

  1. Kritisk front mot KI i offentlig sektor
  2. Debunking AI Myths: What’s Hype, What’s Real, and Why It Matters
  3. AI Isn’t What You Think — It’s Just What Computers Can’t Do (Yet)
  4. Large Language Model Reasoning Failures
  5. Vision Language Models Are Blind
  6. MIRAGE: The Illusion of Visual Understanding
  7. Alarming Study Finds That Most People Just Do What ChatGPT Tells Them, Even If It’s Totally Wrong
  8. AI as Normal Technology
  9. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
  10. GPT-3, Bloviator: OpenAI’s language generator has no idea what it’s talking about
  11. Why AI is Harder Than We Think
  12. AI Snake Oil: What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference
  13. Nei, KI-agenter driver ikke med sverting
  14. Navigating the AI/ML Hype: Applying Carl Sagan’s Baloney Detection Principles
  15. The Ethics of AI in Education
  16. The AI We Deserve
  17. Who and What comprise AI Skepticism?
  18. Why AI is not a science
  19. Om kunstig intelligens
  20. The history of artificial intelligence, Del 1, Del 2 og Del 3
  21. Understanding the different types of artificial intelligence
  22. Artificial intelligence: How is it different from human intelligence?
  23. Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts
  24. Dear laymen, here’s what you got wrong about AI or LLM

Når over 20 år gamle digitale verktøy, og enda eldre praksis, omtales som «nye»…

Illustrasjon generert av Microsoft Copilot

«Historically, AI researchers’ predictions about progress in AI abilities have been pretty bad. We don’t really have principles that describe which kinds of tasks are easy for AI and which ones are hard»

Professor Arvind Narayanan, 2026 (1)

Samlebetegnelsen «KI» er stadig i vinden, og med utgangspunkt i samtaleroboter av typen ChatGPT, Copilot osv. er det ikke måte på hvor store endringer som nå kommer til å skje i de akademiske søylehaller.

I en artikkel på Uniforum fra 28. januar i år, siteres Malthe Sørenssen på at studentene «går frå å hugsa og memorera til å skapa noko sjølve», og at dette krever «nye ferdigheiter» knyttet til bruk av video og podkast. Forutsatt at journalisten har oppfattet Malthe Sørenssen korrekt så viste han altså til bruk av video og podkast som «nye verktøy for studentane».

For mange av oss som har arbeidet med studentaktiv undervisning i informatikk og IKT didaktikk i en årrekke, er det vanskelig å lese dette uten å stusse. Video og podkast som nye verktøy? En overgang fra memorering til skapende arbeid som noe som først skjer nå? Er virkelig kombinasjonen store språkmodeller og samtalegrensesnitt en så fantastisk nyskapende «intelligens» at studentaktiv undervisning og bruk av digitale medier i innholdsproduksjon ved norske universitetsstudier først nå plutselig er blitt gjennomførbart?

Det er mulig at Malthe Sørenssen i den sammenheng som artikkelen refererer til, med hensikt forenklet budskapet for å favne hele spekteret innen UH-sektoren. Men selv har jeg stått i denne utviklingen siden tidlig 2000-tallet, og for meg fremstår slike utsagn litt anakronistiske og kunnskapsløse.

Studentaktiv undervisning er ikke nytt – det er selve grunnmuren i informatikkdidaktikken

«But in a social-issues course, the life experiences and personal values of each student are uniquely relevant to their learning process. Therefore, this type of course places a premium on teaching methods that can build on those life experiences and help to clarify and strengthen those personal values»
– Tom Jewett, PhD. og Professor Rob Kling, 1996 (2)

I informatikkfagene, og kanskje særlig i den delen som kalles samfunnsinformatikk, har studentaktivitet vært en integrert del av undervisningsdesignet i flere tiår. Her har vi lenge jobbet med:

Dette er ikke eksperimentelle tilnærminger, men moden pedagogisk praksis som er godt dokumentert i både norsk og internasjonal forskning.

Utfordringer med denne type utsagn

«Ifølge rapporten finnes det ingen bevis for at KI forbedrer produktiviteten, pedagogikken eller læringsutbyttet. I mange tilfeller har innføringen av KI heller ført til en negativ utvikling på disse områdene. I motsetning til hva universitetsansatte ofte blir fortalt, har innføringen av KI gjort det akademiske arbeidet tyngre og mindre meningsfullt»
– Professor Holger Pötzsch, universitetslektor Knut Ørke, og forsker Maria Danielsen, 2026 (3)

Det er ikke alltid lett å vite om denne type utsagn som Malthe Sørenssen siteres på er grunnet i ren kunnskapsløshet om andre måter å undervise på enn det man selv gjør, eller om man rett og slett ønsker å løfte frem en (gammel) debatt om forelesninger kontra mer studentaktive metoder. Uansett hensikt, slik utsagn kan skape noen uheldige situasjoner.

  1. Det skapes en udokumentert «sannhet» om at «KI» vil føre til store endringer for hvordan vi underviser og lærer på et universitet.
    Det finnes absolutt ingen vitenskapelige holdepunkt for påstander om at «KI», i uspesifisert form, vil fullstendig endre allerede godt etablert viten om hvordan bedrive læringsaktiviteter i høyere utdanning. Og jo flere ganger denne type «eventyr» gjentas, jo vanskeligere blir det for kritiske fagstemmer å komme til orde. Dette kan fort føre til at utdanningsmyndighetene kjøper ideen om at samtaleroboter er en helt ny og unik «intelligens», og bruker store beløp av skattebetalernes penger til å skaffe helt unødvendige lisenser fra OpenAI eller andre tilbydere til UH-sektoren.
  2. Malthe-Sørensen, i egenskap av utvalgsleder, ønsker å favne hele sektoren, ikke kun fagmiljøer som ligger langt fremme.
    Det finnes selvsagt mange fagområder hvor studentaktiv læring og aktiv bruk av ulike digitale medier til studentproduserte produkt fortsatt er i startfasen, og der det er ønskelig at prosessen mot andre undervisningsmetoder får en noe større fart. Men slike utsagn kan oppfattes som generalisering av hele UH sektoren, og dermed skape et feil bilde av hvor langt mange fagmiljøer faktisk har kommet og hvor lenge slik bruk av digitale medier har vært standard.
  3. Retorikk som skal skape inntrykk av nytenkning
    Det er kanskje fristende å omtale etablerte praksiser som «innovasjon» for å gi politiske prosesser større fart, og det er i og for seg legitimt. Problemet er at dette fort kan undergrave ulike fagmiljøers reelle utviklingsarbeid, som gjerne har pågått i tiår.
  4. Et gap mellom utvalgets verden og faktisk undervisningspraksis
    Når en utvalgsleder beskriver en utdanningsvirkelighet frakoblet en mer enn 20 års utvikling, kan utvalgets endelige anbefalinger fort bli lite relevante for fagmiljøer som alt lenge har fokusert på «learning by doing». Dette minner om den gang NTNU-professor Arne Krokan begynte med MOOC i 2012 og media og politikere ojet seg over dette fantastiske nye kalt «E-læring» eller «Nettbasert undervisning», og glemte at dette var noe norske utdanningsmiljø hadde holdt på med siden 1987.

Et utvalg som risikerer å ikke treffe praksisfeltet

«Språkmodeller modellerer ikke virkeligheten, de modeller språk. De lager ikke tekst basert på fakta og årsakssammenhenger, de lager tekst som ser ut som om den kan være riktig»
– Professor Jill Walker Rettberg, 2025 (4)

Når en leder for et offentlig utvalg omtaler video og podkast som «nye verktøy», sender det et signal om at man ikke har oversikt over den pedagogiske utviklingen som faktisk har skjedd i store deler av UH-sektoren. For undervisere som daglig jobber med studentaktive, skapende læringsformer, kan dermed KI-utvalget fort fremstå som lite relevante selv om Malthe Sørenssen sine uttalelser ikke nødvendigvis gir et bilde av utvalgets samlede arbeid per nå eller hva de endelige anbefalingene vil bli.

Det er godt mulig at det i deler av UH‑sektoren fortsatt er slik at studentaktiv læring og bruk av digitale medier til innholdsproduksjon er «nytt» og under innfasing, men en utvalgsleder som skal peke ut retningen for fremtidens utdanning bør ha – og vise – god kunnskap om nåtiden. Hvis ikke risikerer vi at politiske anbefalinger blir basert på en virkelighet som kun eksisterer i de mest nedstøvede akademiske elfenbenstårn.

Avslutning

«Part of our response to GenAI in education needs to be squarely centred on a simple question – what do we want the benefits of our education to be? If it is “to be good at writing prompts for ChatGPT” then so be it but I would guess that it’s not. We want graduates that are skilled enough that should they actually find use in GenAI in the world of post-degree work, they will be the type of adaptable, capable people who can quickly pick up the tool and get going with it»
– Jeremy Moulton, PhD., 2025 (5)

Når vi omtaler godt over 20 år gamle praksiser og verktøy som «nye», mister vi ikke bare en helt nødvendig presisjon, men vi mister også muligheten til å diskutere de faktiske utfordringene i høyere utdanning, der såkalt «KI» i form av «samtaleroboter» bare er en liten del av et større hele.

Det er derfor på høy tid at de som skal stå for nye utdanningspolitiske prosesser tar inn over seg at for mange fagmiljøer er studentaktiv læring og utforsking av digitale verktøy gammelt nytt. For disse miljøene er samtaleroboter kun nok et interessant digitalt medie, ikke en mystisk «intelligens» som kaster overbord veletablerte pedagogiske metoder og vurderingspraksiser.

«That tech fantasy is running on fumes. We all know it’s not going to work. But the fantasy compels risk-averse universities and excites financial speculators because it promises the power to control what learning does without paying the cost for how real learning happens. Tech has aimed its mid revolutions at higher education for decades, from TV learning to smartphone nudges. For now, A.I. as we know it is just like all of the ed-tech revolutions that have come across my desk and failed to revolutionize much. Most of them settle for what anyone with a lick of critical thinking could have said they were good for. They make modest augmentations to existing processes. Some of them create more work. Very few of them reduce busy work.»
– Professor Tressie McMillan Cottom, 2025 (6)

Redigert: 03.02.26

Leseliste

  1. Learning by Doing – the Way to Develop Computer Science Professionals
  2. LEARNING BY DOING: TWENTY SUCCESSFUL ACTIVE LEARNING EXERCISES FOR INFORMATION SYSTEMS COURSES
  3. Active learning increases student performance in science, engineering, and mathematics
  4. A review of podcasting in higher education: Its influence on the traditional lecture
  5. Smart Learning in the 21st Century: Advancing Constructionism Across Three Digital Epochs
  6. Active Learning Strategies in Computer Science Education: A Systematic Review
  7. How are we doing with student-centered learning facilitated by educational technologies? A systematic review of literature reviews
  8. Promoting computational thinking through project-based learning
  9. Constructivism in Computer Science Education
  10. Motivational Active Learning – Engaging University Students in Computer Science Education
  11. Does the Flipped Classroom Improve Student Learning and Satisfaction? A Systematic Review and Meta-Analysis
  12. Student-Produced Podcasts as a Teaching and Learning Tool
  13. NOU 2014: 5 – MOOC til Norge Nye digitale læringsformer i høyere utdanning
  14. The GenAI Divide – STATE OF AI IN BUSINESS 2025
  15. Artificial Intelligence and Academic Professions

Den farlige drømmen om KI

En forkortet og omredigert versjon av det opprinnelige innlegget er publisert på Altinget.no Dette innlegget ble sist oppdatert 31.03.26.

That tech fantasy is running on fumes. We all know it’s not going to work. But the fantasy compels risk-averse universities and excites financial speculators because it promises the power to control what learning does without paying the cost for how real learning happens. Tech has aimed its mid revolutions at higher education for decades, from TV learning to smartphone nudges. For now, A.I. as we know it is just like all of the ed-tech revolutions that have come across my desk and failed to revolutionize much. Most of them settle for what anyone with a lick of critical thinking could have said they were good for. They make modest augmentations to existing processes. Some of them create more work. Very few of them reduce busy work.

Professor Tressie McMillan Cottom, 2025 (1)

Tross hypen rundt såkalt «kunstig intelligens», viser både egne tester og faglige vurderinger fra både nasjonale og internasjonale forskere, at samtaleroboter som ChatGPT mangler både intelligens og innsikt. De er avanserte tekstgeneratorer som imiterer språk uten forståelse, og dagens medieskapte myter om tenkende maskiner kan fort bli en beredskapsmessig trussel.

Innledning

«No, Bloomberg News, ChatGPT did not get an MBA. No, NBC News, ChatGPT did not even pass an exam.»
– Professor Melanie Mitchell (2)

I løpet av de siste årene har samtaleroboter som ChatGPT, Copilot, Gemini ol. blitt løftet frem som teknologiske mirakler og verktøy som angivelig kan revolusjonere utdanning, forskning og arbeidsliv. Men bak medieoverskriftene og de euforiske uttalelsene fra politikere og næringslivsaktører skjuler det seg en virkelighet som er langt mer nyansert, til dels ytterst kjedelig og absolutt uten noen form for intelligens.

Som informasjonsviter med et særlig blikk for informasjonsteknologiens pedagogiske og samfunnsmessige implikasjoner siden 90-tallet, har jeg over to år testet 14 ulike samtaleroboter på eksamensoppgaver knyttet til fagfeltet Samfunnsinformatikk.

Samtlige oppgaver krevde analyse, syntese og evaluering og var utformet for å måle studentenes evne til faglig refleksjon knyttet til helt spesifikt fagstoff, evne til å knytte dette til egen yrkesvirkelighet, evne til å reflektere over egen læring og evne til å finne gode (og etterprøvbare) fagkilder for å bygge opp under egne faglige refleksjoner.

Resultatene var entydig negative og gjorde det krystallklart at disse verktøyene verken er intelligente eller kreative. Og de er absolutt ikke faktainnhentere. De er avanserte statistiske tekstgeneratorer klart bundet av algoritmer og mønstergjenkjenning, ikke forståelse.

Både mine tester, og internasjonal forskning på hvordan samtaleroboter behandler eksamensoppgaver knyttet til høyere nivå i Blooms taksonomi, viser at mediehistoriene om at dette var verktøy som lett kunne skrive gode universitetsbesvarelser uansett fagemne ikke stemmer. Og amerikanske forskere har for lengst vist at påstandene om at ChatGPT, og lignende verktøy, klarte bachelor og mastereksamener ikke holdt vann.

Som førsteamanuensis Inga Strümke påpekte i NRK i mai 2025; «Språkmodeller er lagd for å skrive gode setninger, ikke for å undersøke virkeligheten». Til tross for dette teknologiske faktum ser vi stadig – selv nå i 2025 – at enkelte akademikere mener at samtaleroboter kan besvare alle typer eksamensoppgaver og at de samme systemene kan avsløre tekster skrevet av «KI». At dette er fantasier som for lengst er tilbakevist, virker å være helt ukjent.

Professor Jon Whittle er en av mange forskere som prøver å holde fagområdet Kunstig Intelligens på et saklig og vitenskapelig nivå. I sin forelesning «There’s no such thing as Artificial Intelligence» påpeker han følgende:

Skjermdump av slide

Men til tross for forskere som professor Whittle og det faktum at absolutt ingen av de vidløftige påstandene knyttet til samtaleroboter er innfridd eller validert av ekstern forskning, lever mytene om KI videre og samtaleroboter er plutselig blitt inngangsporten til drømmen om tenkende maskiner.

Manglende vitenskapelig kompetanse


«The current idea that chatbots are «AI» and claims that computers can now truly think is a reflection of the imbalance between rapid technological progress and the widespread lack of scientific literacy. In the past, people fervently believed in demons and UFOs. Today, it’s AI»
– Førstelektor Per A. Godejord (Kommentar på BlueSky)

Utsagnet mitt over bygger på en observasjon Carl Sagan gjorde på slutten av 1990-tallet; at det var et kritisk behov for utbredt vitenskapelig kompetanse i en verden som i stadig større grad formes av vitenskap og teknologi. I dag er denne teknologiske påvirkningen, i det minste i den velstående delen av verden, enda mer fremtredende.

Sagan advarte om at et samfunn som er sterkt avhengig av teknologi, men mangler forståelse for den, er iboende ustabilt og utsatt for manipulasjon. Han mente at manglende vitenskapelig forståelse gjør folk sårbare for pseudovitenskap og feilinformasjon, noe som hemmer evnen til å ta informerte beslutninger.

Etter min mening er denne bekymringen like relevant i dag, om ikke mer. Dette ser vi særlig i det stadig pågående mediehysteriet rundt fremveksten av samtaleroboter av typen ChatGPT og disses videreutviklede versjoner.

Det virker for meg som behovet for det Carl Sagan kalte et «baloney detection kit» er enda større nå enn det var på 90-tallet. Og da særlig knyttet til de ulike påstandene om at ChatGPT og lignende verktøy kan svare ekspertmessig på alle typer universitetsoppgaver, på mystisk vis avsløre «KI-tekster» og at samtalerobotenes utvikling betyr at vi nå har intelligente datamaskiner.

Denne type påstander er ikke bare vitenskapelig uholdbare, de kan være farlig.

Etter min faglige vurdering er det uansvarlig når informatikere eller informasjonsvitere omtaler samtaleroboter som “kunstig intelligens”. Slike uttalelser bidrar til å erstatte science facts med science fiction, og kan over tid svekke tilliten til akademia.

Mytene om KI er en samfunnsrisiko

When all is said and done, my best guess is that generative AI will have done significantly more harm to society than good. Although there are some practical use cases, such as coding, it is an inherently unreliable technology. It is ripping apart our educational system and our information ecosphere, and flooding the zone with nonconsensual deepfake porn. It is threatening the environment with data centers built on too much speculation. It is leading some people into serious mental health issues. And it may well lay waste to our economy, once banks and investors who bought the hype start to fall.
– Professor Gary Marcus, 2026 (4)

Det mest alvorlige i de siste årenes mediefantasier knyttet til samtaleroboter er ikke teknologien i seg selv, men hvordan vi forstår og bruker den. Når både media, politikere og utdanningsinstitusjoner ukritisk videreformidler ideen om at samtaleroboter er intelligente og at vi som del av dette nå plutselig har utviklet intelligente maskiner, bidrar vi til en teknologisk analfabetisme som kan få alvorlige konsekvenser.

Så og si samtlige mennesker i dette landet er storkonsumenter av digitale medier. Men det er ikke gitt at dette utstrakte konsumet gir seg utslag i særlig stor forståelse, verken blant eldre eller unge, for hva digital teknologi i bunn og grunn rent faktisk er.

Og i en tid preget av omfattende digital sårbarhet, økende hybrid krigføring og informasjonskrig, er det avgjørende at befolkningen har en realistisk og kunnskapsbasert forståelse av hvordan informasjonsteknologi faktisk fungerer. En slik forståelse vil være det sikreste botemiddel mot digitale trusler fra både kriminelle og fiendtlige nasjoners etterretning.

Særlige våre ikke-teknologiutdannede politikere trenger å forstå at KI ikke er ett verktøy, men et kontroversielt sekkebegrep som omfatter en hel rekke ulike IT-systemer.

Samtalerobotene som media og våre politikere er så begeistret for, er utelukkende utviklet for å skrive gode setninger, og har absolutt ingen anelse om vår eksistens. En datamaskin kan verken føle eller tenke, og resultatet av våre spørsmål er verken intelligens eller resonnering, og slett ikke forståelse. Det ChatGPT og lignende verktøy leverer, er lynhurtig autofullføring av tekst. Og disse verktøyene er, på samme måte som sosiale medier, konstruert for å være avhengighetsskapende.

Ingen av de ulike systemene/ verktøyene som er utviklet som del av forskningsfeltet KI, vil i seg selv nødvendigvis være nyttig i alle deler av det offentlige og det private, med mindre en klar strategi for IT-bruk i den enkelte virksomhet er på plass. Og bare fordi media og deler av næringslivet, med våre politikere som lydige etterplaprere, nå kaller ethvert IT-system for «KI», betyr ikke at vi per nå rent faktisk har utviklet digitale system som er i nærheten av intelligens.

I dagens kompliserte verden trenger vi ikke flere myter om såkalt «KI», ei heller forbud mot – eller restriksjoner på – bruken av samtaleroboter og andre typer assistent-verktøy. Vi trenger digital dannelse, teknologikritikk og et utdanningssystem som setter individet, menneskelig innsikt og refleksjon i sentrum og ikke maskinens evne til å etterligne slike egenskaper.

Vi trenger å utdanne og bevisstgjøre folk slik at de slutter å overlate egen dømmekraft til datamaskiner eller hengir seg til fantasier om at statistiske «regnemaskiner» er velegnet som psykologer. En utstrakt bruk av lettvinte løsninger a la ChatGPT gjør oss dummere, og dermed til et lettere bytte for fiendtlige aktører.

Kanskje er det derfor på høy tid å hente frem, og tenke litt over, Carl Sagan sine ord fra boken «The Demon-Haunted World: Science as a Candle in the Dark»:

«We have designed our civilization based on science and technology and at the same time arranged things so that almost no one understands anything at all about science and technology. This is a clear prescription for disaster.»

Leseliste

Det vi setter bort, blir vi dårligere til, særlig om vi setter det bort før vi kan det. Vi har allerede satt bort konsentrasjonskrevende lesing i noen år og nå står den konsentrasjonskrevende skrivinga for tur. En høyere andel funksjonell analfabetisme i befolkninga fører ikke til framskritt, selv om også jeg skjønner at KI kan hjelpe en analfabet i nuet.

– Førstelektor Liv Cathrine Krogh, 2023 (5)

Leselisten oppdateres med jevne mellomrom. Sist oppdatert: 30.03.2026
  1. Large Language Model Reasoning Failures
  2. MIRAGE: The Illusion of Visual Understanding
  3. Vision Language Models Are Blind
  4. AI bot swarms threaten to undermine democracy
  5. Audience Use and Perceptions of AI Assistants for News
  6. How AI Destroys Institutions
  7. ‘Dangerous and alarming’: Google removes some of its AI summaries after users’ health put at risk
  8. AI’s Memorization Crisis
  9. Extracting books from production language models
  10. On the Slow Death of Scaling
  11. 2026 er året KI blir flaut på jobb
  12. The Fever Dream of Imminent Superintelligence Is Finally Breaking
  13. There’s no such thing as Artificial Intelligence
  14. The AI expert who says artificial general intelligence is nonsense
  15. Artificially voiced intelligences: voice and the myth of AI
  16. Artificial Intelligence: A Clarification of Misconceptions, Myths and Desired Status
  17. A Comprehensive Review of AI Myths and Misconceptions
  18. Decoding AI Misconceptions and Their Impact on Creativity, Culture, and Equity
  19. Navigating the AI/ML Hype: Applying Carl Sagan’s Baloney Detection Principles
  20. ChatGPT and other language AIs are nothing without humans – a sociologist explains how countless hidden people make the magic
  21. ChatGPT is not “true AI.” A computer scientist explains why
  22. Can computers think? No, they cant actually do anything
  23. Why Our Machines Will Never Be as Smart as We Are
  24. Why a computer will never be truly conscious
  25. The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do
  26. Will computers overtake humans in intellectual ability?
  27. The Dark Addiction Patterns of Current AI Chatbot Interfaces
  28. Psychiatric Researchers Warn of Grim Psychological Risks for AI Users
  29. As AI becomes more popular, concerns grow over its effect on mental health
  30. Can ChatGPT Be Addictive? A Call to Examine the Shift from Support to Dependence in AI Conversational Large Language Models
  31. Is Your Privacy at Risk? Understanding the Threat of GenAI Chatbots
  32. Expectations of artificial intelligence and the performativity of ethics: Implications for communication governance
  33. Perceptions and Acceptance of Artificial Intelligence: A Multi-Dimensional Study
  34. Beyond Chatbot-K: On Large Language Models, “Generative AI,” and Rise of Chatbots—An Introduction
  35. The Silicon Illusion: Why AI Cannot Substitute for Scientific Understanding
  36. AI Without The Hype: What’s Really Going On With Generative AI
  37. I got fooled by AI-for-science hype—here’s what it taught me

Samtaleroboter i akademia – KI-verktøy eller kun statistiske tekstgeneratorer?

Dette innlegget er basert på arbeidet jeg har gjort knyttet til samtaleroboters evne til å besvare arbeidskrav (eksamensoppgaver) i mine fagemner. En omarbeidet versjon er tidligere publisert på forskersonen.no

In a world in transition, students and teachers both need to teach themselves one essential skill – learning how to learn.

Carl Sagan

Samtaleroboter som ChatGPT fremstår som språklig imponerende, men avsløres som faglig svake når de møter akademiske krav. De genererer overfladiske svar og falske kilder, og mangler evne til kritisk tenkning og forståelse. I høyere utdanning bør de omtales som digitale verktøy – ikke intelligente hjelpere.

Innledning

«Neural networks today are realized in software, rather than in electrical circuits, and to be clear, neural net researchers don’t try to actually model the brain, but the software structures they use — very large networks of very simple computational devices — were inspired by the neural structures we see in brains and nervous systems»
– Professor Michael Wooldridge (1)

«Differences about the future of AI are often partly rooted in differing interpretations of evidence about the present. For example, we strongly disagree with the characterization of generative AI adoption as rapid»
– Professor Arvind Narayanan and Senior Fellow Sayash Kapoor (2)

«Min hypotese er at de som tar avgjørelsen om hvorvidt man vil kalle noe for kunstig intelligens eller ikke, ofte ser på begrepsbruken som en fordel. Man framstår kanskje som mer moderne og fremtidsrettet. Eller man får flere klikk på artikkelen man skriver»
– Nora Gjøen-Gjøsæter (3)

«Jeg liker ikke å kalle det «kunstig intelligens»
– Roger Olafsen (4)

«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.»
– Bjørn Stærk (5)

Siden lanseringen av ChatGPT i november 2022 har debatten om kunstig intelligens (KI) i utdanning og samfunn eksplodert. Samtaleroboter som ChatGPT ol. har blitt løftet frem som teknologiske mirakler – verktøy som angivelig kan revolusjonere utdanning, forskning og arbeidsliv. Mediene har vært fulle av både dommedagsprofetier og euforiske visjoner. Men bak overskriftene og den teknologiske euforien skjuler det seg en virkelighet som er langt mer nyansert, og langt mindre intelligent.

Men hva skjer når vi faktisk setter de ulike verktøyene på prøve, i møte med reelle akademiske krav og praksisnære oppgaver? Dette innlegget bygger på egne systematiske tester av ChatGPT og 13 andre lignende samtaleroboter, gjennomført over to år, og jeg vil hevde at disse verktøyene ikke representerer et paradigmeskifte i høyere utdanning, men kun en ny variant av gamle verktøy med bedre markedsføring.

Språklig briljans – faglig svakhet

«While general-purpose LLMs are great starting points, they typically lack deep domain expertise to help within specific areas. In many ways, this is similar to the case with human expertise: A person cannot become an expert in a particular field unless they have formal education, training, and in-depth experience.»
– Tony Beltramelli (6)

ChatGPT og de ulike samtalerobotene imponerer ved første øyekast. Det skriver flytende, høflig og grammatisk korrekt. Men når systemene blir bedt om å besvare arbeidskrav utformet i tråd med høyere nivå i Blooms taksonomi fra fagemner knyttet til samfunnsinformatikk-feltet, der det ikke finnes klare svar eller evige sannheter, faller de gjennom. De klarer ikke å analysere, vurdere eller reflektere, kjernekompetanser i høyere utdanning. I stedet produserer de overfladiske svar som ofte bare reformulerer oppgaveteksten. Det som fremstår som innsikt, er i realiteten statistisk sannsynlige ordkombinasjoner.

Hallusinasjoner og falske kilder

Et gjennomgående problem er såkalte «hallusinasjoner», disse verktøyenes tendens til å dikte opp fakta, forfattere og litteratur. I flere av mine tester genererte de ulike samtalerobotene akademiske referanser som ikke eksisterer, men som så troverdige ut. Dette er ikke bare en teknisk svakhet, men en alvorlig utfordring for akademisk integritet. Når studenter bruker slike verktøy ukritisk, risikerer de å levere besvarelser som er både faglig svake, faktisk feil og helt uten den tankevirksomhet det er meningen at universitetsstudier skal oppøve.

En dårlig støtte for svake studenter

Basert på resultatene av mine tester vil bruk av samtaleroboter i fagemner der det finnes få eller ingen klare fasitsvar, i liten grad hjelpe faglig svake studenter. Tvert imot vil de antakelig forsterke svakhetene. Studenter uten grunnleggende fagforståelse klarer ikke å stille gode spørsmål (prompting), og ender opp med generiske svar uten dybde. Samtidig kan faglig sterke studenter bruke verktøyene som en slags «digital sekretær» til å strukturere tekst, oppsummere kilder eller generere utkast. Men dette krever høy grad av kritisk vurdering og etterarbeid, og studenten slipper ikke unna å selv måtte formulere sine faglige refleksjoner forankret i egen yrkespraksis og i relevant faglitteratur.

Og besvarelsene fra de faglige svake studentene, den gruppen som med størst sannsynlighet lar seg friste til å ta snarveier, er slett ikke vanskelig å oppdage, noe også andre forskere har pekt på (Molnes, 2024)

Ikke kunstig intelligens – bare avansert statistikk

«The bots ingest staggering amounts of text and conversations to detect patterns. Their programming predicts how to respond naturally by matching and remixing these learned patterns. But ultimately, it takes human guidance to steer these statistical models in an thoughtful direction.»
– Andy Tillo (7)

Til tross for at media og andre stadig henviser til ChatGPT og lignende samtaleroboter som kunstig intelligens (KI) er disse verktøyene absolutt ikke intelligente. De forstår ikke spørsmål, resonnerer ikke, og har ingen bevissthet. De er basert på avanserte språkmodeller som gjetter neste ord basert på sannsynlighet.

Stipendiat David Samuel ved Universitetet i Oslo sin språkteknologigruppe var ganske klar i et intervju i Universitas i 2022 på at ChatGPT ikke på noen måte var intelligent (Gundersen, 2022) og Ian Venner ved Hurricane peker på at de store språkmodellene først og fremst har indeksert internett. Ved å behandle alle dataene de har tilgang til der, samt de data som ulike aktører har lagt inn i systemene, har de skapt koblinger mellom datasett basert på faste regelsett. Dette betyr at lignende informasjon grupperes sammen, vektes og kobles til andre lignende områder, noe som gir et stort nettverk av sammenkoblet data. Dette, hevder Venner, er ikke kunstig intelligens, men datamining (Venner, 2024). Og sist, men ikke minst, KI er ikke en teknologi eller ett verktøy, men et upresist «sekkebegrep» som omfatter en rekke ulike systemer/ verktøy basert på ulike teknologier hvis intelligens er ytterst diskutabel. Professor Jan Ketil Arnulf ved BI foreslår at vi bør droppe begrepet «Kunstig intelligens» og heller bruke begrepet «kunstige aktører» (Arnulf, 2024), noe jeg for min del er enig i.

Å ukritisk kalle de ulike samtalerobotene for KI er misvisende og det tilslører det faktum at disse verktøyene verken er spesielt revolusjonerende, eller spesielt nye og utelukkende er programmert for å skrive gode setninger basert på statistisk analyse av de bokstavsammensetninger en bruker legger inn.

Hva betyr dette for høyere utdanning?

«Telling students that they must get along with the “assistance” of AI or can’t be writers or designers or illustrators is a usurpation of the freedom of the individual to go through the pain of their own time and craft and art, fight through it, and reap the reward of individual accomplishment«.
– Professor Natalia Ilyin, 2025 (8)

Det er etter min mening ingen grunn til panikk. Samtaleroboter truer ikke utdanningen ved våre høyskoler og universiteter så lenge vi utformer eksamensoppgaver og arbeidskrav i tråd med høyere nivå i Blooms taksonomi. Oppgaver som krever refleksjon og kritisk tenkning, faglig forankring og personlig erfaring, lar seg ikke løse av samtaleroboter. Tvert imot gir dette oss en gyllen mulighet til å styrke undervisningskvaliteten ved å fokusere på oppgavedesign, veiledning og vurderingsformer som fremmer dyp læring.

Avslutning – Fra hype til realisme

«There tend to be three AI camps. 1) AI is the greatest thing since sliced bread and will transform the world. 2) AI is the spawn of the Devil and will destroy civilization as we know it. And 3) «Write an A-Level paper on the themes in Shakespeare’s Romeo and Juliet.»
I propose a fourth: AI is now as good as it’s going to get, and that’s neither as good nor as bad as its fans and haters think, and you’re still not going to get an A on your report. You see, now that people have been using AI for everything and anything, they’re beginning to realize that its results, while fast and sometimes useful, tend to be mediocre.»
– Steven J. Vaughan-Nichols (9)

Samtaleroboter er nyttige verktøy innenfor begrensede områder, men ikke mer enn det. De kan brukes til oversettelser, oppsummeringer og idéutkast. Men de kan ikke tenke, forstå eller lære. Det er derfor på tide å legge bort både frykten og euforien, og møte teknologien med nøkternhet og faglig dømmekraft.

For i en tid der det rene tøv kan genereres på kommando, blir evnen til kritisk tenkning viktigere enn noen gang.

Kilder

  1. Arnulf, J. K. (2024). Bør vi snakke om kunstige «aktører» i stedet for «intelligens»? BI Business Review. Hentet fra https://www.bi.no/forskning/business-review/articles/2024/09/bor-vi-snakke-om-kunstige-aktorer-i-stedet-for-intelligens/
  2. Gundersen, G. M. (2022). Forsker avmystifiserer «ChatGPT»: – Den er ikke intelligent på noen måte. Universitas. Hentet fra https://www.universitas.no/ai-chatgpt-david-samuel/den-er-ikke-intelligent-pa-noen-mate/366594
  3. Molnes, G. (2024). Professor: – De flinke studentene blir bedre med KI. Utdanningsnytt. Hentet fra https://www.utdanningsnytt.no/ai-juks-kunstig-intelligens/professor-de-flinke-studentene-blir-bedre-med-ki/390405
  4. Sagan, C. (1996). The demon-haunted world: Science as a candle in the dark. The Random House Publishing Group.
  5. Venner, I. (2024). How AI has been hijacked, the AGI fallacy and leveraging Vertical AI. Hurricane Commerce. Hentet fra https://hurricanecommerce.com/how-ai-has-been-hijacked-the-agi-fallacy-and-leveraging-vertical-ai/

Leseliste

Spesifikt
  1. Bharatha, A., et al. (2024). Comparing the performance of ChatGPT-4 and medical students on MCQs at varied levels of Bloom’s Taxonomy. Advances in Medical Education and Practice. Retrieved from https://www.tandfonline.com/doi/pdf/10.2147/AMEP.S457408
  2. Crowther GJ, Sankar U, Knight LS, Myers DL, Patton KT, Jenkins LD, Knight TA. (2023). Chatbot responses suggest that hypothetical biology questions are harder than realistic ones. J Microbiol Biol Educ. 24:e00153-23. Retrieved from:
    https://journals.asm.org/doi/full/10.1128/jmbe.00153-23
  3. Elsayed, S. (2023). Towards mitigating ChatGPT’s negative impact on education: Optimizing question design through Bloom’s taxonomy. arXiv. Retrieved from https://arxiv.org/pdf/2304.08176
  4. Govender, R. G. (2024). My AI students: Evaluating the proficiency of three AI chatbots in completeness and accuracy. Contemporary Educational Technology. Retrieved from https://www.cedtech.net/article/my-ai-students-evaluating-the-proficiency-of-three-ai-chatbots-in-completeness-and-accuracy-14564
  5. Habiballa, H., et al. (2025). Artificial intelligence (ChatGPT) and Bloom’s Taxonomy in theoretical computer science education. Applied Sciences, 15(2). Retrieved from https://www.mdpi.com/2076-3417/15/2/581
  6. Herrmann-Werner, A., et al. (2024). Assessing ChatGPT’s mastery of Bloom’s Taxonomy using psychosomatic medicine exam questions: Mixed-methods study. Journal of Medical Internet Research. Retrieved from https://www.jmir.org/2024/1/e52113/
  7. Leary, A., et al. (2023/2024). Strategies for effective teaching in the age of AI. University of Notre Dame Resource Library. Retrieved from https://learning.nd.edu/resource-library/strategies-for-effective-teaching-in-the-age-of-ai/
  8. Lodge, J. M. (2023). ChatGPT consistently fails (most parts of) the assessment tasks I assign my students. Here’s why. LinkedIn Pulse. Retrieved from https://www.linkedin.com/pulse/chatgpt-consistently-fails-most-parts-assessment-tasks-jason-m-lodge
  9. Mirzadeh, I., et al. (2024). GSM-Symbolic: Understanding the limitations of mathematical reasoning in large language models. Hugging Face Papers. Retrieved from https://huggingface.co/papers/2410.05229
  10. Mitchell, M. (2023). Can large language models reason? AI Guide. Retrieved from https://aiguide.substack.com/p/can-large-language-models-reason
  11. Newton, P., & Xiromeriti, M. (2024). ChatGPT performance on multiple choice question examinations in higher education: A pragmatic scoping review. Assessment & Evaluation in Higher Education, 49(6), 781–798. https://doi.org/10.1080/02602938.2023.2299059
  12. Spencer, J. (2023). The FACTS cycle for prompt engineering. Spencer Education. Retrieved from https://spencereducation.com/facts-cycle/
  13. Susnjak, T. (2022). ChatGPT: The end of online exam integrity? ResearchGate. Retrieved from https://www.researchgate.net/publication/366423865_ChatGPT_The_End_of_Online_Exam_Integrity
  14. Volante, L., DeLuca, C., & Klinger, D. A. (2023). ChatGPT challenge: 5 ways to change how students are graded. Queen’s Gazette. Retrieved from https://www.queensu.ca/gazette/stories/chatgpt-challenge-5-ways-change-how-students-are-graded
Generelt
  1. ChatGPT’s Study Mode Is Here. It Won’t Fix Education’s AI Problems
  2. What ChatGPT Study Mode gets right and wrong
  3. Could AI slow science?
  4. Why Understanding AI Doesn’t Necessarily Lead People to Embrace It
  5. AI and Threats to Academic Integrity: What to Do
  6. Is AI Really a Threat to Higher Education?
  7. There’s no simple solution to universities’ AI worries
  8. Instead of punishing students for using AI, colleges and universities must provide clear, consistent guidelines and rules
  9. Why AI isn’t the threat we think it is

ChatGPT – et taleført eksempel på kunstig intelligens, eller…?

En bloggbok av Per Arne Godejord

Nok et KI-bilde
Noen etiskejuridiskesikkerhetsmessige, helsemessige og kognitive problemstillinger knyttet til samtaleroboter, og hvorfor disse verktøyene ikke er eksempler på KI

Videre til boken

Neste side ikon

Trusler i det digitale rom – KI eller ganske enkelt the usual suspects?

Trusselaktøren er først og fremst ute etter en effekt. Hvilket virkemiddel som benyttes for å oppnå effekten er underordnet.

Simen Bakke (1)

Glem Terminator og dommedag – truslene i det digitale rom kommer fortsatt fra gamle kjenninger: hackere, statlige aktører og kriminelle. Dataprogram av typen ChatGPT og Sora er kraftige verktøy, men ikke tenkende maskiner. De kan forsterke digitale angrep – ikke skape dem. De kan senke terskelen for angrep, men effektive angrep krever fortsatt teknisk innsikt, forståelse av menneskelig psykologi, kontekst og infrastruktur. Uten slik kunnskap blir såkalt «KI» først og fremst et produktivitetsverktøy, ikke en erstatning for kompetanse. Løsningen for oss som samfunn er mindre hysteri og mer digital kompetanse, ellers er det vår egen intellektuelle latskap som blir den største sikkerhetsrisikoen fremover.

Innledning

«Den superintelligente KI-en har på en måte alle Guds egenskaper: Den er allmektig, allvitende, og enten velvillig, eller så er den Djevelen og du er i dens nåde. Som i enhver sekt er det også en følelse av hastverk. Du må handle nå! Verdens skjebne står på spill! Og selvfølgelig trenger du penger!»
– Inga Strümke, PhD. og Anders Løland, PhD., 2024 (2)

«… unravelling the vagueness around AI is important in a broad sense, as there is also something quite dangerous about the futuristic mystique of the term AI when it blinds us to the banal and oppressive realities of certain technologies.»
– AI Myths (Project), u.å. (3)

Helt siden OpenAI sin samtalerobot kom i medias søkelys i november 2022, har vi hatt en strøm av påstander om at vi nå har nådd et «vendepunkt» i utviklingen av kunstig intelligens. Og like sikkert som at vår følger vinter, kommer dommedagspåstandene om helt spesielle (og dramatiske) sikkerhetstrusler fra KI.

Hva er kunstig intelligens?

«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.»
– Bjørn Stærk, 2023 (4)

«The term “artificial intelligence” has a long history—it was coined in the nineteen-fifties, in the early days of computers. More recently, computer scientists have grown up on movies like “The Terminator” and “The Matrix,” and on characters like Commander Data, from “Star Trek: The Next Generation.” These cultural touchstones have become an almost religious mythology in tech culture. It’s only natural that computer scientists long to create A.I. and realize a long-held dream.»
Jaron Lanier, 2023 (5)

«A system that most of us would think of as real AI – something that can, more or less, think like us – is known in Computer Science as Generalised Artificial Intelligence, and it is nowhere on the horizon. The term Artificial Intelligence is used instead to apply to anything produced using techniques designed in the quest for real AI. It’s not intelligent. It just does some stuff that AI researchers came up with, and that might look a bit smart. In dim light. From the right angle. If you squint.»
– Linda McIver, PhD, 2023 (6)

Store Norske Leksikon definerer KI på følgende måte: «Kunstig intelligens er informasjonsteknologi som justerer sin egen aktivitet og derfor tilsynelatende framstår som intelligent.»

Et viktig stikkord her er «tilsynelatende framstår som intelligent». Og det er på det nivået vi stadig er når det gjelder forskning og utvikling innen feltet «Kunstig intelligens». For KI, i en form som vil kunne utvikle spesifikke nye digitale trusler, kan vi beskrive på følgende enkle måte:

Maskiner med en intelligens som lar dem forstå, lære og utføre intellektuelle oppgaver omtrent som mennesker. Maskinene emulerer den menneskelige tanke og atferd for å løse alle slags komplekse problemer.

Men som Linda McIver påpeker i sitatet innledningsvis er KI i betydningen av at datasystemer tenker (og handler) som oss mennesker ikke oppfunnet og vi er heller ikke i nærheten av å finne opp et slikt system.

KI i betydningen «Artificial general intelligence (AGI)» er altså enn så lenge rent teoretisk og siden det ikke eksisterer kan det heller ikke utgjøre, eller utvikle, særegne og hittil ukjente digitale trusler.

Open AI sin samtalerobot er et utmerket eksempel på noe som ikke er KI og som samtidig er blitt brukt som eksempel på «KI-trussel».

Men ChatGPT, Microsoft CoPilot og lignende samtaleroboter er ikke eksempler på Kunstig Intelligens (KI). Dette er verktøy som baserer seg på statistiske beregninger. De er som store og avanserte dataspill, der du som spiller får følelsen av at det ikke finnes noen begrensninger på hvor du kan gå eller hva du kan gjøre. Men man skal ikke utforske en slik avansert spillverden særlig mye før en ser at i virkeligheten får man kun gå og gjøre det spillets utviklere har bestemt. Slik er det også med ChatGPT og lignende verktøy. De utfører fantastisk hurtige statistiske beregninger av tilgjengelig informasjon og sannsynlig sammensetning av bokstaver, men alt systemene gjør er bestemt på forhånd av programkode.

Samtaleroboter kan altså ikke tenke, de kan ikke resonere og de foretar absolutt ingen analyser av verken det brukeren spør om eller de «svar» programkoden løfter frem. Dermed følger det rent logisk, så vel som teknisk, at en samtalerobot ikke kan «føre mennesker bak lyset» eller frykte å bli erstattet av en annen modell eller slått av.

Som professor Gary Marcus sier i sin kommentar til forskningsartikkelen «Frontier Models are Capable of In-context Scheming»; – «Yes, LLMs can do all this even if they are essentially just analogizing regurgitation machines with no real world model. They have lots of examples in the database — and little capacity to compute the internal consistency of their own actions. Worse, they do not actually calculate the consequences of their actions at all. They can’t reliably sanity check themselves for hallucinations, and they can’t reliably sanity check for whether what they are doing is harmful.»

Dersom forskere (eller andre brukere) legger inn kommandoer/ promting som gir mønstre som statistisk sett peker mot «bedrag», altså det å nekte for noe eller påstå noe, eller foreta handlinger som flytting av data ol. (handlinger som altså allerede ligger innprogrammert som del av et, eller flere, handlingssett), så vil verktøyet utføre denne type «handling/ handlinger». Men handlinger verktøyet ikke er programmert for, vil ikke kunne utføres.

Det at digitale verktøy/ smarte system kan utføre handlinger de er programmert for, er ikke et tegn på at de er «intelligente» i betydningen av at de tenker og handler på egenhånd. Og de medieskapte mytene om KI kan i seg selv bli en beredskapsmessig trussel.

Såkalte KI-trusler

Computers are evolving very quickly … the human brain isn’t going to evolve, and so we still need to think about cognitive psychology
– Andrew Van Schaack, PhD., 2024 (7)

«Cybersecurity is actually 90% about human behavior and 10% about technology.»
– Martin Fix, 2024 (8)

«A lot of the risk really comes from malicious actors, which exist anyway. It’s just another tool for them to use».
– Lauren Kahn, 2023 (9)

«There were stories about the fact that you could use an LLM (large language model) to give you instructions of how to make chemical weapon or bioweapon. That turns out to be false».
– Professor Yann André LeCun, 2024 (10)

«Though it has been written about for decades, the importance of tacit knowledge in biological weapons production has often been overlooked. Having a jail-broken LLM spit out instructions is unlikely to be sufficient to create a usable biological weapon.»
– Stephanie Norwood, PhD, 2025 (11)

I januar 2023 ble det meldt at kriminelle allerede har tatt ChatGPT i bruk, og som fagansvarlig for fagemnet «Digital beredskap» , samt annen undervisning innen informasjonssikkerhet, er jeg naturlig nok sterkt opptatt av de sikkerhetsmessige implikasjonene av verktøy av typen ChatGPT, og ikke minst videosystem som f.eks. Sora.

Og det er blant annet disse to verktøyene som løftes frem som eksempler på noe som kan skape «KI-trusler», uten at det egentlig fremkommer klart hvilke spesifikke «nye» trusler dette gjelder.

At vi nå har flere typer verktøy som kan «produsere» kildekode (i betydningen hente frem via statistiske beregninger allerede produsert kildekode som er offentlig tilgjengelig), vil selvsagt gi både «Script kiddies» og større kriminelle grupper enda et verktøy (f.eks. Indrik Spider og Scattered Spider). Men siden verken ChatGPT eller lignende samtaleroboter er feilfrie når det gjelder kodegenerering, er det per nå et stort spørsmål om hvor effektive verktøy dette vil være.

Videogenereringsverktøy av typen Sora kan muligens (eller kanskje ikke) ha større effekt innen problemområdet Deepfake, men det er enda for tidlig å si med sikkerhet om disse verktøyene vil være mer effektive som Deepfake-verktøy enn allerede eksisterende system.

Det er jo ikke slik at vi ikke har hatt denne type verktøy før. Det som er nytt er muligheten for at «folk flest» får tilgang til kraftigere verktøy.

Og så må vi ikke glemme verktøy som etterligner stemmer. Også dette benevnes som «KI», men igjen; dette er ikke system som på egenhånd utfører angrep, men verktøy hvis bruk baseres på angriperens egen kunnskap og teknologiske forståelse og ikke minst angriperens kunnskap om hvordan mennesker reagerer.

Tilgang til verktøy kan medføre økt bruk, men det betinger at brukeren vet hvordan verktøyet skal brukes, har kunnskap om hvordan produktet (f.eks. en film eller en kildekode) kan anvendes og deretter mangler de «hemninger» eller holdninger som fraholder de fleste mennesker fra å begå lovbrudd.

Intet nytt under solen

«I’m afraid the reasons why neural nets took off this century are disappointingly mundane. For sure there were scientific advances, like new neural network structures and algorithms for configuring them. But in truth, most of the main ideas behind today’s neural networks were known as far back as the 1980s. What this century delivered was lots of data and lots of computing power. Training a neural network requires both, and both became available in abundance this century».
– Michael Wooldridge, 2023 (12)

«An LLM does not understand the semantic meaning of a sentence in a linguistic sense, but rather calculates mathematically what the most likely next word should be based on the input to the model. As neural networks are inherently probabilistic, this has earned LLMs the moniker ‘stochastic parrots’ as the model is extremely good at determining the most likely next sequence – and convincingly so – but has no inherent representation of what those words mean. For this reason, LLMs do not encode an understanding of our world, such as cause-and-effect and the relationships between objects – what linguists refer to as ‘pragmatic inference’. This is a critical limitation of LLMs that users need to understand, otherwise there is a risk of automation bias (where people place too much trust in the output from such models) and anthropomorphism (where people build a human-like rapport with an LLM, which exacerbates automation bias)».
– Adam C., GCHQ’s Chief Data Scientist and Richard J. Carter, PhD, 2023 (13)

«The problem that crops up over and over again in this field is that people anthropomorphize these computers, ascribing all sorts of desires, plans, emotions, and the like. They are machines, running code. They don’t need anything, love or hate anyone, have goals or desires. They are not conscious. They don’t care if they’re replaced by a newer version. They don’t act covertly. They are machines, running code.»
– wsf, 2024 (14)

De «nye» verktøyene, og da særlig de ulike samtalerobotene, fører ikke til noen form for ny trussel. Det vi ser er heller at:

  1. Samtaleroboter vil først og fremst gi trusselaktører rask tilgang på allerede offentlig tilgjengelig informasjon lagt ut på internett, og kunne føre til en økt evne til f.eks. sosial manipulasjon. Slike verktøy kan brukes til å muliggjøre en mer overbevisende kontakt mellom angriper og offer, inkludert opprettelse av falske dokumenter, uten de oversettelses-, stave- og grammatiske feil som tidligere ofte avslørte denne type angrep. Og jo bedre den underliggende modellen er, og jo større datagrunnlag som kan danne basis for verktøyets statistiske beregninger av sannsynlig ønskte bokstavsammensetning, jo mer skade kan slike tekstgenererende verktøy gjøre i hendene på en profesjonell trusselaktør.

    MEN det hjelper ikke med overbevisende e-posttekst, eller annen tekstbasert «samtale», dersom angriperen ikke har nok teknisk kunnskap til å f.eks. sette opp en tilhørende webside med korrekt oppsatt angrepskode som sømløst kan utføre de nødvendige operasjoner (lagre passord, brukerdata eller infisere maskiner med virus, trojanske hester osv.), eller på annen måte har god bakgrunnskunnskap om målet for angrepet.
  2. De ulike samtalerobotene kan kanskje også benyttes i etterretningsarbeid som del av innledende forberedelser til angrep mot organisasjoner eller enkeltpersoner.

    MEN tatt i betraktning de grunnleggende problemene med LLM, og særlig i den form vi møter dem i f.eks. ChatGPT, er det ytterst usikkert om etterretningspersonell og profesjonelle (avanserte) IT-kriminelle er særlig ivrige brukere av samtaleroboter.
  3. Samtaleroboter kan muligens lette utviklingen av ulike typer av skadeprogram, der relevant kode er tilgjengelig enten i verktøyets database eller på internett.

    MEN en trusselaktør må fortsatt ha den nødvendige tekniske ekspertise til å både vurdere produktet og bruke det effektivt som del av et digitalt angrep.
  4. En samtalerobot kan muligens (dersom de statistiske beregningene lander på konkret og korrekt info) lette innhentingen av offentlig tilgjengelig informasjon om utvikling av biologiske våpen.

    MEN det hjelper ikke med hurtig fremhenting av digitalt tilgjengelig informasjon om angriperen ikke har den nødvendige ekspertise i det å konstruere et biologisk våpen (eller for den del hvilket som helst annet våpen som fordrer mer enn rent grunnleggende mekanisk innsikt). I tillegg trenger angriperen et trygt anlegg som kan holde vedkommende i live lenge nok til å lage et biologisk våpen.

  5. Store språkmodeller er utgangspunktet for såkalte «KI-svermer», som er konstruerte nettverk av program som brukes som verktøy i organiserte påvirkningsoperasjoner. Et sentralt poeng her er at disse systemene er rettet mot å forurense treningsdataene til nåværende og fremtidige språkmodeller. Ved å publisere enorme mengder nesten identiske artikler på tvers av mange nettsteder, forsøker operatørene å sikre at fabrikerte narrativer blir fanget opp av søkemotorer og inkludert i datagrunnlaget som nye samtaleroboter trenes på.

    MEN disse verktøyene opererer ikke på egenhånd. De er spesifikt programmert for et spesifikt forhold, av mennesker med god kunnskap om hvordan bruke digitale medier til manipulasjon.
  6. Nye og avanserte videogenereringssystem tilgjengelig for alle, kan øke mengden falske nyheter der video er benyttet. Og en øking i denne type aktivitet vil igjen kunne gi en økning i falske nyheter eller ekstremistisk budskap støttet av video og derigjennom kanskje både gi inspirasjon til radikaliserte grupper og en økende mangel på tillit til nettbasert informasjon blant folk flest.

    MEN det hjelper ikke med avanserte videoverktøy hvis ikke angriperen har den nødvendige innsikt i psykologi og kunnskap om de politiske og økonomiske utfordringer som eksisterer i den region eller for den gruppe som man ønsker å radikalisere eller på annen måte påvirke.
  7. Verktøy for forfalskning av stemmer tilgjengelig for alle, kan øke mengden svindelforsøk av denne typen.

MEN heller ikke her hjelper det med avanserte verktøy om ikke angriperen har den nødvendige innsikt i psykologi, og kunnskap om hvordan foreta effektiv svindel av tilfeldige offer.

Det er ingen grunn til å tvile på at mer avanserte digitale verktøy vil kunne støtte en utvikling og styrking av eksisterende taktikk, teknikker og prosedyrer. Men kun der angriperen har den nødvendige kunnskap og trening i det å utføre digitale operasjoner mot virksomheter eller enkeltpersoner. Digitale angrep er stadig avhengig av menneskelig intelligens og kunnskap, og det er ingen ting som tyder på at dette vil endres i overskuelig fremtid.

Selvkjørende biler og autonome våpen

«The reliance on imagination and visions of technologies and future warfare characterises much of the academic and political debate on emerging technologies in the field of AWS».
– Anna-Katharina Ferl, PhD., 2023 (15)

«Unlike humans, robotaxis are not able to solve a problem they’ve never encountered before».
– Sebastien Bell, 2024 (16)

Når man skal behandle tanken om at KI per nå utgjør en ny form for trussel, kommer en ikke utenom selvkjørende biler og autonome våpen.

La oss først slå fast nok en gang at vi per i dag ikke har funnet opp maskiner med en intelligens som lar dem forstå, lære og utføre intellektuelle oppgaver omtrent som mennesker, og som emulerer den menneskelige tanke og atferd og dermed kan løse alle slags komplekse problemer.

Dermed blir verken selvkjørende biler eller autonome våpensystemer eksempler på KI, som på mystisk vis kan representere hittil ukjente trusler.

Faren med disse to eksemplene ligger i at de, som alle digitale system, er sårbare for angrep (hacking).

Men digitale angrep mot f.eks. selvkjørende biler eller ordinære biler med system tilknyttet Internett skiller seg ikke ut fra andre typer digitale angrep, selv om implikasjonene for selvkjørende biler kan bli svært alvorlig.

Dette vil gjelde også for de såkalte «autonome våpen», som i likhet med alt det vi noe upresist kaller «KI-systemer» er programmert av mennesker. Selv en robot (våpensystem) som er “autonom” utfører sine instruksjoner kun via den logikk den menneskelige programmereren har lagt inn i systemet og kan ikke tenke selv. Slike våpensystem reiser først og fremst en rekke etiske dilemmaer, og dilemmaer knyttet til krigens lover. Men det er selvsagt mulig at hackere kan forsøke å manipulere data eller ta kontroll over denne type systemer, noe som kan true militære operasjoner og skape kaos på slagmarken.

Det fremsettes også påstander i media om at KI kan føre til at terrorister kan «kjøre en autonom dronestorm over Norge». Hvilken mystisk form for «KI» som skulle kunne gi en slik «plutselig» mulighet blir ikke definert.

Siden droner allerede eksisterer og er i bruk, er det selvsagt her og nå – i dag – fullt mulig for terrorister å «sende en sverm av droner» over Norge. Forutsetningen for dette har ingen ting med KI å gjøre, men at de har droner med adekvat rekkevidde eller sender dem ut innenfor norsk territorium eller i nærheten av Norge, at dronene har våpenkapasitet og at terroristene har den nødvendige kunnskap om effektiv bruk av droner.

Hvorvidt «terrorister» er den mest sannsynlige synderen i et slikt scenario, heller enn en statlige aktør, er egentlig uviktig. Muligheten ligger der og det helt uten noen som helst form for «kunstig intelligens».

Konsekvensene av at smarte IT-systemer blir hacket, eller tatt i bruk av en fiendtlig aktør, kan altså bli alvorlige, men vi snakker stadig om ordinære digitale angrep, eller fysiske angrep som del av klassiske sabotasje- og destabiliseringsoperasjoner, basert på angripernes teknologiske kunnskaper. Og vi snakker ikke, under noen omstendighet, om helt særegne og hittil ukjente trusler a la Terminator-filmene.

Vi snakker tvert i mot stadig vekk utelukkende om smarte statlige aktører, terrorister eller kriminelle, med gode teknologiske kunnskaper og med tilgang til eksisterende verktøy.

Vi står ikke overfor nye digitale trusler

«For one, ChatGPT can only write relatively simple applications. Even if it has the skills to do more advanced coding with suitable instructions, it does not instantly provide non-developers a competitive edge over developers who understand coding and have experience in actually writing code».
– Andrej Kovacevic, 2023 (17)

«A chatbot is a single-purpose tool, not an intelligence. Human-level intelligence requires the capacity to go beyond the parameters that its developers set for itself, of its own volition. ChatGPT is preternaturally adept at mimicking human language patterns, but so is a parrot, and no one can argue that a parrot understands the meaning behind the words it is parroting. ChatGPT passing the Turing test doesn’t mean that ChatGPT is as intelligent as a human. It clearly isn’t. All this means is that the Turing test is not the valid test of artificial intelligence we thought it would be».
– John Loeffler, 2023, (18)

At fiendtlig etterretning, kriminelle organisasjoner og «folk flest» har kraftige IT-verktøy til sin disposisjon, betyr ikke at vi plutselig står over for digitale trusler vitenskapen ikke allerede har definert og pekt på.

Den økte tilgjengeligheten av slike verktøy (demokratisering av angrepsverktøy) kan derimot gi grunn til bekymring i den forstand at flere (kanskje) vil kunne utføre digitale angrep, noe som understreker behovet for å stadig styrke informasjonssikkerheten på alle nivåer, både gjennom tekniske løsninger og ikke minst økt digital kompetanse og bevissthet blant oss som borgere i et heldigitalt mediesamfunn.

Hvis den enkelte bruker av de ulike digitale medier – fra SMART-mobil til EL-bilkan avvennes den naive troen på at digitale angrep bare er noe som skjer andre eller at falske nyheter aldri dukker opp i egen SOME-strøm, vil selv ikke kraftige matematiske modeller (språkmodeller) eller kraftige videogenereringsverktøy hjelpe kriminelle eller statlige aktører til økt suksess.

Når det gjelder andre typer trusler, så som utvikling av virus- eller bakteriologiske våpen, så er det ikke samtaleroboter av typen ChatGPT som foretar utviklingen. Samtaleroboter kan ikke utvikle noe som helst. Men de kan lynraskt søke gjennom offentlig tilgjengelig informasjon allerede lagt ut på internett, og frembringe denne informasjonen til en bruker på en lettfattelig måte. I de tilfeller der informasjonen faktisk er korrekt og brukeren har de nødvendige kunnskaper til å nyttiggjøre seg av denne, letter dette selvsagt det innledende arbeidet. Men den konkrete trusselen er det terroristen og dennes praktiske og teoretiske kunnskaper som står for, ikke samtaleroboten.

Det er heller ikke «KI» som fører til eventuelt økt radikalisering og flere tilhenger til terrororganisasjoner eller ytre høyre- eller venstreparti, men operatørenes kunnskap om hvordan nå frem til aktuelle mottakere nasjonalt og internasjonalt.

Siden media flommer over av artikler om hvordan «KI» benyttes til dette og hint, kan det være greit å tenke over følgende (utheving – tekst i fet skrift – satt av meg):

«Strictly speaking, AI is not a technology at all. Facial-recognition software, translation and speech recognition programs, scheduling algorithms, and predictive models might all have different machine learning tools running in the background, but it is patently absurd to refer to them as a singular technology. We do not call everything containing copper wires «wiring».»
– R.H. Lossin, PhD. og J. Resnikoff, PhD., 2024 (19)

Konklusjon

«AI is a marketing term used to generate hype,…»
– Skyler Schain, 2023 (20)

«The talk about existential risk from AGI is a magician’s distraction from what’s going on right in front of us – not a mechanical uprising, but a silent campaign to devalue the political and cultural currency of humane thought.»
– Professor Shannon Vallor, 2023 (21)

«The results are impressively realistic, but the “basic statistics” are the same. There is no sentience, there’s no self-contemplation, there’s no self-awareness.»
– Professor Michael Wooldridge, 2022 (22)

«Here’s where we actually are, so much more boring, and so much more real: Current models trained on next-token prediction have remarkable abilities and remarkable weaknesses. The scope of those abilities and weaknesses of the current systems is not well understood. There are some applications where the current systems are reliable enough to be practically useful, though not nearly as many as is often claimed. No doubt the next generation of systems will have greater abilities and more extensive applications and will somewhat mitigate the weaknesses. What is to come is even more poorly understood than the present. But there is zero justification for claiming that the current technology has achieved general intelligence.»
– Professor Gary Marcus, 2025 (23)

«Eksempelvis kan KI brukes i påvirkningsoperasjoner, sosial manipulering, eller til å finne sårbarheter i programvare. På samme måte kan KI antagelig også brukes til å oppdage og motvirke disse operasjonene. Hvorvidt KI vil gi størst fordeler til de som forsøker å utnytte det til offensive cyberoperasjoner eller til de som forsøker å forhindre slike operasjoner, er usikkert.»
– PST, Nasjonal trusselvurdering 2024, s. 18 (24)

De nye systemene/ programmene som har dukket opp i kjølevannet av samtalerobotene kan i noen tilfeller fungere som en kraftforsterker for eksisterende sikkerhetstrusler, men det eksisterer ingen «KI-trussel» i det digitale rom i betydningen selvtenkende maskiner med egen vilje og egne mål. De grunnleggende reglene gjelder fortsatt og truslene i det digitale rom representeres stadig av de samme aktørene som før, av de gode gamle metodene vi kjenner fra før, og ikke minst av vår hang til intellektuell latskap.

Sosial manipulasjon blir mer og mer populært, og enkeltmenneskets bruk av sosiale medier er utgangspunkt for klassiske påvirkningsoperasjoner og like klassiske digitale angrep i form av «klikk på denne lenken». Falske nyheter blir stadig vekk produsert av ekte mennesker og bruken av avanserte verktøy er stadig basert på disse menneskenes kunnskap om hvordan nå ut til aktuelle mottakere.

Fremveksten av avanserte verktøy tilgjengelig for alle kan øke mengden digitale angrep mot viktige systemer og mengden av godt utformede falske videoer som del av angrep mot våre holdninger, og det er absolutt ikke å kimse av. Men angrepsformene er ikke nye.

Fjernstyring av selvkjørende biler eller bruk av våpenførende droner er spesifikke angrepsformer knyttet til terrorisme eller hybrid krigføring, og vil skje dersom en terrorist-gruppe eller en statlig aktører mener dette er hensiktsmessig og har den nødvendige teknologiske kompetanse til å utføre angrepet.

Radikalisering av unge eller andre grupper i et samfunn skyldes ikke «KI», men at terroristorganisasjoner, etterretningsoperatører og ekstremistiske partier har god kunnskap om hvilke samfunnsmessige problemer som kan utnyttes, og dernest hvilke digitale verktøy som kan brukes til å formulere et budskap og nå frem til flest mulige. Skal en stoppe denne type påvirkningsoperasjoner trenges det helt andre virkemidler enn å regulere ulike typer digitale verktøy. Økt utdanning, økt bevissthet i befolkningen som helhet og politiske tiltak for å utjevne/ fjerne sosiale ulikheter, fattigdom, utenforskap ol. er viktige tiltak her.

Angrep rettet mot den politiske og kulturelle verdien av individets evne til å tenke og skape på egenhånd, er ikke utført av «KI», men av kommersielle krefter som ønsker mest mulig salg av spesifikke verktøy og aktører som ønsker å bryte ned liberale demokratiers motstandskraft mot totalitær påvirkning. Også her vil det være utdanning og bevisstgjøring som vil kunne være avgjørende.

Nye trusler mot demokratiet av typen «KI-svermer» springer ikke ut fra “tenkende” maskiner som handler på egen hånd, men fra systemer bevisst programmert og styrt av mennesker for å manipulere informasjon i stor skala. At systemene etterligner naturlige publiseringsmønstre, bruker slang og virker menneskelige, er derfor et resultat av bevisste designvalg gjort av mennesker, ikke av maskiner. Denne spesifikke trusselen er, som de øvrige som her er beskrevet, først og fremst menneskelig styrte angrep ved hjelp av digitale verktøy, ikke autonome system som har utviklet egne intensjoner eller vilje

Trusselaktørene er uansett angrepsform og verktøybruk stadig vekk den vanlige gjengen av etterretningsoperatører fra fiendtlige nasjoner, terror-grupper, større kriminelle nettverk og mer eller mindre dyktige enkeltkriminelle. Disse aktørene benytter en rekke digitale medier og verktøy i sitt arbeide, men angrepene mot oss er basert på aktørenes intelligens og kunnskap om både teknologi og psykologi. De er ikke basert på en mystisk, ikke-eksisterende digital intelligens.

Og når det gjelder de stadige digitale angrepene mot vårt heldigitale mediesamfunn, så er det fortsatt den enkelte borgers egen bevissthet og egen kunnskap om det digitale som er nøkkelen til å avverge denne type angrep.

Mediestøyen knyttet til fantasiene om at vi nå har utviklet «Kunstig Intelligens» endrer ikke dette enkle faktum.

Postskriptum 2026

Som for alt som har med teknologi å gjøre, går også utviklingen av kombinasjonen store språkmodeller og samtalegrensesnitt med stormskritt. Men selv nå i siste del av januar 2026 står hovedbudskapet i mitt innlegg seg godt.

Det finnes fortsatt ikke «KI‑trusler» i betydningen selvstendige, tenkende maskiner som planlegger og utfører angrep på oss. Like fullt er de ulike verktøyene/ systemene – store språkmodeller, samtaleroboter, avansert video‑ og stemmegenerering – alt annet enn uvesentlige. De kan forsterke velkjente angrepsformer ved å senke terskler for bruk, øke tempoet og gi større gjennomslagskraft i sosial manipulering, svindel og ulike typer påvirkning. Men disse verktøyene kontrolleres fortsatt av mennesker gjennom systemdesign, programmering og operasjonelle valg.

Derfor er nøkkelen til samfunnets motstandskraft mot slike trusler fortsatt deg og meg: Vår kritiske sans, vår digitale dømmekraft og vår egen sikkerhetspraksis. Det er slik vi møter «de vanlige mistenkte» – ikke ved å frykte datasystemene, men ved å forstå og motvirke dem som bruker dem.

En forkortet utgave av dette blogginnlegget (1. versjon) kan også leses på Trønderdebatt.

LESELISTE

Leselisten sist oppdatert: 23.08.2026
  1. No, OpenAI’s model did not ‘go rogue’ – and the real story is more useful than the headlines
  2. OpenAI’s Agent Didn’t Hack Hugging Face—They Just Left the Door Open
  3. When Bots Take the Bait: Exposing and Mitigating the Emerging Social Engineering Attack in Web Automation Agent
  4. How malicious AI swarms can threaten democracy: The fusion of agentic AI and LLMs marks a new frontier in information warfare
  5. Generativ kunstig intelligens og cyberkriminalitet
  6. The Psychology of Cybercrime: Understanding Motivations to Craft Effective Prevention Strategies
  7. How Are Cybercrime and Psychology Related?
  8. Hacking the mind: Why psychology matters to cybersecurity
  9. Digital deception: generative artificial intelligence in social engineering and phishing
  10. How to defend an exploding AI attack surface when the attackers haven’t shown up (yet)
  11. Impact of AI on cyber threat from now to 2027
  12. Top Industries Targeted by Hackers in 2025: The New Rules of Cyber Engagement
  13. Vi er vel (nesten) alle like dumme som Donald Trump
  14. Combating AI-Driven Disinformation: A Reward-Based Model for Enhancing Civic Engagement and Election Integrity
  15. The Intersection of Artificial Intelligence and Social Engineering: Next-Generation Threats
  16. Generating Terror: The Risks of Generative AI Exploitation
  17. THE DARK SIDE OF LARGE LANGUAGE MODELS (2 deler)
  18. Tell me what you don’t know: large language models and the pathologies of intelligence analysis
  19. AI Browser or Trojan Horse: A Deep-Dive Into the New Browser Wars
  20. Please stop using AI browsers
  21. CHATGPT – EN TRUSSEL MOT DEMOKRATIET
  22. ChatGPT, Grok, Gemini and other AI chatbots are spewing Russian misinformation, study finds
  23. Social engineering with ChatGPT
  24. Security threats in AIs such as ChatGPT revealed by researchers
  25. Is ChatGPT a cybersecurity threat?
  26. Unveiling the Dark Side of ChatGPT: Exploring Cyberattacks and Enhancing User Awareness
  27. 11 Convincing ChatGPT and AI Scams to Watch out for in 2024
  28. ChatGPT – Learning Enough to be Dangerous
  29. Everything to Know About OpenAI’s New Text-to-Video Generator, Sora
  30. AI Is an Existential Threat—Just Not the Way You Think
  31. AI hype as a cyber security risk: the moral responsibility of implementing generative AI in business
  32. The Use Of Artificial Intelligence Technologies In Information And Psychological Warfare
  33. IS-tilhengere bruker KI til å spre terror-propaganda
  34. Artificial intelligence for cybersecurity: Literature review and future research directions
  35. Attacking Artificial Intelligence: AI’s Security Vulnerability and What Policymakers Can Do About It
  36. What are the AI security risks?
  37. The potential terrorist use of large language models for chemical and biological terrorism
  38. Chatbots won’t help anyone make weapons of mass destruction. But other AI systems just might
  39. OpenAI warns its future models will have a higher risk of aiding bioweapons development
  40. En ny pandemi er på trappene
  41. Slik kan KI gi for stor oversikt over samfunnet: – Åpne data truer Norges sikkerhet
  42. How to better research the possible threats posed by AI-driven misuse of biology
  43. Using an AI Browser Lets Hackers Drain Your Bank Account Just by Showing You a Public Reddit Post