Førstelektor i IKT ved Handelshøyskolen Nord, utdannet i IKT/ IKT-sikkerhet og Jus med spesialisering i Politirett og Arbeidsrett, tidligere lokalpolitiker for Høyre, tjenestepliktig befal i Sivilforsvaret (pensjonert), over 20 års erfaring med digital distribuering av undervisning og studentaktiv undervisning.
En forkortet og omredigert versjon av dette innlegget er publisert på Altinget.no
That tech fantasy is running on fumes. We all know it’s not going to work. But the fantasy compels risk-averse universities and excites financial speculators because it promises the power to control what learning does without paying the cost for how real learning happens. Tech has aimed its mid revolutions at higher education for decades, from TV learning to smartphone nudges. For now, A.I. as we know it is just like all of the ed-tech revolutions that have come across my desk and failed to revolutionize much. Most of them settle for what anyone with a lick of critical thinking could have said they were good for. They make modest augmentations to existing processes. Some of them create more work. Very few of them reduce busy work.
Tross hypen rundt såkalt «kunstig intelligens», viser både egne tester og faglige vurderinger fra både nasjonale og internasjonale forskere, at samtaleroboter som ChatGPT mangler både intelligens og innsikt. De er avanserte tekstgeneratorer som imiterer språk uten forståelse, og dagens medieskapte myter om tenkende maskiner kan fort bli en beredskapsmessig trussel.
Innledning
«No, Bloomberg News, ChatGPT did not get an MBA. No, NBC News, ChatGPT did not even pass an exam.» – Professor Melanie Mitchell (2)
«LLM tech is enjoying a moment in the sun, branded as «artificial intelligence» and inserted into half the world’s products and counting. The promise of an always-available expert who can chew the fat on a range of topics using conversational natural-language question-and-response has proven popular – but the reality has fallen short, thanks to issues with «hallucinations» in which the answer-shaped object it generates from a stream of statistically likely continuation tokens bears little resemblance to reality.» – Gareth Halfacree (3)
«LLMs are models of human written communication – they are built to replicate perfectly the same biased ‘ideological agendas’ present in their training data,» (…) «And the nature of training data is that it has to exist – literally, in order for an LLM to have a perspective on a topic, it needs to consume material about that topic. Material is never neutral. And by definition, the LLM alone cannot balance consumed material with the ABSENCE of material.» – Joshua McKenty (4)
«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår» – Bjørn Stærk (5)
I løpet av de siste årene har samtaleroboter som ChatGPT, Copilot, Gemini ol. blitt løftet frem som teknologiske mirakler og verktøy som angivelig kan revolusjonere utdanning, forskning og arbeidsliv. Men bak medieoverskriftene og de euforiske uttalelsene fra politikere og næringslivsaktører skjuler det seg en virkelighet som er langt mer nyansert, til dels ytterst kjedelig og absolutt uten noen form for intelligens.
Som informasjonsviter med et særlig blikk for informasjonsteknologiens pedagogiske og samfunnsmessige implikasjoner siden 90-tallet, har jeg over to år testet 14 ulike samtaleroboter på eksamensoppgaver knyttet til fagfeltet Samfunnsinformatikk.
Samtlige oppgaver krevde analyse, syntese og evaluering og var utformet for å måle studentenes evne til faglig refleksjon knyttet til helt spesifikt fagstoff, evne til å knytte dette til egen yrkesvirkelighet, evne til å reflektere over egen læring og evne til å finne gode (og etterprøvbare) fagkilder for å bygge opp under egne faglige refleksjoner.
Resultatene var entydig negative og gjorde det krystallklart at disse verktøyene verken er intelligente eller kreative. Og de er absolutt ikke faktainnhentere. De er avanserte statistiske tekstgeneratorer klart bundet av algoritmer og mønstergjenkjenning, ikke forståelse.
Både mine tester, og internasjonal forskning på hvordan samtaleroboter behandler eksamensoppgaver knyttet til høyere nivå i Blooms taksonomi, viser at mediehistoriene om at dette var verktøy som lett kunne skrive gode universitetsbesvarelser uansett fagemne ikke stemmer. Og amerikanske forskere har for lengst vist at påstandene om at ChatGPT, og lignende verktøy, klarte bachelor og mastereksamener ikke holdt vann.
Som førsteamanuensis Inga Strümke påpekte i NRK i mai 2025; «Språkmodeller er lagd for å skrive gode setninger, ikke for å undersøke virkeligheten». Til tross for dette teknologiske faktum ser vi stadig – selv nå i 2025 – at enkelte akademikere mener at samtaleroboter kan besvare alle typer eksamensoppgaver og at de samme systemene kan avsløre tekster skrevet av «KI». At dette er fantasier som for lengst er tilbakevist, virker å være helt ukjent.
Professor Jon Whittle er en av mange forskere som prøver å holde fagområdet Kunstig Intelligens på et saklig og vitenskapelig nivå. I sin forelesning «There’s no such thing as Artificial Intelligence» påpeker han følgende:
Skjermdump av slide
Men til tross for forskere som professor Whittle og det faktum at absolutt ingen av de vidløftige påstandene knyttet til samtaleroboter er innfridd, lever mytene om KI videre og samtaleroboter er plutselig blitt inngangsporten til drømmen om tenkende maskiner.
Manglende vitenskapelig kompetanse
«The current idea that chatbots are «AI» and claims that computers can now truly think is a reflection of the imbalance between rapid technological progress and the widespread lack of scientific literacy. In the past, people fervently believed in demons and UFOs. Today, it’s AI» – Per A. Godejord (Kommentar på BlueSky)
Utsagnet mitt over bygger på en observasjon Carl Sagan gjorde på slutten av 1990-tallet; at det var et kritisk behov for utbredt vitenskapelig kompetanse i en verden som i stadig større grad formes av vitenskap og teknologi. I dag er denne teknologiske påvirkningen, i det minste i den velstående delen av verden, enda mer fremtredende.
Sagan advarte om at et samfunn som er sterkt avhengig av teknologi, men mangler forståelse for den, er iboende ustabilt og utsatt for manipulasjon. Han mente at manglende vitenskapelig forståelse gjør folk sårbare for pseudovitenskap og feilinformasjon, noe som hemmer evnen til å ta informerte beslutninger.
Etter min mening er denne bekymringen like relevant i dag, om ikke mer. Dette ser vi særlig i det stadig pågående mediehysteriet rundt fremveksten av samtaleroboter av typen ChatGPT og disses videreutviklede versjoner.
Det virker for meg som behovet for det Carl Sagan kalte et «baloney detection kit» er enda større nå enn det var på 90-tallet. Og da særlig knyttet til de ulike påstandene om at ChatGPT og lignende verktøy kan svare ekspertmessig på alle typer universitetsoppgaver, på mystisk vis avsløre «KI-tekster» og at samtalerobotenes utvikling betyr at vi nå har intelligente datamaskiner.
Denne type påstander er ikke bare vitenskapelig uholdbare, de kan være farlig.
Mytene om KI er en samfunnsrisiko
«Once men turned their thinking over to machines in the hope that this would set them free. But that only permitted other men with machines to enslave them» – Frank Herbert, Dune, 1965 (6)
«The talk about existential risk from AGI is a magician’s distraction from what’s going on right in front of us – not a mechanical uprising, but a silent campaign to devalue the political and cultural currency of humane thought.» – Professor Shannon Vallor (7)
Det mest alvorlige i de siste årenes mediefantasier knyttet til samtaleroboter er ikke teknologien i seg selv, men hvordan vi forstår og bruker den. Når både media, politikere og utdanningsinstitusjoner ukritisk videreformidler ideen om at samtaleroboter er intelligente og at vi som del av dette nå plutselig har utviklet intelligente maskiner, bidrar vi til en teknologisk analfabetisme som kan få alvorlige konsekvenser.
Så og si samtlige mennesker i dette landet er storkonsumenter av digitale medier. Men det er ikke gitt at dette utstrakte konsumet gir seg utslag i særlig stor forståelse, verken blant eldre eller unge, for hva digital teknologi i bunn og grunn rent faktisk er.
Og i en tid preget av omfattende digital sårbarhet, økende hybrid krigføring og informasjonskrig, er det avgjørende at befolkningen har en realistisk og kunnskapsbasert forståelse av hvordan informasjonsteknologi faktisk fungerer. En slik forståelse vil være det sikreste botemiddel mot digitale trusler fra både kriminelle og fiendtlige nasjoners etterretning.
Særlige våre ikke-teknologiutdannede politikere trenger å forstå at KI ikke er ett verktøy, men et kontroversielt sekkebegrep som omfatter en hel rekke ulike IT-systemer.
Samtalerobotene som media og våre politikere er så begeistret for, er utelukkende utviklet for å skrive gode setninger, og har absolutt ingen anelse om vår eksistens. En datamaskin kan verken føle eller tenke, og resultatet av våre spørsmål er verken intelligens eller resonnering, og slett ikke forståelse. Det ChatGPT og lignende verktøy leverer, er lynhurtig autofullføring av tekst. Og disse verktøyene er, på samme måte som sosiale medier, konstruert for å være avhengighetsskapende.
Ingen av de ulike systemene/ verktøyene som er utviklet som del av forskningsfeltet KI, vil i seg selv nødvendigvis være nyttig i alle deler av det offentlige og det private, med mindre en klar strategi for IT-bruk i den enkelte virksomhet er på plass. Og bare fordi media og deler av næringslivet, med våre politikere som lydige etterplaprere, nå kaller ethvert IT-system for «KI», betyr ikke at vi per nå rent faktisk har utviklet digitale system som er i nærheten av intelligens.
I dagens kompliserte verden trenger vi ikke flere myter om såkalt «KI», ei heller forbud mot – eller restriksjoner på – bruken av samtaleroboter og andre typer assistent-verktøy. Vi trenger digital dannelse, teknologikritikk og et utdanningssystem som setter individet, menneskelig innsiktogrefleksjoni sentrum og ikke maskinens evne til å etterligne slike egenskaper.
Vi trenger å utdanne og bevisstgjøre folk slik at de slutter å overlate egen dømmekraft til datamaskiner eller hengir seg til fantasier om at statistiske «regnemaskiner» er velegnet som psykologer. En utstrakt bruk av lettvinte løsninger a la ChatGPT gjør oss dummere, og dermed til et lettere bytte for fiendtlige aktører.
«We have designed our civilization based on science and technology and at the same time arranged things so that almost no one understands anything at all about science and technology. This is a clear prescription for disaster.»
Dette innlegget er basert på arbeidet jeg har gjort knyttet til samtaleroboters evne til å besvare arbeidskrav (eksamensoppgaver) i mine fagemner. En omarbeidet versjon er publisert på forskersonen.no
In a world in transition, students and teachers both need to teach themselves one essential skill – learning how to learn.
Carl Sagan
Samtaleroboter som ChatGPT fremstår som språklig imponerende, men avsløres som faglig svake når de møter akademiske krav. De genererer overfladiske svar og falske kilder, og mangler evne til kritisk tenkning og forståelse. I høyere utdanning bør de omtales som digitale verktøy – ikke intelligente hjelpere.
Innledning
«Neural networks today are realized in software, rather than in electrical circuits, and to be clear, neural net researchers don’t try to actually model the brain, but the software structures they use — very large networks of very simple computational devices — were inspired by the neural structures we see in brains and nervous systems» – Professor Michael Wooldridge (1)
«Differences about the future of AI are often partly rooted in differing interpretations of evidence about the present. For example, we strongly disagree with the characterization of generative AI adoption as rapid» – Professor Arvind Narayanan and Senior Fellow Sayash Kapoor (2)
«Min hypotese er at de som tar avgjørelsen om hvorvidt man vil kalle noe for kunstig intelligens eller ikke, ofte ser på begrepsbruken som en fordel. Man framstår kanskje som mer moderne og fremtidsrettet. Eller man får flere klikk på artikkelen man skriver» – Nora Gjøen-Gjøsæter (3)
«Jeg liker ikke å kalle det «kunstig intelligens» – Roger Olafsen (4)
«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.» – Bjørn Stærk (5)
Siden lanseringen av ChatGPT i november 2022 har debatten om kunstig intelligens (KI) i utdanning og samfunn eksplodert. Samtaleroboter som ChatGPT ol. har blitt løftet frem som teknologiske mirakler – verktøy som angivelig kan revolusjonere utdanning, forskning og arbeidsliv. Mediene har vært fulle av både dommedagsprofetier og euforiske visjoner. Men bak overskriftene og den teknologiske euforien skjuler det seg en virkelighet som er langt mer nyansert, og langt mindre intelligent.
Men hva skjer når vi faktisk setter de ulike verktøyene på prøve, i møte med reelle akademiske krav og praksisnære oppgaver? Dette innlegget bygger på egne systematiske tester av ChatGPT og 13 andre lignende samtaleroboter, gjennomført over to år, og jeg vil hevde at disse verktøyene ikke representerer et paradigmeskifte i høyere utdanning, men kun en ny variant av gamle verktøy med bedre markedsføring.
Språklig briljans – faglig svakhet
ChatGPT og de ulike samtalerobotene imponerer ved første øyekast. Det skriver flytende, høflig og grammatisk korrekt. Men når systemene blir bedt om å besvare arbeidskrav utformet i tråd med høyere nivå i Blooms taksonomi fra fagemner knyttet til samfunnsinformatikk-feltet, der det ikke finnes klare svar eller evige sannheter, faller de gjennom. De klarer ikke å analysere, vurdere eller reflektere, kjernekompetanser i høyere utdanning. I stedet produserer de overfladiske svar som ofte bare reformulerer oppgaveteksten. Det som fremstår som innsikt, er i realiteten statistisk sannsynlige ordkombinasjoner.
Hallusinasjoner og falske kilder
Et gjennomgående problem er såkalte «hallusinasjoner», disse verktøyenes tendens til å dikte opp fakta, forfattere og litteratur. I flere av mine tester genererte de ulike samtalerobotene akademiske referanser som ikke eksisterer, men som så troverdige ut. Dette er ikke bare en teknisk svakhet, men en alvorlig utfordring for akademisk integritet. Når studenter bruker slike verktøy ukritisk, risikerer de å levere besvarelser som er både faglig svake, faktisk feil og helt uten den tankevirksomhet det er meningen at universitetsstudier skal oppøve.
En dårlig støtte for svake studenter
Basert på resultatene av mine tester vil bruk av samtaleroboter i fagemner der det finnes få eller ingen klare fasitsvar, i liten grad hjelpe faglig svake studenter. Tvert imot vil de antakelig forsterke svakhetene. Studenter uten grunnleggende fagforståelse klarer ikke å stille gode spørsmål (prompting), og ender opp med generiske svar uten dybde. Samtidig kan faglig sterke studenter bruke verktøyene som en slags «digital sekretær» til å strukturere tekst, oppsummere kilder eller generere utkast. Men dette krever høy grad av kritisk vurdering og etterarbeid, og studenten slipper ikke unna å selv måtte formulere sine faglige refleksjoner forankret i egen yrkespraksis og i relevant faglitteratur.
Og besvarelsene fra de faglige svake studentene, den gruppen som med størst sannsynlighet lar seg friste til å ta snarveier, er slett ikke vanskelig å oppdage, noe også andre forskere har pekt på (Molnes, 2024)
Ikke kunstig intelligens – bare avansert statistikk
Til tross for at media og andre stadig henviser til ChatGPT og lignende samtaleroboter som kunstig intelligens (KI) er disse verktøyene absolutt ikke intelligente. De forstår ikke spørsmål, resonnerer ikke, og har ingen bevissthet. De er basert på avanserte språkmodeller som gjetter neste ord basert på sannsynlighet.
Stipendiat David Samuel ved Universitetet i Oslo sin språkteknologigruppe var ganske klar i et intervju i Universitas i 2022 på at ChatGPT ikke på noen måte var intelligent (Gundersen, 2022) og Ian Venner ved Hurricane peker på at de store språkmodellene først og fremst har indeksert internett. Ved å behandle alle dataene de har tilgang til der, samt de data som ulike aktører har lagt inn i systemene, har de skapt koblinger mellom datasett basert på faste regelsett. Dette betyr at lignende informasjon grupperes sammen, vektes og kobles til andre lignende områder, noe som gir et stort nettverk av sammenkoblet data. Dette, hevder Venner, er ikke kunstig intelligens, men datamining (Venner, 2024). Og sist, men ikke minst, KI er ikke en teknologi eller ett verktøy, men et upresist «sekkebegrep» som omfatter en rekke ulike systemer/ verktøy basert på ulike teknologier hvis intelligens er ytterst diskutabel. Professor Jan Ketil Arnulf ved BI foreslår at vi bør droppe begrepet «Kunstig intelligens» og heller bruke begrepet «kunstige aktører» (Arnulf, 2024), noe jeg for min del er enig i.
Å ukritisk kalle de ulike samtalerobotene for KI er misvisende og det tilslører det faktum at disse verktøyene verken er spesielt revolusjonerende, eller spesielt nye og utelukkende er programmert for å skrive gode setninger basert på statistisk analyse av de bokstavsammensetninger en bruker legger inn.
Hva betyr dette for høyere utdanning?
Det er etter min mening ingen grunn til panikk. Samtaleroboter truer ikke utdanningen ved våre høyskoler og universiteter så lenge vi utformer eksamensoppgaver og arbeidskrav i tråd med høyere nivå i Blooms taksonomi. Oppgaver som krever refleksjon, faglig forankring og personlig erfaring, lar seg ikke løse av samtaleroboter. Tvert imot gir dette oss en gyllen mulighet til å styrke undervisningskvaliteten ved å fokusere på oppgavedesign, veiledning og vurderingsformer som fremmer dyp læring.
Avslutning – Fra hype til realisme
Samtaleroboter er nyttige verktøy innenfor begrensede områder, men ikke mer enn det. De kan brukes til oversettelser, oppsummeringer og idéutkast. Men de kan ikke tenke, forstå eller lære. Det er derfor på tide å legge bort både frykten og euforien, og møte teknologien med nøkternhet og faglig dømmekraft.
For i en tid der det rene tøv kan genereres på kommando, blir evnen til kritisk tenkning viktigere enn noen gang.
I en tid der krig ikke bare utkjempes med våpen, men også med tastatur og algoritmer, må vi alle forstå at vi er deltakere i en pågående informasjonskrig. Motstanderne er både kriminelle og statlige aktører fra Russland og Kina, og frontlinjen går tvers gjennom våre skjermer.
Vi lever i en tid der digitale trusler ikke lenger er noe som bare angår myndigheter og eksperter. De angår deg og meg – i hverdagen, på jobb, og hjemme ved kjøkkenbordet. Når strømmen går, nettet faller ut, vår arbeidsgivers IT-systemer angripes via vår private SMART-mobil eller falske nyheter sprer seg raskere enn fakta, er det vår egen digitale robusthet som avgjør hvor godt vi står imot.
Kjøkkenbordet som første forsvarslinje
Digital sikkerhet starter ikke i regjeringskvartalet – den starter hjemme. Det handler om å bruke sikre passord, aktivere totrinnsverifisering, og samtale om nettvett hjemme. Det handler om å forstå hvordan vi selv kan være mål for sosial manipulering – og hvordan vi kan stå imot.
De vanlige mistenkte – og nye verktøy
Selv om kunstig intelligens skaper nye utfordringer, er det fortsatt de «vanlige mistenkte» som står bak de fleste digitale trusler: statlige etterretningstjenester og organiserte kriminelle. KI er et samlebegrep for en rekke ulike verktøy – men det er menneskene bak tastaturet som utgjør den virkelige faren. Dette er profesjonelle kriminelle eller etterretningsoperatører med et godt grep om psykologi og god kjennskap til vår hang til intellektuell latskap når det gjelder alt som har med IT å gjøre.
Sosiale medier som slagmark
Plattformer som Facebook, TikTok og X (tidligere Twitter) er ikke lenger bare tidtrøyte. De er blitt arenaer for psykologisk krigføring. Her formes holdninger, skapes splid og manipuleres virkelighetsoppfatninger. Når vi deler, liker og kommenterer, er vi ikke bare brukere – vi er aktører i et informasjonsmiljø som kan brukes både til opplysning og til destabilisering. Og når vi overlater våre barn og unge til på egenhånd å utforske den digitale verden, så overlater vi dem alene og forsvarsløs til kyniske kommersielle interesser, kriminelle og operatører fra de brutale diktaturstatene Russland og Kina.
Kan en kriminell eller en etterretningsoperatør ikke umiddelbart nå fatt i våre data via våre digitale medieenheter, er våre barns enheter naturlige mål. Og våre barn og unge er også mål for innhold som svekker deres selvforståelse og mentale hygiene, noe som på lang sikt kan gi en befolkning som i liten grad er motstandsdyktige i krise og krig.
Hva betyr dette for deg?
Det betyr at digital egenberedskap ikke lenger er et valg – det er en nødvendighet. Vi må:
Oppdatere programvare og bruke sikre passord
Lære barna våre kritisk tenkning og digital dømmekraft
Slutt å kalle ChatGPT og lignende verktøy for KI, og sett deg inn i de sikkerhets-, personvernmessige og kognitive utfordringer som følger med disse verktøyene
Være bevisste på hva vi deler, og hvem vi stoler på
Forstå at vi er mål – og at vi har makt til å stå imot
Dette er ikke paranoia. Det er realisme. Og det er vår nye folkeplikt.
En forkortet utgave av dette blogginnlegget kan også leses påTrønderdebatt.
Per Arne Godejord Nord University Business School Norway
Abstract
(Draft)
Background: Large language models (LLMs) such as ChatGPT, Bing Chat, Claude, and others are often claimed to be capable of producing academic responses to university-level tasks. However, these models are prone to «hallucinations,» generating outputs that appear convincing but are factually incorrect. This study evaluates the performance of various LLMs in completing higher-order academic assignments within the field of Social Informatics.
Objective: The objective of this paper is to assess the capabilities and limitations of several popular chatbots in addressing complex academic tasks within the field of Social Informatics, focusing on their alignment with higher cognitive levels as defined by Bloom’s taxonomy.
Methods: A field-based evaluation experiment was conducted over two years, employing a quasi-experimental case study design. The study involved testing the performance of ChatGPT, GPT UiO, Sikt KI-Chat, GPT-3 Playground, Chatsonic, Bing Chat (Copilot), Jenni, Claude, llama70b-v2-chat, Perplexity.ai, Gemini Pro, and others, using primarily their free versions.
These tools were tested in realistic teaching settings, using authentic coursework requirements from a set of courses belonging to two online study programmes and one online MBA course. The evaluations were based on discipline-specific criteria, including qualitative descriptions of academic texts, alignment with Bloom’s taxonomy, and authentic portfolio assessment.
Results: The findings indicate that none of the chatbots were capable of reliably producing high-quality academic outputs beyond simple fact repetition. The responses often lacked analytical depth, critical reflection, and adherence to academic standards. Many outputs included fabricated information and non-existent sources.
Conclusions: The study concludes that current chatbots fall short of delivering the level of academic rigor required by advanced university education. While these models can assist with simple content generation, they cannot replace the intellectual engagement and analytical reasoning necessary for higher-order academic tasks. The findings suggest that concerns about chatbots undermining academic integrity in higher education are unfounded, as these tools are not yet capable of meeting the demands of complex academicassessments.
REFERENCES
(not complete)
Bharatha, A., et al. (2024). Comparing the performance of ChatGPT-4 and medical students on MCQs at varied levels of Bloom’s Taxonomy. Advances in Medical Education and Practice. Retrieved from https://www.tandfonline.com/doi/pdf/10.2147/AMEP.S457408
Crowther GJ, Sankar U, Knight LS, Myers DL, Patton KT, Jenkins LD, Knight TA. (2023). Chatbot responses suggest that hypothetical biology questions are harder than realistic ones. J Microbiol Biol Educ. 24:e00153-23. Retrieved from: https://journals.asm.org/doi/full/10.1128/jmbe.00153-23
Elsayed, S. (2023). Towards mitigating ChatGPT’s negative impact on education: Optimizing question design through Bloom’s taxonomy. arXiv. Retrieved from https://arxiv.org/pdf/2304.08176
Habiballa, H., et al. (2025). Artificial intelligence (ChatGPT) and Bloom’s Taxonomy in theoretical computer science education. Applied Sciences, 15(2). Retrieved from https://www.mdpi.com/2076-3417/15/2/581
Herrmann-Werner, A., et al. (2024). Assessing ChatGPT’s mastery of Bloom’s Taxonomy using psychosomatic medicine exam questions: Mixed-methods study. Journal of Medical Internet Research. Retrieved from https://www.jmir.org/2024/1/e52113/
Mirzadeh, I., et al. (2024). GSM-Symbolic: Understanding the limitations of mathematical reasoning in large language models. Hugging Face Papers. Retrieved from https://huggingface.co/papers/2410.05229
Emnets fokus er egen bevisstgjøring rundt digitale trusler og den enkeltes ansvar for digital beredskap. Denne begrensningen ble valgt for å kunne gjøre et i utgangspunktet enormt fagemne til noe som er gripbart for den enkelte student.
Studentene er i svært liten grad IT-teknisk personell eller ingeniører og emnet berører følgelig ikke de tekniske sidene ved digital sikkerhet. Det store flertallet jobber heller ikke med IKT-sikkerhetsspørsmål eller cyberforsvar til daglig, og det er vanskelig å drifte et fagemne som både tilfredsstiller flertallets behov og behovene til en eller to personers spesialkunnskap.
Fagemnet har følgelig ikke som mål å gjøre studentene i stand til å bekjempe hackere – enten de er kriminelle eller statlige aktører, men skal trigge refleksjoner som til slutt kan være med å gjøre den enkelte student til en bedre beredskapsleder, og ikke minst en mer sikkerhetsbevisst borger i et nesten heldigitalt samfunn. Håpet er at den enkelte student etter å ha gjennomført ORG5005 skal forstå at egne holdninger og egen digital beredskap har betydning for den totale beredskapen, – både hos egen arbeidsgiver og for nasjonens digitale beredskap. Studentene skal også være i stand til å drive bevisstgjøringsarbeid i egen organisasjon, herunder bidra til beredskapsøvelser der bortfall av digital infrastruktur inngår.
Universitetsstudier har alltid hatt som funksjon å utdanne selvstendige kandidater med god vurderingsevne og god evne til kritisk tenkning, og dette er også funksjonen til ORG5005.
ORG5005 er på 7.5 studiepoeng og et fagemne på 7,5 stp. tilhørende EVU-segmentet der studentene studerer på deltid er beregnet til om lag 200 arbeidstimer. Studiepoengberegningen kan relateres til råd om arbeidsbelastning pr. studiepoeng gitt i den internasjonale ECTS-skalaen og nasjonale (UHR) retningslinjene som sier at 1 studiepoeng svarer til en normal arbeidsbyrde på mellom 25 og 30 arbeidstimer.
Siden det gis individuell veiledning på hver besvarelse til de to arbeidskravene og studentene skal kunne jobbe videre med disse to besvarelsene frem mot mappestenging (eksamen består kun av å levere inn ferdigutviklede besvarelser på to arbeidskrav) i slutten av semesteret, blir arbeidsmengden erfaringsmessig overkommelig. Men det krever at studentene har en stor grad av selvdisiplin og er god på å organisere egen tidsbruk.
For å hjelpe studentene med planleggingen av egen studietid med dette emnet, er all informasjon og fagstoff på plass i Canvasrommet til fagemnet senest i midten av desember. Dermed vil studentene ved semesterstart januar kunne ha kontroll på all nødvendig informasjon og samtidig være trygg på at det ikke kommer plutselige kontrabeskjeder eller ikke-varslede oppgaver.
Siden ORG5005 er et asynkront fagemne som er ment å nå det store flertallet som ikke har anledning til å delta på samlinger, ei heller digitale, er det ingen digitale forelesninger i sanntid.
1)ORG5005 er designet som et asynkront, heldigitalt emne, og har ingen samlinger på campus eller synkrone samlinger via Zoom eller Teams.
2)Undervisningsmedie: Canvas med tekst, lyd og video.
3) Arbeidsmåte: Studentaktiv læring med asynkrone forelesninger, og to obligatoriske arbeidskrav som skal utføres individuelt og leveres inn til individuell veiledning. (Frivillig og ikke knyttet til eksamensretten). Deretter videreutvikles besvarelsene iht. veiledning og leveres i sine endelige versjoner i Inspera innen oppsatt eksamensdato.
4)Ingen trenger å ta seg fri fra jobb for å gjennomføre ORG5005 og dere jobber i deres eget tempo og når dere selv vil innenfor de frister som er satt for innlevering av besvarelser til veiledning. Selv de som skal ut i INTOPS har mulighet til å fullføre ORG5005. Får dere ikke tid til å levere til veiledning innen oppsatt frist, søker dere om utsettelse via e-post direkte til faglærer. De som ser at arbeidsdag, studiedag og hverdag ikke gir rom for innlevering til veiledning, bruker de generelle veiledningsdokumentene og «Retningslinjer for mappevurdering» som grunnlag for endelige besvarelser på de to arbeidskravene.
5) Det blir ingen synkrone samlinger i Zoom eller Teams. Alt, inklusive fagansvarliges velkomsthilsen og muntlige gjennomgang av organiseringen av ORG5005 er heldigitalt og asynkront.
6)Eksamensform: Mappeevaluering med karakter (A – F)
Alt fagstoff, videoforelesninger ol. ligger klare i Canvasrommet ved semesterstart.
Det som står i Fremdriftsplan for ORG5005 VÅR xx endres ikke og datoene kan legges inn i din egen kalender med en gang.
Du får utdelt eksamensoppgavene i form av 2 – to – obligatoriske arbeidskrav i løpet av januar og februar. (Se fremdriftsplanen i Canvasrommet).
Disse jobber du med ut fra fagstoffet som ligger i Canvasrommet og fagstoff du selv finner frem til, de generelle veiledningsdokumentene og eksempler på utkast til besvarelser.
Du leverer dine utkast til besvarelser inn til individuell veiledning, og deretter jobber du videre med de to besvarelsene frem til endelig innlevering (eksamen). Du kan søke om utsettelse på innlevering til veiledning ved en enkel e-post til faglærer.
Eksamen kalles «mappestenging», og du skal levere dine endelige besvarelser på de to arbeidskravene i Inspera.
Info om eksamen finner du i infoboksen Mappestenging ORG5005 – Eksamensinformasjoni Canvasrommet.
Du befinner deg nå i et helt nytt og kanskje fremmedartet miljø. Det er lenker og knapper og faner overalt, og faglærer virker å være lysår unna. Kan dette gå bra? Jo da, sett deg godt til rette i godstolen, ta en kopp kaffe (eller te) og senk skuldrene. Vår store filosof Arne Næss Sr. sa en gang at «Det gjør vondt å tenke» og at dette var «en smerte vi ikke bør unndra oss»(1)
Dersom vi godtar dette utsagnet, vil det også gjøre vondt å ta høyere utdanning. Men hele poenget med høyere utdanning er vel å presse seg selv ut av komfortsonen, ikke sant? Det er da man lærer 😊 Men selv om det er krevende med rene asynkrone nettbaserte studier så er det ikke så vanskelig som det ser ut.
Dette kommer til å gå bra!
(1) Rothenberg, David: Arne Næss – Gjør det vondt å tenke, Cappelen Damm, 1992
Å løse arbeidskravene i IKT og Læring 1 og 2, vil medføre utstrakt prøving og feiling. I de fleste tilfeller vil studentene måtte gjøre ting de ikke har gjort før. Men dette er jo normen i enhver utdanning.
IKT og Læring 1 og 2 er ikke MOOC-kurs, men nettbaserte universitetsstudier spesielt utformet for profesjonelle undervisere/ instruktører. Vi skal utdanne selvstendige kandidater med god vurderingsevne, som skal kunne ikke bare fungere som gode profesjonelle brukere av digitale medier og verktøy i en undervisningssituasjon, men også kunne fungere som rådgivere for ledelsen.
IKT og læring 1 og 2 hører til i grenselandet mellom samfunnsvitenskap og humaniora, og her finnes ingen evige sannheter. Derfor er vårt fokus hele tiden på å støtte og styrke studentens evne til refleksjoner som kan føre til faglig bevissthet, og derigjennom konkrete tiltak og handlinger i studentens egen yrkespraksis.
IKT og læringsstudiene har sitt fokus på studentaktiv undervisning. IKT og Læring 1 og 2 er dermed ikke forelesningsstudier, men studier der læringen skjer via studentenes konkrete arbeid med arbeidskrav, og derigjennom refleksjon over de gitte tema. «Learning by doing» er her helt sentral og de fagansvarlige er ikke forelesere, men tilretteleggere og veiledere.
Undervisningen i IKT og Læring 1 og 2 er altså ikke sentrert rundt forelesninger, men er en kombinasjon av spesielt utviklede arbeidskrav, fagstoff og individuell veiledning av studentenes utkast til besvarelser.
Jeg skal her gjøre et forsøk på å beskrive det å jobbe med arbeidskravene i IKT og Læringsstudiene på samme måte som en gjennomgang av et dataspill. For de som spiller dataspill vil begrepet «Walkthrough» være velkjent.
En Walkthrough er en strategiguide laget av entusiaster for et bestemt dataspill, og som leder spilleren gjennom spillet nivå for nivå. Siden dagens kommersielle spill ofte er ganske komplisert, kan en Walkthrough være et nyttig verktøy for å finne veien gjennom de ulike nivåene.
Et universitetsstudium kan jo også være ganske så kompliserte å finne frem i.
Walkthrough for IKT og Læring 1 og 2
Hvis vi tenker på IKT og Læringsstudiene som et dataspill, så skal studentene løse to oppdrag for hvert enkelt emne som vil være av både teknisk og teoretisk art (både skriftlig notat og teknisk produkt/ praktisk arbeid).
Hvis vi så sier at dette «spillet» har tre nivå – Nybegynner, Veteran og Elite (Som henviser til arbeidsinnsats ikke tekniske forkunnskaper. Forkunnskaper i form av at man enten er lærer/ instruktør/veileder er selvsagt på plass) – kan vi sette opp følgende veiledende retningslinjer:
Nybegynner:
Gå løs på arbeidskravene uten å lese oppgavetekstene særlig nøye eller benytte seg av de generelle veiledningsdokumentene. Ignorering av en eller flere krav oppgitt i oppgavetekstene.
Minimal til ingen selvstendig deltakelse i forumdiskusjoner der dette er relevant.
Liten eller ingen innsats for å søke etter relevante ressurser på Internett, som kan støtte opp under egen besvarelse og det fagstoff som ligger i Canvasrommet.
Bruk av samtaleroboter for å generere hele eller deler av teksten uten å opplyse om dette. Eller bruk av samtalerobot til fullstendig språkvask, slik at teksten ikke lenger er ens egen.
Slurvete oppsatt besvarelse uten skikkelig drøfting og analyse, og mangelfullt oppsatt refleksjonsnotat iht. krav og forventninger stilt i «Retningslinjer for mappevurdering», mangelfullt/ ikke fungerende produkt eller mangelfullt praktisk arbeid, ingen eller svært mangelfull egenrefleksjon og ingen eller mangelfullt/feil oppsatt kildehenvisninger i det skriftlige notatet.
En besvarelse helt fri for eksempler fra studentens egen yrkespraksis og egne faglige refleksjoner (basert på egen yrkespraksis), satt inn i en fagteoretisk sammenheng, og «overakademisk» tekst som ikke viser spor av studenten som fagperson.
Praktiske produkt (multimedia eller spill) er ikke utført i tråd med oppgaveteksten, og er ikke levert i kjørbar stand.
Å utføre et arbeidskrav som nybegynner vil kunne gi karakter fra F til D.
Veteran:
Studenten har lest gjennom både «IKT og Læring – FAQ: generelt, arbeidskrav, eksamen» og «Retningslinjer for mappevurdering».
Studenten leser oppgavetekstene nøye, og har gått gjennom de ulike forelesnings- og fagressursene, herunder de generelle veiledningene (der disse er lagt ut sammen med arbeidskravet).
Studenten har foretatt selvstendige søk etter relevante tilleggsressurser på Internett.
Studenten har deltatt i forumet enten ved å stille konkrete spørsmål eller dele refleksjoner der dette var relevant.
Studentens skriftlige arbeid er ryddig og inneholder gode drøftinger og analyser forankret i relevant faglitteratur og forskning slik en universitetsbesvarelse skal være, og har med et godt oppsatt egenrefleksjonsnotat, iht. «Retningslinjer for mappevurdering».
Studenten viser god evne til å sette egen yrkespraksis og egne faglige refleksjoner (basert på egen yrkespraksis) inn i en fagteoretisk sammenheng. Studenten bruker eksempler fra egen yrkespraksis aktivt for å understreke egne faglige refleksjoner. Studenten som fagperson kommer klart frem gjennom hele teksten.
Der studenten har benyttet samtaleroboter som del av tekstarbeidet, er dette markert og opplyst om. Fullstendig språkvask som endrer teksten fra studentprodusert til samtalerobot-produsert forekommer ikke.
Studenten har kildehenvisninger knyttet til alle sine eksempler og faglige refleksjoner, og disse er i tråd med APA-stilen.
Studenten har lest kildene denne lister opp i kildehenvisningen og har ikke brukt samtalerobot til å generere kilder.
Studentens produkter er klart forankret i egen undervisnings/ instruksjons-praksis, kjørbare og i henhold til oppgaveteksten, så også annet praktisk arbeid definert i arbeidskravene.
Å utføre det enkelte arbeidskrav som veteran vil kunne lande en trygg og solid C.
Elite:
Å ta fatt på arbeidskravene i «Elitemodus» vil si å gjøre det samme som beskrevet over for Veteran, men i tillegg:
Delta aktivt i forumet med egne faglige debattinnlegg der dette er relevant.
Studentens skriftlige arbeider er grundige og har faglig tyngde, med klare eksempler fra egen yrkespraksis og korrekt oppsatte kildehenvisninger som understøtter de erfaringsbaserte vurderingene.
Studentens egenrefleksjoner er konkrete og grundige. Vedkommende refererer, gjerne kritisk, både til fagressursene – engelske som norske – som ligger i Canvas, men gjerne også til annen litteratur som denne selv har funnet, samt egen erfaring som lærer/ instruktør og bruker av digitale medier.
Studentens produkter er utviklet ut over det oppgaveteksten krever, og dennes praktiske arbeid viser både innsikt og engasjement ut over det som kan forventes.
Å utføre arbeidskravene på dette nivået vil kunne gi karakterresultat B – A, avhengig av i hvor stor grad studenten viser meget god vurderingsevne og selvstendighet (B), eller leverer en fremragende prestasjon (herunder produkter og praktisk arbeid) som klart utmerker seg (A).
Epilog
Det mange feiler på i IKT og Læring 1 og 2 er skrivingen av fagtekstene til det enkelte arbeidskrav. Her blir det ofte enten mangelfull analyse og manglende forankring av egne meninger i relevant fagstoff, eller en ordrik tekst med mange kildehenvisninger men helt fri for eksempler og refleksjoner fra egen yrkespraksis.
Arbeidskravene ved IKT og Læring 1 og 2 kan være ganske åpne og det er for å kunne gi mulighet for kandidatene til å vise stor grad av selvstendighet og vurderingsevne, og dermed også gi mulighet for å skille ut A og B-kandidater.
«Retningslinjer for mappevurdering» som er tilgjengelig i samtlige emnerom i Canvas fra studiestart, representerer klare krav og forventninger til studentens skriftlige arbeider. Velger studenten å ikke følge disse, velger denne også vekk muligheten for å oppnå de høyeste karakterene.
Glem Terminator og dommedag – truslene i det digitale rom kommer fortsatt fra gamle kjenninger: hackere, statlige aktører og kriminelle. Kunstig intelligens som ChatGPT og Sora er kraftige verktøy, men ikke tenkende maskiner. De kan forsterke digitale angrep – ikke skape dem. Vi trenger mindre hysteri og mer digital kompetanse, ellers er det vår egen intellektuelle latskap som blir den største sikkerhetsrisikoen.
Innledning
«Den superintelligente KI-en har på en måte alle Guds egenskaper: Den er allmektig, allvitende, og enten velvillig, eller så er den Djevelen og du er i dens nåde. Som i enhver sekt er det også en følelse av hastverk. Du må handle nå! Verdens skjebne står på spill! Og selvfølgelig trenger du penger!» – Inga Strümke, PhD. og Anders Løland, PhD., 2024 (2)
«… unravelling the vagueness around AI is important in a broad sense, as there is also something quite dangerous about the futuristic mystique of the term AI when it blinds us to the banal and oppressive realities of certain technologies.» – AI Myths (Project), u.å. (3)
Helt siden OpenAI sin samtalerobot kom i medias søkelys i november 2022, har vi hatt en strøm av påstander om at vi nå har nådd et «vendepunkt» i utviklingen av kunstig intelligens. Og like sikkert som at vår følger vinter, kommer dommedagspåstandene om helt spesielle (og dramatiske) sikkerhetstrusler fra KI.
Hva er kunstig intelligens?
«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.» – Bjørn Stærk, 2023 (4)
«The term “artificial intelligence” has a long history—it was coined in the nineteen-fifties, in the early days of computers. More recently, computer scientists have grown up on movies like “The Terminator” and “The Matrix,” and on characters like Commander Data, from “Star Trek: The Next Generation.” These cultural touchstones have become an almost religious mythology in tech culture. It’s only natural that computer scientists long to create A.I. and realize a long-held dream.» – Jaron Lanier, 2023 (5)
«A system that most of us would think of as real AI – something that can, more or less, think like us – is known in Computer Science as Generalised Artificial Intelligence, and it is nowhere on the horizon. The term Artificial Intelligence is used instead to apply to anything produced using techniques designed in the quest for real AI. It’s not intelligent. It just does some stuff that AI researchers came up with, and that might look a bit smart. In dim light. From the right angle. If you squint.» – Linda McIver, PhD, 2023 (6)
Store Norske Leksikon definerer KI på følgende måte: «Kunstig intelligens er informasjonsteknologi som justerer sin egen aktivitet og derfor tilsynelatende framstår som intelligent.»
Et viktig stikkord her er «tilsynelatende framstår som intelligent». Og det er på det nivået vi stadig er når det gjelder forskning og utvikling innen feltet «Kunstig intelligens». For KI, i en form som vil kunne utvikle spesifikke nye digitale trusler, kan vi beskrive på følgende enkle måte:
Maskiner med en intelligens som lar dem forstå, lære og utføre intellektuelle oppgaver omtrent som mennesker. Maskinene emulerer den menneskelige tanke og atferd for å løse alle slags komplekse problemer.
Men som Linda McIver påpeker i sitatet innledningsvis er KI i betydningen av at datasystemer tenker (og handler) som oss mennesker ikke oppfunnet og vi er heller ikke i nærheten av å finne opp et slikt system.
KI i betydningen «Artificial general intelligence (AGI)» er altså enn så lenge rent teoretisk og siden det ikke eksisterer kan det heller ikke utgjøre, eller utvikle, særegne og hittil ukjente digitale trusler.
Open AI sin samtalerobot er et utmerket eksempel på noe som ikke er KI og som samtidig er blitt brukt som eksempel på «KI-trussel».
Men ChatGPT, Microsoft CoPilot og lignende samtaleroboter er ikke eksempler på Kunstig Intelligens (KI). Dette er verktøy som baserer seg på statistiske beregninger. De er som store og avanserte dataspill, der du som spiller får følelsen av at det ikke finnes noen begrensninger på hvor du kan gå eller hva du kan gjøre. Men man skal ikke utforske en slik avansert spillverden særlig mye før en ser at i virkeligheten får man kun gå og gjøre det spillets utviklere har bestemt. Slik er det også med ChatGPT og lignende verktøy. De utfører fantastisk hurtige statistiske beregninger av tilgjengelig informasjon og sannsynlig sammensetning av bokstaver, men alt systemene gjør er bestemt på forhånd av programkode.
Samtaleroboter kan altså ikke tenke, de kan ikke resonere og de foretar absolutt ingen analyser av verken det brukeren spør om eller de «svar» programkoden løfter frem. Dermed følger det rent logisk, så vel som teknisk, at en samtalerobot ikke kan «føre mennesker bak lyset» eller frykte å bli erstattet av en annen modell eller slått av.
Som professor Gary Marcus sier i sin kommentar til forskningsartikkelen «Frontier Models are Capable of In-context Scheming»; – «Yes, LLMs can do all this even if they are essentially just analogizing regurgitation machines with no real world model. They have lots of examples in the database — and little capacity to compute the internal consistency of their own actions. Worse, they do not actually calculate the consequences of their actions at all. They can’t reliably sanity check themselves for hallucinations, and they can’t reliably sanity check for whether what they are doing is harmful.»
Dersom forskere (eller andre brukere) legger inn kommandoer/ promting som gir mønstre som statistisk sett peker mot «bedrag», altså det å nekte for noe eller påstå noe, eller foreta handlinger som flytting av data ol. (handlinger som altså allerede ligger innprogrammert som del av et, eller flere, handlingssett), så vil verktøyet utføre denne type «handling/ handlinger». Men handlinger verktøyet ikke er programmert for, vil ikke kunne utføres.
Det at digitale verktøy/ smarte system kan utføre handlinger de er programmert for, er ikke et tegn på at de er «intelligente» i betydningen av at de tenker og handler på egenhånd. Og de medieskapte mytene om KI kan i seg selv bli en beredskapsmessig trussel.
Såkalte KI-trusler
“Computers are evolving very quickly … the human brain isn’t going to evolve, and so we still need to think about cognitive psychology” – Andrew Van Schaack, PhD., 2024 (7)
«Cybersecurity is actually 90% about human behavior and 10% about technology.» – Martin Fix, 2024 (8)
«A lot of the risk really comes from malicious actors, which exist anyway. It’s just another tool for them to use». – Lauren Kahn, 2023 (9)
«There were stories about the fact that you could use an LLM (large language model) to give you instructions of how to make chemical weapon or bioweapon. That turns out to be false». – Professor Yann André LeCun, 2024 (10)
«Though it has been written about for decades, the importance of tacit knowledge in biological weapons production has often been overlooked. Having a jail-broken LLM spit out instructions is unlikely to be sufficient to create a usable biological weapon.» – Stephanie Norwood, PhD, 2025 (11)
Og det er blant annet disse to verktøyene som løftes frem som eksempler på noe som kan skape «KI-trusler», uten at det egentlig fremkommer klart hvilke spesifikke «nye» trusler dette gjelder.
At vi nå har flere typer verktøy som kan «produsere» kildekode (i betydningen hente frem via statistiske beregninger allerede produsert kildekode som er offentlig tilgjengelig), vil selvsagt gi «Script kiddies» enda et verktøy (f.eks. Indrik Spider og Scattered Spider). Men siden verken ChatGPT eller lignende samtaleroboter er feilfrie når det gjelder kodegenerering, er det per nå et stort spørsmål om hvor effektive verktøy dette vil være.
Det er jo ikke slik at vi ikke har hatt denne type verktøy før. Det som er nytt er muligheten for at «folk flest» får tilgang til kraftigere verktøy.
Og så må vi ikke glemme verktøy som etterligner stemmer. Også dette benevnes som «KI», men igjen; dette er ikke system som på egenhånd utfører angrep, men verktøy hvis bruk baseres på angriperens egen kunnskap og teknologiske forståelse og ikke minst angriperens kunnskap om hvordan mennesker reagerer.
Tilgang til verktøy kan medføre økt bruk, men det betinger at brukeren vet hvordan verktøyet skal brukes, har kunnskap om hvordan produktet (f.eks. en film eller en kildekode) kan anvendes og deretter mangler de «hemninger» eller holdninger som fraholder de fleste mennesker fra å begå lovbrudd.
Intet nytt under solen
«I’m afraid the reasons why neural nets took off this century are disappointingly mundane. For sure there were scientific advances, like new neural network structures and algorithms for configuring them. But in truth, most of the main ideas behind today’s neural networks were known as far back as the 1980s. What this century delivered was lots of data and lots of computing power. Training a neural network requires both, and both became available in abundance this century». – Michael Wooldridge, 2023 (12)
«An LLM does not understand the semantic meaning of a sentence in a linguistic sense, but rather calculates mathematically what the most likely next word should be based on the input to the model. As neural networks are inherently probabilistic, this has earned LLMs the moniker ‘stochastic parrots’ as the model is extremely good at determining the most likely next sequence – and convincingly so – but has no inherent representation of what those words mean.For this reason, LLMs do not encode an understanding of our world, such as cause-and-effect and the relationships between objects – what linguists refer to as ‘pragmatic inference’. This is a critical limitation of LLMs that users need to understand, otherwise there is a risk of automation bias (where people place too much trust in the output from such models) and anthropomorphism (where people build a human-like rapport with an LLM, which exacerbates automation bias)». – Adam C., GCHQ’s Chief Data Scientist and Richard J. Carter, PhD, 2023 (13)
«The problem that crops up over and over again in this field is that people anthropomorphize these computers, ascribing all sorts of desires, plans, emotions, and the like. They are machines, running code. They don’t need anything, love or hate anyone, have goals or desires. They are not conscious. They don’t care if they’re replaced by a newer version. They don’t act covertly. They are machines, running code.» – wsf, 2024 (14)
De «nye» verktøyene, og da særlig de ulike samtalerobotene, fører ikke til noen form for nytrussel. Det vi ser er heller at:
Samtaleroboter vil først og fremst gi trusselaktører rask tilgang på allerede offentlig tilgjengelig informasjon lagt ut på internett, og kunne føre til en økt evne til f.eks. sosial manipulasjon. Slike verktøy kan brukes til å muliggjøre en mer overbevisende kontakt mellom angriper og offer, inkludert opprettelse av falske dokumenter, uten de oversettelses-, stave- og grammatiske feil som tidligere ofte avslørte denne type angrep. Og jo bedre den underliggende modellen er, og jo større datagrunnlag som kan danne basis for verktøyets statistiske beregninger av sannsynlig ønskte bokstavsammensetning, jo mer skade kan slike tekstgenererende verktøy gjøre i hendene på en profesjonell trusselaktør.
MENdet hjelper ikke med overbevisende e-posttekst, eller annen tekstbasert «samtale», dersom angriperen ikke har nok teknisk kunnskap til å f.eks. sette opp en tilhørende webside med korrekt oppsatt angrepskode som sømløst kan utføre de nødvendige operasjoner (lagre passord, brukerdata eller infisere maskiner med virus, trojanske hester osv.), eller på annen måte har god bakgrunnskunnskap om måletfor angrepet.
De ulike samtalerobotene kan kanskje også benyttes i etterretningsarbeid som del av innledende forberedelser til angrep mot organisasjoner eller enkeltpersoner.
MENtatt i betraktning de grunnleggende problemene med LLM, og særlig i den form vi møter dem i f.eks. ChatGPT, er det ytterst usikkert om etterretningspersonell og profesjonelle (avanserte) IT-kriminelle er særlig ivrige brukere av samtaleroboter.
Samtaleroboter kan muligens lette utviklingen av ulike typer av skadeprogram, der relevant kode er tilgjengelig enten i verktøyets database eller på internett.
MENen trusselaktør må fortsatt ha den nødvendige tekniske ekspertise til å både vurdere produktet og bruke det effektivt som del av et digitalt angrep.
En samtalerobot kan muligens (dersom de statistiske beregningene lander på konkret og korrekt info) lette innhentingen av offentlig tilgjengelig informasjon om utvikling av biologiske våpen.
MENdet hjelper ikke med hurtig fremhenting av digitalt tilgjengelig informasjon om angriperen ikke har den nødvendige ekspertise i det å konstruere et biologisk våpen (eller for den del hvilket som helst annet våpen som fordrer mer enn rent grunnleggende mekanisk innsikt). I tillegg trenger angriperen et trygt anlegg som kan holde vedkommende i live lenge nok til å lage et biologisk våpen.
Nye og avanserte videogenereringssystem tilgjengelig for alle, kan øke mengden falske nyheter der video er benyttet. Og en øking i denne type aktivitet vil igjen kunne gi en økning i falske nyheter eller ekstremistisk budskap støttet av video og derigjennom kanskje både gi inspirasjon til radikaliserte grupper og en økende mangel på tillit til nettbasert informasjon blant folk flest.
MENdet hjelper ikke med avanserte videoverktøy hvis ikke angriperen har den nødvendige innsikt i psykologi og kunnskap om de politiske og økonomiske utfordringer som eksisterer i den region eller for den gruppe som man ønsker å radikalisere eller på annen måte påvirke.
Verktøy for forfalskning av stemmer tilgjengelig for alle, kan øke mengden svindelforsøk av denne typen.
MENheller ikke her hjelper det med avanserte verktøy om ikke angriperen har den nødvendige innsikt i psykologi, og kunnskap om hvordan foreta effektiv svindel av tilfeldige offer.
Det er ingen grunn til å tvile på at mer avanserte digitale verktøy vil kunne støtte en utvikling og styrking av eksisterende taktikk, teknikker og prosedyrer. Men kun der angriperen har den nødvendige kunnskap og trening i det å utføre digitale operasjoner mot virksomheter eller enkeltpersoner. Digitale angrep er stadig avhengig av menneskelig intelligens og kunnskap, og det er ingen ting som tyder på at dette vil endres i overskuelig fremtid.
Selvkjørende biler og autonome våpen
«The reliance on imagination and visions of technologies and future warfare characterises much of the academic and political debate on emerging technologies in the field of AWS». – Anna-Katharina Ferl, PhD., 2023 (15)
«Unlike humans, robotaxis are not able to solve a problem they’ve never encountered before». – Sebastien Bell, 2024 (16)
Når man skal behandle tanken om at KI per nå utgjør en ny form for trussel, kommer en ikke utenom selvkjørende biler og autonome våpen.
La oss først slå fast nok en gang at vi per i dag ikke har funnet opp maskiner med en intelligens som lar dem forstå, lære og utføre intellektuelle oppgaver omtrent som mennesker, og som emulerer den menneskelige tanke og atferd og dermed kan løse alle slags komplekse problemer.
Dermed blir verken selvkjørende biler eller autonome våpensystemer eksempler på KI, som på mystisk vis kan representere hittil ukjente trusler.
Faren med disse to eksemplene ligger i at de, som alle digitale system, er sårbare for angrep (hacking).
Men digitale angrep mot f.eks. selvkjørende biler eller ordinære biler med system tilknyttet Internett skiller seg ikke ut fra andre typer digitale angrep, selv om implikasjonene for selvkjørende biler kan bli svært alvorlig.
Dette vil gjelde også for de såkalte «autonome våpen», som i likhet med alt det vi noe upresist kaller «KI-systemer» er programmert av mennesker. Selv en robot (våpensystem) som er “autonom” utfører sine instruksjoner kun via den logikk den menneskelige programmereren har lagt inn i systemet og kan ikke tenke selv. Slike våpensystem reiser først og fremst en rekke etiske dilemmaer, og dilemmaer knyttet til krigens lover. Men det er selvsagt mulig at hackere kan forsøke å manipulere data eller ta kontroll over denne type systemer, noe som kan true militære operasjoner og skape kaos på slagmarken.
Det fremsettes også påstander i media om at KI kan føre til at terrorister kan «kjøre en autonom dronestorm over Norge». Hvilken mystisk form for «KI» som skulle kunne gi en slik «plutselig» mulighet blir ikke definert.
Siden droner allerede eksisterer og er i bruk, er det selvsagt her og nå – i dag – fullt mulig for terrorister å «sende en sverm av droner» over Norge. Forutsetningen for dette har ingen ting med KI å gjøre, men at de har droner med adekvat rekkevidde eller sender dem ut innenfor norsk territorium eller i nærheten av Norge, at dronene har våpenkapasitet og at terroristene har den nødvendige kunnskap om effektiv bruk av droner.
Hvorvidt «terrorister» er den mest sannsynlige synderen i et slikt scenario, heller enn en statlige aktør, er egentlig uviktig. Muligheten ligger der og det helt uten noen som helst form for «kunstig intelligens».
Konsekvensene av at smarte IT-systemer blir hacket, eller tatt i bruk av en fiendtlig aktør, kan altså bli alvorlige, men vi snakker stadig om ordinære digitale angrep, eller fysiske angrep som del av klassiske sabotasje- og destabiliseringsoperasjoner, basert på angripernes teknologiske kunnskaper. Og vi snakker ikke, under noen omstendighet, om helt særegne og hittil ukjente trusler a la Terminator-filmene.
Vi snakker tvert i mot stadig vekk utelukkende om smarte statlige aktører, terrorister eller kriminelle, med gode teknologiske kunnskaper og med tilgang til eksisterende verktøy.
Vi står ikke overfor nye digitale trusler
«For one, ChatGPT can only write relatively simple applications. Even if it has the skills to do more advanced coding with suitable instructions, it does not instantly provide non-developers a competitive edge over developers who understand coding and have experience in actually writing code». – Andrej Kovacevic, 2023 (17)
«A chatbot is a single-purpose tool, not an intelligence. Human-level intelligence requires the capacity to go beyond the parameters that its developers set for itself, of its own volition. ChatGPT is preternaturally adept at mimicking human language patterns, but so is a parrot, and no one can argue that a parrot understands the meaning behind the words it is parroting.ChatGPT passing the Turing test doesn’t mean that ChatGPT is as intelligent as a human. It clearly isn’t. All this means is that the Turing test is not the valid test of artificial intelligence we thought it would be». – John Loeffler, 2023, (18)
At fiendtlig etterretning, kriminelle organisasjoner og «folk flest» har kraftige IT-verktøy til sin disposisjon, betyr ikke at vi plutselig står over for digitale trusler vitenskapen ikke allerede har definert og pekt på.
Den økte tilgjengeligheten av slike verktøy (demokratisering av angrepsverktøy) kan derimot gi grunn til bekymring i den forstand at flere (kanskje) vil kunne utføre digitale angrep, noe som understreker behovet for å stadig styrke informasjonssikkerheten på alle nivåer, både gjennom tekniske løsninger og ikke minst økt digital kompetanse og bevissthet blant oss som borgere i et heldigitalt mediesamfunn.
Hvis den enkelte bruker av de ulike digitale medier – fra SMART-mobil til EL-bil – kan avvennes den naive troen på at digitale angrep bare er noe som skjer andre eller at falske nyheter aldri dukker opp i egen SOME-strøm, vil selv ikke kraftige matematiske modeller (språkmodeller) eller kraftige videogenereringsverktøy hjelpe kriminelle eller statlige aktører til økt suksess.
Når det gjelder andre typer trusler, så som utvikling av virus- eller bakteriologiske våpen, så er det ikke samtaleroboter av typen ChatGPT som foretar utviklingen. Samtaleroboter kan ikke utvikle noe som helst. Men de kan lynraskt søke gjennom offentlig tilgjengelig informasjon allerede lagt ut på internett, og frembringe denne informasjonen til en bruker på en lettfattelig måte. I de tilfeller der informasjonen faktisk er korrekt og brukeren har de nødvendige kunnskaper til å nyttiggjøre seg av denne, letter dette selvsagt det innledende arbeidet. Men den konkrete trusselen er det terroristen og dennes praktiske og teoretiske kunnskaper som står for, ikke samtaleroboten.
Det er heller ikke «KI» som fører til eventuelt økt radikalisering og flere tilhenger til terrororganisasjoner eller ytre høyre- eller venstreparti, men operatørenes kunnskap om hvordan nå frem til aktuelle mottakere nasjonalt og internasjonalt.
Siden media flommer over av artikler om hvordan «KI» benyttes til dette og hint, kan det være greit å tenke over følgende (utheving – tekst i fet skrift – satt av meg):
«Strictly speaking, AI is not a technology at all. Facial-recognition software, translation and speech recognition programs, scheduling algorithms, and predictive models might all have different machine learning tools running in the background, but it is patently absurd to refer to them as a singular technology. We do not call everything containing copper wires «wiring».» – R.H. Lossin, PhD. og J. Resnikoff, PhD., 2024 (19)
Konklusjon
«AI is a marketing term used to generate hype,…» – Skyler Schain, 2023 (20)
«The talk about existential risk from AGI is a magician’s distraction from what’s going on right in front of us – not a mechanical uprising, but a silent campaign to devalue the political and cultural currency of humane thought.» – Professor Shannon Vallor, 2023 (21)
«The results are impressively realistic, but the “basic statistics” are the same. There is no sentience, there’s no self-contemplation, there’s no self-awareness.» – Professor Michael Wooldridge, 2022 (22)
«Here’s where we actually are, so much more boring, and so much more real: Current models trained on next-token prediction have remarkable abilities and remarkable weaknesses. The scope of those abilities and weaknesses of the current systems is not well understood. There are some applications where the current systems are reliable enough to be practically useful, though not nearly as many as is often claimed. No doubt the next generation of systems will have greater abilities and more extensive applications and will somewhat mitigate the weaknesses. What is to come is even more poorly understood than the present. But there is zero justification for claiming that the current technology has achieved general intelligence.» – Professor Gary Marcus, 2025 (23)
«Eksempelvis kan KI brukes i påvirkningsoperasjoner, sosial manipulering, eller til å finne sårbarheter i programvare. På samme måte kan KI antagelig også brukes til å oppdage og motvirke disse operasjonene. Hvorvidt KI vil gi størst fordeler til de som forsøker å utnytte det til offensive cyberoperasjoner eller til de som forsøker å forhindre slike operasjoner, er usikkert.» – PST, Nasjonal trusselvurdering 2024, s. 18 (24)
Det eksisterer ingen «KI-trussel» i det digitale rom.
Truslene i det digitale rom representeres tvert i mot stadig av de samme aktørenesom før, av de gode gamle metodene vi kjenner fra før, og ikke minst av vår hang til intellektuell latskap.
Sosial manipulasjon blir mer og mer populært, og enkeltmenneskets bruk av sosiale medier er utgangspunkt for klassiske påvirkningsoperasjoner og like klassiske digitale angrep i form av «klikk på denne lenken». Falske nyheter blir stadig vekk produsert av ekte mennesker og bruken av avanserte verktøy er stadig basert på disse menneskenes kunnskap om hvordan nå ut til aktuelle mottakere.
Fremveksten av avanserte verktøy tilgjengelig for alle kan øke mengden digitale angrep mot viktige systemer og mengden av godt utformede falske videoer som del av angrep mot våre holdninger, og det er absolutt ikke å kimse av. Men angrepsformene er ikke nye.
Fjernstyring av selvkjørende biler eller bruk av våpenførende droner er spesifikke angrepsformer knyttet til terrorisme eller hybrid krigføring, og vil skje dersom en terrorist-gruppe eller en statlig aktører mener dette er hensiktsmessig og har den nødvendige teknologiske kompetanse til å utføre angrepet.
Radikalisering av unge eller andre grupper i et samfunn skyldes ikke «KI», men at terroristorganisasjoner, etterretningsoperatører og ekstremistiske partier har god kunnskap om hvilke samfunnsmessige problemer som kan utnyttes, og dernest hvilke digitale verktøy som kan brukes til å formulere et budskap og nå frem til flest mulige. Skal en stoppe denne type påvirkningsoperasjoner trenges det helt andre virkemidler enn å regulere ulike typer digitale verktøy. Økt utdanning, økt bevissthet i befolkningen som helhet og politiske tiltak for å utjevne/ fjerne sosiale ulikheter, fattigdom, utenforskap ol. er viktige tiltak her.
Angrep rettet mot den politiske og kulturelle verdien av individets evne til å tenke og skape på egenhånd, er ikke utført av «KI», men av kommersielle krefter som ønsker mest mulig salg av spesifikke verktøy og aktører som ønsker å bryte ned liberale demokratiers motstandskraft mot totalitær påvirkning. Også her vil det være utdanning og bevisstgjøring som vil kunne være avgjørende.
Trusselaktørene er uansett angrepsform og verktøybruk stadig vekk den vanlige gjengen av etterretningsoperatører fra fiendtlige nasjoner, terror-grupper, større kriminelle nettverk og mer eller mindre dyktige enkeltkriminelle. Disse aktørene benytter en rekke digitale medier og verktøy i sitt arbeide, men angrepene mot oss er basert på aktørenes intelligens og kunnskap om både teknologi og psykologi. De er ikke basert på en mystisk, ikke-eksisterende digital intelligens.
Og når det gjelder de stadige digitale angrepene mot vårt heldigitale mediesamfunn, så er det fortsatt den enkelte borgers egen bevissthet og egen kunnskap om det digitale som er nøkkelen til å avverge denne type angrep.
Mediestøyen knyttet til fantasiene om at vi nå har utviklet «Kunstig Intelligens» endrer ikke dette enkle faktum.
En forkortet utgave av dette blogginnlegget kan også leses påTrønderdebatt.
NB: En viktig trussel som ikke er nevnt her, er mulighetene samtaleroboter har til å samle informasjon om sine brukere. Særlig obs skal en være på de kinesiske verktøyene som f.eks. DeepSeek som mange – også nordmenn – virker å ha lagt sin elsk på. Dette er absolutt ikke en app man bør ha på sin SMART-mobil!.
