Førstelektor i informatikk ved Handelshøyskolen Nord, utdannet innen fagfeltet informasjonssikkerhet (Biometriske sikkerhetssystem og betalingsformidling) samt jus med spesialisering i Politirett og Arbeidsrett, tidligere lokalpolitiker for Høyre, tjenestepliktig stabsbefal i Sivilforsvaret (pensjonert) med lederansvar for TAKEVAL ved NTSFD, tidligere IT-sjef med sikkerhetsansvar, over 30 års erfaring med bevisstgjøringsarbeid innen IKT-sikkerhet og over 20 års erfaring med digital distribuering av undervisning og studentaktiv undervisning.
Dette innlegget er basert på arbeidet jeg har gjort knyttet til samtaleroboters evne til å besvare arbeidskrav (eksamensoppgaver) i mine fagemner. En omarbeidet versjon er tidligere publisert på forskersonen.no
In a world in transition, students and teachers both need to teach themselves one essential skill – learning how to learn.
Carl Sagan
Samtaleroboter som ChatGPT fremstår som språklig imponerende, men avsløres som faglig svake når de møter akademiske krav. De genererer overfladiske svar og falske kilder, og mangler evne til kritisk tenkning og forståelse. I høyere utdanning bør de omtales som digitale verktøy – ikke intelligente hjelpere.
Innledning
«Neural networks today are realized in software, rather than in electrical circuits, and to be clear, neural net researchers don’t try to actually model the brain, but the software structures they use — very large networks of very simple computational devices — were inspired by the neural structures we see in brains and nervous systems» – Professor Michael Wooldridge (1)
«Differences about the future of AI are often partly rooted in differing interpretations of evidence about the present. For example, we strongly disagree with the characterization of generative AI adoption as rapid» – Professor Arvind Narayanan and Senior Fellow Sayash Kapoor (2)
«Min hypotese er at de som tar avgjørelsen om hvorvidt man vil kalle noe for kunstig intelligens eller ikke, ofte ser på begrepsbruken som en fordel. Man framstår kanskje som mer moderne og fremtidsrettet. Eller man får flere klikk på artikkelen man skriver» – Nora Gjøen-Gjøsæter (3)
«Jeg liker ikke å kalle det «kunstig intelligens» – Roger Olafsen (4)
«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.» – Bjørn Stærk (5)
Siden lanseringen av ChatGPT i november 2022 har debatten om kunstig intelligens (KI) i utdanning og samfunn eksplodert. Samtaleroboter som ChatGPT ol. har blitt løftet frem som teknologiske mirakler – verktøy som angivelig kan revolusjonere utdanning, forskning og arbeidsliv. Mediene har vært fulle av både dommedagsprofetier og euforiske visjoner. Men bak overskriftene og den teknologiske euforien skjuler det seg en virkelighet som er langt mer nyansert, og langt mindre intelligent.
Men hva skjer når vi faktisk setter de ulike verktøyene på prøve, i møte med reelle akademiske krav og praksisnære oppgaver? Dette innlegget bygger på egne systematiske tester av ChatGPT og 13 andre lignende samtaleroboter, gjennomført over to år, og jeg vil hevde at disse verktøyene ikke representerer et paradigmeskifte i høyere utdanning, men kun en ny variant av gamle verktøy med bedre markedsføring.
Språklig briljans – faglig svakhet
«While general-purpose LLMs are great starting points, they typically lack deep domain expertise to help within specific areas. In many ways, this is similar to the case with human expertise: A person cannot become an expert in a particular field unless they have formal education, training, and in-depth experience.» – Tony Beltramelli (6)
ChatGPT og de ulike samtalerobotene imponerer ved første øyekast. Det skriver flytende, høflig og grammatisk korrekt. Men når systemene blir bedt om å besvare arbeidskrav utformet i tråd med høyere nivå i Blooms taksonomi fra fagemner knyttet til samfunnsinformatikk-feltet, der det ikke finnes klare svar eller evige sannheter, faller de gjennom. De klarer ikke å analysere, vurdere eller reflektere, kjernekompetanser i høyere utdanning. I stedet produserer de overfladiske svar som ofte bare reformulerer oppgaveteksten. Det som fremstår som innsikt, er i realiteten statistisk sannsynlige ordkombinasjoner.
Hallusinasjoner og falske kilder
Et gjennomgående problem er såkalte «hallusinasjoner», disse verktøyenes tendens til å dikte opp fakta, forfattere og litteratur. I flere av mine tester genererte de ulike samtalerobotene akademiske referanser som ikke eksisterer, men som så troverdige ut. Dette er ikke bare en teknisk svakhet, men en alvorlig utfordring for akademisk integritet. Når studenter bruker slike verktøy ukritisk, risikerer de å levere besvarelser som er både faglig svake, faktisk feil og helt uten den tankevirksomhet det er meningen at universitetsstudier skal oppøve.
En dårlig støtte for svake studenter
Basert på resultatene av mine tester vil bruk av samtaleroboter i fagemner der det finnes få eller ingen klare fasitsvar, i liten grad hjelpe faglig svake studenter. Tvert imot vil de antakelig forsterke svakhetene. Studenter uten grunnleggende fagforståelse klarer ikke å stille gode spørsmål (prompting), og ender opp med generiske svar uten dybde. Samtidig kan faglig sterke studenter bruke verktøyene som en slags «digital sekretær» til å strukturere tekst, oppsummere kilder eller generere utkast. Men dette krever høy grad av kritisk vurdering og etterarbeid, og studenten slipper ikke unna å selv måtte formulere sine faglige refleksjoner forankret i egen yrkespraksis og i relevant faglitteratur.
Og besvarelsene fra de faglige svake studentene, den gruppen som med størst sannsynlighet lar seg friste til å ta snarveier, er slett ikke vanskelig å oppdage, noe også andre forskere har pekt på (Molnes, 2024)
Ikke kunstig intelligens – bare avansert statistikk
«The bots ingest staggering amounts of text and conversations to detect patterns. Their programming predicts how to respond naturally by matching and remixing these learned patterns. But ultimately, it takes human guidance to steer these statistical models in an thoughtful direction.» – Andy Tillo (7)
Til tross for at media og andre stadig henviser til ChatGPT og lignende samtaleroboter som kunstig intelligens (KI) er disse verktøyene absolutt ikke intelligente. De forstår ikke spørsmål, resonnerer ikke, og har ingen bevissthet. De er basert på avanserte språkmodeller som gjetter neste ord basert på sannsynlighet.
Stipendiat David Samuel ved Universitetet i Oslo sin språkteknologigruppe var ganske klar i et intervju i Universitas i 2022 på at ChatGPT ikke på noen måte var intelligent (Gundersen, 2022) og Ian Venner ved Hurricane peker på at de store språkmodellene først og fremst har indeksert internett. Ved å behandle alle dataene de har tilgang til der, samt de data som ulike aktører har lagt inn i systemene, har de skapt koblinger mellom datasett basert på faste regelsett. Dette betyr at lignende informasjon grupperes sammen, vektes og kobles til andre lignende områder, noe som gir et stort nettverk av sammenkoblet data. Dette, hevder Venner, er ikke kunstig intelligens, men datamining (Venner, 2024). Og sist, men ikke minst, KI er ikke en teknologi eller ett verktøy, men et upresist «sekkebegrep» som omfatter en rekke ulike systemer/ verktøy basert på ulike teknologier hvis intelligens er ytterst diskutabel. Professor Jan Ketil Arnulf ved BI foreslår at vi bør droppe begrepet «Kunstig intelligens» og heller bruke begrepet «kunstige aktører» (Arnulf, 2024), noe jeg for min del er enig i.
Å ukritisk kalle de ulike samtalerobotene for KI er misvisende og det tilslører det faktum at disse verktøyene verken er spesielt revolusjonerende, eller spesielt nye og utelukkende er programmert for å skrive gode setninger basert på statistisk analyse av de bokstavsammensetninger en bruker legger inn.
Hva betyr dette for høyere utdanning?
«Telling students that they must get along with the “assistance” of AI or can’t be writers or designers or illustrators is a usurpation of the freedom of the individual to go through the pain of their own time and craft and art, fight through it, and reap the reward of individual accomplishment«. – Professor Natalia Ilyin, 2025 (8)
Det er etter min mening ingen grunn til panikk. Samtaleroboter truer ikke utdanningen ved våre høyskoler og universiteter så lenge vi utformer eksamensoppgaver og arbeidskrav i tråd med høyere nivå i Blooms taksonomi. Oppgaver som krever refleksjon og kritisk tenkning, faglig forankring og personlig erfaring, lar seg ikke løse av samtaleroboter. Tvert imot gir dette oss en gyllen mulighet til å styrke undervisningskvaliteten ved å fokusere på oppgavedesign, veiledning og vurderingsformer som fremmer dyp læring.
Avslutning – Fra hype til realisme
«There tend to be three AI camps. 1) AI is the greatest thing since sliced bread and will transform the world. 2) AI is the spawn of the Devil and will destroy civilization as we know it. And 3) «Write an A-Level paper on the themes in Shakespeare’s Romeo and Juliet.» I propose a fourth: AI is now as good as it’s going to get, and that’s neither as good nor as bad as its fans and haters think, and you’re still not going to get an A on your report. You see, now that people have been using AI for everything and anything, they’re beginning to realize that its results, while fast and sometimes useful, tend to be mediocre.» – Steven J. Vaughan-Nichols (9)
Samtaleroboter er nyttige verktøy innenfor begrensede områder, men ikke mer enn det. De kan brukes til oversettelser, oppsummeringer og idéutkast. Men de kan ikke tenke, forstå eller lære. Det er derfor på tide å legge bort både frykten og euforien, og møte teknologien med nøkternhet og faglig dømmekraft.
For i en tid der det rene tøv kan genereres på kommando, blir evnen til kritisk tenkning viktigere enn noen gang.
Bharatha, A., et al. (2024). Comparing the performance of ChatGPT-4 and medical students on MCQs at varied levels of Bloom’s Taxonomy. Advances in Medical Education and Practice. Retrieved from https://www.tandfonline.com/doi/pdf/10.2147/AMEP.S457408
Crowther GJ, Sankar U, Knight LS, Myers DL, Patton KT, Jenkins LD, Knight TA. (2023). Chatbot responses suggest that hypothetical biology questions are harder than realistic ones. J Microbiol Biol Educ. 24:e00153-23. Retrieved from: https://journals.asm.org/doi/full/10.1128/jmbe.00153-23
Elsayed, S. (2023). Towards mitigating ChatGPT’s negative impact on education: Optimizing question design through Bloom’s taxonomy. arXiv. Retrieved from https://arxiv.org/pdf/2304.08176
Habiballa, H., et al. (2025). Artificial intelligence (ChatGPT) and Bloom’s Taxonomy in theoretical computer science education. Applied Sciences, 15(2). Retrieved from https://www.mdpi.com/2076-3417/15/2/581
Herrmann-Werner, A., et al. (2024). Assessing ChatGPT’s mastery of Bloom’s Taxonomy using psychosomatic medicine exam questions: Mixed-methods study. Journal of Medical Internet Research. Retrieved from https://www.jmir.org/2024/1/e52113/
Mirzadeh, I., et al. (2024). GSM-Symbolic: Understanding the limitations of mathematical reasoning in large language models. Hugging Face Papers. Retrieved from https://huggingface.co/papers/2410.05229
Noen etiske, juridiske, sikkerhetsmessige, helsemessigeog kognitive problemstillinger knyttet til samtaleroboter, og hvorfor disse verktøyene ikke er eksempler på KI
I en tid der krig ikke bare utkjempes med våpen, men også med tastatur og algoritmer, må vi alle forstå at vi er deltakere i en pågående informasjonskrig. Motstanderne er både kriminelle og statlige aktører fra Russland og Kina, og frontlinjen går tvers gjennom våre skjermer.
Vi lever i en tid der digitale trusler ikke lenger er noe som bare angår myndigheter og eksperter. De angår deg og meg – i hverdagen, på jobb, og hjemme ved kjøkkenbordet. Når strømmen går, nettet faller ut, vår arbeidsgivers IT-systemer angripes via vår private SMART-mobil eller falske nyheter sprer seg raskere enn fakta, er det vår egen digitale robusthet som avgjør hvor godt vi står imot.
Kjøkkenbordet som første forsvarslinje
Digital sikkerhet starter ikke i regjeringskvartalet – den starter hjemme. Det handler om å bruke sikre passord, aktivere totrinnsverifisering, og samtale om nettvett hjemme. Det handler om å forstå hvordan vi selv kan være mål for sosial manipulering – og hvordan vi kan stå imot.
De vanlige mistenkte – og nye verktøy
Selv om kunstig intelligens skaper nye utfordringer, er det fortsatt de «vanlige mistenkte» som står bak de fleste digitale trusler: statlige etterretningstjenester og organiserte kriminelle. KI er et samlebegrep for en rekke ulike verktøy – men det er menneskene bak tastaturet som utgjør den virkelige faren. Dette er profesjonelle kriminelle eller etterretningsoperatører med et godt grep om psykologi og god kjennskap til vår hang til intellektuell latskap når det gjelder alt som har med IT å gjøre.
Sosiale medier som slagmark
Plattformer som Facebook, TikTok og X (tidligere Twitter) er ikke lenger bare tidtrøyte. De er blitt arenaer for psykologisk krigføring. Her formes holdninger, skapes splid og manipuleres virkelighetsoppfatninger. Når vi deler, liker og kommenterer, er vi ikke bare brukere – vi er aktører i et informasjonsmiljø som kan brukes både til opplysning og til destabilisering. Og når vi overlater våre barn og unge til på egenhånd å utforske den digitale verden, så overlater vi dem alene og forsvarsløs til kyniske kommersielle interesser, kriminelle og operatører fra de brutale diktaturstatene Russland og Kina.
Kan en kriminell eller en etterretningsoperatør ikke umiddelbart nå fatt i våre data via våre digitale medieenheter, er våre barns enheter naturlige mål. Og våre barn og unge er også mål for innhold som svekker deres selvforståelse og mentale hygiene, noe som på lang sikt kan gi en befolkning som i liten grad er motstandsdyktige i krise og krig.
Hva betyr dette for deg?
Det betyr at digital egenberedskap ikke lenger er et valg – det er en nødvendighet. Vi må:
Oppdatere programvare og bruke sikre passord
Lære barna våre kritisk tenkning og digital dømmekraft
Slutt å kalle ChatGPT og lignende verktøy for KI, og sett deg inn i de sikkerhets-, personvernmessige og kognitive utfordringer som følger med disse verktøyene
Være bevisste på hva vi deler, og hvem vi stoler på
Forstå at vi er mål – og at vi har makt til å stå imot
Dette er ikke paranoia. Det er realisme. Og det er vår nye folkeplikt.
En forkortet utgave av dette blogginnlegget kan også leses påTrønderdebatt.
... den geniale måten din med å legge opp meget innholdsrik asynkron undervisning på. Fremstår på mange måter som det mest interessante undervisningsopplegget jeg har vært borti, med en ufattelig bred inngang og dekning til alt fra fagstoff, veiledninger og henvisninger, som utsetter studentene for den mest relevante utfordringen i dag: sortering, siling og bruk av riktig, adekvat og troverdig informasjon i et absurd mylder av kilder, stoff og henvisninger.
- Student ORG5005, 2025
ORG5005 startet opp første gang våren 2020.
Emnets fokus er egen bevisstgjøring rundt digitale trusler og den enkeltes ansvar for digital beredskap. Denne begrensningen ble valgt for å kunne gjøre et i utgangspunktet enormt fagemne til noe som er gripbart for den enkelte student.
Studentene er i svært liten grad IT-teknisk personell eller ingeniører og emnet berører følgelig ikke de tekniske sidene ved digital sikkerhet. Det store flertallet jobber heller ikke med IKT-sikkerhetsspørsmål eller cyberforsvar til daglig, og det er vanskelig å drifte et fagemne som både tilfredsstiller flertallets behov og behovene til en eller to personers spesialkunnskap.
Fagemnet har følgelig ikke som mål å gjøre studentene i stand til å bekjempe hackere – enten de er kriminelle eller statlige aktører, men skal trigge refleksjoner som til slutt kan være med å gjøre den enkelte student til en bedre beredskapsleder, og ikke minst en mer sikkerhetsbevisst borger i et nesten heldigitalt samfunn. Håpet er at den enkelte student etter å ha gjennomført ORG5005 skal forstå at egne holdninger og egen digital beredskap har betydning for den totale beredskapen, – både hos egen arbeidsgiver og for nasjonens digitale beredskap. Studentene skal også være i stand til å drive bevisstgjøringsarbeid i egen organisasjon, herunder bidra til beredskapsøvelser der bortfall av digital infrastruktur inngår.
«Bruker du PC, nettbrett eller mobiltelefon er du et digitalt mål. Det er uavhengig av hvem du er, hva du driver med og hvor du bor. Uavhengig av hva du arbeider med i din virksomhet er du med andres øyne veien inn til virksomhetens verdier. Med noen grep kan den enkelte selv bidra for å sikre arbeidsplassen og gjøre for å sikre seg selv og sine egne digitale verdier litt bedre» – Fagdirektør Roar Thon, NSM, 2025 (1)
Universitetsstudier har alltid hatt som funksjon å utdanne selvstendige kandidater med god vurderingsevne og god evne til kritisk tenkning, og dette er også funksjonen til ORG5005.
ORG5005 er på 7.5 studiepoeng og et fagemne på 7,5 stp. tilhørende EVU-segmentet der studentene studerer på deltid er beregnet til om lag 200 arbeidstimer. Studiepoengberegningen kan relateres til råd om arbeidsbelastning pr. studiepoeng gitt i den internasjonale ECTS-skalaen og nasjonale (UHR) retningslinjene som sier at 1 studiepoeng svarer til en normal arbeidsbyrde på mellom 25 og 30 arbeidstimer.
Siden det gis individuell veiledning på hver besvarelse til de to arbeidskravene og studentene skal kunne jobbe videre med disse to besvarelsene frem mot mappestenging (eksamen består kun av å levere inn ferdigutviklede besvarelser på to arbeidskrav) i slutten av semesteret, blir arbeidsmengden erfaringsmessig overkommelig. Men det krever at studentene har en stor grad av selvdisiplin og er god på å organisere egen tidsbruk.
For å hjelpe studentene med planleggingen av egen studietid med dette emnet, er all informasjon og fagstoff på plass i Canvasrommet til fagemnet senest i midten av desember. Dermed vil studentene ved semesterstart januar kunne ha kontroll på all nødvendig informasjon og samtidig være trygg på at det ikke kommer plutselige kontrabeskjeder eller ikke-varslede oppgaver.
Siden ORG5005 er et asynkront fagemne som er ment å nå det store flertallet som ikke har anledning til å delta på samlinger, ei heller digitale, er det ingen digitale forelesninger i sanntid.
1)ORG5005 er designet som et asynkront, heldigitalt emne, og har ingen samlinger på campus eller synkrone samlinger via Zoom eller Teams.
2)Undervisningsmedie: Canvas med tekst, lyd og video.
3) Arbeidsmåte: Studentaktiv læring med asynkrone forelesninger, og to obligatoriske arbeidskrav som skal utføres individuelt og leveres inn til individuell veiledning. (Frivillig og ikke knyttet til eksamensretten). Deretter videreutvikles besvarelsene iht. veiledning og leveres i sine endelige versjoner i Inspera innen oppsatt eksamensdato.
4)Ingen trenger å ta seg fri fra jobb for å gjennomføre ORG5005 og dere jobber i deres eget tempo og når dere selv vil innenfor de frister som er satt for innlevering av besvarelser til veiledning. Selv de som skal ut i INTOPS har mulighet til å fullføre ORG5005. Får dere ikke tid til å levere til veiledning innen oppsatt frist, søker dere om utsettelse via e-post direkte til faglærer. De som ser at arbeidsdag, studiedag og hverdag ikke gir rom for innlevering til veiledning, bruker de generelle veiledningsdokumentene og «Retningslinjer for mappevurdering» som grunnlag for endelige besvarelser på de to arbeidskravene.
5) Det blir ingen synkrone samlinger i Zoom eller Teams. Alt, inklusive fagansvarliges velkomsthilsen og muntlige gjennomgang av organiseringen av ORG5005 er heldigitalt og asynkront.
6)Eksamensform: Mappeevaluering med karakter (A – F)
Alt fagstoff, videoforelesninger ol. ligger klare i Canvasrommet ved semesterstart.
Det som står i Fremdriftsplan for ORG5005 VÅR xx endres ikke og datoene kan legges inn i din egen kalender med en gang.
Du får utdelt eksamensoppgavene i form av 2 – to – obligatoriske arbeidskrav i løpet av januar og februar. (Se fremdriftsplanen i Canvasrommet).
Disse jobber du med ut fra fagstoffet som ligger i Canvasrommet og fagstoff du selv finner frem til, de generelle veiledningsdokumentene og eksempler på utkast til besvarelser.
Du leverer dine utkast til besvarelser inn til individuell veiledning, og deretter jobber du videre med de to besvarelsene frem til endelig innlevering (eksamen). Du kan søke om utsettelse på innlevering til veiledning ved en enkel e-post til faglærer.
Eksamen kalles «mappestenging», og du skal levere dine endelige besvarelser på de to arbeidskravene i Inspera.
Info om eksamen finner du i infoboksen Mappestenging ORG5005 – Eksamensinformasjoni Canvasrommet.
Du befinner deg nå i et helt nytt og kanskje fremmedartet miljø. Det er lenker og knapper og faner overalt, og faglærer virker å være lysår unna. Kan dette gå bra? Jo da, sett deg godt til rette i godstolen, ta en kopp kaffe (eller te) og senk skuldrene. Vår store filosof Arne Næss Sr. sa en gang at «Det gjør vondt å tenke» og at dette var «en smerte vi ikke bør unndra oss»(1)
Dersom vi godtar dette utsagnet, vil det også gjøre vondt å ta høyere utdanning. Men hele poenget med høyere utdanning er vel å presse seg selv ut av komfortsonen, ikke sant? Det er da man lærer 😊 Men selv om det er krevende med rene asynkrone nettbaserte studier så er det ikke så vanskelig som det ser ut.
Dette kommer til å gå bra!
(1) Rothenberg, David: Arne Næss – Gjør det vondt å tenke, Cappelen Damm, 1992
Å løse arbeidskravene i IKT og Læring 1 og 2, vil medføre utstrakt prøving og feiling. I de fleste tilfeller vil studentene måtte gjøre ting de ikke har gjort før. Men dette er jo normen i enhver utdanning.
IKT og Læring 1 og 2 er ikke MOOC-kurs, men nettbaserte universitetsstudier spesielt utformet for profesjonelle undervisere/ instruktører. Vi skal utdanne selvstendige kandidater med god vurderingsevne, som skal kunne ikke bare fungere som gode profesjonelle brukere av digitale medier og verktøy i en undervisningssituasjon, men også kunne fungere som rådgivere for ledelsen.
Disse to 100% nettbaserte og asynkrone programmene er ikke konstruert for andre studenter enn den beskrevne målgruppen, og det tas uten videre for gitt at ingen begynner på studier der program- og emneinformasjonen på nett klart indikerer at dette er etter-og videreutdanning for de som allerede er ferdig med lærer-, befals – eller krigsskoleutdanning og har praksis fra undervisning og/ eller instruksjon.
IKT og læring 1 og 2 hører til i grenselandet mellom samfunnsvitenskap og humaniora, og her finnes ingen evige sannheter. Derfor er vårt fokus hele tiden på å støtte og styrke studentens evne til refleksjoner som kan føre til faglig bevissthet, og derigjennom konkrete tiltak og handlinger i studentens egen yrkespraksis.
IKT og læringsstudiene har sitt fokus på studentaktiv undervisning. IKT og Læring 1 og 2 er dermed ikke forelesningsstudier, men studier der læringen skjer via studentenes konkrete arbeid med arbeidskrav, og derigjennom refleksjon over de gitte tema. «Learning by doing» er her helt sentral og de fagansvarlige er ikke forelesere, men tilretteleggere og veiledere.
Undervisningen i IKT og Læring 1 og 2 er altså ikke sentrert rundt forelesninger, men er en kombinasjon av spesielt utviklede arbeidskrav, fagstoff og individuell veiledning av studentenes utkast til besvarelser.
Jeg skal her gjøre et forsøk på å beskrive det å jobbe med arbeidskravene i IKT og Læringsstudiene på samme måte som en gjennomgang av et dataspill. For de som spiller dataspill vil begrepet «Walkthrough» være velkjent.
En Walkthrough er en strategiguide laget av entusiaster for et bestemt dataspill, og som leder spilleren gjennom spillet nivå for nivå. Siden dagens kommersielle spill ofte er ganske komplisert, kan en Walkthrough være et nyttig verktøy for å finne veien gjennom de ulike nivåene.
Et universitetsstudium kan jo også være ganske så kompliserte å finne frem i.
Walkthrough for IKT og Læring 1 og 2
Hvis vi tenker på IKT og Læringsstudiene som et dataspill, så skal studentene løse to oppdrag for hvert enkelt emne som vil være av både teknisk og teoretisk art (både skriftlig notat og teknisk produkt/ praktisk arbeid).
Hvis vi så sier at dette «spillet» har tre nivå – Nybegynner, Veteran og Elite (Som henviser til arbeidsinnsats ikke tekniske forkunnskaper. Forkunnskaper i form av at man enten er lærer/ instruktør/veileder er selvsagt på plass) – kan vi sette opp følgende veiledende retningslinjer:
Nybegynner:
Gå løs på arbeidskravene uten å lese oppgavetekstene særlig nøye eller benytte seg av de generelle veiledningsdokumentene. Ignorering av en eller flere krav oppgitt i oppgavetekstene.
Minimal til ingen selvstendig deltakelse i forumdiskusjoner der dette er relevant.
Liten eller ingen innsats for å søke etter relevante ressurser på Internett, som kan støtte opp under egen besvarelse og det fagstoff som ligger i Canvasrommet.
Bruk av samtaleroboter for å generere hele eller deler av teksten uten å opplyse om dette. Eller bruk av samtalerobot til fullstendig språkvask, slik at teksten ikke lenger er ens egen.
Slurvete oppsatt besvarelse uten skikkelig drøfting og analyse, og mangelfullt oppsatt refleksjonsnotat iht. krav og forventninger stilt i «Retningslinjer for mappevurdering», mangelfullt/ ikke fungerende produkt eller mangelfullt praktisk arbeid, ingen eller svært mangelfull egenrefleksjon og ingen eller mangelfullt/feil oppsatt kildehenvisninger i det skriftlige notatet.
En besvarelse helt fri for eksempler fra studentens egen yrkespraksis og egne faglige refleksjoner (basert på egen yrkespraksis), satt inn i en fagteoretisk sammenheng, og «overakademisk» tekst som ikke viser spor av studenten som fagperson.
Praktiske produkt (multimedia eller spill) er ikke utført i tråd med oppgaveteksten, og er ikke levert i kjørbar stand.
Å utføre et arbeidskrav som nybegynner vil kunne gi karakter fra F til D.
Veteran:
Studenten har lest gjennom både «IKT og Læring – FAQ: generelt, arbeidskrav, eksamen» og «Retningslinjer for mappevurdering».
Studenten leser oppgavetekstene nøye, og har gått gjennom de ulike forelesnings- og fagressursene, herunder de generelle veiledningene (der disse er lagt ut sammen med arbeidskravet).
Studenten har foretatt selvstendige søk etter relevante tilleggsressurser på Internett.
Studenten har deltatt i forumet enten ved å stille konkrete spørsmål eller dele refleksjoner der dette var relevant.
Studentens skriftlige arbeid er ryddig og inneholder gode drøftinger og analyser forankret i relevant faglitteratur og forskning slik en universitetsbesvarelse skal være, og har med et godt oppsatt egenrefleksjonsnotat, iht. «Retningslinjer for mappevurdering».
Studenten viser god evne til å sette egen yrkespraksis og egne faglige refleksjoner (basert på egen yrkespraksis) inn i en fagteoretisk sammenheng. Studenten bruker eksempler fra egen yrkespraksis aktivt for å understreke egne faglige refleksjoner. Studenten som fagperson kommer klart frem gjennom hele teksten.
Der studenten har benyttet samtaleroboter som del av tekstarbeidet, er dette markert og opplyst om. Fullstendig språkvask som endrer teksten fra studentprodusert til samtalerobot-produsert forekommer ikke.
Studenten har kildehenvisninger knyttet til alle sine eksempler og faglige refleksjoner, og disse er i tråd med APA-stilen.
Studenten har lest kildene denne lister opp i kildehenvisningen og har ikke brukt samtalerobot til å generere kilder.
Studentens produkter er klart forankret i egen undervisnings/ instruksjons-praksis, kjørbare og i henhold til oppgaveteksten, så også annet praktisk arbeid definert i arbeidskravene.
Å utføre det enkelte arbeidskrav som veteran vil kunne lande en trygg og solid C.
Elite:
Å ta fatt på arbeidskravene i «Elitemodus» vil si å gjøre det samme som beskrevet over for Veteran, men i tillegg:
Delta aktivt i forumet med egne faglige debattinnlegg der dette er relevant.
Studentens skriftlige arbeider er grundige og har faglig tyngde, med klare eksempler fra egen yrkespraksis og korrekt oppsatte kildehenvisninger som understøtter de erfaringsbaserte vurderingene.
Studentens egenrefleksjoner er konkrete og grundige. Vedkommende refererer, gjerne kritisk, både til fagressursene – engelske som norske – som ligger i Canvas, men gjerne også til annen litteratur som denne selv har funnet, samt egen erfaring som lærer/ instruktør og bruker av digitale medier.
Studentens produkter er utviklet ut over det oppgaveteksten krever, og dennes praktiske arbeid viser både innsikt og engasjement ut over det som kan forventes.
Å utføre arbeidskravene på dette nivået vil kunne gi karakterresultat B – A, avhengig av i hvor stor grad studenten viser meget god vurderingsevne og selvstendighet (B), eller leverer en fremragende prestasjon (herunder produkter og praktisk arbeid) som klart utmerker seg (A).
Epilog
Det mange feiler på i IKT og Læring 1 og 2 er skrivingen av fagtekstene til det enkelte arbeidskrav. Her blir det ofte enten mangelfull analyse/ drøfting og manglende forankring av egne meninger i relevant fagstoff, eller en ordrik tekst med mange kildehenvisninger men helt fri for eksempler og refleksjoner fra egen yrkespraksis. Utstrakt bruk av samtaleroboter (ChatGPT, Gemeni, Copilot ol.) for å strukturere en fagtekst eller «gjøre teksten mer akademisk» ender ofte opp med tekster fri for den ytterst viktige individuelle forankringen i egen yrkespraksis, og dermed til lave karakterer (D til E).
Et annet punkt der en del kommer til kort, er det obligatoriske kapittelet «Refleksjonsnotat» (obligatorisk tittel). Her er det den enkelte students evne til metakognisjon som bedømmes, jfr. «Retningslinjer for mappevurdering». De som her velger å be en samtalerobot (ChatGPT etc.) om å sette opp dette kapittelet, vil fort kunne ende opp med en irrelevant og «mekanisk» fremstilling av læringsrefleksjoner som igjen gir en klar E eller D i endelig karakter.
Arbeidskravene ved IKT og Læring 1 og 2 kan være ganske åpne og det er for å kunne gi mulighet for kandidatene til å vise stor grad av selvstendighet og vurderingsevne, og dermed også gi mulighet for å skille ut A og B-kandidater.
«Retningslinjer for mappevurdering» som er tilgjengelig i samtlige emnerom i Canvas fra studiestart, representerer klare krav og forventninger til studentens skriftlige arbeider. Velger studenten å ikke følge disse, velger denne også vekk muligheten for å oppnå de høyeste karakterene.
Ved IKT og læringsprogrammene finnes ingen «Alle skal med»-policy.
Glem Terminator og dommedag – truslene i det digitale rom kommer fortsatt fra gamle kjenninger: hackere, statlige aktører og kriminelle. Dataprogram av typen ChatGPT og Sora er kraftige verktøy, men ikke tenkende maskiner. De kan forsterke digitale angrep – ikke skape dem. De kan senke terskelen for angrep, men effektive angrep krever fortsatt teknisk innsikt, forståelse av menneskelig psykologi, kontekst og infrastruktur. Uten slik kunnskap blir såkalt «KI» først og fremst et produktivitetsverktøy, ikke en erstatning for kompetanse. Løsningen for oss som samfunn er mindre hysteri og mer digital kompetanse, ellers er det vår egen intellektuelle latskap som blir den største sikkerhetsrisikoen fremover.
Innledning
«Den superintelligente KI-en har på en måte alle Guds egenskaper: Den er allmektig, allvitende, og enten velvillig, eller så er den Djevelen og du er i dens nåde. Som i enhver sekt er det også en følelse av hastverk. Du må handle nå! Verdens skjebne står på spill! Og selvfølgelig trenger du penger!» – Inga Strümke, PhD. og Anders Løland, PhD., 2024 (2)
«… unravelling the vagueness around AI is important in a broad sense, as there is also something quite dangerous about the futuristic mystique of the term AI when it blinds us to the banal and oppressive realities of certain technologies.» – AI Myths (Project), u.å. (3)
Helt siden OpenAI sin samtalerobot kom i medias søkelys i november 2022, har vi hatt en strøm av påstander om at vi nå har nådd et «vendepunkt» i utviklingen av kunstig intelligens. Og like sikkert som at vår følger vinter, kommer dommedagspåstandene om helt spesielle (og dramatiske) sikkerhetstrusler fra KI.
Hva er kunstig intelligens?
«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.» – Bjørn Stærk, 2023 (4)
«The term “artificial intelligence” has a long history—it was coined in the nineteen-fifties, in the early days of computers. More recently, computer scientists have grown up on movies like “The Terminator” and “The Matrix,” and on characters like Commander Data, from “Star Trek: The Next Generation.” These cultural touchstones have become an almost religious mythology in tech culture. It’s only natural that computer scientists long to create A.I. and realize a long-held dream.» – Jaron Lanier, 2023 (5)
«A system that most of us would think of as real AI – something that can, more or less, think like us – is known in Computer Science as Generalised Artificial Intelligence, and it is nowhere on the horizon. The term Artificial Intelligence is used instead to apply to anything produced using techniques designed in the quest for real AI. It’s not intelligent. It just does some stuff that AI researchers came up with, and that might look a bit smart. In dim light. From the right angle. If you squint.» – Linda McIver, PhD, 2023 (6)
Store Norske Leksikon definerer KI på følgende måte: «Kunstig intelligens er informasjonsteknologi som justerer sin egen aktivitet og derfor tilsynelatende framstår som intelligent.»
Et viktig stikkord her er «tilsynelatende framstår som intelligent». Og det er på det nivået vi stadig er når det gjelder forskning og utvikling innen feltet «Kunstig intelligens». For KI, i en form som vil kunne utvikle spesifikke nye digitale trusler, kan vi beskrive på følgende enkle måte:
Maskiner med en intelligens som lar dem forstå, lære og utføre intellektuelle oppgaver omtrent som mennesker. Maskinene emulerer den menneskelige tanke og atferd for å løse alle slags komplekse problemer.
Men som Linda McIver påpeker i sitatet innledningsvis er KI i betydningen av at datasystemer tenker (og handler) som oss mennesker ikke oppfunnet og vi er heller ikke i nærheten av å finne opp et slikt system.
KI i betydningen «Artificial general intelligence (AGI)» er altså enn så lenge rent teoretisk og siden det ikke eksisterer kan det heller ikke utgjøre, eller utvikle, særegne og hittil ukjente digitale trusler.
Open AI sin samtalerobot er et utmerket eksempel på noe som ikke er KI og som samtidig er blitt brukt som eksempel på «KI-trussel».
Men ChatGPT, Microsoft CoPilot og lignende samtaleroboter er ikke eksempler på Kunstig Intelligens (KI). Dette er verktøy som baserer seg på statistiske beregninger. De er som store og avanserte dataspill, der du som spiller får følelsen av at det ikke finnes noen begrensninger på hvor du kan gå eller hva du kan gjøre. Men man skal ikke utforske en slik avansert spillverden særlig mye før en ser at i virkeligheten får man kun gå og gjøre det spillets utviklere har bestemt. Slik er det også med ChatGPT og lignende verktøy. De utfører fantastisk hurtige statistiske beregninger av tilgjengelig informasjon og sannsynlig sammensetning av bokstaver, men alt systemene gjør er bestemt på forhånd av programkode.
Samtaleroboter kan altså ikke tenke, de kan ikke resonere og de foretar absolutt ingen analyser av verken det brukeren spør om eller de «svar» programkoden løfter frem. Dermed følger det rent logisk, så vel som teknisk, at en samtalerobot ikke kan «føre mennesker bak lyset» eller frykte å bli erstattet av en annen modell eller slått av.
Som professor Gary Marcus sier i sin kommentar til forskningsartikkelen «Frontier Models are Capable of In-context Scheming»; – «Yes, LLMs can do all this even if they are essentially just analogizing regurgitation machines with no real world model. They have lots of examples in the database — and little capacity to compute the internal consistency of their own actions. Worse, they do not actually calculate the consequences of their actions at all. They can’t reliably sanity check themselves for hallucinations, and they can’t reliably sanity check for whether what they are doing is harmful.»
Dersom forskere (eller andre brukere) legger inn kommandoer/ promting som gir mønstre som statistisk sett peker mot «bedrag», altså det å nekte for noe eller påstå noe, eller foreta handlinger som flytting av data ol. (handlinger som altså allerede ligger innprogrammert som del av et, eller flere, handlingssett), så vil verktøyet utføre denne type «handling/ handlinger». Men handlinger verktøyet ikke er programmert for, vil ikke kunne utføres.
Det at digitale verktøy/ smarte system kan utføre handlinger de er programmert for, er ikke et tegn på at de er «intelligente» i betydningen av at de tenker og handler på egenhånd. Og de medieskapte mytene om KI kan i seg selv bli en beredskapsmessig trussel.
Såkalte KI-trusler
“Computers are evolving very quickly … the human brain isn’t going to evolve, and so we still need to think about cognitive psychology” – Andrew Van Schaack, PhD., 2024 (7)
«Cybersecurity is actually 90% about human behavior and 10% about technology.» – Martin Fix, 2024 (8)
«A lot of the risk really comes from malicious actors, which exist anyway. It’s just another tool for them to use». – Lauren Kahn, 2023 (9)
«There were stories about the fact that you could use an LLM (large language model) to give you instructions of how to make chemical weapon or bioweapon. That turns out to be false». – Professor Yann André LeCun, 2024 (10)
«Though it has been written about for decades, the importance of tacit knowledge in biological weapons production has often been overlooked. Having a jail-broken LLM spit out instructions is unlikely to be sufficient to create a usable biological weapon.» – Stephanie Norwood, PhD, 2025 (11)
Og det er blant annet disse to verktøyene som løftes frem som eksempler på noe som kan skape «KI-trusler», uten at det egentlig fremkommer klart hvilke spesifikke «nye» trusler dette gjelder.
At vi nå har flere typer verktøy som kan «produsere» kildekode (i betydningen hente frem via statistiske beregninger allerede produsert kildekode som er offentlig tilgjengelig), vil selvsagt gi «Script kiddies» enda et verktøy (f.eks. Indrik Spider og Scattered Spider). Men siden verken ChatGPT eller lignende samtaleroboter er feilfrie når det gjelder kodegenerering, er det per nå et stort spørsmål om hvor effektive verktøy dette vil være.
Det er jo ikke slik at vi ikke har hatt denne type verktøy før. Det som er nytt er muligheten for at «folk flest» får tilgang til kraftigere verktøy.
Og så må vi ikke glemme verktøy som etterligner stemmer. Også dette benevnes som «KI», men igjen; dette er ikke system som på egenhånd utfører angrep, men verktøy hvis bruk baseres på angriperens egen kunnskap og teknologiske forståelse og ikke minst angriperens kunnskap om hvordan mennesker reagerer.
Tilgang til verktøy kan medføre økt bruk, men det betinger at brukeren vet hvordan verktøyet skal brukes, har kunnskap om hvordan produktet (f.eks. en film eller en kildekode) kan anvendes og deretter mangler de «hemninger» eller holdninger som fraholder de fleste mennesker fra å begå lovbrudd.
Intet nytt under solen
«I’m afraid the reasons why neural nets took off this century are disappointingly mundane. For sure there were scientific advances, like new neural network structures and algorithms for configuring them. But in truth, most of the main ideas behind today’s neural networks were known as far back as the 1980s. What this century delivered was lots of data and lots of computing power. Training a neural network requires both, and both became available in abundance this century». – Michael Wooldridge, 2023 (12)
«An LLM does not understand the semantic meaning of a sentence in a linguistic sense, but rather calculates mathematically what the most likely next word should be based on the input to the model. As neural networks are inherently probabilistic, this has earned LLMs the moniker ‘stochastic parrots’ as the model is extremely good at determining the most likely next sequence – and convincingly so – but has no inherent representation of what those words mean.For this reason, LLMs do not encode an understanding of our world, such as cause-and-effect and the relationships between objects – what linguists refer to as ‘pragmatic inference’. This is a critical limitation of LLMs that users need to understand, otherwise there is a risk of automation bias (where people place too much trust in the output from such models) and anthropomorphism (where people build a human-like rapport with an LLM, which exacerbates automation bias)». – Adam C., GCHQ’s Chief Data Scientist and Richard J. Carter, PhD, 2023 (13)
«The problem that crops up over and over again in this field is that people anthropomorphize these computers, ascribing all sorts of desires, plans, emotions, and the like. They are machines, running code. They don’t need anything, love or hate anyone, have goals or desires. They are not conscious. They don’t care if they’re replaced by a newer version. They don’t act covertly. They are machines, running code.» – wsf, 2024 (14)
De «nye» verktøyene, og da særlig de ulike samtalerobotene, fører ikke til noen form for nytrussel. Det vi ser er heller at:
Samtaleroboter vil først og fremst gi trusselaktører rask tilgang på allerede offentlig tilgjengelig informasjon lagt ut på internett, og kunne føre til en økt evne til f.eks. sosial manipulasjon. Slike verktøy kan brukes til å muliggjøre en mer overbevisende kontakt mellom angriper og offer, inkludert opprettelse av falske dokumenter, uten de oversettelses-, stave- og grammatiske feil som tidligere ofte avslørte denne type angrep. Og jo bedre den underliggende modellen er, og jo større datagrunnlag som kan danne basis for verktøyets statistiske beregninger av sannsynlig ønskte bokstavsammensetning, jo mer skade kan slike tekstgenererende verktøy gjøre i hendene på en profesjonell trusselaktør.
MENdet hjelper ikke med overbevisende e-posttekst, eller annen tekstbasert «samtale», dersom angriperen ikke har nok teknisk kunnskap til å f.eks. sette opp en tilhørende webside med korrekt oppsatt angrepskode som sømløst kan utføre de nødvendige operasjoner (lagre passord, brukerdata eller infisere maskiner med virus, trojanske hester osv.), eller på annen måte har god bakgrunnskunnskap om måletfor angrepet.
De ulike samtalerobotene kan kanskje også benyttes i etterretningsarbeid som del av innledende forberedelser til angrep mot organisasjoner eller enkeltpersoner.
MENtatt i betraktning de grunnleggende problemene med LLM, og særlig i den form vi møter dem i f.eks. ChatGPT, er det ytterst usikkert om etterretningspersonell og profesjonelle (avanserte) IT-kriminelle er særlig ivrige brukere av samtaleroboter.
Samtaleroboter kan muligens lette utviklingen av ulike typer av skadeprogram, der relevant kode er tilgjengelig enten i verktøyets database eller på internett.
MENen trusselaktør må fortsatt ha den nødvendige tekniske ekspertise til å både vurdere produktet og bruke det effektivt som del av et digitalt angrep.
En samtalerobot kan muligens (dersom de statistiske beregningene lander på konkret og korrekt info) lette innhentingen av offentlig tilgjengelig informasjon om utvikling av biologiske våpen.
MENdet hjelper ikke med hurtig fremhenting av digitalt tilgjengelig informasjon om angriperen ikke har den nødvendige ekspertise i det å konstruere et biologisk våpen (eller for den del hvilket som helst annet våpen som fordrer mer enn rent grunnleggende mekanisk innsikt). I tillegg trenger angriperen et trygt anlegg som kan holde vedkommende i live lenge nok til å lage et biologisk våpen.
Store språkmodeller er utgangspunktet for såkalte «KI-svermer», som er konstruerte nettverk av program som brukes som verktøy i organiserte påvirkningsoperasjoner. Et sentralt poeng her er at disse systemene er rettet mot å forurense treningsdataene til nåværende og fremtidige språkmodeller. Ved å publisere enorme mengder nesten identiske artikler på tvers av mange nettsteder, forsøker operatørene å sikre at fabrikerte narrativer blir fanget opp av søkemotorer og inkludert i datagrunnlaget som nye samtaleroboter trenes på.
MENdisse verktøyene opererer ikke på egenhånd. De er spesifikt programmert for et spesifikt forhold, av mennesker med god kunnskap om hvordan bruke digitale medier til manipulasjon.
Nye og avanserte videogenereringssystem tilgjengelig for alle, kan øke mengden falske nyheter der video er benyttet. Og en øking i denne type aktivitet vil igjen kunne gi en økning i falske nyheter eller ekstremistisk budskap støttet av video og derigjennom kanskje både gi inspirasjon til radikaliserte grupper og en økende mangel på tillit til nettbasert informasjon blant folk flest.
MENdet hjelper ikke med avanserte videoverktøy hvis ikke angriperen har den nødvendige innsikt i psykologi og kunnskap om de politiske og økonomiske utfordringer som eksisterer i den region eller for den gruppe som man ønsker å radikalisere eller på annen måte påvirke.
Verktøy for forfalskning av stemmer tilgjengelig for alle, kan øke mengden svindelforsøk av denne typen.
MENheller ikke her hjelper det med avanserte verktøy om ikke angriperen har den nødvendige innsikt i psykologi, og kunnskap om hvordan foreta effektiv svindel av tilfeldige offer.
Det er ingen grunn til å tvile på at mer avanserte digitale verktøy vil kunne støtte en utvikling og styrking av eksisterende taktikk, teknikker og prosedyrer. Men kun der angriperen har den nødvendige kunnskap og trening i det å utføre digitale operasjoner mot virksomheter eller enkeltpersoner. Digitale angrep er stadig avhengig av menneskelig intelligens og kunnskap, og det er ingen ting som tyder på at dette vil endres i overskuelig fremtid.
Selvkjørende biler og autonome våpen
«The reliance on imagination and visions of technologies and future warfare characterises much of the academic and political debate on emerging technologies in the field of AWS». – Anna-Katharina Ferl, PhD., 2023 (15)
«Unlike humans, robotaxis are not able to solve a problem they’ve never encountered before». – Sebastien Bell, 2024 (16)
Når man skal behandle tanken om at KI per nå utgjør en ny form for trussel, kommer en ikke utenom selvkjørende biler og autonome våpen.
La oss først slå fast nok en gang at vi per i dag ikke har funnet opp maskiner med en intelligens som lar dem forstå, lære og utføre intellektuelle oppgaver omtrent som mennesker, og som emulerer den menneskelige tanke og atferd og dermed kan løse alle slags komplekse problemer.
Dermed blir verken selvkjørende biler eller autonome våpensystemer eksempler på KI, som på mystisk vis kan representere hittil ukjente trusler.
Faren med disse to eksemplene ligger i at de, som alle digitale system, er sårbare for angrep (hacking).
Men digitale angrep mot f.eks. selvkjørende biler eller ordinære biler med system tilknyttet Internett skiller seg ikke ut fra andre typer digitale angrep, selv om implikasjonene for selvkjørende biler kan bli svært alvorlig.
Dette vil gjelde også for de såkalte «autonome våpen», som i likhet med alt det vi noe upresist kaller «KI-systemer» er programmert av mennesker. Selv en robot (våpensystem) som er “autonom” utfører sine instruksjoner kun via den logikk den menneskelige programmereren har lagt inn i systemet og kan ikke tenke selv. Slike våpensystem reiser først og fremst en rekke etiske dilemmaer, og dilemmaer knyttet til krigens lover. Men det er selvsagt mulig at hackere kan forsøke å manipulere data eller ta kontroll over denne type systemer, noe som kan true militære operasjoner og skape kaos på slagmarken.
Det fremsettes også påstander i media om at KI kan føre til at terrorister kan «kjøre en autonom dronestorm over Norge». Hvilken mystisk form for «KI» som skulle kunne gi en slik «plutselig» mulighet blir ikke definert.
Siden droner allerede eksisterer og er i bruk, er det selvsagt her og nå – i dag – fullt mulig for terrorister å «sende en sverm av droner» over Norge. Forutsetningen for dette har ingen ting med KI å gjøre, men at de har droner med adekvat rekkevidde eller sender dem ut innenfor norsk territorium eller i nærheten av Norge, at dronene har våpenkapasitet og at terroristene har den nødvendige kunnskap om effektiv bruk av droner.
Hvorvidt «terrorister» er den mest sannsynlige synderen i et slikt scenario, heller enn en statlige aktør, er egentlig uviktig. Muligheten ligger der og det helt uten noen som helst form for «kunstig intelligens».
Konsekvensene av at smarte IT-systemer blir hacket, eller tatt i bruk av en fiendtlig aktør, kan altså bli alvorlige, men vi snakker stadig om ordinære digitale angrep, eller fysiske angrep som del av klassiske sabotasje- og destabiliseringsoperasjoner, basert på angripernes teknologiske kunnskaper. Og vi snakker ikke, under noen omstendighet, om helt særegne og hittil ukjente trusler a la Terminator-filmene.
Vi snakker tvert i mot stadig vekk utelukkende om smarte statlige aktører, terrorister eller kriminelle, med gode teknologiske kunnskaper og med tilgang til eksisterende verktøy.
Vi står ikke overfor nye digitale trusler
«For one, ChatGPT can only write relatively simple applications. Even if it has the skills to do more advanced coding with suitable instructions, it does not instantly provide non-developers a competitive edge over developers who understand coding and have experience in actually writing code». – Andrej Kovacevic, 2023 (17)
«A chatbot is a single-purpose tool, not an intelligence. Human-level intelligence requires the capacity to go beyond the parameters that its developers set for itself, of its own volition. ChatGPT is preternaturally adept at mimicking human language patterns, but so is a parrot, and no one can argue that a parrot understands the meaning behind the words it is parroting.ChatGPT passing the Turing test doesn’t mean that ChatGPT is as intelligent as a human. It clearly isn’t. All this means is that the Turing test is not the valid test of artificial intelligence we thought it would be». – John Loeffler, 2023, (18)
At fiendtlig etterretning, kriminelle organisasjoner og «folk flest» har kraftige IT-verktøy til sin disposisjon, betyr ikke at vi plutselig står over for digitale trusler vitenskapen ikke allerede har definert og pekt på.
Den økte tilgjengeligheten av slike verktøy (demokratisering av angrepsverktøy) kan derimot gi grunn til bekymring i den forstand at flere (kanskje) vil kunne utføre digitale angrep, noe som understreker behovet for å stadig styrke informasjonssikkerheten på alle nivåer, både gjennom tekniske løsninger og ikke minst økt digital kompetanse og bevissthet blant oss som borgere i et heldigitalt mediesamfunn.
Hvis den enkelte bruker av de ulike digitale medier – fra SMART-mobil til EL-bil – kan avvennes den naive troen på at digitale angrep bare er noe som skjer andre eller at falske nyheter aldri dukker opp i egen SOME-strøm, vil selv ikke kraftige matematiske modeller (språkmodeller) eller kraftige videogenereringsverktøy hjelpe kriminelle eller statlige aktører til økt suksess.
Når det gjelder andre typer trusler, så som utvikling av virus- eller bakteriologiske våpen, så er det ikke samtaleroboter av typen ChatGPT som foretar utviklingen. Samtaleroboter kan ikke utvikle noe som helst. Men de kan lynraskt søke gjennom offentlig tilgjengelig informasjon allerede lagt ut på internett, og frembringe denne informasjonen til en bruker på en lettfattelig måte. I de tilfeller der informasjonen faktisk er korrekt og brukeren har de nødvendige kunnskaper til å nyttiggjøre seg av denne, letter dette selvsagt det innledende arbeidet. Men den konkrete trusselen er det terroristen og dennes praktiske og teoretiske kunnskaper som står for, ikke samtaleroboten.
Det er heller ikke «KI» som fører til eventuelt økt radikalisering og flere tilhenger til terrororganisasjoner eller ytre høyre- eller venstreparti, men operatørenes kunnskap om hvordan nå frem til aktuelle mottakere nasjonalt og internasjonalt.
Siden media flommer over av artikler om hvordan «KI» benyttes til dette og hint, kan det være greit å tenke over følgende (utheving – tekst i fet skrift – satt av meg):
«Strictly speaking, AI is not a technology at all. Facial-recognition software, translation and speech recognition programs, scheduling algorithms, and predictive models might all have different machine learning tools running in the background, but it is patently absurd to refer to them as a singular technology. We do not call everything containing copper wires «wiring».» – R.H. Lossin, PhD. og J. Resnikoff, PhD., 2024 (19)
Konklusjon
«AI is a marketing term used to generate hype,…» – Skyler Schain, 2023 (20)
«The talk about existential risk from AGI is a magician’s distraction from what’s going on right in front of us – not a mechanical uprising, but a silent campaign to devalue the political and cultural currency of humane thought.» – Professor Shannon Vallor, 2023 (21)
«The results are impressively realistic, but the “basic statistics” are the same. There is no sentience, there’s no self-contemplation, there’s no self-awareness.» – Professor Michael Wooldridge, 2022 (22)
«Here’s where we actually are, so much more boring, and so much more real: Current models trained on next-token prediction have remarkable abilities and remarkable weaknesses. The scope of those abilities and weaknesses of the current systems is not well understood. There are some applications where the current systems are reliable enough to be practically useful, though not nearly as many as is often claimed. No doubt the next generation of systems will have greater abilities and more extensive applications and will somewhat mitigate the weaknesses. What is to come is even more poorly understood than the present. But there is zero justification for claiming that the current technology has achieved general intelligence.» – Professor Gary Marcus, 2025 (23)
«Eksempelvis kan KI brukes i påvirkningsoperasjoner, sosial manipulering, eller til å finne sårbarheter i programvare. På samme måte kan KI antagelig også brukes til å oppdage og motvirke disse operasjonene. Hvorvidt KI vil gi størst fordeler til de som forsøker å utnytte det til offensive cyberoperasjoner eller til de som forsøker å forhindre slike operasjoner, er usikkert.» – PST, Nasjonal trusselvurdering 2024, s. 18 (24)
De nye systemene/ programmene som har dukket opp i kjølevannet av samtalerobotene kan i noen tilfeller fungere som en kraftforsterker for eksisterende sikkerhetstrusler, men det eksisterer ingen «KI-trussel» i det digitale rom i betydningen selvtenkende maskiner med egen vilje og egne mål. De grunnleggende reglene gjelder fortsatt og truslene i det digitale rom representeres stadig av de samme aktørenesom før, av de gode gamle metodene vi kjenner fra før, og ikke minst av vår hang til intellektuell latskap.
Sosial manipulasjon blir mer og mer populært, og enkeltmenneskets bruk av sosiale medier er utgangspunkt for klassiske påvirkningsoperasjoner og like klassiske digitale angrep i form av «klikk på denne lenken». Falske nyheter blir stadig vekk produsert av ekte mennesker og bruken av avanserte verktøy er stadig basert på disse menneskenes kunnskap om hvordan nå ut til aktuelle mottakere.
Fremveksten av avanserte verktøy tilgjengelig for alle kan øke mengden digitale angrep mot viktige systemer og mengden av godt utformede falske videoer som del av angrep mot våre holdninger, og det er absolutt ikke å kimse av. Men angrepsformene er ikke nye.
Fjernstyring av selvkjørende biler eller bruk av våpenførende droner er spesifikke angrepsformer knyttet til terrorisme eller hybrid krigføring, og vil skje dersom en terrorist-gruppe eller en statlig aktører mener dette er hensiktsmessig og har den nødvendige teknologiske kompetanse til å utføre angrepet.
Radikalisering av unge eller andre grupper i et samfunn skyldes ikke «KI», men at terroristorganisasjoner, etterretningsoperatører og ekstremistiske partier har god kunnskap om hvilke samfunnsmessige problemer som kan utnyttes, og dernest hvilke digitale verktøy som kan brukes til å formulere et budskap og nå frem til flest mulige. Skal en stoppe denne type påvirkningsoperasjoner trenges det helt andre virkemidler enn å regulere ulike typer digitale verktøy. Økt utdanning, økt bevissthet i befolkningen som helhet og politiske tiltak for å utjevne/ fjerne sosiale ulikheter, fattigdom, utenforskap ol. er viktige tiltak her.
Angrep rettet mot den politiske og kulturelle verdien av individets evne til å tenke og skape på egenhånd, er ikke utført av «KI», men av kommersielle krefter som ønsker mest mulig salg av spesifikke verktøy og aktører som ønsker å bryte ned liberale demokratiers motstandskraft mot totalitær påvirkning. Også her vil det være utdanning og bevisstgjøring som vil kunne være avgjørende.
Nye trusler mot demokratiet av typen «KI-svermer» springer ikke ut fra “tenkende” maskiner som handler på egen hånd, men fra systemer bevisst programmert og styrt av mennesker for å manipulere informasjon i stor skala. At systemene etterligner naturlige publiseringsmønstre, bruker slang og virker menneskelige, er derfor et resultat av bevisste designvalg gjort av mennesker, ikke av maskiner. Denne spesifikke trusselen er, som de øvrige som her er beskrevet, først og fremst menneskelig styrte angrep ved hjelp av digitale verktøy, ikke autonome system som har utviklet egne intensjoner eller vilje
Trusselaktørene er uansett angrepsform og verktøybruk stadig vekk den vanlige gjengen av etterretningsoperatører fra fiendtlige nasjoner, terror-grupper, større kriminelle nettverk og mer eller mindre dyktige enkeltkriminelle. Disse aktørene benytter en rekke digitale medier og verktøy i sitt arbeide, men angrepene mot oss er basert på aktørenes intelligens og kunnskap om både teknologi og psykologi. De er ikke basert på en mystisk, ikke-eksisterende digital intelligens.
Og når det gjelder de stadige digitale angrepene mot vårt heldigitale mediesamfunn, så er det fortsatt den enkelte borgers egen bevissthet og egen kunnskap om det digitale som er nøkkelen til å avverge denne type angrep.
Mediestøyen knyttet til fantasiene om at vi nå har utviklet «Kunstig Intelligens» endrer ikke dette enkle faktum.
Postskriptum 2026
Som for alt som har med teknologi å gjøre, går også utviklingen av kombinasjonen store språkmodeller og samtalegrensesnitt med stormskritt. Men selv nå i siste del av januar 2026 står hovedbudskapet i mitt innlegg seg godt.
Det finnes fortsatt ikke «KI‑trusler» i betydningen selvstendige, tenkende maskiner som planlegger og utfører angrep på oss. Like fullt er de ulike verktøyene/ systemene – store språkmodeller, samtaleroboter, avansert video‑ og stemmegenerering – alt annet enn uvesentlige. De kan forsterke velkjente angrepsformer ved å senke terskler for bruk, øke tempoet og gi større gjennomslagskraft i sosial manipulering, svindel og ulike typer påvirkning. Men disse verktøyene kontrolleres fortsatt av mennesker gjennom systemdesign, programmering og operasjonelle valg.
Derfor er nøkkelen til samfunnets motstandskraft mot slike trusler fortsatt deg og meg: Vår kritiske sans, vår digitale dømmekraft og vår egen sikkerhetspraksis. Det er slik vi møter «de vanlige mistenkte» – ikke ved å frykte datasystemene, men ved å forstå og motvirke dem som bruker dem.
En forkortet utgave av dette blogginnlegget (1. versjon) kan også leses påTrønderdebatt.
Du befinner deg nå i et helt nytt og kanskje fremmedartet miljø. Det er lenker og knapper og faner overalt, og faglærer virker å være lysår unna. Kan dette gå bra?
Jo da, sett deg godt til rette i godstolen, ta en kopp kaffe (eller te) og senk skuldrene. Vår store filosof Arne Næss Sr. sa en gang at «Det gjør vondt å tenke» og at dette var «en smerte vi ikke bør unndra oss».
Dersom vi godtar dette utsagnet, vil det også gjøre vondt å ta høyere utdanning. Men hele poenget med høyere utdanning er vel å presse seg selv ut av komfortsonen, ikke sant? Det er da man lærer Men selv om det er krevende med rene nettbaserte studier så er det ikke så vanskelig som det ser ut.
«Men når en stor del av befolkningen bruker en anselig mengde timer hver dag på hjernedød aktivitet på sosiale medier, presumptivt for underholdning, tidtrøyte og ikke-fysisk kontakt søking, så har dette alvorlige sosiale og psykologiske konsekvensene.»
Sosiale medier har gått fra å være digitale lekeplasser til å bli arenaer for kognitiv krigføring. Med TikTok som våpen og algoritmer som ammunisjon, retter brutale diktaturstater som Russland og Kina seg mot oss voksne så vel som våre barn og unge – med mål om å svekke demokratiet innenfra. Den digitale hverdagen vår er i ferd med å bli en beredskapstrussel
Innledning
I en verden hvor informasjon er like tilgjengelig som luft, har kognitiv krigføring blitt et viktig konsept. Sosiale medier, med sin evne til å både spre informasjon raskt og bredt og samtidig virke sløvende på brukernes kognitive prosesser , har blitt en veritabel slagmark for denne typen krigføring.
I det følgende gir jeg en lett, og ytterst grunnleggende, gjennomgang av dette interessante problemområdet.
Kognitiv krigføring
Kognitiv krigføring handler om å påvirke folks oppfatninger og beslutninger gjennom manipulasjon av informasjon. Det kan være alt fra å spre falske nyheter, til å skape splid og mistillit mellom grupper i samfunnet. Målet er å svekke motstanderens evne til å tenke klart, ta rasjonelle beslutninger og handle effektivt.
Denne formen for krigføring har sin bakgrunn i en kombinasjon av det tekniske knyttet til det vi kaller «informasjonskrigføring», og fra det menneskelige aspektet av «myk makt». Sånn sett har det mye til felles med «Psy-Ops» eller psykologiske operasjoner.
Kognitiv krigføring handler altså som regel om å presentere en skjev fremstilling av virkeligheten, som oftest ved hjelp av digitale medier og verktøy, for å lette eller fremme spesifikke mål. Det at informasjonsteknologi er blitt en så integrert del av våre liv gir påvirkere uendelige muligheter.
Som leder av undervisningsprosjektet «Gå inn i din tid» der fokuset var bekjempelse av Internettbaserte overgrep mot barn og unge, hadde jeg selvsagt også et blikk på mulige negativ bruk av disse tjenestene. Men i flere år hadde jeg først og fremst et overveiende positivt syn på sosiale medier. Nå har jeg imidlertid begynt å miste troen på disse plattformene som arenaer for læring. De negative effektene begynner å bli for store.
I dagens heldigitale mediesamfunn har sosiale medier blitt en integrert del av vårt daglige liv. Og nettopp fordi nesten alle lag av samfunnet mer eller mindre bevisstløst har integrert seg og sine liv med det digitale, er sosiale medier blitt en ideell plattform for kognitiv krigføring. Med sin evne til å nå ut til store deler av befolkningen på kort tid, kan informasjon – enten den er sann eller falsk – spres raskt. Dette kan skape forvirring, frykt og og undergrave tilliten til offentlige institusjoner og til vårt politiske system. I tillegg kan polariserende innhold bidra til å skape splid i samfunnet, noe som kan være destabiliserende.
Både Kina og Russland er dypt involverte i denne type krigføring og blant annet TikTok har vist seg som et ypperlig medium for begge staters spesialister på kognitiv krigføring. Og barn og unge er en særlig utsatt gruppe. Det er disse som en gang skal videreføre de liberale demokratiske verdier, og dermed blir de viktige mål i den pågående krigen som lenge har rast i de digitale rom.
Kan russiske og kinesiske påvirkningseksperter undergrave unges tro på den liberale rettsstaten vil dette på lang sikt kunne føre til sviktende forståelse for viktigheten av å kjempe aktivt for demokratiet. Og når man ikke frem med politisk undergraving, så kan man pøse på med innhold som svekker barn og unges selvforståelse og mentale hygiene. Jo mer depresjoner, jo mer selvskading og jo mer mobbing man kan fremelske, jo mer kan man svekke demokratienes motstandskraft mot brutale diktaturstaters langsiktige arbeid for en ny verdensorden.
De viktigste tiltakene vi kan gjøre er som følger:
Kritisk tenkning: Vær skeptisk til informasjonen du mottar, spesielt hvis den er polariserende eller spiller på følelser. Spør deg selv hvem som kan ha nytte av at du tror på denne informasjonen.
Faktasjekk: Bruk pålitelige kilder for å bekrefte informasjonen du mottar. Det finnes mange faktasjekk-nettsteder som kan hjelpe deg med dette.
Diversifiserte informasjonskilder: Ikke stol på en enkelt kilde for all din informasjon. Prøv å få informasjon fra en rekke kilder for å få et mer balansert bilde.
Digital kompetanse: Lær om hvordan sosiale medier og algoritmer fungerer. Dette kan hjelpe deg å forstå hvordan og hvorfor bestemt informasjon blir presentert for deg.
Sett deg inn i dine barn og unges bruk av sosiale medier, hvilke plattformer de er på og hvilke informasjon de særlig søker etter. Og viktigst av alt; snakk med dem om det de opplever og søk å trene dem i kritisk tenkning slik at de ikke rått sluker alt de ser og hører.
Del ansvarlig: Tenk to ganger før du deler informasjon. Hvis du er usikker på om informasjonen er sann, er det best å ikke dele den.
Rapporter falsk informasjon: De fleste sosiale medieplattformer har mekanismer for å rapportere falsk informasjon. Ved å rapportere falsk informasjon kan du bidra til å redusere spredningen.
Ved å følge disse tiltakene kan vi alle bidra til å bekjempe den kognitiv krigføringen som er rettet mot oss alle via vår 24/7-deltakelse i ulike sosiale medier.
Konklusjon
Det er ytterst viktig å være klar over farene ved kognitiv krigføring og den rollen sosiale medier spiller i de konsentrerte angrepene fra blant annet Russland og Kina mot vår liberale rettsstat. Vi må alle ta ansvar for å sjekke fakta og være kritiske til informasjonen vi mottar. Dette er særlig viktig nå som krigen raser rett utenfor vår egen stuedør.
Men den utstrakte bruken av sosiale medier har også andre beredskapsmessige utfordringer. I Forsvarets Forum den 02. september i år, peker Bjørn P. Kaltenborn blant annet på at «Sosiale mediers infiltrering av nær sagt alle samfunnsområder og folks liv er en farlig avsporing fra den sivile kompetansen vi faktisk trenger å bygge opp i beredskapssystemet.»
Så kanskje er det nå på høy tid at vi stiller spørsmål om vår, og våre barns, mer eller mindre bevisstløse bruk av sosiale medier er gått fra å være litt søtt naivt til å bli en alvorlig beredskapsmessig trussel?
