{"id":4119,"date":"2024-07-28T16:48:44","date_gmt":"2024-07-28T14:48:44","guid":{"rendered":"https:\/\/site.nord.no\/didaktiskebetraktninger\/?p=4119"},"modified":"2026-03-26T10:39:54","modified_gmt":"2026-03-26T09:39:54","slug":"trusler-i-det-digitale-rom-ki-eller-ganske-enkelt-the-usual-suspects","status":"publish","type":"post","link":"https:\/\/site.nord.no\/didaktiskebetraktninger\/2024\/07\/28\/trusler-i-det-digitale-rom-ki-eller-ganske-enkelt-the-usual-suspects\/","title":{"rendered":"Trusler i det digitale rom &#8211; KI eller ganske enkelt the usual suspects?"},"content":{"rendered":"\n<figure class=\"wp-block-pullquote\"><blockquote><p><em>Trusselakt\u00f8ren er f\u00f8rst og fremst ute etter en effekt. Hvilket virkemiddel som benyttes for \u00e5 oppn\u00e5 effekten er underordnet<\/em>.<\/p><cite>Simen Bakke (<a href=\"https:\/\/www.stratagem.no\/cybertrusselbildet-hva-er-det-og-hvordan-forholde-seg-til-det\/\" data-type=\"link\" data-id=\"https:\/\/www.stratagem.no\/cybertrusselbildet-hva-er-det-og-hvordan-forholde-seg-til-det\/\" target=\"_blank\" rel=\"noreferrer noopener\">1<\/a>)<\/cite><\/blockquote><\/figure>\n\n\n\n<p><\/p>\n\n\n\n<p><strong>Glem Terminator og dommedag \u2013 truslene i det digitale rom kommer fortsatt fra gamle kjenninger: hackere, statlige akt\u00f8rer og kriminelle. Dataprogram av typen ChatGPT og Sora er kraftige verkt\u00f8y, men ikke tenkende maskiner. De kan forsterke digitale angrep \u2013 ikke skape dem. De kan senke terskelen for angrep, men effektive angrep krever fortsatt teknisk innsikt, forst\u00e5else av menneskelig psykologi, kontekst og infrastruktur. Uten slik kunnskap blir s\u00e5kalt &laquo;KI&raquo; f\u00f8rst og fremst et produktivitetsverkt\u00f8y, ikke en erstatning for kompetanse. <\/strong> <strong>L\u00f8sningen for oss som samfunn er mindre hysteri og mer digital kompetanse, ellers er det v\u00e5r egen intellektuelle latskap som blir den st\u00f8rste sikkerhetsrisikoen fremover.<\/strong><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Innledning<\/h3>\n\n\n\n<p>&laquo;<em>Den superintelligente KI-en har p\u00e5 en m\u00e5te alle Guds egenskaper: Den er allmektig, allvitende, og enten velvillig, eller s\u00e5 er den Djevelen og du er i dens n\u00e5de. Som i enhver sekt er det ogs\u00e5 en f\u00f8lelse av hastverk. Du m\u00e5 handle n\u00e5! Verdens skjebne st\u00e5r p\u00e5 spill! Og selvf\u00f8lgelig trenger du penger!\u00bb<\/em><br>&#8211; Inga Str\u00fcmke, PhD. og Anders L\u00f8land, PhD., 2024 (<a href=\"https:\/\/www.dn.no\/innlegg\/ai\/ki\/kunstig-intelligens\/snakker-silicon-valley-om-superintelligens-for-a-skjule-dagens-ki-problemer\/2-1-1729205\" data-type=\"link\" data-id=\"https:\/\/www.dn.no\/innlegg\/ai\/ki\/kunstig-intelligens\/snakker-silicon-valley-om-superintelligens-for-a-skjule-dagens-ki-problemer\/2-1-1729205\" target=\"_blank\" rel=\"noreferrer noopener\">2<\/a>)<\/p>\n\n\n\n<p>\u00ab\u2026&nbsp;<em>unravelling the vagueness around AI is important in a broad sense, as there is also something quite dangerous about the futuristic mystique of the term AI when it blinds us to the banal and oppressive realities of certain technologies.<\/em>\u00bb<br>\u2013 AI Myths (Project), u.\u00e5. (<a href=\"https:\/\/www.aimyths.org\/the-term-ai-has-a-clear-meaning\" target=\"_blank\" rel=\"noreferrer noopener\">3<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:173px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>Helt siden OpenAI sin <a href=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/2025\/06\/24\/chat-gpt-en-mer-talefor-slektning-av-eliza\/\" data-type=\"link\" data-id=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/?p=816\" target=\"_blank\" rel=\"noreferrer noopener\">samtalerobot<\/a> kom i medias s\u00f8kelys i november 2022, har vi hatt en str\u00f8m av p\u00e5stander om at vi n\u00e5 har n\u00e5dd et &laquo;vendepunkt<em>\u00bb<\/em> i utviklingen av kunstig intelligens. Og like sikkert som at v\u00e5r f\u00f8lger vinter, kommer dommedagsp\u00e5standene om helt spesielle (og dramatiske) sikkerhetstrusler fra KI.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Hva er kunstig intelligens?<\/h3>\n\n\n\n<p>\u00ab<em>S\u00e5 hva er kunstig intelligens? F\u00f8rst og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet v\u00e6rt en skuffelse, fordi ordet \u00abintelligens\u00bb antyder et l\u00f8fte disse l\u00f8sningene aldri har v\u00e6rt i n\u00e6rheten av \u00e5 innfri. Samtidig er ideer derfra blitt brukt til \u00e5 lage IT-l\u00f8sninger i flere ti\u00e5r<\/em>.<em>\u00bb<\/em><br>\u2013 Bj\u00f8rn St\u00e6rk, 2023 (<a href=\"https:\/\/www.aftenposten.no\/meninger\/kronikk\/i\/WRKXXg\/ki-debatten-maa-ned-paa-bakken\" target=\"_blank\" rel=\"noreferrer noopener\">4<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>The term \u201cartificial intelligence\u201d has a long history\u2014it was coined in the nineteen-fifties, in the early days of computers. More recently, computer scientists have grown up on movies like \u201cThe Terminator\u201d and \u201cThe Matrix,\u201d and on characters like Commander Data, from \u201cStar Trek: The Next Generation.\u201d These cultural touchstones have become an almost religious mythology in tech culture. It\u2019s only natural that computer scientists long to create A.I. and realize a long-held dream<\/em>.<em>\u00bb<\/em><br>&#8211; <a href=\"https:\/\/en.wikipedia.org\/wiki\/Jaron_Lanier\" data-type=\"link\" data-id=\"https:\/\/en.wikipedia.org\/wiki\/Jaron_Lanier\" target=\"_blank\" rel=\"noreferrer noopener\">Jaron Lanier<\/a>, 2023 (<a href=\"https:\/\/www.newyorker.com\/science\/annals-of-artificial-intelligence\/there-is-no-ai\" data-type=\"link\" data-id=\"https:\/\/www.newyorker.com\/science\/annals-of-artificial-intelligence\/there-is-no-ai\" target=\"_blank\" rel=\"noreferrer noopener\">5<\/a>)<\/p>\n\n\n\n<p>\u00ab<em>A system that most of us would think of as real AI \u2013 something that can, more or less, think like us \u2013 is known in Computer Science as Generalised Artificial Intelligence, and it is nowhere on the horizon. The term Artificial Intelligence is used instead to apply to anything produced using techniques designed in the quest for real AI. It\u2019s not intelligent. It just does some stuff that AI researchers came up with, and that might look a bit smart. In dim light. From the right angle. If you squint<\/em>.<em>\u00bb<\/em><br>\u2013 Linda McIver, PhD, 2023 (<a href=\"https:\/\/adsei.org\/2023\/03\/12\/theres-no-such-thing-as-artificial-intelligence\/\" target=\"_blank\" rel=\"noreferrer noopener\">6<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:173px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>Store Norske Leksikon definerer <a href=\"https:\/\/snl.no\/kunstig_intelligens\" data-type=\"link\" data-id=\"https:\/\/snl.no\/kunstig_intelligens\" target=\"_blank\" rel=\"noreferrer noopener\">KI p\u00e5 f\u00f8lgende m\u00e5te<\/a>: &laquo;<em>Kunstig intelligens er informasjonsteknologi som justerer sin egen aktivitet og derfor tilsynelatende framst\u00e5r som intelligent.\u00bb<\/em><\/p>\n\n\n\n<p>Et viktig stikkord her er &laquo;<em>tilsynelatende framst\u00e5r som intelligent\u00bb<\/em>. Og det er p\u00e5 det niv\u00e5et vi stadig er n\u00e5r det gjelder forskning og utvikling innen feltet &laquo;Kunstig intelligens&raquo;. For KI, i en form som vil kunne utvikle spesifikke <em>nye<\/em> digitale trusler, kan vi beskrive p\u00e5 f\u00f8lgende enkle m\u00e5te:<\/p>\n\n\n\n<p><em>Maskiner med en intelligens som lar dem forst\u00e5, l\u00e6re og utf\u00f8re intellektuelle oppgaver omtrent som mennesker. Maskinene emulerer den menneskelige tanke og atferd for \u00e5 l\u00f8se alle slags komplekse problemer.<\/em><\/p>\n\n\n\n<p>Men som Linda McIver p\u00e5peker i sitatet innledningsvis er KI i betydningen av at datasystemer tenker (og handler) som oss mennesker ikke oppfunnet og vi er heller ikke i n\u00e6rheten av \u00e5 finne opp et slikt system. <\/p>\n\n\n\n<p>KI i betydningen &laquo;<a href=\"https:\/\/blog.oup.com\/2024\/07\/artificial-intelligence-i-think-not\/\" data-type=\"link\" data-id=\"https:\/\/blog.oup.com\/2024\/07\/artificial-intelligence-i-think-not\/\" target=\"_blank\" rel=\"noreferrer noopener\">Artificial general intelligence (AGI)<\/a><em>\u00bb<\/em> er alts\u00e5 enn s\u00e5 lenge rent teoretisk og siden det ikke eksisterer kan det heller ikke utgj\u00f8re, eller utvikle, s\u00e6regne og hittil ukjente digitale trusler.<\/p>\n\n\n\n<p>Open AI sin samtalerobot er et utmerket eksempel p\u00e5 noe som ikke er KI og som samtidig er blitt brukt som eksempel p\u00e5 &laquo;KI-trussel<em>\u00bb<\/em>.<\/p>\n\n\n\n<p>Men ChatGPT, Microsoft CoPilot og lignende samtaleroboter er <em>ikke<\/em> eksempler p\u00e5 <a href=\"https:\/\/bigthink.com\/the-future\/artificial-general-intelligence-true-ai\/\" data-type=\"link\" data-id=\"https:\/\/bigthink.com\/the-future\/artificial-general-intelligence-true-ai\/\" target=\"_blank\" rel=\"noreferrer noopener\">Kunstig Intelligens<\/a> (KI). Dette er verkt\u00f8y som baserer seg p\u00e5 statistiske beregninger. De er som store og avanserte dataspill, der du som spiller f\u00e5r f\u00f8lelsen av at det ikke finnes noen begrensninger p\u00e5 hvor du kan g\u00e5 eller hva du kan gj\u00f8re. Men man skal ikke utforske en slik avansert spillverden s\u00e6rlig mye f\u00f8r en ser at i virkeligheten f\u00e5r man kun g\u00e5 og gj\u00f8re det spillets utviklere har bestemt. Slik er det ogs\u00e5 med ChatGPT og lignende verkt\u00f8y. De utf\u00f8rer fantastisk hurtige statistiske beregninger av tilgjengelig informasjon og sannsynlig sammensetning av bokstaver, men alt systemene gj\u00f8r er bestemt p\u00e5 forh\u00e5nd av programkode.<\/p>\n\n\n\n<p>Samtaleroboter kan alts\u00e5 ikke tenke, <a href=\"https:\/\/aiguide.substack.com\/p\/can-large-language-models-reason\" data-type=\"link\" data-id=\"https:\/\/aiguide.substack.com\/p\/can-large-language-models-reason\" target=\"_blank\" rel=\"noreferrer noopener\">de kan ikke resonere<\/a> og de foretar absolutt ingen analyser av verken det brukeren sp\u00f8r om eller de &laquo;svar&raquo; programkoden l\u00f8fter frem. Dermed f\u00f8lger det rent logisk, s\u00e5 vel som teknisk, at en samtalerobot ikke kan &laquo;<a href=\"https:\/\/www.aftenposten.no\/kultur\/i\/73ykBB\/ny-chatgpt-kan-bedra-deg-en-forsmak-paa-hva-som-kan-komme\" data-type=\"link\" data-id=\"https:\/\/www.aftenposten.no\/kultur\/i\/73ykBB\/ny-chatgpt-kan-bedra-deg-en-forsmak-paa-hva-som-kan-komme\" target=\"_blank\" rel=\"noreferrer noopener\"><em>f\u00f8re mennesker bak lyset<\/em><\/a>&raquo; eller frykte \u00e5 bli erstattet av en annen modell eller sl\u00e5tt av. <\/p>\n\n\n\n<p>Som professor Gary Marcus sier i <a href=\"https:\/\/garymarcus.substack.com\/p\/humanitys-oh-shit-ai-moment\" data-type=\"link\" data-id=\"https:\/\/garymarcus.substack.com\/p\/humanitys-oh-shit-ai-moment\" target=\"_blank\" rel=\"noreferrer noopener\">sin kommentar<\/a> til forskningsartikkelen &laquo;<a href=\"https:\/\/static1.squarespace.com\/static\/6593e7097565990e65c886fd\/t\/6751eb240ed3821a0161b45b\/1733421863119\/in_context_scheming_reasoning_paper.pdf\" data-type=\"link\" data-id=\"https:\/\/static1.squarespace.com\/static\/6593e7097565990e65c886fd\/t\/6751eb240ed3821a0161b45b\/1733421863119\/in_context_scheming_reasoning_paper.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">Frontier Models are Capable of In-context Scheming<\/a><em>\u00bb<\/em>; &#8211; &laquo;<em>Yes, LLMs can do all this even if they are essentially just analogizing regurgitation machines with no real world model. They have lots of examples in the database \u2014 and little capacity to compute the internal consistency of their own actions. Worse, they do not actually calculate the consequences of their actions at all. They can\u2019t reliably sanity check themselves for hallucinations, and they can\u2019t reliably sanity check for whether what they are doing is harmful<\/em>.<em>\u00bb<\/em><\/p>\n\n\n\n<p>Dersom forskere (eller andre brukere) legger inn kommandoer\/ promting som gir m\u00f8nstre som statistisk sett peker mot &laquo;bedrag&raquo;, alts\u00e5 det \u00e5 nekte for noe eller p\u00e5st\u00e5 noe, eller foreta handlinger som flytting av data ol. (<em>handlinger som alts\u00e5 allerede ligger innprogrammert som del av et, eller flere, handlingssett<\/em>), s\u00e5 vil verkt\u00f8yet utf\u00f8re denne type &laquo;handling\/ handlinger&raquo;. Men handlinger verkt\u00f8yet ikke er programmert for, vil <em>ikke<\/em> kunne utf\u00f8res.<\/p>\n\n\n\n<p>Det at digitale verkt\u00f8y\/ smarte system kan utf\u00f8re handlinger de er programmert for, er <em>ikke<\/em> et tegn p\u00e5 at de er &laquo;intelligente&raquo; i betydningen av at de tenker og handler p\u00e5 egenh\u00e5nd. Og de medieskapte mytene om KI kan i seg selv bli en <a href=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/2025\/07\/16\/drommen-om-ki\/\" data-type=\"link\" data-id=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/2025\/07\/16\/drommen-om-ki\/\" target=\"_blank\" rel=\"noreferrer noopener\">beredskapsmessig trussel<\/a>.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">S\u00e5kalte KI-trusler<\/h3>\n\n\n\n<p>\u201c<em>Computers are evolving very quickly \u2026 the human brain isn\u2019t going to evolve, and so we still need to think about cognitive psychology<\/em>\u201d<br>&#8211; Andrew Van Schaack, PhD., 2024 (<a href=\"https:\/\/www.nationaldefensemagazine.org\/articles\/2024\/1\/2\/large-language-models-have-pitfalls-for-national-security\" data-type=\"link\" data-id=\"https:\/\/www.nationaldefensemagazine.org\/articles\/2024\/1\/2\/large-language-models-have-pitfalls-for-national-security\" target=\"_blank\" rel=\"noreferrer noopener\">7<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>Cybersecurity is actually 90% about human behavior and 10% about technology.<\/em>\u00bb<br>&#8211; Martin Fix, 2024 (<a href=\"https:\/\/star.global\/posts\/cybersecurity-in-ai\/\" data-type=\"link\" data-id=\"https:\/\/star.global\/posts\/cybersecurity-in-ai\/\" target=\"_blank\" rel=\"noreferrer noopener\">8<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>A lot of the risk really comes from malicious actors, which exist anyway. It\u2019s just another tool for them to use<\/em>\u00bb.<br>&#8211; Lauren Kahn, 2023 (<a href=\"https:\/\/thebulletin.org\/2023\/03\/what-happened-when-wmd-experts-tried-to-make-the-gpt-4-ai-do-bad-things\/\" data-type=\"link\" data-id=\"https:\/\/thebulletin.org\/2023\/03\/what-happened-when-wmd-experts-tried-to-make-the-gpt-4-ai-do-bad-things\/\" target=\"_blank\" rel=\"noreferrer noopener\">9<\/a>)<\/p>\n\n\n\n<p>\u00ab<em>There were stories about the fact that you could use an LLM (large language model) to give you instructions of how to make chemical weapon or bioweapon. That turns out to be false\u00bb<\/em>.<br>\u2013 Professor <a href=\"https:\/\/en.wikipedia.org\/wiki\/Yann_LeCun\" data-type=\"link\" data-id=\"https:\/\/en.wikipedia.org\/wiki\/Yann_LeCun\" target=\"_blank\" rel=\"noreferrer noopener\">Yann Andr\u00e9 LeCun<\/a>, 2024 (<a href=\"https:\/\/observer.com\/2024\/02\/metas-a-i-chief-yann-lecun-explains-why-a-house-cat-is-smarter-than-the-best-a-i\/\" target=\"_blank\" rel=\"noreferrer noopener\">10<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>Though it has been written about for decades, the importance of tacit knowledge in biological weapons production has often been overlooked. Having a jail-broken LLM spit out instructions is unlikely to be sufficient to create a usable biological weapon<\/em>.<em>\u00bb<\/em><br>&#8211; Stephanie Norwood, PhD, 2025 (<a href=\"https:\/\/www.engbio.cam.ac.uk\/news\/understanding-ai-enabled-biological-threats-hype-hazard-and-governance\" data-type=\"link\" data-id=\"https:\/\/www.engbio.cam.ac.uk\/news\/understanding-ai-enabled-biological-threats-hype-hazard-and-governance\" target=\"_blank\" rel=\"noreferrer noopener\">11<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:213px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>I januar 2023 ble det meldt at <a href=\"https:\/\/research.checkpoint.com\/2023\/opwnai-cybercriminals-starting-to-use-chatgpt\/\" target=\"_blank\" rel=\"noreferrer noopener\">kriminelle allerede har tatt ChatGPT i bruk<\/a>, og som fagansvarlig for fagemnet &laquo;<a href=\"https:\/\/www.nord.no\/studier\/emner\/org5005\" data-type=\"link\" data-id=\"https:\/\/www.nord.no\/studier\/emner\/org5005\" target=\"_blank\" rel=\"noreferrer noopener\">Digital beredskap<\/a>\u00bb&nbsp;, samt annen undervisning <a href=\"https:\/\/www.nord.no\/studier\/emner\/ikt1013?year=2024&amp;semester=H%C3%98ST\" data-type=\"link\" data-id=\"https:\/\/www.nord.no\/studier\/emner\/ikt1013?year=2024&amp;semester=H%C3%98ST\" target=\"_blank\" rel=\"noreferrer noopener\">innen informasjonssikkerhet<\/a>, er jeg naturlig nok sterkt opptatt av de sikkerhetsmessige implikasjonene av verkt\u00f8y av typen ChatGPT, og ikke minst videosystem som f.eks. <a href=\"https:\/\/openai.com\/sora\" data-type=\"link\" data-id=\"https:\/\/openai.com\/sora\" target=\"_blank\" rel=\"noreferrer noopener\">Sora<\/a>.<\/p>\n\n\n\n<p>Og det er blant annet disse to verkt\u00f8yene som l\u00f8ftes frem som eksempler p\u00e5 noe som kan skape &laquo;KI-trusler\u00bb, uten at det egentlig fremkommer klart hvilke spesifikke &laquo;<em>nye<\/em>&raquo; trusler dette gjelder.<\/p>\n\n\n\n<p>At vi n\u00e5 har flere typer verkt\u00f8y som kan &laquo;produsere&raquo; kildekode (<em>i betydningen hente frem via statistiske beregninger allerede produsert kildekode som er offentlig tilgjengelig<\/em>), vil selvsagt gi &laquo;<a href=\"https:\/\/en.wikipedia.org\/wiki\/Script_kiddie\" data-type=\"link\" data-id=\"https:\/\/en.wikipedia.org\/wiki\/Script_kiddie\" target=\"_blank\" rel=\"noreferrer noopener\">Script kiddies<\/a>\u00bb enda et verkt\u00f8y (<em>f.eks. <a href=\"https:\/\/github.com\/cybershujin\/Threat-Actors-use-of-Artifical-Intelligence\" data-type=\"link\" data-id=\"https:\/\/github.com\/cybershujin\/Threat-Actors-use-of-Artifical-Intelligence\" target=\"_blank\" rel=\"noreferrer noopener\">Indrik Spider<\/a> og <a href=\"https:\/\/asantecloud.com\/wp-content\/uploads\/2024\/02\/GlobalThreatReport2024_Asante.pdf\" data-type=\"link\" data-id=\"https:\/\/asantecloud.com\/wp-content\/uploads\/2024\/02\/GlobalThreatReport2024_Asante.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">Scattered Spider<\/a><\/em>). Men siden verken ChatGPT eller lignende samtaleroboter<a href=\"https:\/\/nwn.blogs.com\/nwn\/2023\/02\/chatgpt-cannot-really-code.html\" data-type=\"link\" data-id=\"https:\/\/nwn.blogs.com\/nwn\/2023\/02\/chatgpt-cannot-really-code.html\" target=\"_blank\" rel=\"noreferrer noopener\"> er feilfrie<\/a> n\u00e5r det gjelder <a href=\"https:\/\/stratoflow.com\/can-chatgpt-write-code\/\" data-type=\"link\" data-id=\"https:\/\/stratoflow.com\/can-chatgpt-write-code\/\" target=\"_blank\" rel=\"noreferrer noopener\">kodegenerering<\/a>, er det per n\u00e5 et stort sp\u00f8rsm\u00e5l om hvor effektive verkt\u00f8y dette vil v\u00e6re. <\/p>\n\n\n\n<p>Videogenereringsverkt\u00f8y av typen <a href=\"https:\/\/www.techfinitive.com\/what-is-sora-even-the-ai-experts-arent-sure\/\" data-type=\"link\" data-id=\"https:\/\/www.techfinitive.com\/what-is-sora-even-the-ai-experts-arent-sure\/\" target=\"_blank\" rel=\"noreferrer noopener\">Sora<\/a> kan muligens (<em>eller <a href=\"https:\/\/garymarcus.substack.com\/p\/sora-still-appears-to-have-trouble\" data-type=\"link\" data-id=\"https:\/\/garymarcus.substack.com\/p\/sora-still-appears-to-have-trouble\" target=\"_blank\" rel=\"noreferrer noopener\">kanskje ikke<\/a><\/em>) ha st\u00f8rre effekt innen problemomr\u00e5det <a href=\"https:\/\/cltc.berkeley.edu\/publication\/what-so-what-now-what-episode-3-a-video-on-deepfakes-featuring-prof-hany-farid\/\" data-type=\"link\" data-id=\"https:\/\/cltc.berkeley.edu\/publication\/what-so-what-now-what-episode-3-a-video-on-deepfakes-featuring-prof-hany-farid\/\" target=\"_blank\" rel=\"noreferrer noopener\">Deepfake<\/a>, men det er enda for tidlig \u00e5 si med sikkerhet om <a href=\"https:\/\/mindmatters.ai\/2024\/03\/sora-life-is-not-a-multiple-choice-test\/\" data-type=\"link\" data-id=\"https:\/\/mindmatters.ai\/2024\/03\/sora-life-is-not-a-multiple-choice-test\/\" target=\"_blank\" rel=\"noreferrer noopener\">disse verkt\u00f8yene vil v\u00e6re mer effektive<\/a> som <a href=\"https:\/\/legamart.com\/articles\/deepfake-technology\/\" data-type=\"link\" data-id=\"https:\/\/legamart.com\/articles\/deepfake-technology\/\" target=\"_blank\" rel=\"noreferrer noopener\">Deepfake-verkt\u00f8y<\/a> enn allerede eksisterende system.<\/p>\n\n\n\n<p>Det er jo ikke slik at vi ikke har hatt <a href=\"https:\/\/resistant.ai\/blog\/onlyfake-generative-ai-fraud\" data-type=\"link\" data-id=\"https:\/\/www.biometricupdate.com\/202402\/soras-ai-video-has-people-gasping-but-have-they-already-forgotten-onlyfake\" target=\"_blank\" rel=\"noreferrer noopener\">denne type verkt\u00f8y f\u00f8r<\/a>. Det som <a href=\"https:\/\/www.biometricupdate.com\/202402\/soras-ai-video-has-people-gasping-but-have-they-already-forgotten-onlyfake\" data-type=\"link\" data-id=\"https:\/\/www.biometricupdate.com\/202402\/soras-ai-video-has-people-gasping-but-have-they-already-forgotten-onlyfake\" target=\"_blank\" rel=\"noreferrer noopener\">er nytt<\/a> er muligheten for at &laquo;folk flest&raquo; f\u00e5r tilgang til kraftigere verkt\u00f8y.<\/p>\n\n\n\n<p>Og s\u00e5 m\u00e5 vi ikke glemme verkt\u00f8y som <a href=\"https:\/\/www.online.no\/sikkerhet\/falsk-stemme-deepfake-svindel\/\" data-type=\"link\" data-id=\"https:\/\/www.online.no\/sikkerhet\/falsk-stemme-deepfake-svindel\/\" target=\"_blank\" rel=\"noreferrer noopener\">etterligner <em>stemmer<\/em><\/a>. Ogs\u00e5 dette benevnes som &laquo;KI&raquo;, men igjen; dette er <em>ikke<\/em> system som p\u00e5 egenh\u00e5nd utf\u00f8rer angrep, men <a href=\"https:\/\/www.nordea.com\/no\/nyheter\/ansatt-ble-lurt-av-deepfake-sjef-betalte-ut-over-250-millioner\" data-type=\"link\" data-id=\"https:\/\/www.nordea.com\/no\/nyheter\/ansatt-ble-lurt-av-deepfake-sjef-betalte-ut-over-250-millioner\" target=\"_blank\" rel=\"noreferrer noopener\">verkt\u00f8y<\/a> hvis bruk baseres p\u00e5 <em>angriperens egen kunnskap og teknologiske forst\u00e5else<\/em> og ikke minst <em>angriperens kunnskap om hvordan mennesker reagerer<\/em>.<\/p>\n\n\n\n<p>Tilgang til verkt\u00f8y <em>kan<\/em> medf\u00f8re \u00f8kt bruk, men det betinger  at brukeren vet hvordan verkt\u00f8yet skal brukes, har kunnskap om hvordan produktet (f.eks. en film eller en kildekode) kan anvendes og deretter mangler de &laquo;hemninger&raquo; eller holdninger som fraholder de fleste mennesker fra \u00e5 beg\u00e5 lovbrudd.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Intet nytt under solen<\/h3>\n\n\n\n<p>&laquo;<em>I\u2019m afraid the reasons why neural nets took off this century are disappointingly mundane. For sure there were scientific advances, like new neural network structures and algorithms for configuring them. But in truth, most of the main ideas behind today\u2019s neural networks were known as far back as the 1980s. What this century delivered was lots of data and lots of computing power. Training a neural network requires both, and both became available in abundance this century<em>\u00bb<\/em>.<\/em><br>&#8211; Michael Wooldridge, 2023 (<a href=\"https:\/\/bigthink.com\/the-future\/artificial-general-intelligence-true-ai\/\" data-type=\"link\" data-id=\"https:\/\/bigthink.com\/the-future\/artificial-general-intelligence-true-ai\/\" target=\"_blank\" rel=\"noreferrer noopener\">12<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>An LLM does not understand the semantic meaning of a sentence in a linguistic sense, but rather calculates mathematically what the most likely next word should be based on the input to the model. As neural networks are inherently probabilistic, this has earned LLMs the moniker \u2018stochastic parrots\u2019 as the model is extremely good at determining the most likely next sequence \u2013 and convincingly so \u2013 but has no inherent representation of what those words mean.<\/em> <em>For this reason, LLMs do not encode an understanding of our world, such as cause-and-effect and the relationships between objects \u2013 what linguists refer to as \u2018pragmatic inference\u2019. This is a critical limitation of LLMs that users need to understand, otherwise there is a risk of automation bias (where people place too much trust in the output from such models) and anthropomorphism (where people build a human-like rapport with an LLM, which exacerbates automation bias)\u00bb<\/em>.<br>&#8211; Adam C., <a href=\"https:\/\/www.gchq.gov.uk\/\" data-type=\"link\" data-id=\"https:\/\/www.gchq.gov.uk\/\" target=\"_blank\" rel=\"noreferrer noopener\">GCHQ<\/a>\u2019s Chief Data Scientist and Richard J. Carter, PhD, 2023 (<a href=\"https:\/\/cetas.turing.ac.uk\/publications\/large-language-models-and-intelligence-analysis\" data-type=\"link\" data-id=\"https:\/\/cetas.turing.ac.uk\/publications\/large-language-models-and-intelligence-analysis\" target=\"_blank\" rel=\"noreferrer noopener\">13<\/a>)<\/p>\n\n\n\n<p>\u00ab<em>The problem that crops up over and over again in this field is that people anthropomorphize these computers, ascribing all sorts of desires, plans, emotions, and the like. They are machines, running code. They don\u2019t need anything, love or hate anyone, have goals or desires. They are not conscious. They don\u2019t care if they\u2019re replaced by a newer version. They don\u2019t act covertly. They are machines, running code.<\/em>\u00bb<br>\u2013 wsf, 2024 (<a href=\"https:\/\/www.reddit.com\/r\/technology\/comments\/1hbato7\/chatgpt_caught_lying_to_developers_new_ai_model\/\" target=\"_blank\" rel=\"noreferrer noopener\">14<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:213px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>De &laquo;nye&raquo; verkt\u00f8yene, og da s\u00e6rlig de ulike samtalerobotene, f\u00f8rer <em><strong>ikke<\/strong><\/em> til noen form for <em>ny<\/em> <em>trussel<\/em>. Det vi ser er heller at:<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li><em>Samtaleroboter<\/em> vil f\u00f8rst og fremst gi trusselakt\u00f8rer rask tilgang p\u00e5 allerede offentlig tilgjengelig informasjon lagt ut p\u00e5 internett, og kunne f\u00f8re til en \u00f8kt evne til f.eks. sosial manipulasjon. Slike verkt\u00f8y kan brukes til \u00e5 muliggj\u00f8re en mer overbevisende kontakt mellom angriper og offer, inkludert opprettelse av falske dokumenter, uten de oversettelses-, stave- og grammatiske feil som tidligere ofte avsl\u00f8rte denne type angrep. Og jo bedre den underliggende modellen er, og jo st\u00f8rre datagrunnlag som kan danne basis for verkt\u00f8yets statistiske beregninger av sannsynlig \u00f8nskte bokstavsammensetning, <a href=\"https:\/\/garymarcus.substack.com\/p\/humanitys-oh-shit-ai-moment\" data-type=\"link\" data-id=\"https:\/\/garymarcus.substack.com\/p\/humanitys-oh-shit-ai-moment\" target=\"_blank\" rel=\"noreferrer noopener\">jo mer skade<\/a> kan slike tekstgenererende verkt\u00f8y gj\u00f8re i hendene p\u00e5 en profesjonell trusselakt\u00f8r.<br><br><strong>MEN<\/strong> <em>det hjelper ikke med overbevisende e-posttekst, eller annen tekstbasert &laquo;samtale&raquo;, dersom angriperen ikke har nok teknisk kunnskap til \u00e5 f.eks. sette opp en tilh\u00f8rende webside med korrekt oppsatt angrepskode som s\u00f8ml\u00f8st kan utf\u00f8re de n\u00f8dvendige operasjoner (lagre passord, brukerdata eller infisere maskiner med virus, trojanske hester osv.), eller p\u00e5 annen m\u00e5te har god bakgrunnskunnskap om m\u00e5let<\/em> <em>for angrepet<\/em>.<br><img decoding=\"async\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2024\/07\/KVITT_PUNKT.jpg\" alt=\"\"><\/li>\n\n\n\n<li><em>De ulike samtalerobotene<\/em> kan kanskje ogs\u00e5 benyttes i <a href=\"https:\/\/www.irjes.com\/Papers\/vol13-issue2\/H13026166.pdf\" data-type=\"link\" data-id=\"https:\/\/www.irjes.com\/Papers\/vol13-issue2\/H13026166.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">etterretningsarbeid<\/a> som del av innledende forberedelser til angrep mot organisasjoner eller enkeltpersoner. <br><br><strong>MEN<\/strong> <em>tatt i betraktning de grunnleggende problemene med LLM, og s\u00e6rlig i den form vi m\u00f8ter dem i f.eks. ChatGPT, er det ytterst usikkert om etterretningspersonell og profesjonelle (avanserte) IT-kriminelle er s\u00e6rlig ivrige brukere av samtaleroboter<\/em>.<br><img decoding=\"async\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2024\/07\/KVITT_PUNKT.jpg\" alt=\"\"><\/li>\n\n\n\n<li><em>Samtaleroboter<\/em> kan muligens lette utviklingen av ulike typer av skadeprogram, der relevant kode er tilgjengelig enten i verkt\u00f8yets database eller p\u00e5 internett.<br><br><strong>MEN<\/strong> <em>en trusselakt\u00f8r m\u00e5 fortsatt ha den n\u00f8dvendige tekniske ekspertise til \u00e5 b\u00e5de vurdere produktet og bruke det effektivt som del av et digitalt angrep<\/em>.<br><img decoding=\"async\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2024\/07\/KVITT_PUNKT.jpg\" alt=\"\"><\/li>\n\n\n\n<li>En <em>samtalerobot<\/em> kan muligens (<em>dersom de statistiske beregningene lander p\u00e5 konkret og korrekt info<\/em>) lette innhentingen av <em>offentlig tilgjengelig<\/em> informasjon om utvikling av biologiske v\u00e5pen.<br><br><strong>MEN<\/strong> <em><a href=\"https:\/\/www.rand.org\/news\/press\/2024\/01\/25.html\" data-type=\"link\" data-id=\"https:\/\/www.rand.org\/news\/press\/2024\/01\/25.html\" target=\"_blank\" rel=\"noreferrer noopener\">det hjelper ikke<\/a> med hurtig fremhenting av digitalt tilgjengelig informasjon om angriperen ikke har den n\u00f8dvendige ekspertise i det \u00e5 konstruere et biologisk v\u00e5pen (eller for den del hvilket som helst annet v\u00e5pen som fordrer mer enn rent grunnleggende mekanisk innsikt)<\/em>. <em>I tillegg trenger angriperen <a href=\"https:\/\/thebulletin.org\/2015\/09\/bioweapons-for-dummies\/\" data-type=\"link\" data-id=\"https:\/\/thebulletin.org\/2015\/09\/bioweapons-for-dummies\/\" target=\"_blank\" rel=\"noreferrer noopener\">et trygt anlegg<\/a> som kan holde vedkommende i live lenge nok til \u00e5 lage et biologisk v\u00e5pen<\/em>.<br>                                                  <br><\/li>\n\n\n\n<li><em>Store spr\u00e5kmodeller<\/em> er utgangspunktet for s\u00e5kalte &laquo;<a href=\"https:\/\/garymarcus.substack.com\/p\/ai-bot-swarms-threaten-to-undermine\" data-type=\"link\" data-id=\"https:\/\/scienceblog.com\/the-rise-of-the-ai-swarms-why-democracy-is-under-siege\/\" target=\"_blank\" rel=\"noreferrer noopener\">KI-svermer<\/a><em>\u00bb<\/em>, som er konstruerte nettverk av program som brukes som verkt\u00f8y i organiserte p\u00e5virkningsoperasjoner. Et sentralt poeng her er at disse systemene er rettet mot \u00e5 forurense treningsdataene til n\u00e5v\u00e6rende og fremtidige spr\u00e5kmodeller. Ved \u00e5 publisere enorme mengder nesten identiske artikler p\u00e5 tvers av mange nettsteder, fors\u00f8ker operat\u00f8rene \u00e5 sikre at fabrikerte narrativer blir fanget opp av s\u00f8kemotorer og inkludert i datagrunnlaget som nye samtaleroboter trenes p\u00e5. <br><br><strong>MEN<\/strong> <em>disse verkt\u00f8yene opererer ikke p\u00e5 egenh\u00e5nd. De er spesifikt programmert for et spesifikt forhold, av mennesker med god kunnskap om hvordan bruke digitale medier til manipulasjon.<\/em><br><img decoding=\"async\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2024\/07\/KVITT_PUNKT.jpg\" alt=\"\"><\/li>\n\n\n\n<li><em>Nye og avanserte videogenereringssystem<\/em> tilgjengelig for alle, kan <em>\u00f8ke <\/em>mengden falske nyheter der video er benyttet. Og en \u00f8king i denne type aktivitet vil igjen kunne gi en \u00f8kning i falske nyheter eller ekstremistisk budskap st\u00f8ttet av video og derigjennom kanskje b\u00e5de gi inspirasjon til radikaliserte grupper og en \u00f8kende mangel p\u00e5 tillit til nettbasert informasjon blant folk flest.<br><br><strong>MEN<\/strong> <em>det hjelper ikke med avanserte videoverkt\u00f8y hvis ikke angriperen har den n\u00f8dvendige innsikt i psykologi og kunnskap om de politiske og \u00f8konomiske utfordringer som eksisterer i den region eller for den gruppe som man \u00f8nsker \u00e5 radikalisere eller p\u00e5 annen m\u00e5te p\u00e5virke<\/em>.<br><img decoding=\"async\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2024\/07\/KVITT_PUNKT.jpg\" alt=\"\"><\/li>\n\n\n\n<li><em>Verkt\u00f8y for forfalskning av stemmer<\/em> tilgjengelig for alle, kan <em>\u00f8ke <\/em>mengden svindelfors\u00f8k av denne typen.<\/li>\n<\/ol>\n\n\n\n<p><strong>MEN<\/strong> <em>heller ikke her hjelper det med avanserte verkt\u00f8y om ikke angriperen har den n\u00f8dvendige innsikt i psykologi<\/em>, <em>og kunnskap om hvordan foreta effektiv svindel av tilfeldige offer<\/em>.<\/p>\n\n\n\n<p>Det er ingen grunn til \u00e5 tvile p\u00e5 at mer avanserte digitale verkt\u00f8y vil kunne st\u00f8tte en utvikling og styrking av eksisterende taktikk, teknikker og prosedyrer. Men kun der angriperen har den n\u00f8dvendige kunnskap og trening i det \u00e5 utf\u00f8re digitale operasjoner mot virksomheter eller enkeltpersoner. Digitale angrep er stadig avhengig av menneskelig intelligens og kunnskap, og det er ingen ting som tyder p\u00e5 at dette vil endres i overskuelig fremtid.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Selvkj\u00f8rende biler og autonome v\u00e5pen<\/h3>\n\n\n\n<p>&laquo;<em>The reliance on imagination and visions of technologies and future warfare characterises much of the academic and political debate on emerging technologies in the field of AWS\u00bb<\/em>.<br>&#8211; Anna-Katharina Ferl, PhD., 2023 (<a href=\"https:\/\/www.tandfonline.com\/doi\/full\/10.1080\/13600826.2023.2233004\" data-type=\"link\" data-id=\"https:\/\/www.tandfonline.com\/doi\/full\/10.1080\/13600826.2023.2233004\" target=\"_blank\" rel=\"noreferrer noopener\">15<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>Unlike humans, robotaxis are not able to solve a problem they&#8217;ve never encountered before\u00bb<\/em>.<br>&#8211; Sebastien Bell, 2024 (<a href=\"https:\/\/www.carscoops.com\/2024\/03\/autonomous-vehicles-are-being-held-back-by-their-inability-to-determine-cause-and-effect\/\" data-type=\"link\" data-id=\"https:\/\/www.carscoops.com\/2024\/03\/autonomous-vehicles-are-being-held-back-by-their-inability-to-determine-cause-and-effect\/\" target=\"_blank\" rel=\"noreferrer noopener\">16<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:213px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>N\u00e5r man skal behandle tanken om at KI per n\u00e5 utgj\u00f8r en ny form for trussel, kommer en ikke utenom selvkj\u00f8rende biler og autonome v\u00e5pen.<\/p>\n\n\n\n<p>La oss f\u00f8rst sl\u00e5 fast nok en gang at vi per i dag ikke har funnet opp <em>maskiner med en intelligens som lar dem forst\u00e5, l\u00e6re og utf\u00f8re intellektuelle oppgaver omtrent som mennesker, og som emulerer den menneskelige tanke og atferd og dermed kan l\u00f8se alle slags komplekse problemer.<\/em> <\/p>\n\n\n\n<p>Dermed blir verken selvkj\u00f8rende biler eller autonome v\u00e5pensystemer eksempler p\u00e5 KI, som p\u00e5 mystisk vis kan representere hittil ukjente trusler.<\/p>\n\n\n\n<p>Faren med disse to eksemplene ligger i at de, som alle digitale system, er s\u00e5rbare for angrep (hacking). <\/p>\n\n\n\n<p>Men digitale angrep mot f.eks. <a href=\"https:\/\/www.safetyaction.com.au\/blog\/would-you-trust-a-car-with-no-steering-wheel\" data-type=\"link\" data-id=\"https:\/\/www.safetyaction.com.au\/blog\/would-you-trust-a-car-with-no-steering-wheel\" target=\"_blank\" rel=\"noreferrer noopener\">selvkj\u00f8rende biler<\/a> eller ordin\u00e6re biler med system tilknyttet Internett skiller seg ikke ut fra andre typer digitale angrep, selv om <a href=\"https:\/\/lawcom.gov.uk\/project\/remote-driving\/\" data-type=\"link\" data-id=\"https:\/\/lawcom.gov.uk\/project\/remote-driving\/\" target=\"_blank\" rel=\"noreferrer noopener\">implikasjonene for selvkj\u00f8rende biler<\/a> kan bli sv\u00e6rt alvorlig.<\/p>\n\n\n\n<p>Dette vil gjelde ogs\u00e5 for de s\u00e5kalte &laquo;<a href=\"https:\/\/www.ncbi.nlm.nih.gov\/pmc\/articles\/PMC10030838\/\" data-type=\"link\" data-id=\"https:\/\/www.ncbi.nlm.nih.gov\/pmc\/articles\/PMC10030838\/\" target=\"_blank\" rel=\"noreferrer noopener\">autonome v\u00e5pen<\/a>\u00bb, som i likhet med alt det vi noe upresist kaller &laquo;KI-systemer&raquo; <em>er programmert av mennesker<\/em>. Selv en robot (v\u00e5pensystem) som er \u201cautonom\u201d utf\u00f8rer sine instruksjoner <em>kun<\/em> via den logikk den menneskelige programmereren har lagt inn i systemet og kan <strong><em>ikke<\/em><\/strong> tenke selv. Slike v\u00e5pensystem reiser f\u00f8rst og fremst en rekke etiske dilemmaer, og dilemmaer knyttet til krigens lover. Men det er selvsagt mulig at hackere kan fors\u00f8ke \u00e5 manipulere data eller ta kontroll over denne type systemer, noe som kan true milit\u00e6re operasjoner og skape kaos p\u00e5 slagmarken.<\/p>\n\n\n\n<p>Det fremsettes ogs\u00e5 p\u00e5stander i media om at KI kan f\u00f8re til at terrorister kan &laquo;<a href=\"https:\/\/www.nettavisen.no\/frykter-ai-i-hendene-pa-terrorister-kan-kjore-en-autonom-dronestorm-over-norge\/s\/5-95-1933544#am-comments\" data-type=\"link\" data-id=\"https:\/\/www.nettavisen.no\/frykter-ai-i-hendene-pa-terrorister-kan-kjore-en-autonom-dronestorm-over-norge\/s\/5-95-1933544#am-comments\" target=\"_blank\" rel=\"noreferrer noopener\">kj\u00f8re en autonom dronestorm over Norge<\/a>\u00bb. Hvilken mystisk form for &laquo;KI&raquo; som skulle kunne gi en slik &laquo;plutselig&raquo; mulighet blir ikke definert.<\/p>\n\n\n\n<p>Siden <a href=\"https:\/\/www.stratagem.no\/har-dronene-vaknet-eller-slumrer-de-enda\/\" data-type=\"link\" data-id=\"https:\/\/www.stratagem.no\/har-dronene-vaknet-eller-slumrer-de-enda\/\" target=\"_blank\" rel=\"noreferrer noopener\">droner<\/a> allerede eksisterer og er i bruk, er det selvsagt her og n\u00e5 &#8211; i dag &#8211; fullt mulig for terrorister \u00e5 &laquo;<em>sende en sverm av droner<\/em>&raquo; over Norge. Forutsetningen for dette har ingen ting med KI \u00e5 gj\u00f8re, men at de har droner med adekvat rekkevidde eller sender dem ut innenfor norsk territorium eller i n\u00e6rheten av Norge, at dronene har v\u00e5penkapasitet og at terroristene har den n\u00f8dvendige kunnskap om effektiv bruk av droner.<\/p>\n\n\n\n<p>Hvorvidt &laquo;terrorister&raquo; er den mest sannsynlige synderen i et slikt scenario, heller enn en statlige akt\u00f8r, er egentlig uviktig. Muligheten ligger der og det helt uten noen som helst form for &laquo;kunstig intelligens&raquo;. <\/p>\n\n\n\n<p>Konsekvensene av at smarte IT-systemer blir hacket, eller tatt i bruk av en fiendtlig akt\u00f8r, kan alts\u00e5 bli alvorlige, men vi snakker stadig om <em>ordin\u00e6re digitale angrep<\/em>, eller <em>fysiske angrep som del av klassiske sabotasje- og destabiliseringsoperasjoner<\/em>, basert p\u00e5 <em>angripernes teknologiske kunnskaper<\/em>. Og vi snakker ikke, under noen omstendighet, om helt s\u00e6regne og hittil <a href=\"https:\/\/www.standard.co.uk\/business\/forget-the-terminator-the-real-ai-threat-is-coming-from-the-people-warning-us-b1115982.html\" data-type=\"link\" data-id=\"https:\/\/www.standard.co.uk\/business\/forget-the-terminator-the-real-ai-threat-is-coming-from-the-people-warning-us-b1115982.html\" target=\"_blank\" rel=\"noreferrer noopener\">ukjente  trusler a la Terminator-filmene<\/a>.<\/p>\n\n\n\n<p>Vi snakker tvert i mot stadig vekk utelukkende om smarte statlige akt\u00f8rer, terrorister eller kriminelle, med gode teknologiske kunnskaper og med tilgang til eksisterende verkt\u00f8y.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Vi st\u00e5r ikke overfor nye digitale trusler<\/h3>\n\n\n\n<p>&laquo;<em>For one, ChatGPT can only write relatively simple applications. Even if it has the skills to do more advanced coding with suitable instructions, it does not instantly provide non-developers a competitive edge over developers who understand coding and have experience in actually writing code\u00bb<\/em>.<br>&#8211; Andrej Kovacevic, 2023 (<a href=\"https:\/\/www.freecodecamp.org\/news\/chat-gpt-and-secure-coding\/\" data-type=\"link\" data-id=\"https:\/\/www.freecodecamp.org\/news\/chat-gpt-and-secure-coding\/\" target=\"_blank\" rel=\"noreferrer noopener\">17<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>A chatbot is a single-purpose tool, not an intelligence. Human-level intelligence requires the capacity to go beyond the parameters that its developers set for itself, of its own volition. ChatGPT is preternaturally adept at mimicking human language patterns, but so is a parrot, and no one can argue that a parrot understands the meaning behind the words it is parroting.<\/em> <em>ChatGPT passing the Turing test doesn&#8217;t mean that ChatGPT is as intelligent as a human. It clearly isn&#8217;t. All this means is that the Turing test is not the valid test of artificial intelligence we thought it would be\u00bb<\/em>.<br>&#8211; John Loeffler, 2023, (<a href=\"https:\/\/www.techradar.com\/news\/calm-down-folks-chatgpt-isnt-actually-an-artificial-intelligence\" data-type=\"link\" data-id=\"https:\/\/www.techradar.com\/news\/calm-down-folks-chatgpt-isnt-actually-an-artificial-intelligence\" target=\"_blank\" rel=\"noreferrer noopener\">18<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:213px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>At fiendtlig etterretning, kriminelle organisasjoner og &laquo;folk flest\u00bb har kraftige IT-verkt\u00f8y til sin disposisjon, betyr <em>ikke<\/em> at vi plutselig st\u00e5r over for digitale trusler vitenskapen ikke allerede har definert og pekt p\u00e5.<\/p>\n\n\n\n<p>Den \u00f8kte tilgjengeligheten av slike verkt\u00f8y (<em>demokratisering av angrepsverkt\u00f8y<\/em>) kan derimot gi grunn til bekymring i den forstand at <em>flere<\/em> (kanskje) vil kunne utf\u00f8re digitale angrep, noe som understreker behovet for \u00e5 stadig styrke informasjonssikkerheten p\u00e5 alle niv\u00e5er, b\u00e5de gjennom tekniske l\u00f8sninger og ikke minst \u00f8kt digital kompetanse og <a href=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/2024\/03\/15\/sosiale-medier-fra-lek-og-laering-til-krigsskueplass\/\" data-type=\"link\" data-id=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/2024\/03\/15\/sosiale-medier-fra-lek-og-laering-til-krigsskueplass\/\" target=\"_blank\" rel=\"noreferrer noopener\">bevissthet<\/a> blant oss som borgere i et heldigitalt mediesamfunn.<\/p>\n\n\n\n<p>Hvis den enkelte bruker av de ulike digitale medier &#8211; fra SMART-mobil til <a href=\"https:\/\/www.nrk.no\/innlandet\/ekspert-advarer-mot-kinesiske-elbiler-_-forsvaret-har-ingen-begrensninger-1.17138704\" data-type=\"link\" data-id=\"https:\/\/www.nrk.no\/innlandet\/ekspert-advarer-mot-kinesiske-elbiler-_-forsvaret-har-ingen-begrensninger-1.17138704\" target=\"_blank\" rel=\"noreferrer noopener\">EL-bil<\/a> &#8211; <a href=\"https:\/\/www.nordnorskdebatt.no\/digital-beredskap-i-krigens-skygge\/o\/5-124-225351\" data-type=\"link\" data-id=\"https:\/\/www.nordnorskdebatt.no\/digital-beredskap-i-krigens-skygge\/o\/5-124-225351\" target=\"_blank\" rel=\"noreferrer noopener\">kan avvennes den naive troen<\/a> p\u00e5 at digitale angrep bare er noe som skjer andre eller at falske nyheter aldri dukker opp i egen SOME-str\u00f8m, vil selv ikke kraftige matematiske modeller (spr\u00e5kmodeller) eller kraftige videogenereringsverkt\u00f8y hjelpe kriminelle eller statlige akt\u00f8rer til \u00f8kt suksess.<\/p>\n\n\n\n<p>N\u00e5r det gjelder andre typer trusler, s\u00e5 som utvikling av virus- eller bakteriologiske v\u00e5pen, s\u00e5 er det ikke samtaleroboter av typen ChatGPT som foretar utviklingen. Samtaleroboter kan ikke utvikle noe som helst. Men de kan lynraskt s\u00f8ke gjennom offentlig tilgjengelig informasjon allerede lagt ut p\u00e5 internett, og frembringe denne informasjonen til en bruker p\u00e5 en lettfattelig m\u00e5te. I de tilfeller der informasjonen faktisk er korrekt og brukeren har de n\u00f8dvendige kunnskaper til \u00e5 nyttiggj\u00f8re seg av denne, letter dette selvsagt det innledende arbeidet. Men den konkrete trusselen er det terroristen og dennes praktiske og teoretiske kunnskaper som st\u00e5r for, ikke samtaleroboten.<\/p>\n\n\n\n<p>Det er heller <em>ikke<\/em> &laquo;KI&raquo; som f\u00f8rer til eventuelt \u00f8kt radikalisering og flere tilhenger til terrororganisasjoner eller ytre h\u00f8yre- eller venstreparti, <em>men operat\u00f8renes kunnskap<\/em> om hvordan n\u00e5 frem til aktuelle mottakere nasjonalt og internasjonalt.<\/p>\n\n\n\n<p>Siden media flommer over av artikler om hvordan &laquo;KI&raquo; benyttes til dette og hint, kan det v\u00e6re greit \u00e5 tenke over f\u00f8lgende (<em>utheving &#8211; tekst i fet skrift &#8211; satt av meg<\/em>):<\/p>\n\n\n\n<p>&laquo;<em>Strictly speaking, <strong>AI is not a technology at all<\/strong>. Facial-recognition software, translation and speech recognition programs, scheduling algorithms, and predictive models might all have different machine learning tools running in the background, but <strong>it is patently absurd to refer to them as a singular technology<\/strong>. We do not call everything containing copper wires &laquo;wiring&raquo;.<\/em>\u00bb<br>&#8211; R.H. Lossin, PhD. og J. Resnikoff, PhD., 2024 (<a href=\"https:\/\/www.thenation.com\/article\/society\/open-ai-sora-chatgpt-artificial-intelligence\/\" target=\"_blank\" rel=\"noreferrer noopener\">19<\/a>)<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Konklusjon<\/h3>\n\n\n\n<p>&laquo;<em>AI is a marketing term used to generate hype<\/em>,&#8230;&raquo;<br>\u2013 Skyler Schain, 2023 (<a href=\"https:\/\/uxdesign.cc\/why-chatbots-fail-2bb6e5ce1434\" target=\"_blank\" rel=\"noreferrer noopener\">20<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>The talk about existential risk from AGI is a magician\u2019s distraction from what\u2019s going on right in front of us \u2013 not a mechanical uprising, but a silent campaign to devalue the political and cultural currency of humane thought.\u00bb<\/em><br>&#8211; Professor Shannon Vallor, 2023 (<a href=\"https:\/\/www.sciencefocus.com\/future-technology\/will-ai-make-humans-dumber\" data-type=\"link\" data-id=\"https:\/\/www.sciencefocus.com\/future-technology\/will-ai-make-humans-dumber\" target=\"_blank\" rel=\"noreferrer noopener\">21<\/a>)<\/p>\n\n\n\n<p>\u00ab<em>The results are impressively realistic, but the \u201cbasic statistics\u201d are the same. There is no sentience, there\u2019s no self-contemplation, there\u2019s no self-awareness.\u00bb<\/em><br>\u2013 Professor Michael Wooldridge, 2022 (<a href=\"https:\/\/www.theguardian.com\/technology\/2022\/aug\/14\/can-artificial-intelligence-ever-be-sentient-googles-new-ai-program-is-raising-questions\" target=\"_blank\" rel=\"noreferrer noopener\">22<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>Here\u2019s where we actually are, so much more boring, and so much more real: Current models trained on next-token prediction have remarkable abilities and remarkable weaknesses. The scope of those abilities and weaknesses of the current systems is not well understood. There are some applications where the current systems are reliable enough to be practically useful, though not nearly as many as is often claimed. No doubt the next generation of systems will have greater abilities and more extensive applications and will somewhat mitigate the weaknesses. What is to come is even more poorly understood than the present. But there is zero justification for claiming that the current technology has achieved general intelligence<\/em>.<em>\u00bb<\/em><br>&#8211; Professor Gary Marcus, 2025 (<a href=\"https:\/\/garymarcus.substack.com\/p\/the-five-stages-of-agi-grief\" data-type=\"link\" data-id=\"https:\/\/garymarcus.substack.com\/p\/the-five-stages-of-agi-grief\" target=\"_blank\" rel=\"noreferrer noopener\">23<\/a>)<\/p>\n\n\n\n<p>&laquo;<em>Eksempelvis kan KI brukes i p\u00e5virkningsoperasjoner, sosial manipulering, eller til \u00e5 finne s\u00e5rbarheter i programvare. P\u00e5 samme m\u00e5te kan KI antagelig ogs\u00e5 brukes til \u00e5 oppdage og motvirke disse operasjonene. Hvorvidt KI vil gi st\u00f8rst fordeler til de som fors\u00f8ker \u00e5 utnytte det til offensive cyberoperasjoner eller til de som fors\u00f8ker \u00e5 forhindre slike operasjoner, er usikkert<\/em>.<em>\u00bb<\/em><br>&#8211; PST, Nasjonal trusselvurdering 2024, s. 18 (<a href=\"https:\/\/www.pst.no\/globalassets\/2024\/ntv2024\/nasjonal-trusselvurdering-2024_uuweb.pdf\" data-type=\"link\" data-id=\"https:\/\/www.pst.no\/globalassets\/2024\/ntv2024\/nasjonal-trusselvurdering-2024_uuweb.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">24<\/a>)<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"1152\" height=\"360\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2023\/12\/linjer.jpg\" alt=\"\" class=\"wp-image-2799\" style=\"width:213px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p>De nye systemene\/ programmene som har dukket opp i kj\u00f8levannet av samtalerobotene kan i noen tilfeller fungere som en kraftforsterker for eksisterende sikkerhetstrusler, men det eksisterer <em>ingen<\/em> &laquo;KI-trussel<em>\u00bb<\/em> i det digitale rom i betydningen  selvtenkende maskiner med egen vilje og egne m\u00e5l.  <em>De grunnleggende reglene gjelder fortsatt <\/em>og truslene i det digitale rom representeres stadig av <em>de samme akt\u00f8rene<\/em> <em>som f\u00f8r<\/em>, av <em>de gode gamle metodene vi kjenner fra f\u00f8r<\/em>, og ikke minst av v\u00e5r hang til <em>intellektuell latskap<\/em>. <\/p>\n\n\n\n<p><a href=\"https:\/\/sprinto.com\/blog\/social-engineering-statistics\/\" data-type=\"link\" data-id=\"https:\/\/sprinto.com\/blog\/social-engineering-statistics\/\" target=\"_blank\" rel=\"noreferrer noopener\">Sosial manipulasjon<\/a> blir mer og mer popul\u00e6rt, og enkeltmenneskets bruk av sosiale medier er utgangspunkt for klassiske p\u00e5virkningsoperasjoner og like klassiske digitale angrep i form av &laquo;klikk p\u00e5 denne lenken\u00bb. Falske nyheter blir stadig vekk produsert av <em>ekte mennesker<\/em> og bruken av avanserte verkt\u00f8y er stadig basert p\u00e5 disse menneskenes <em>kunnskap<\/em> om hvordan n\u00e5 ut til aktuelle mottakere.<\/p>\n\n\n\n<p><em>Fremveksten<\/em> av <a href=\"https:\/\/workflowotg.com\/security-and-deepfakes-ai-generated-deepfakes-posing-new-threats-to-business\/\" data-type=\"link\" data-id=\"https:\/\/workflowotg.com\/security-and-deepfakes-ai-generated-deepfakes-posing-new-threats-to-business\/\" target=\"_blank\" rel=\"noreferrer noopener\">avanserte verkt\u00f8y<\/a> tilgjengelig for alle kan <em>\u00f8ke<\/em> mengden digitale angrep mot viktige systemer og mengden av godt utformede falske videoer som del av angrep mot v\u00e5re holdninger, og det er absolutt ikke \u00e5 kimse av. Men angrepsformene er <em>ikke<\/em> nye.<\/p>\n\n\n\n<p><em>Fjernstyring av selvkj\u00f8rende biler eller bruk av v\u00e5penf\u00f8rende droner<\/em> er spesifikke angrepsformer knyttet til terrorisme eller hybrid krigf\u00f8ring, og vil skje dersom en terrorist-gruppe eller en statlig akt\u00f8rer mener dette er hensiktsmessig og har den n\u00f8dvendige teknologiske kompetanse til \u00e5 utf\u00f8re angrepet.<\/p>\n\n\n\n<p><em>Radikalisering av unge eller andre grupper<\/em> i et samfunn skyldes <em>ikke<\/em> &laquo;KI&raquo;, men at terroristorganisasjoner, etterretningsoperat\u00f8rer og ekstremistiske partier <em>har god kunnskap<\/em> om hvilke <em>samfunnsmessige problemer<\/em> som kan utnyttes, og dernest hvilke digitale verkt\u00f8y som kan brukes til \u00e5 formulere et budskap og n\u00e5 frem til flest mulige. Skal en stoppe denne type p\u00e5virkningsoperasjoner trenges det helt andre virkemidler enn \u00e5 regulere ulike typer digitale verkt\u00f8y. \u00d8kt utdanning, \u00f8kt bevissthet i befolkningen som helhet og politiske tiltak for \u00e5 utjevne\/ fjerne sosiale ulikheter, fattigdom, utenforskap ol. er viktige tiltak her.<\/p>\n\n\n\n<p><em>Angrep rettet mot den politiske og kulturelle verdien av individets evne til \u00e5 tenke og skape p\u00e5 egenh\u00e5nd<\/em>, er <em>ikke<\/em> utf\u00f8rt av &laquo;KI&raquo;, men av kommersielle krefter som \u00f8nsker mest mulig salg av spesifikke verkt\u00f8y og akt\u00f8rer som \u00f8nsker \u00e5 bryte ned liberale demokratiers motstandskraft mot totalit\u00e6r p\u00e5virkning. Ogs\u00e5 her vil det v\u00e6re utdanning og bevisstgj\u00f8ring som vil kunne v\u00e6re avgj\u00f8rende.<\/p>\n\n\n\n<p><em>Nye trusler mot demokratiet<\/em> av typen &laquo;KI-svermer&raquo; springer <em>ikke<\/em> ut fra \u201ctenkende\u201d maskiner som handler p\u00e5 egen h\u00e5nd, men fra systemer <em>bevisst programmert og styrt av mennesker<\/em> for \u00e5 manipulere informasjon i stor skala. At systemene etterligner naturlige publiseringsm\u00f8nstre, bruker slang og virker menneskelige, er derfor et resultat av <em>bevisste designvalg gjort av mennesker<\/em>, ikke av maskiner. Denne spesifikke trusselen er, som de \u00f8vrige som her er beskrevet, f\u00f8rst og fremst menneskelig styrte angrep ved hjelp av digitale verkt\u00f8y, ikke autonome system som har utviklet egne intensjoner eller vilje<\/p>\n\n\n\n<p>Trusselakt\u00f8rene er uansett angrepsform og verkt\u00f8ybruk stadig vekk den <em>vanlige gjengen<\/em> av etterretningsoperat\u00f8rer fra fiendtlige nasjoner, terror-grupper, st\u00f8rre kriminelle nettverk og mer eller mindre dyktige enkeltkriminelle. Disse akt\u00f8rene benytter en rekke digitale medier og verkt\u00f8y i sitt arbeide, men <em>angrepene mot oss<\/em> er basert p\u00e5 <em>akt\u00f8renes intelligens<\/em> og <em>kunnskap<\/em> om b\u00e5de teknologi og <a href=\"https:\/\/online.nsu.edu\/degrees\/technology\/master-of-science-cyberpsychology\/cybercrime-and-psychology-related\/\" data-type=\"link\" data-id=\"https:\/\/online.nsu.edu\/degrees\/technology\/master-of-science-cyberpsychology\/cybercrime-and-psychology-related\/\" target=\"_blank\" rel=\"noreferrer noopener\">psykologi<\/a>. De er <em>ikke<\/em> basert p\u00e5 en mystisk, ikke-eksisterende digital intelligens.<\/p>\n\n\n\n<p>Og n\u00e5r det gjelder <em>de stadige digitale angrepene mot v\u00e5rt heldigitale mediesamfunn<\/em>, s\u00e5 er det fortsatt <em>den enkelte borgers egen bevissthet<\/em> og <em>egen kunnskap om det digitale<\/em> som er n\u00f8kkelen til \u00e5 avverge denne type angrep.<\/p>\n\n\n\n<p>Mediest\u00f8yen knyttet til fantasiene om at vi n\u00e5 har utviklet &laquo;Kunstig Intelligens&raquo; endrer ikke dette enkle faktum. <\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Postskriptum 2026<\/h3>\n\n\n\n<p>Som for alt som har med teknologi \u00e5 gj\u00f8re, g\u00e5r ogs\u00e5 utviklingen av kombinasjonen store spr\u00e5kmodeller og samtalegrensesnitt med stormskritt. Men selv n\u00e5 i siste del av januar 2026 st\u00e5r <em>hovedbudskapet<\/em> i mitt innlegg seg godt.<\/p>\n\n\n\n<p>Det finnes fortsatt ikke \u00abKI\u2011trusler\u00bb i betydningen selvstendige, tenkende maskiner som planlegger og utf\u00f8rer angrep p\u00e5 oss. Like fullt er de ulike verkt\u00f8yene\/ systemene \u2013 store spr\u00e5kmodeller, samtaleroboter, avansert video\u2011 og stemmegenerering \u2013 alt annet enn uvesentlige. De kan forsterke velkjente angrepsformer ved \u00e5 senke terskler for bruk, \u00f8ke tempoet og gi st\u00f8rre gjennomslagskraft i sosial manipulering, svindel og ulike typer p\u00e5virkning. Men disse verkt\u00f8yene kontrolleres fortsatt av mennesker gjennom systemdesign, programmering og operasjonelle valg. <\/p>\n\n\n\n<p>Derfor er <em>n\u00f8kkelen<\/em> til samfunnets motstandskraft mot slike trusler fortsatt <strong>deg og meg<\/strong>: V\u00e5r kritiske sans, v\u00e5r digitale d\u00f8mmekraft og v\u00e5r egen sikkerhetspraksis. Det er slik vi m\u00f8ter \u00abde vanlige mistenkte\u00bb \u2013 ikke ved \u00e5 frykte datasystemene, men ved \u00e5 forst\u00e5 og motvirke dem som bruker dem.<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img loading=\"lazy\" decoding=\"async\" width=\"550\" height=\"550\" src=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-content\/uploads\/sites\/6\/2024\/07\/linje.jpg\" alt=\"\" class=\"wp-image-4757\" style=\"width:59px;height:auto\" \/><\/figure>\n<\/div>\n\n\n<p class=\"has-text-align-left\"><em>En forkortet utgave av dette blogginnlegget (1. versjon) kan ogs\u00e5 leses p\u00e5<\/em> <em><a href=\"https:\/\/www.tronderdebatt.no\/trusler-i-det-digitale-rom-ki-eller-ganske-enkelt-the-usual-suspects\/o\/5-122-98051#am-comments\" data-type=\"link\" data-id=\"https:\/\/www.tronderdebatt.no\/trusler-i-det-digitale-rom-ki-eller-ganske-enkelt-the-usual-suspects\/o\/5-122-98051#am-comments\" target=\"_blank\" rel=\"noreferrer noopener\">Tr\u00f8nderdebatt<\/a><\/em>.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\"><strong>LESELISTE<\/strong><\/h4>\n\n\n\n<pre class=\"wp-block-preformatted\"><em>Leselisten sist oppdatert: 11.02.2026<\/em><\/pre>\n\n\n\n<ol class=\"wp-block-list\">\n<li><a href=\"https:\/\/arxiv.org\/abs\/2601.07263\" data-type=\"link\" data-id=\"https:\/\/arxiv.org\/abs\/2601.07263\" target=\"_blank\" rel=\"noreferrer noopener\">When Bots Take the Bait: Exposing and Mitigating the Emerging Social Engineering Attack in Web Automation Agent<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/arxiv.org\/abs\/2506.06299\" data-type=\"link\" data-id=\"https:\/\/arxiv.org\/abs\/2506.06299\" target=\"_blank\" rel=\"noreferrer noopener\">How malicious AI swarms can threaten democracy: The fusion of agentic AI and LLMs marks a new frontier in information warfare<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.politiet.no\/globalassets\/tall-og-fakta\/datakriminalitet\/etterretningsrapport-generativ-kunstig-intelligens-kripos.pdf\" data-type=\"link\" data-id=\"https:\/\/www.politiet.no\/globalassets\/tall-og-fakta\/datakriminalitet\/etterretningsrapport-generativ-kunstig-intelligens-kripos.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">Generativ kunstig intelligens og cyberkriminalitet<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/link.springer.com\/article\/10.1007\/s10462-024-10973-2?utm_source=copilot.com\" data-type=\"link\" data-id=\"https:\/\/link.springer.com\/article\/10.1007\/s10462-024-10973-2?utm_source=copilot.com\" target=\"_blank\" rel=\"noreferrer noopener\">Digital deception: generative artificial intelligence in social engineering and phishing<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/joshuasaxe181906.substack.com\/p\/how-to-defend-an-exploding-ai-attack\" data-type=\"link\" data-id=\"https:\/\/joshuasaxe181906.substack.com\/p\/how-to-defend-an-exploding-ai-attack\" target=\"_blank\" rel=\"noreferrer noopener\">How to defend an exploding AI attack surface when the attackers haven&#8217;t shown up (yet)<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.ncsc.gov.uk\/report\/impact-ai-cyber-threat-now-2027\" data-type=\"link\" data-id=\"https:\/\/www.ncsc.gov.uk\/report\/impact-ai-cyber-threat-now-2027\" target=\"_blank\" rel=\"noreferrer noopener\">Impact of AI on cyber threat from now to 2027<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/deepstrike.io\/blog\/top-industries-targeted-by-hackers-2025\" data-type=\"link\" data-id=\"https:\/\/deepstrike.io\/blog\/top-industries-targeted-by-hackers-2025\" target=\"_blank\" rel=\"noreferrer noopener\">Top Industries Targeted by Hackers in 2025: The New Rules of Cyber Engagement<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.nettavisen.no\/norsk-debatt\/tiktok-og-deepseek-lurer-oss-trill-rundt\/o\/5-95-2266934\" data-type=\"link\" data-id=\"https:\/\/www.nettavisen.no\/norsk-debatt\/tiktok-og-deepseek-lurer-oss-trill-rundt\/o\/5-95-2266934\" target=\"_blank\" rel=\"noreferrer noopener\">Vi er vel (nesten) alle like dumme som Donald Trump<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.eurasiareview.com\/29042025-combating-ai-driven-disinformation-reward-based-model-for-enhancing-civic-engagement-and-election-integrity-analysis\/\" data-type=\"link\" data-id=\"https:\/\/www.eurasiareview.com\/29042025-combating-ai-driven-disinformation-reward-based-model-for-enhancing-civic-engagement-and-election-integrity-analysis\/\" target=\"_blank\" rel=\"noreferrer noopener\">Combating AI-Driven Disinformation: A Reward-Based Model for Enhancing Civic Engagement and Election Integrity<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/versprite.com\/blog\/the-intersection-of-artificial-intelligence-and-social-engineering-next-generation-threats\/\" data-type=\"link\" data-id=\"https:\/\/versprite.com\/blog\/the-intersection-of-artificial-intelligence-and-social-engineering-next-generation-threats\/\" target=\"_blank\" rel=\"noreferrer noopener\">The Intersection of Artificial Intelligence and Social Engineering: Next-Generation Threats<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/ctc.westpoint.edu\/generating-terror-the-risks-of-generative-ai-exploitation\/\" data-type=\"link\" data-id=\"https:\/\/ctc.westpoint.edu\/generating-terror-the-risks-of-generative-ai-exploitation\/\" target=\"_blank\" rel=\"noreferrer noopener\">Generating Terror: The Risks of Generative AI Exploitation<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/hiddenlayer.com\/research\/the-dark-side-of-large-language-models\/\" data-type=\"link\" data-id=\"https:\/\/hiddenlayer.com\/research\/the-dark-side-of-large-language-models\/\" target=\"_blank\" rel=\"noreferrer noopener\">THE DARK SIDE OF LARGE LANGUAGE MODELS<\/a> (2 deler)<\/li>\n\n\n\n<li><a href=\"https:\/\/www.tandfonline.com\/doi\/full\/10.1080\/10357718.2024.2331733#d1e123\" data-type=\"link\" data-id=\"https:\/\/www.tandfonline.com\/doi\/full\/10.1080\/10357718.2024.2331733#d1e123\" target=\"_blank\" rel=\"noreferrer noopener\">Tell me what you don\u2019t know: large language models and the pathologies of intelligence analysis<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.sify.com\/ai-analytics\/ai-browser-or-trojan-horse-a-deep-dive-into-the-new-browser-wars\/\" data-type=\"link\" data-id=\"https:\/\/www.sify.com\/ai-analytics\/ai-browser-or-trojan-horse-a-deep-dive-into-the-new-browser-wars\/\" target=\"_blank\" rel=\"noreferrer noopener\">AI Browser or Trojan Horse: A Deep-Dive Into the New Browser Wars<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.xda-developers.com\/please-stop-using-ai-browsers\/\" data-type=\"link\" data-id=\"https:\/\/www.xda-developers.com\/please-stop-using-ai-browsers\/\" target=\"_blank\" rel=\"noreferrer noopener\">Please stop using AI browsers<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.nhh.no\/nhh-bulletin\/artikkelarkiv\/2023\/april\/chatgpt---en-trussel-mot-demokratiet\/\" data-type=\"link\" data-id=\"https:\/\/www.nhh.no\/nhh-bulletin\/artikkelarkiv\/2023\/april\/chatgpt---en-trussel-mot-demokratiet\/\" target=\"_blank\" rel=\"noreferrer noopener\">CHATGPT &#8211; EN TRUSSEL MOT DEMOKRATIET<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.euronews.com\/next\/2024\/06\/18\/chatgpt-grok-gemini-and-other-ai-chatbots-are-spewing-russian-misinformation-study-finds\" data-type=\"link\" data-id=\"https:\/\/www.euronews.com\/next\/2024\/06\/18\/chatgpt-grok-gemini-and-other-ai-chatbots-are-spewing-russian-misinformation-study-finds\" target=\"_blank\" rel=\"noreferrer noopener\">ChatGPT, Grok, Gemini and other AI chatbots are spewing Russian misinformation, study finds<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.researchgate.net\/profile\/Dijana-Vukovic\/publication\/369970449_Social_engineering_with_ChatGPT\/links\/647731fc6a3c4c6efbf57df9\/Social-engineering-with-ChatGPT.pdf\" data-type=\"link\" data-id=\"https:\/\/www.researchgate.net\/profile\/Dijana-Vukovic\/publication\/369970449_Social_engineering_with_ChatGPT\/links\/647731fc6a3c4c6efbf57df9\/Social-engineering-with-ChatGPT.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">Social engineering with ChatGPT<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.sheffield.ac.uk\/news\/security-threats-ais-such-chatgpt-revealed-researchers\" data-type=\"link\" data-id=\"https:\/\/www.sheffield.ac.uk\/news\/security-threats-ais-such-chatgpt-revealed-researchers\" target=\"_blank\" rel=\"noreferrer noopener\">Security threats in AIs such as ChatGPT revealed by researchers<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/techcrunch.com\/2023\/01\/11\/chatgpt-cybersecurity-threat\/?guccounter=1&amp;guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLm5vLw&amp;guce_referrer_sig=AQAAABsRjleSzx2LlHdiojW6HvV5BjwaWLKP5YjiHNbvVMQZbiRWUlX2w7cRDPhaHKubN9k77xABeDxangQ7pWf0yBNk_6PCQGbgFVsHET9-sSjLhoP1ULhm60mmFq8LCEl-wLa7C-i1MVLtQWnFtTK2BXGWMMpxTdjJou9ByntLzR30\" data-type=\"link\" data-id=\"https:\/\/techcrunch.com\/2023\/01\/11\/chatgpt-cybersecurity-threat\/?guccounter=1&amp;guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLm5vLw&amp;guce_referrer_sig=AQAAABsRjleSzx2LlHdiojW6HvV5BjwaWLKP5YjiHNbvVMQZbiRWUlX2w7cRDPhaHKubN9k77xABeDxangQ7pWf0yBNk_6PCQGbgFVsHET9-sSjLhoP1ULhm60mmFq8LCEl-wLa7C-i1MVLtQWnFtTK2BXGWMMpxTdjJou9ByntLzR30\" target=\"_blank\" rel=\"noreferrer noopener\">Is ChatGPT a cybersecurity threat?<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.mdpi.com\/2078-2489\/15\/1\/27\" data-type=\"link\" data-id=\"https:\/\/www.mdpi.com\/2078-2489\/15\/1\/27\" target=\"_blank\" rel=\"noreferrer noopener\">Unveiling the Dark Side of ChatGPT: Exploring Cyberattacks and Enhancing User Awareness<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/tech.co\/news\/chatgpt-ai-scams-watch-out-avoid\" data-type=\"link\" data-id=\"https:\/\/tech.co\/news\/chatgpt-ai-scams-watch-out-avoid\" target=\"_blank\" rel=\"noreferrer noopener\">11 Convincing ChatGPT and AI Scams to Watch out for in 2024<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.csa.gov.sg\/Tips-Resource\/publications\/cybersense\/2023\/chatgpt---learning-enough-to-be-dangerous\" data-type=\"link\" data-id=\"https:\/\/www.csa.gov.sg\/Tips-Resource\/publications\/cybersense\/2023\/chatgpt---learning-enough-to-be-dangerous\" target=\"_blank\" rel=\"noreferrer noopener\">ChatGPT &#8211; Learning Enough to be Dangerous<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.scientificamerican.com\/article\/sora-openai-text-video-generator\/\" data-type=\"link\" data-id=\"https:\/\/www.scientificamerican.com\/article\/sora-openai-text-video-generator\/\" target=\"_blank\" rel=\"noreferrer noopener\">Everything to Know About OpenAI\u2019s New Text-to-Video Generator, Sora<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.scientificamerican.com\/article\/ai-is-an-existential-threat-just-not-the-way-you-think\/\" data-type=\"link\" data-id=\"https:\/\/www.scientificamerican.com\/article\/ai-is-an-existential-threat-just-not-the-way-you-think\/\" target=\"_blank\" rel=\"noreferrer noopener\">AI Is an Existential Threat\u2014Just Not the Way You Think<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/link.springer.com\/article\/10.1007\/s43681-024-00443-4\" data-type=\"link\" data-id=\"https:\/\/link.springer.com\/article\/10.1007\/s43681-024-00443-4\" target=\"_blank\" rel=\"noreferrer noopener\">AI hype as a cyber security risk: the moral responsibility of implementing generative AI in business<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.europeanproceedings.com\/article\/10.15405\/epsbs.2019.07.53\" data-type=\"link\" data-id=\"https:\/\/www.europeanproceedings.com\/article\/10.15405\/epsbs.2019.07.53\" target=\"_blank\" rel=\"noreferrer noopener\">The Use Of Artificial Intelligence Technologies In Information And Psychological Warfare<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.abcnyheter.no\/nyheter\/verden\/2024\/09\/02\/196026491\/is-tilhengere-bruker-ki-til-a-spre-terror-propaganda?nr=1\" data-type=\"link\" data-id=\"https:\/\/www.abcnyheter.no\/nyheter\/verden\/2024\/09\/02\/196026491\/is-tilhengere-bruker-ki-til-a-spre-terror-propaganda?nr=1\" target=\"_blank\" rel=\"noreferrer noopener\">IS-tilhengere bruker KI til \u00e5 spre terror-propaganda<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.sciencedirect.com\/science\/article\/pii\/S1566253523001136\" data-type=\"link\" data-id=\"https:\/\/www.sciencedirect.com\/science\/article\/pii\/S1566253523001136\" target=\"_blank\" rel=\"noreferrer noopener\">Artificial intelligence for cybersecurity: Literature review and future research directions<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.belfercenter.org\/publication\/AttackingAI\" data-type=\"link\" data-id=\"https:\/\/www.belfercenter.org\/publication\/AttackingAI\" target=\"_blank\" rel=\"noreferrer noopener\">Attacking Artificial Intelligence: AI\u2019s Security Vulnerability and What Policymakers Can Do About It<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.tarlogic.com\/blog\/ai-security-risks\/\" data-type=\"link\" data-id=\"https:\/\/www.tarlogic.com\/blog\/ai-security-risks\/\" target=\"_blank\" rel=\"noreferrer noopener\">What are the AI security risks?<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.europeanleadershipnetwork.org\/commentary\/the-potential-terrorist-use-of-large-language-models-for-chemical-and-biological-terrorism\/\" data-type=\"link\" data-id=\"https:\/\/www.europeanleadershipnetwork.org\/commentary\/the-potential-terrorist-use-of-large-language-models-for-chemical-and-biological-terrorism\/\" target=\"_blank\" rel=\"noreferrer noopener\">The potential terrorist use of large language models for chemical and biological terrorism<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/theconversation.com\/chatbots-wont-help-anyone-make-weapons-of-mass-destruction-but-other-ai-systems-just-might-244514\" data-type=\"link\" data-id=\"https:\/\/theconversation.com\/chatbots-wont-help-anyone-make-weapons-of-mass-destruction-but-other-ai-systems-just-might-244514\" target=\"_blank\" rel=\"noreferrer noopener\">Chatbots won\u2019t help anyone make weapons of mass destruction. But other AI systems just&nbsp;might<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/fortune.com\/2025\/06\/19\/openai-future-models-higher-risk-aiding-bioweapons-creation\/\" data-type=\"link\" data-id=\"https:\/\/fortune.com\/2025\/06\/19\/openai-future-models-higher-risk-aiding-bioweapons-creation\/\" target=\"_blank\" rel=\"noreferrer noopener\">OpenAI warns its future models will have a higher risk of aiding bioweapons development<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.dagsavisen.no\/debatt\/kommentar\/2024\/06\/14\/en-ny-pandemi-er-pa-trappene\/\" data-type=\"link\" data-id=\"https:\/\/www.dagsavisen.no\/debatt\/kommentar\/2024\/06\/14\/en-ny-pandemi-er-pa-trappene\/\" target=\"_blank\" rel=\"noreferrer noopener\">En ny pandemi er p\u00e5 trappene<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/www.forskning.no\/data-informasjonsteknologi-kunstig-intelligens\/slik-kan-ki-gi-for-stor-oversikt-over-samfunnet-apne-data-truer-norges-sikkerhet\/2384271\" data-type=\"link\" data-id=\"https:\/\/www.forskning.no\/data-informasjonsteknologi-kunstig-intelligens\/slik-kan-ki-gi-for-stor-oversikt-over-samfunnet-apne-data-truer-norges-sikkerhet\/2384271\" target=\"_blank\" rel=\"noreferrer noopener\">Slik kan KI gi for stor oversikt over samfunnet: \u2013 \u00c5pne data truer Norges sikkerhet<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/thebulletin.org\/2024\/03\/how-to-better-research-the-possible-threats-posed-by-ai-driven-misuse-of-biology\/\" data-type=\"link\" data-id=\"https:\/\/thebulletin.org\/2024\/03\/how-to-better-research-the-possible-threats-posed-by-ai-driven-misuse-of-biology\/\" target=\"_blank\" rel=\"noreferrer noopener\">How to better research the possible threats posed by AI-driven misuse of biology<\/a> <\/li>\n\n\n\n<li><a href=\"https:\/\/futurism.com\/ai-browser-hackers-drain-bank-account-public-reddit-post\" data-type=\"link\" data-id=\"https:\/\/futurism.com\/ai-browser-hackers-drain-bank-account-public-reddit-post\" target=\"_blank\" rel=\"noreferrer noopener\">Using an AI Browser Lets Hackers Drain Your Bank Account Just by Showing You a Public Reddit Post<\/a><\/li>\n<\/ol>\n\n\n\n<p><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Trusselakt\u00f8ren er f\u00f8rst og fremst ute etter en effekt. Hvilket virkemiddel som benyttes for \u00e5 oppn\u00e5 effekten er underordnet. Simen Bakke (1) Glem Terminator og dommedag \u2013 truslene i det digitale rom kommer fortsatt fra gamle kjenninger: hackere, statlige akt\u00f8rer og kriminelle. Dataprogram av typen ChatGPT og Sora er kraftige verkt\u00f8y, men ikke tenkende maskiner. &hellip; <a href=\"https:\/\/site.nord.no\/didaktiskebetraktninger\/2024\/07\/28\/trusler-i-det-digitale-rom-ki-eller-ganske-enkelt-the-usual-suspects\/\" class=\"more-link\">Fortsett \u00e5 lese<span class=\"screen-reader-text\"> \u00abTrusler i det digitale rom &#8211; KI eller ganske enkelt the usual suspects?\u00bb<\/span><\/a><\/p>\n","protected":false},"author":11,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[23,4],"tags":[10,11,21,25,8],"coauthors":[2],"class_list":["post-4119","post","type-post","status-publish","format-standard","hentry","category-ki","category-sikkerhet","tag-chatbots","tag-chatgpt","tag-hhn","tag-ki","tag-samtalerobot"],"_links":{"self":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/posts\/4119","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/comments?post=4119"}],"version-history":[{"count":121,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/posts\/4119\/revisions"}],"predecessor-version":[{"id":7789,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/posts\/4119\/revisions\/7789"}],"wp:attachment":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/media?parent=4119"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/categories?post=4119"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/tags?post=4119"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/coauthors?post=4119"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}