{"id":2444,"date":"2023-12-05T14:31:02","date_gmt":"2023-12-05T13:31:02","guid":{"rendered":"https:\/\/site.nord.no\/didaktiskebetraktninger\/?page_id=2444"},"modified":"2026-04-18T09:45:44","modified_gmt":"2026-04-18T07:45:44","slug":"7-en-sverm-av-djevler-klokken-tre","status":"publish","type":"page","link":"https:\/\/site.nord.no\/didaktiskebetraktninger\/7-en-sverm-av-djevler-klokken-tre\/","title":{"rendered":"Kap 8 En sverm av djevler klokken tre"},"content":{"rendered":"\n

Current AI-systems are patient, amoral, and fantastic at mimicry, making them among the greatest tools in history for generating mis- and disinformation\u2014the latter of which is a tremendous weapon, not necessarily for its ability to persuade and convince, but for its ability to sow chaos. This, rather than some intelligence breakthrough, may well be the legacy of generative AI.<\/em>
<\/p>Professor Gary Marcus and Damon Beres, 2026 (1<\/a>)<\/cite><\/blockquote><\/figure>\n\n\n\n

Det er noko med \u00e5 sj\u00e5 p\u00e5 at selskapsleikane si tid er slutt, at dette ikkje er eit leikeverkt\u00f8y<\/em>.
– Leonora Bergsj\u00f8, PhD., 2024 (2<\/a>)<\/p>\n\n\n\n

\u201cComputers are evolving very quickly \u2026 the human brain isn\u2019t going to evolve, and so we still need to think about cognitive psychology<\/em>\u201d
– Andrew Van Schaack, PhD., 2024 (3<\/a>)<\/p>\n\n\n\n

«Cybersecurity is actually 90% about human behavior and 10% about technology.<\/em>\u00bb
– Martin Fix, 2024 (4<\/a>)<\/p>\n\n\n\n

«A lot of the risk really comes from malicious actors, which exist anyway. It\u2019s just another tool for them to use<\/em>\u00bb.
– Lauren Kahn, 2023 (5<\/a>)<\/p>\n\n\n\n

«To my mind, the immediate danger of ChatGPT is not so much that it will create better malware (although it may in time) but that it will lower the bar to entry in cybercrime, allowing more people with fewer skills to create original malware, or skilled people to do it more quickly<\/em>.»
– Mark Stockley, 2023 (6<\/a>)<\/p>\n\n\n\n

\u00abThere were stories about the fact that you could use an LLM (large language model) to give you instructions of how to make chemical weapon or bioweapon. That turns out to be false\u00bb<\/em>.
\u2013 Professor Yann Andr\u00e9 LeCun, 2024 (7<\/a>)<\/p>\n\n\n\n

«Eg trur at KI kjem til \u00e5 gjere dei d\u00e5rlege d\u00e5rlegare, og dei gode betre. Om du ikkje har peiling og brukar generativ KI, er det lett \u00e5 la seg lure til \u00e5 tru at du har forst\u00e5tt noko du i realiteten ikkje har arbeidd godt nok med. Har du alt god kontroll p\u00e5 feltet og er i stand til \u00e5 vurdere ulike perspektiv, kan generativ KI by p\u00e5 alt fr\u00e5 nye idear til sekret\u00e6rhjelp<\/em>.\u00bb
– Inga Str\u00fcmke, PhD., 2024 (8<\/a>)<\/p>\n\n\n\n

«The idea that \u201cit\u2019s early days\u201d isn\u2019t compelling enough to put unreliable technology into classrooms. We\u2019ve had years of disappointing edtech to contend with, and COVID and remote learning did little to address teachers\u2019 valid concerns that digital technologies often get in the way of learning<\/em>.\u00bb
– Leon Furze, PhD-student, 2023 (9<\/a>)<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Jeg har n\u00e5 vist til en del resultater fra mine tester av b\u00e5de ChatGPT og noen andre tilsvarende samtaleroboter, og har pekt p\u00e5 klare svakheter. Disse svakhetene er ogs\u00e5 pekt p\u00e5 b\u00e5de nasjonalt og internasjonalt, og understreker at disse verkt\u00f8yene ikke kan klassifiseres som kunstig intelligens<\/em><\/strong>, jfr. innledningen<\/a>.<\/p>\n\n\n\n

Tittelen p\u00e5 dette kapittelet f\u00e5r kanskje noen til \u00e5 kl\u00f8 seg i hodet og lure p\u00e5 hva i all verden jeg mener her. Tittelen er dels en kulturell henvisning (Kiosklitteratur, 70-tall, Norge<\/em>) og dels en flymilit\u00e6r henvisning (Antall fiender, hvor<\/em>). Og \u00e5rsaken til denne «litter\u00e6re» blomst av en tittel er at utviklingen av de ulike spr\u00e5kmodellene har synliggjort en sverm av atskillig alvorligere problemer i horisonten, enn at studenter muligens vil bruke samtaleroboter til eksamensbesvarelser.<\/p>\n\n\n\n

Problemene er knyttet til det sikkerhetsmessige, etiske, juridiske, helsemessige, og l\u00e6ringsmessige utfordringer. Det er for min del nettopp denne type problemstillinger som gj\u00f8r disse verkt\u00f8yene interessante, ikke minst som del av egen undervisning i informasjonssikkerhet og digital dannelse.<\/p>\n\n\n\n

Her er et lite knippe av problemstillinger som jeg f\u00f8ler har druknet i all viraken rundt ChatGPT og lignende verkt\u00f8y:<\/p>\n\n\n\n

Sikkerhetsmessige problemstillinger<\/strong><\/p>\n\n\n\n

    \n
  1. Nettkriminelle<\/strong>: Disse kan bruke ChatGPT til \u00e5 skrive skadelig programvare, lage svindelnettsteder, generere phishing-e-poster, og lage falske nyheter<\/li>\n\n\n\n
  2. Statlige akt\u00f8rer, terrorister og ekstremistgrupper<\/strong>: Disse kan utnytte samtalerobotene til \u00e5 destabilisere demokratiske stater vha. f.eks. falske nyheter<\/a>, propaganda<\/a>, i tillegg til utvikling av skadelig programvare.<\/li>\n<\/ol>\n\n\n\n

    Etiske problemstillinger<\/strong><\/p>\n\n\n\n

      \n
    1. Bias<\/strong>: Det har v\u00e6rt stilt sp\u00f8rsm\u00e5l ved hvilke kilder som disse samtalerobotene trenes p\u00e5, og om kildematerialet er av en slik art at svarene preges av stereotyper<\/li>\n\n\n\n
    2. Transparens<\/strong>: Det fremg\u00e5r ikke alltid p\u00e5 hvilken m\u00e5te disse verkt\u00f8yene treffer beslutninger om hva som er relevant informasjon, og dermed blir det vanskelig \u00e5 skj\u00f8nne hvorfor en samtalerobot svarer som den gj\u00f8r.<\/li>\n\n\n\n
    3. Utnyttelse av billig arbeidskraft<\/strong> i fattige land for \u00e5 legge inn data i ChatGPT og lignende verkt\u00f8y.<\/li>\n\n\n\n
    4. Uetisk bruk av samtalerobotene<\/strong>: For hvert sp\u00f8rsm\u00e5l en bruker stiller til ChatGPT og lignende verkt\u00f8y, trenger serverene som inneholder samtalerobotprogrammet mye vann<\/a> til kj\u00f8ling, og det benyttes store mengder str\u00f8m<\/a>. Videre kan disse verkt\u00f8yene brukes til \u00e5 skape falske nyheter, desinformasjon, og fremstilling av andres tanker som sine egne, osv.<\/li>\n<\/ol>\n\n\n\n

      Juridiske problemstillinger<\/strong><\/p>\n\n\n\n

        \n
      1. Opphavsrett<\/strong>: Samtalerobotene kan produsere tekst som er helt, eller delvis, lik eksisterende opphavsbeskyttede tekster. Og hverken OpenAI eller andre leverand\u00f8rer av slike tjenester har s\u00f8kt om \u00e5 f\u00e5 bruke det opphavsbeskyttete materialet de har benyttet til \u00e5 trene sine verkt\u00f8y.<\/li>\n\n\n\n
      2. Personvern<\/strong>: Samtalerobotene kan samle private opplysninger om brukerne, som senere kan benyttes for \u00e5 identifisere brukere og p\u00e5 ulike m\u00e5ter v\u00e6re til ulempe og skade for disse.<\/li>\n\n\n\n
      3. Brudd p\u00e5 forvaltningsretten<\/strong> (rent juridisk og\/ eller kommunikasjonsaspektet<\/em>): Man bruker samtaleroboter til sensur<\/a> og fjerner dermed den menneskelige vurderingen (forvaltningens menneskelige ansikt<\/em>) og dette kan v\u00e6re i strid med kravet til at forvaltningsorganer skal kunne forklare hva deres vurderinger konkret bygger p\u00e5.<\/li>\n<\/ol>\n\n\n\n

        L\u00e6ringsmessige problemstillinger<\/strong><\/p>\n\n\n\n

          \n
        1. Svekkelse av evnen til kritisk tenkning og evnen til probleml\u00f8sning<\/strong>: ChatGPT, og lignende verkt\u00f8y, gir (i noen tilfeller<\/em>) klare svar og l\u00f8sninger p\u00e5 oppgaver. Dette kan over tid svekke elever og studenters evne til \u00e5 h\u00e5ndtere prosessen med \u00e5 analysere, evaluere og syntetisere informasjon p\u00e5 egenh\u00e5nd.<\/li>\n\n\n\n
        2. Svekkelse av evnen til \u00e5 tenke kreativt og komme frem med originale l\u00f8sninger:<\/strong> ChatGPT og lignende verkt\u00f8y utmerker seg ved \u00e5 generere svar basert p\u00e5 eksisterende kunnskap (n\u00e5r systemene ikke ganske enkelt finner p\u00e5 rent t\u00f8v<\/em>), men de statistiske beregningene gir (naturlig nok<\/em>) verkt\u00f8yene ingen evne til \u00e5 tenke kreativt eller komme opp med originale ideer. Elever og studenter trenger muligheter til \u00e5 utforske sin egen kreativitet, tenke utenfor boksen og utvikle sine unike perspektiver. Det er denne type evner som omfattes av f.eks. karakterene A og B ved et universitetsstudium og utstrakt bruk<\/a> av statistisk generert innhold kan hindre utviklingen<\/a> av denne type evner.<\/li>\n\n\n\n
        3. Sterkere skille mellom faglig svake og sterke elever og studenter<\/strong>: For de elever eller studenter som allerede har vanskeligheter med effektiv bruk av ordin\u00e6re s\u00f8kemotorer, som har problemer med \u00e5 lese (og analysere) faglige tekster, har problem med \u00e5 skrive akademiske tekster og er d\u00e5rlig p\u00e5 \u00e5 tenke strukturert, kan ChatGPT og lignende samtaleroboter bli en h\u00f8yst usikker st\u00f8tte som ytterligere fremhever disse brukernes svakheter isteden for \u00e5 l\u00f8fte dem kunnskapsmessig. \u00c5 bruke slike verkt\u00f8y effektivt krever mye kunnskap, ikke bare om det tema man \u00f8nsker \u00e5 s\u00f8ke p\u00e5 men ogs\u00e5 evnen til \u00e5 lese de genererte tekstene n\u00f8ye og kritisk, og deretter utf\u00f8re s\u00f8k p\u00e5 nett eller i b\u00f8ker for \u00e5 sjekke validiteten av det samtaleroboten har produsert.<\/li>\n<\/ol>\n\n\n\n

          Helsemessige problemstillinger<\/strong><\/p>\n\n\n\n

            \n
          1. Avhengighetsskapende<\/strong>: Samtalerobotenes design, der det virker som om programmet «snakker» direkte til brukeren og de raske statistiske beregningene som bringer frem tilsynelatende fakta, kan gj\u00f8re brukere avhengig<\/a> av programmet til alle typer oppgaver. Dette kan igjen f\u00f8re til redusert kritisk tenkning, kreativitet og probleml\u00f8sning, samt en \u00f8kende usikkerhet p\u00e5 egen evne til \u00e5 finne frem til fakta eller formulere tekst.<\/li>\n\n\n\n
          2. Forsterkning av psykiske lidelser<\/strong>: Siden en samtalerobot kun er et sett med programlinjer utelukkende konstruert for \u00e5 formulere setninger, kan programmet ikke «oppdage» tegn p\u00e5 psykiske lidelser. Dermed kan de statistisk genererte formuleringene gi n\u00e6ring til negative f\u00f8lelser, bekrefte eksisterende tvil og forsterke destruktive tanker.<\/li>\n\n\n\n
          3. Overavhengighet av teknologi blant leger<\/strong>: Mens de gamle «ekspertsystemene» var programmert for \u00e5 kunne v\u00e6re en st\u00f8tte for leger, er det tegn som tyde p\u00e5 at nye assistent-verkt\u00f8y f\u00f8rer til at leger i mindre grad enn f\u00f8r oppdager helesproblemer, som f.eks. svulst. P\u00e5 sikt kan dette svekke pasientsikkerheten.<\/li>\n<\/ol>\n\n\n\n

            Det overforst\u00e5ende er bare noen problemomr\u00e5der som gir grunn til bekymring.<\/p>\n\n\n\n

            For mer om det rent beredskapsmessige se: Trusler i det digitale rom \u2013 KI eller ganske enkelt the usual suspects?<\/strong><\/a> og Den farlige dr\u00f8mmen om KI<\/strong><\/a><\/p>\n\n\n\n

            I neste kapittel skal vi se litt n\u00e6rmere p\u00e5 dette med samtaleroboter og utdanning, og da s\u00e6rlig h\u00f8yere utdanning. Betyr ChatGPT og lignende verkt\u00f8y slutten for alle typer eksamen utenom den klassiske skoleeksamen med penn og papir?<\/p>\n\n\n\n

            Microsoft Copilot oppsummerer sitatene fra dette kapittelet<\/a><\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

            Men f\u00f8r vi g\u00e5r videre; litt mer lesestoff knyttet til etiske, juridiske, l\u00e6ringsmessige, sikkerhetsmessige og helsemessige problemstillinger.<\/p>\n\n\n\n

            LESELISTE<\/strong> TIL DETTE KAPITTELET<\/h4>\n\n\n\n

            Generelt<\/strong><\/p>\n\n\n\n

              \n
            1. International Scientific Report on the Safety of Advanced AI<\/a><\/li>\n\n\n\n
            2. What are the risks from Artificial Intelligence?<\/a><\/li>\n\n\n\n
            3. KI er ikke din venn<\/a><\/li>\n<\/ol>\n\n\n\n

              Etiske problemstillinger<\/strong><\/p>\n\n\n\n

                \n
              1. \u2018Thirsty\u2019 ChatGPT uses four times more water than previously thought<\/a><\/li>\n\n\n\n
              2. Kunstig intelligens f\u00e5r skylden for et enormt str\u00f8mforbruk den ikke har<\/a><\/li>\n\n\n\n
              3. The ethical implications of using generative chatbots in higher education<\/a><\/li>\n\n\n\n
              4. Unethical and reliable: Why I’m not allowing ChatGPT in my firm<\/a><\/li>\n\n\n\n
              5. Ett \u00e5r med ChatGPT<\/a><\/li>\n\n\n\n
              6. Kirurger som danser<\/a><\/li>\n\n\n\n
              7. Kunstig intelligens: Innholdet er laget av menn. Algoritmene er laget av menn<\/a><\/li>\n\n\n\n
              8. Ett \u00e5r med ChatGPT: Etiske blindsoner, eller lukkede \u00f8yne?<\/a><\/li>\n\n\n\n
              9. \u2018It\u2019s destroyed me completely\u2019: Kenyan moderators decry toll of training of AI models<\/a><\/li>\n\n\n\n
              10. Etikk-eksperter: \u2013 V\u00e6r varsom ved bruk av kunstig intelligens<\/a><\/li>\n\n\n\n
              11. The ethics of ChatGPT \u2013 Exploring the ethical issues of an emerging technology<\/a><\/li>\n\n\n\n
              12. Kunstig intelligens: Venn og hjelper, eller hyperkommersiell trussel?<\/a><\/li>\n<\/ol>\n\n\n\n

                Juridiske problemstillinger<\/strong><\/p>\n\n\n\n

                  \n
                1. Ikke lov \u00e5 bruke ChatGPT i skolen n\u00e5r aldersvilk\u00e5ret er 18 \u00e5r<\/a><\/li>\n\n\n\n
                2. OpenAI’s ChatGPT is Breaking GDPR, Says Noyb<\/a><\/li>\n\n\n\n
                3. Status of all copyright lawsuits v. AI<\/a><\/li>\n\n\n\n
                4. Er ChatGPT plagiat? \u2013 Opphavsrett og Chatbot\/ AI<\/a><\/li>\n\n\n\n
                5. Hvilke juridiske problemstillinger kan oppst\u00e5 i forbindelse med kunstig intelligens?<\/a><\/li>\n\n\n\n
                6. OpenAI Sued for Using Copyrighted Material to Train ChatGPT<\/a><\/li>\n\n\n\n
                7. Hvem eier innholdet som lages av kunstig intelligens?<\/a><\/li>\n\n\n\n
                8. Employers Should Consider These Risks When Employees Use ChatGPT<\/a><\/li>\n\n\n\n
                9. ChatGPT is a data privacy nightmare. If you\u2019ve ever posted online, you ought to be concerned<\/a><\/li>\n\n\n\n
                10. Kunstig intelligens, digitalt krater og oss<\/a><\/li>\n<\/ol>\n\n\n\n

                  L\u00e6ringsmessige problemstillinger<\/strong><\/p>\n\n\n\n

                    \n
                  1. Nei, elever med chatboter l\u00e6rer ikke mer!<\/a><\/li>\n\n\n\n
                  2. Tech Giants Pushing AI Into Schools Is a Huge, Ethically Bankrupt Experiment on Innocent Children That Will Likely End in Disaster<\/a><\/li>\n\n\n\n
                  3. KI-hallusinasjoner har kommet for \u00e5 bli \u2013 det gj\u00f8r chatboter utfordrende \u00e5 bruke i oppl\u00e6ring<\/a><\/li>\n\n\n\n
                  4. Studentenes tekstlige identitetskrise<\/a><\/li>\n\n\n\n
                  5. Bekymret for studenters KI-bruk: \u00abNiv\u00e5et er lavere n\u00e5\u00bb<\/a><\/li>\n\n\n\n
                  6. AI makes you smarter but none the wiser: The disconnect between performance and metacognition<\/a><\/li>\n\n\n\n
                  7. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task<\/a><\/li>\n\n\n\n
                  8. The Impact of Large Language Models on Programming Education and Student Learning Outcomes<\/a><\/li>\n\n\n\n
                  9. How ChatGPT Robs Students of Motivation to Write and Think for Themselves<\/a><\/li>\n\n\n\n
                  10. Is it harmful or helpful? Examining the causes and consequences of generative AI usage among university students<\/a><\/li>\n\n\n\n
                  11. Unge meninger: F\u00e5 ChatGPT ut av klasserommet!<\/a><\/li>\n\n\n\n
                  12. Tenke sj\u00e6l<\/a><\/li>\n\n\n\n
                  13. Kunstig intelligens: Er vi smarte nok ?<\/a><\/li>\n\n\n\n
                  14. Hvordan svarer ChatGPT om kontroversielle temaer?<\/a><\/li>\n<\/ol>\n\n\n\n

                    Sikkerhetsmessige problemstillinger<\/strong><\/p>\n\n\n\n

                      \n
                    1. Falske folkebevegelser truer demokratiet<\/a><\/li>\n\n\n\n
                    2. KI sprer s\u00f8ppel p\u00e5 nett: \u2013 Er det vi mennesker eller maskinene som faktisk utgj\u00f8r demokratiet?<\/a><\/li>\n\n\n\n
                    3. When it comes to security, LLMs are like Swiss cheese \u2014 and that\u2019s going to cause huge problems<\/a><\/li>\n\n\n\n
                    4. THE DARK SIDE OF LARGE LANGUAGE MODELS<\/a> (2 deler)<\/li>\n\n\n\n
                    5. CHATGPT – EN TRUSSEL MOT DEMOKRATIET<\/a><\/li>\n\n\n\n
                    6. ChatGPT, Grok, Gemini and other AI chatbots are spewing Russian misinformation, study finds<\/a><\/li>\n\n\n\n
                    7. Social engineering with ChatGPT<\/a> (.pdf)<\/li>\n\n\n\n
                    8. Security threats in AIs such as ChatGPT revealed by researchers<\/a><\/li>\n\n\n\n
                    9. Is ChatGPT a cybersecurity threat?<\/a><\/li>\n\n\n\n
                    10. Unveiling the Dark Side of ChatGPT: Exploring Cyberattacks and Enhancing User Awareness<\/a><\/li>\n\n\n\n
                    11. 11 Convincing ChatGPT and AI Scams to Watch out for in 2024<\/a><\/li>\n<\/ol>\n\n\n\n

                      Helsemessige problemstillinger<\/strong><\/p>\n\n\n\n

                        \n
                      1. Blir leger d\u00e5rligere med KI?<\/a><\/li>\n\n\n\n
                      2. Psychiatrists Warn That Talking to AI Is Leading to Severe Mental Health Issues<\/a><\/li>\n\n\n\n
                      3. The Dark Addiction Patterns of Current AI Chatbot Interfaces<\/a><\/li>\n\n\n\n
                      4. Psychiatric Researchers Warn of Grim Psychological Risks for AI Users<\/a><\/li>\n\n\n\n
                      5. As AI becomes more popular, concerns grow over its effect on mental health<\/a><\/li>\n\n\n\n
                      6. Can ChatGPT Be Addictive? A Call to Examine the Shift from Support to Dependence in AI Conversational Large Language Models<\/a><\/li>\n<\/ol>\n\n\n\n
                        <Forrige kapittel<\/a><\/strong><\/td>\"\"<\/a><\/td>Neste kapittel<\/a>><\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n","protected":false},"excerpt":{"rendered":"

                        Current AI-systems are patient, amoral, and fantastic at mimicry, making them among the greatest tools in history for generating mis- and disinformation\u2014the latter of which is a tremendous weapon, not necessarily for its ability to persuade and convince, but for its ability to sow chaos. This, rather than some intelligence breakthrough, may well be the … Fortsett \u00e5 lese \u00abKap 8 En sverm av djevler klokken tre\u00bb<\/span><\/a><\/p>\n","protected":false},"author":11,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"coauthors":[2],"class_list":["post-2444","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2444","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/comments?post=2444"}],"version-history":[{"count":164,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2444\/revisions"}],"predecessor-version":[{"id":7879,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2444\/revisions\/7879"}],"wp:attachment":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/media?parent=2444"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/coauthors?post=2444"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}