{"id":2362,"date":"2023-12-03T10:46:40","date_gmt":"2023-12-03T09:46:40","guid":{"rendered":"https:\/\/site.nord.no\/didaktiskebetraktninger\/?page_id=2362"},"modified":"2025-11-07T09:53:14","modified_gmt":"2025-11-07T08:53:14","slug":"3-en-tjenende-and-eller-en-falsk-lurendreier","status":"publish","type":"page","link":"https:\/\/site.nord.no\/didaktiskebetraktninger\/3-en-tjenende-and-eller-en-falsk-lurendreier\/","title":{"rendered":"Kap. 4 En tjenende \u00e5nd eller en falsk lurendreier?"},"content":{"rendered":"\n

People think of computers as being these super intelligent beings. They are smarter than us, they know far more facts than us, and we should trust them to make decisions for us. But they\u2019re just pattern finders<\/em><\/p>Professor Gary Smith, 2023 (1<\/a>)<\/cite><\/blockquote><\/figure>\n\n\n\n

<\/p>\n\n\n\n

«Jeg liker ikke \u00e5 kalle det kunstig intelligens<\/em>.\u00bb
– Roger Olafsen, fagleder Data Science AML, DNB,2022 (2<\/a>)<\/p>\n\n\n\n

«Large Language Models (LLMs) actually do something quite simple. They take a given sequence of words and predict the next likely word to follow. Do that recursively, and add in a little extra noise each time you make a prediction to ensure your results are non-deterministic, and voila! You have yourself a \u201cgenerative AI\u201d product like ChatGPT.<\/em>\u00bb
– Jason Flaks, 2023 (3<\/a>)<\/p>\n\n\n\n

«Generative AI might produce superficially impressive results at first blush, but it is not revolutionary; it does not present a dramatic historical or technical break with the past. It does not \u201cmove\u201d or \u201cevolve\u201d on its own. \u201cLimited memory\u201d AI (that is, AI that can store experiences acquired over time) may have superseded the chess-playing \u201creactive machines\u201d of the 1990s (i.e., AI with no \u201cpast,\u201d only task-based responses), but it still requires active and passive human labor to change and develop. The much-lauded \u201cintelligence\u201d produced by various training models is limited and dependent on humans.<\/em>\u00bb
– R.H. Lossin, PhD. og J. Resnikoff, PhD., 2024 (4<\/a>)<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

ChatGPT er ikke noe annet enn en videreutviklet<\/a> (og mer avansert) versjon av det gode gamle psykologi-programmet ELIZA<\/a>, som utnytter dine egne formuleringer i sine svar og gir inntrykk av at det skj\u00f8nner hva du snakker om. Det gj\u00f8r det selvsagt ikke. Det systemet gj\u00f8r er \u00e5 «gjette» seg til (via statistiske beregninger) hvilken rekkef\u00f8lge av bokstaver du vil ha, og svaret st\u00e5r og faller p\u00e5 hvorvidt de data systemet har er korrekte. De f\u00f8rste utgavene av denne samtaleroboten husket heller ikke uten videre tidligere samtaler med deg og det programmet virket \u00e5 ha «l\u00e6rt» forrige gang du snakket med det, var glemt neste gang du logget inn og stilte samme sp\u00f8rsm\u00e5l om samme tema.<\/p>\n\n\n\n

Men etter hvert som b\u00e5de ChatGPT og de andre samtalerobotene ble videreutviklet, ble det tydeligere at alle «samtaler» ble lagret og de nyeste versjonene av f.eks. ChatGPT kan basere sine statistiske beregninger av mulige bokstavsammensetninger p\u00e5 tidligere interaksjoner<\/a>.<\/p>\n\n\n\n

Dette med at systemet kan «l\u00e6re<\/a>» fra sine brukere er selvsagt et fascinerende konsept for en som jobber med bevisstgj\u00f8ring innen informasjonssikkerhet. Jeg kan ikke hjelpe for \u00e5 tenke hvor lett det er \u00e5 mate systemet med falsk informasjon om emner den i utgangspunktet ikke har en fullstendig datasamling om. Skj\u00f8nt, per 2025 er det jo ikke n\u00f8dvendig \u00e5 «mate» en samtalerobot direkte med falske nyheter. Det klarer systemet godt selv<\/a> via sine internetts\u00f8k.<\/p>\n\n\n\n

I et av mine fors\u00f8k ber jeg systemet fortelle meg hvilke kilder det har lagt til grunn for sitt svar og responsen var som f\u00f8lger:<\/p>\n\n\n\n

«As an AI language model, I do not have access to external sources of information. However, the information I provided is based on common knowledge and understanding of the topic.<\/em>\u00bb<\/p>\n\n\n\n

P\u00e5 mitt sp\u00f8rsm\u00e5l om hvordan den kan vite at sitt svar var basert p\u00e5 allmenn kunnskap og forst\u00e5else for emnet, svarte det:<\/p>\n\n\n\n

«As a language model, I have been trained on a large dataset of text and have learned to generate human-like responses based on the patterns and information contained in that dataset. This allows me to provide responses to a wide range of questions on a variety of topics.<\/em>\u00bb<\/p>\n\n\n\n

Som vi ser klarer ikke ChatGPT helt \u00e5 svare p\u00e5 hvordan systemet rent konkret kan vite at dets svar er basert p\u00e5 «allmenn kunnskap<\/em>\u00bb.<\/p>\n\n\n\n

Og hvordan har den s\u00e5 f\u00e5tt inn alle disse dataene, lurte jeg s\u00e5 p\u00e5.<\/p>\n\n\n\n

«I was not given any specific datasets of text. Rather, I was trained on a large dataset of text that was compiled and curated by OpenAI. This dataset includes a wide range of texts, including books, articles, and websites, and covers a wide variety of topics. During my training, I was able to learn and understand the patterns and structures of language, as well as the general knowledge and common understanding of many different subjects. This allows me to generate responses to a wide range of questions and to provide information on a wide variety of topics.<\/em>\u00bb<\/p>\n\n\n\n

Svarene over er nok et eksempel p\u00e5 at systemet ikke har noen form for refleksjonsevne, og det som fremkommer er kun en logisk sammensetning av ord som passer med dets datagrunnlag. Dette er ingen overraskelse siden et digitalt verkt\u00f8y, uansett hvor avansert det er, ikke kan g\u00e5 utenom det sett av «handlinger» det er programmert til \u00e5 utf\u00f8re.<\/p>\n\n\n\n

Likevel er det stadig en boblende begeistring og optimisme \u00e5 spore, iblandet panikk og dommedagsprofetier, for samtaleroboter og store spr\u00e5kmodeller. Slike verkt\u00f8y kan nemlig med letthet klare en mastergrad! Eller kan de det?<\/p>\n\n\n\n

Microsoft Copilot oppsummerer sitatene fra dette kapittelet<\/a><\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

Leseliste<\/h4>\n\n\n\n
    \n
  1. Why Machine Learning is not Artificial Intelligence?<\/a><\/li>\n\n\n\n
  2. Chatbots Don\u2019t Know What Stuff Isn\u2019t<\/a><\/li>\n\n\n\n
  3. The stupidity of AI<\/a><\/li>\n\n\n\n
  4. Why ChatGPT and Bing Chat are so good at making things up<\/a><\/li>\n\n\n\n
  5. From Eliza to ChatGPT: why people spent 60 years building chatbots<\/a><\/li>\n<\/ol>\n\n\n\n
    <Forrige kapittel<\/a><\/strong><\/td>\"\"<\/a><\/td>Neste kapittel<\/a>><\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n","protected":false},"excerpt":{"rendered":"

    People think of computers as being these super intelligent beings. They are smarter than us, they know far more facts than us, and we should trust them to make decisions for us. But they\u2019re just pattern finders Professor Gary Smith, 2023 (1) «Jeg liker ikke \u00e5 kalle det kunstig intelligens.\u00bb– Roger Olafsen, fagleder Data Science … Fortsett \u00e5 lese \u00abKap. 4 En tjenende \u00e5nd eller en falsk lurendreier?\u00bb<\/span><\/a><\/p>\n","protected":false},"author":11,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"coauthors":[2],"class_list":["post-2362","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2362","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/comments?post=2362"}],"version-history":[{"count":32,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2362\/revisions"}],"predecessor-version":[{"id":7149,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2362\/revisions\/7149"}],"wp:attachment":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/media?parent=2362"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/coauthors?post=2362"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}