{"id":2574,"date":"2023-12-08T09:10:16","date_gmt":"2023-12-08T08:10:16","guid":{"rendered":"https:\/\/site.nord.no\/didaktiskebetraktninger\/?page_id=2574"},"modified":"2026-01-27T14:29:11","modified_gmt":"2026-01-27T13:29:11","slug":"innledning","status":"publish","type":"page","link":"https:\/\/site.nord.no\/didaktiskebetraktninger\/innledning\/","title":{"rendered":"Kap 1 Innledende betraktninger"},"content":{"rendered":"\n

What is the problem for which LLMs are the solution?<\/em><\/p>Jeffrey Bilbro, PhD, 2023 (1<\/a>)<\/cite><\/blockquote><\/figure>\n\n\n\n

<\/p>\n\n\n\n

«S\u00e5 hva er kunstig intelligens? F\u00f8rst og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet v\u00e6rt en skuffelse, fordi ordet \u00abintelligens\u00bb antyder et l\u00f8fte disse l\u00f8sningene aldri har v\u00e6rt i n\u00e6rheten av \u00e5 innfri. Samtidig er ideer derfra blitt brukt til \u00e5 lage IT-l\u00f8sninger i flere ti\u00e5r<\/em>.\u00bb<\/em>
– Bj\u00f8rn St\u00e6rk, 2023 (2<\/a>)<\/p>\n\n\n\n

«A system that most of us would think of as real AI \u2013 something that can, more or less, think like us \u2013 is known in Computer Science as Generalised Artificial Intelligence, and it is nowhere on the horizon. The term Artificial Intelligence is used instead to apply to anything produced using techniques designed in the quest for real AI. It\u2019s not intelligent. It just does some stuff that AI researchers came up with, and that might look a bit smart. In dim light. From the right angle. If you squint<\/em>.\u00bb<\/em>
– Linda McIver, PhD, 2023 (3<\/a>)<\/p>\n\n\n\n

«One problem with the term \u201cartificial intelligence\u201d is that it gets tossed around so carelessly. The current AI chatbot narrative centers around the use of natural language processing (NLP), for example, but Google Search has been using NLP in its search results for a long time. AI is a marketing term used to generate hype, and the tech media is buying right into it<\/em>.\u00bb<\/em>
– Skyler Schain, 2023 (4<\/a>)<\/p>\n\n\n\n

«Contrary to the impression they might create, LLMs are not built for complex reasoning.\u00bb<\/em>
– Mikhail Burtsev, Martin Reeves, og Adam Job, 2023 (5<\/a>)<\/p>\n\n\n\n

«Today\u2019s AI systems \u2013 particularly generative AI tools such as ChatGPT \u2013 are not truly intelligent. What\u2019s more, there is no evidence they can become so without fundamental changes to the way they work<\/em>.\u00bb<\/em>
– Professor Paul Compton, 2024 (6<\/a>)<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

La oss starte med f\u00f8lgende p\u00e5stand:<\/strong><\/p>\n\n\n\n

ChatGPT, Microsoft CoPilot og lignende samtaleroboter er ikke<\/em> eksempler p\u00e5 Kunstig Intelligens<\/a> (KI). Dette er verkt\u00f8y som baserer seg p\u00e5 statistiske beregninger. De er som store og avanserte dataspill, der du som spiller f\u00e5r f\u00f8lelsen av at det ikke finnes noen begrensninger p\u00e5 hvor du kan g\u00e5 eller hva du kan gj\u00f8re. Men man skal ikke utforske en slik avansert spillverden s\u00e6rlig mye f\u00f8r en ser at i virkeligheten f\u00e5r man kun g\u00e5 og gj\u00f8re det spillets utviklere har bestemt. Slik er det ogs\u00e5 med ChatGPT og lignende verkt\u00f8y. De utf\u00f8rer fantastisk hurtige statistiske beregninger av tilgjengelig informasjon og sannsynlig sammensetning av bokstaver, men alt systemene gj\u00f8r er bestemt p\u00e5 forh\u00e5nd av programkode.<\/p>\n\n\n\n

Alts\u00e5<\/strong>: Samtaleroboter, og de spr\u00e5kmodeller de er basert p\u00e5, er designet for \u00e5 etterligne menneskelig spr\u00e5kforst\u00e5else og spr\u00e5kbruk, men de er fortsatt begrenset av de teknologiske og vitenskapelige prinsippene de (og all annen informasjonsteknologi) er bygget p\u00e5. <\/p>\n\n\n\n

S\u00e5 selv om samtaleroboter kan utf\u00f8re til dels imponerende oppgaver og gi inntrykk av \u00e5 forst\u00e5 og resonnere, er de rett og slett program som f\u00f8lger forh\u00e5ndsdefinerte algoritmer og m\u00f8nstre<\/em>. De kan kun<\/em> analysere og generere tekst basert p\u00e5 m\u00f8nstre i dataene de har f\u00e5tt lagt inn<\/a> og de parametre for tolkning (inklusive stikkord for ting programmet skal unng\u00e5<\/a>) som er innprogrammert, men de har ingen egen forst\u00e5else eller bevissthet<\/em>.<\/p>\n\n\n\n

Samtaleroboter kan alts\u00e5 ikke tenke, de kan ikke resonere<\/a> og de foretar absolutt ingen analyser av verken det brukeren sp\u00f8r om eller de «svar» programkoden l\u00f8fter frem. Dermed f\u00f8lger det rent logisk, s\u00e5 vel som teknisk, at en samtalerobot ikke kan «f\u00f8re mennesker bak lyset<\/em><\/a>» eller frykte \u00e5 bli erstattet av en annen modell eller sl\u00e5tt av. <\/p>\n\n\n\n

Som professor Gary Marcus sier i sin kommentar<\/a> til forskningsartikkelen «Frontier Models are Capable of In-context Scheming<\/a>\u00bb<\/em>; – «Yes, LLMs can do all this even if they are essentially just analogizing regurgitation machines with no real world model. They have lots of examples in the database \u2014 and little capacity to compute the internal consistency of their own actions. Worse, they do not actually calculate the consequences of their actions at all. They can\u2019t reliably sanity check themselves for hallucinations, and they can\u2019t reliably sanity check for whether what they are doing is harmful<\/em>.\u00bb<\/em><\/p>\n\n\n\n

N\u00e5r vi leser denne type unders\u00f8kelser, gjerne via media, m\u00e5 vi huske p\u00e5 at samtaleroboter er dataprogram<\/em> laget for \u00e5 reproduserer ikke bare grammatiske og leksikalske m\u00f8nstre, men ogs\u00e5 typiske m\u00f8nstre for hele sjangre, type fortellinger, osv. Dette gj\u00f8r de helt uten noen form for egen tankevirksomhet eller hensikt. De g\u00e5r bare gjennom settene med bokstaver, setter dem sammen til statistisk sannsynlige setninger og deretter i en dertil egnet samtaleform, basert p\u00e5 m\u00f8nstrene de er blitt programmert med. <\/p>\n\n\n\n

Dersom forskere (eller andre brukere) legger inn kommandoer\/ promting som gir m\u00f8nstre som statistisk sett peker mot «bedrag», alts\u00e5 det \u00e5 nekte for noe eller p\u00e5st\u00e5 noe, eller foreta handlinger som flytting av data ol. (handlinger som alts\u00e5 allerede ligger innprogrammert som del av et, eller flere, handlingssett<\/em>), s\u00e5 vil verkt\u00f8yet utf\u00f8re denne type «handling\/ handlinger». <\/p>\n\n\n\n

Det at et verkt\u00f8y kan utf\u00f8re handlinger de er programmert for, er ikke<\/em> et tegn p\u00e5 at de er «intelligente» i betydningen av at de tenker og handler p\u00e5 egenh\u00e5nd.<\/p>\n\n\n\n

Jeg er ikke alene, verken nasjonalt eller internasjonalt, om \u00e5 mene at ChatGPT og lignende spr\u00e5kmodeller overhode ikke er «intelligente»<\/a>.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

«Den superintelligente KI-en har p\u00e5 en m\u00e5te alle Guds egenskaper: Den er allmektig, allvitende, og enten velvillig, eller s\u00e5 er den Djevelen og du er i dens n\u00e5de. Som i enhver sekt er det ogs\u00e5 en f\u00f8lelse av hastverk. Du m\u00e5 handle n\u00e5! Verdens skjebne st\u00e5r p\u00e5 spill! Og selvf\u00f8lgelig trenger du penger!\u00bb<\/em>
– Inga Str\u00fcmke, PhD. og Anders L\u00f8land, PhD., 2024 (7<\/a>)<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Hvis vi skal sette noen merkelapp p\u00e5 OpenAI sin ChatGPT og de andre samtalerobotene vi er blitt presentert for gjennom de siste \u00e5rene, s\u00e5 kan det kanskje (med store<\/em> modifikasjoner) bli «ekspertsystemer<\/a>\u00bb<\/em>. Men ChatGPT og lignende systemer er ikke ekspertsystemer i tradisjonell forstand. Selv om de kan gi informasjon og svare p\u00e5 sp\u00f8rsm\u00e5l, mangler de den eksplisitte kunnskapsrepresentasjonen som er karakteristisk for ekspertsystemer.<\/p>\n\n\n\n

Vi kan heller ikke kalle dem for s\u00f8kemotorer, i betydningen av at verkt\u00f8yet henter frem lenker til websider, dokumenter ol. som passer til s\u00f8keordet eller setningen. ChatGPT og lignende verkt\u00f8y kan sammenfatte informasjon fra ulike kilder og presentere noe som ser ut som et svar, og i de nyeste versjonene viser de til kilder. Men ved n\u00e6rmere ettersyn er det ikke alltid kildene er relevante, eller rent faktisk inneholder samme informasjon som det svar samtaleroboten gir.<\/p>\n\n\n\n

S\u00e5 kanskje vi ganske enkelt skal venne oss til f\u00f8lgende:<\/strong><\/p>\n\n\n\n

    \n
  1. Kalle<\/strong> disse verkt\u00f8yene samtaleroboter<\/em>. <\/li>\n\n\n\n
  2. Vite<\/strong> at n\u00e5r noe kalles samtalerobot<\/em>, s\u00e5 betyr det digitale system basert p\u00e5 spr\u00e5kmodeller<\/em> og som er programmert til \u00e5 foreta statistiske beregninger av sannsynlig \u00f8nsket informasjon og gi et output best\u00e5ende av statistisk beregnede sammensetninger av bokstaver som til sammen utgj\u00f8r en menneskelignende fremstilling av tilsynelatende korrekt informasjon.<\/li>\n\n\n\n
  3. Vite<\/strong> at fremstillingen fra disse verkt\u00f8yene er uten noen form for faglig analyse av validitet – verken i forhold til sp\u00f8rsm\u00e5let, innhentet informasjon og dets kilder eller resultatet (svaret).<\/li>\n\n\n\n
  4. Vite<\/strong> at samtaleroboter ikke forst\u00e5r hva vi sp\u00f8r om<\/em> og heller ikke forst\u00e5r svaret de presenterer<\/em>.<\/li>\n<\/ol>\n\n\n
    \n
    \"\"<\/figure>\n<\/div>\n\n\n

    «This is always a huge frustration for me. Even within groups that actually use AI more, and even engineers, I hear them talking about \u201creasoning\u201d<\/em>.<\/p>\n\n\n\n

    But we know and have known how LLMs work\u2014and some of the results are super impressive! But they are fancy auto-completes that simulate having the ability to think, and those of us that use and actually build some of them should know\u2014it\u2019s a bunch of matrix multiplication to learn associations<\/em>.<\/p>\n\n\n\n

    I respect the idea of emergent properties and this paper does a good job addressing it, but it\u2019s just incredibly frustrating to hear people being loose with language who should know better. Including OpenAI with their new models<\/em>.\u00bb<\/em>
    – James Wang, 2024 (    8<\/a>)<\/p>\n\n\n

    \n
    \"\"<\/figure>\n<\/div>\n\n\n
    Microsoft Copilot oppsummerer sitatene fra dette kapittelet<\/a><\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

    F\u00f8r du leser videre i denne bloggboken, b\u00f8r du lese litt om b\u00e5de KI generelt og hvordan verkt\u00f8y som ChatGPT rent konkret fungerer.<\/p>\n\n\n\n

    Leseliste<\/h4>\n\n\n\n

    Innledende<\/strong><\/em><\/h5>\n\n\n\n
      \n
    1. Why AI is not a science<\/a><\/li>\n\n\n\n
    2. Om kunstig intelligens<\/a><\/li>\n\n\n\n
    3. The history of artificial intelligence<\/strong>, Del 1<\/a>, Del 2<\/a> og Del 3<\/a><\/li>\n\n\n\n
    4. Understanding the different types of artificial intelligence<\/a><\/li>\n\n\n\n
    5. Artificial intelligence: How is it different from human intelligence?<\/a><\/li>\n\n\n\n
    6. Viewpoint: When Will AI Exceed Human Performance? Evidence from AI Experts<\/a><\/li>\n<\/ol>\n\n\n\n
      Spesifikt<\/em><\/h5>\n\n\n\n
        \n
      1. Dear laymen, here\u2019s what you got wrong about AI or LLM<\/a><\/li>\n\n\n\n
      2. The Statistical Magic Behind Chat GPT:How AI Learns to Talk<\/a><\/li>\n\n\n\n
      3. How Large Language Models work – From zero to ChatGPT<\/a><\/li>\n\n\n\n
      4. How does ChatGPT generate human-like text?<\/a><\/li>\n\n\n\n
      5. Unraveling the mysteries of AI chatbots<\/a><\/li>\n<\/ol>\n\n\n\n

        <\/p>\n\n\n

        \n
        \"\"<\/a><\/figure>\n<\/div>\n\n\n

        <Til Prolog<\/a> \/<\/strong> Neste kapittel<\/strong><\/a>><\/strong><\/p>\n\n\n\n

        <\/p>\n","protected":false},"excerpt":{"rendered":"

        What is the problem for which LLMs are the solution? Jeffrey Bilbro, PhD, 2023 (1) «S\u00e5 hva er kunstig intelligens? F\u00f8rst og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet v\u00e6rt en skuffelse, fordi ordet \u00abintelligens\u00bb antyder et l\u00f8fte disse l\u00f8sningene aldri har v\u00e6rt i n\u00e6rheten av \u00e5 innfri. … Fortsett \u00e5 lese \u00abKap 1 Innledende betraktninger\u00bb<\/span><\/a><\/p>\n","protected":false},"author":11,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"coauthors":[2],"class_list":["post-2574","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2574","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/comments?post=2574"}],"version-history":[{"count":127,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2574\/revisions"}],"predecessor-version":[{"id":7531,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/pages\/2574\/revisions\/7531"}],"wp:attachment":[{"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/media?parent=2574"}],"wp:term":[{"taxonomy":"author","embeddable":true,"href":"https:\/\/site.nord.no\/didaktiskebetraktninger\/wp-json\/wp\/v2\/coauthors?post=2574"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}