Kap. 2 Whoops apocalypse – Didaktiske betraktninger

«Generell kunstig intelligens? Glem det Vi er ikke i nærheten av det, og kommer ikke til å være i nærheten av det på flere hundre år.»
– Professor Morten Irgens, 2019 (1)

«GPT does not understand the input; it simply provides the most likely output.»
– Dr. Martin Stytz, 2023 (2)

«Once you understand how it works, it becomes clear that ChatGPT’s functionality is crudely reducible to the following: it can write grammatically-correct text about an arbitrary combination of known subjects in an arbitrary combination of known styles, where “known” means it encountered it sufficiently many times in its training data.»
– Professor Cal Newport, 2023 (3)

«Behind the glittering facade of their linguistic performances, there is no real intelligence, no inference and problem solving ability disconnected from the data on which they were trained. Nothing.»
– Gianluca Riccio, 2024 (4)

I slutten på 2022 dukket det opp nyheter om et (såkalt) KI-system som enkelte mente kunne true eksamenskonseptet i både grunn,- videregående og høyere utdanning. Trusselen bestod i, hevdet man, et system som ga korrekte svar på eksamensoppgaver og som kunne produsere tekst til f.eks. en stil. Ja, ifølge en nyhetsmelding fra NRK kan dette systemet sågar skrive artikler. Det var så en kunne føle utdannings-Norge ryste i sine grunnvoller. Var den akademiske ende nær?

Da jeg studerte informasjonsvitenskap tilbake i nittenhundre og pil og bue var KI selvsagt et viktig fagemne, så min nysgjerrighet ble naturlig nok vekket av de ulike medieoppslagene om dette magiske datasystemet.

Hovedpersonen i all viraken var ikke en av apokalypsens ryttere, men Open AI sin ChatGPT. Dette er en samtalerobot som kan «forstå» (i betydningen «gjenkjenne» vha. statistiske beregninger over innlagt menneskeskapt informasjon) og generere menneskelignende tekst og ble bygget ved hjelp av en kombinasjon av maskinlæringsteknikker og store datamengder.

I de følgende kapitlene beskriver jeg ulike tester knyttet til blant annet noen arbeidskrav fra IKT og læringsstudiene og fra ORG5005, og jeg viser hvordan både ChatGPT og noen lignende system har store svakheter. Så store at det blir, sett med mine fagøyne, latterlig å snakke om seriøs kunstig intelligens i forbindelse med disse systemene i sin nåværende form.

La oss begynne med å la ChatGPT presentere seg selv:

Jeg er en kunstig intelligens skapt av OpenAI kalt GPT-3.5. Jeg er utviklet for å forstå og generere menneskelig-lignende tekst basert på den informasjonen jeg ble trent på. Min kunnskap strekker seg frem til januar 2022, og jeg har ikke evnen til å oppleve verden på samme måte som mennesker. Jeg er her for å hjelpe deg ved å svare på spørsmål og generere tekstbasert innhold basert på dine henvendelser.

Så ChatGPT betegner seg selv som en «kunstig intelligens». La oss så se hvordan denne språkmodellen definerer kunstig intelligens:

Kunstig intelligens (KI) refererer til evnen til datamaskiner eller maskiner til å utføre oppgaver som vanligvis krever menneskelig intelligens. Vitenskapelige krav for kunstig intelligens kan variere, men det er noen grunnleggende egenskaper og kriterier som ofte inngår i definisjonene:

Læringsevne: Kunstig intelligens bør være i stand til å lære fra data og erfaringer, slik at ytelsen forbedres over tid uten ekstra programmering.
Rasjonalitet: KI-systemet skal kunne handle rasjonelt, det vil si å ta beslutninger som maksimerer sannsynligheten for å oppnå et gitt mål.
Forståelse av komplekse sammenhenger: KI bør være i stand til å forstå komplekse sammenhenger og trekke konklusjoner basert på tilgjengelig informasjon.
Selvstendighet: KI-systemet bør kunne operere autonomt, uten konstant menneskelig tilsyn.
Evne til å takle usikkerhet og feil: Kunstig intelligens bør være i stand til å håndtere usikkerhet og feil, og tilpasse seg endringer i miljøet eller i oppgaven den utfører.
Evne til å forstå naturlig språk: Dette inkluderer tolkning av språk, generering av meningsfullt svar og kanskje til og med deltakelse i naturlige språkdialoger.
Oppfatning: KI-systemet bør kunne oppfatte og forstå informasjon fra omverdenen, for eksempel gjennom bruk av sensorer eller bilde- og lydbehandling.

Det er viktig å merke seg at definisjonen av kunstig intelligens kan variere, og forskere innen feltet kan ha ulike tilnærminger. Kunstig intelligens kan også deles inn i sterke og svake former, avhengig av graden av autonomi og evnen til å håndtere generelle oppgaver.

Microsoft sin BingChat (Microsoft CoPilot) er også programmert til koble begrepet «Kunstig intelligens» til seg selv, men på min påstand om at systemet kun kan handle ut fra hva det er programmert for, svarer Copilot at:

Det er riktig. Som en form for kunstig intelligens, er jeg begrenset til de funksjonene og oppgavene jeg har blitt programmert til å utføre. Jeg kan behandle og generere svar basert på den informasjonen jeg har blitt trent på, men jeg kan ikke utføre handlinger eller ta beslutninger utenfor dette området. Jeg kan ikke lære eller tilpasse meg på samme måte som et menneske…

La oss ha dette i bakhodet når vi nå ser litt nærmere på ChatGPT, samt et par andre tilsvarende språkmodeller.

Og det første spørsmålet vi da kan ta med oss videre er; ut fra de 7 punktene ChatGPT lister opp, er ChatGPT (og tilsvarende språkmodeller) eksempler på kunstig intelligens?

Leseliste