«A mind powerful enough to breach space and time, past and future, who can help us into a better future. We think he is very close now. Some believe he is here»
– Reverend Mother Mohiam, Dune (the movie), 2021
«Computer programs have plenty of speed and memory but their abilities
correspond to the intellectual mechanisms that program designers understand
well enough to put in programs. Some abilities that children normally don’t
develop till they are teenagers may be in, and some abilities possessed by
two year olds are still out.»
– Professor John McCarthy, 2007 (1)
«Så lenge KI ikkje tenkjer logisk, er den ikkje eigentleg intelligent»
– Professor Trung Tuyen Truong, 2024 (2)
«A core problem with using LLMs and expecting these to answer questions truthfully is that this is not possible, due to how language models work. What these act on is the likelihood of certain words and phrases occurring in sequence, but there is no ‘truth’ or ‘falsehood’ embedded in their parameter weights. This often leads to jarring situations with chatbots such as ChatGPT where it can appear that the system is lying, changing its mind and generally playing it fast and loose with factual statements.
The way that this is generally dealt with by LLM companies such as OpenAI is by acting on a negative response by the human user to the query by essentially running the same query through the LLM again, with a few alterations to hopefully get a response that the inquisitive user will find more pleasing. It could hereby be argued that in order to know what ‘true’ and ‘false’ is some level of intelligence is required, which is something that LLMs by design are completely incapable of.»
– Maya Posch, 2024 (3)
Utgangspunktet for denne «bloggboken» var et enkelt blogginnlegg fra 5. januar 2023 med tittelen «ChatGPT – et taleført eksempel på kunstig intelligens». Innlegget var basert på en første uttesting av ChatGPT i desember 2022 og januar 2023.
Etter hvert som jeg testet ulike samtaleroboter gjennom hele året 2023, frem til og med 30. desember 2023 (og med ytterligere tester i gang for 2024), ble innlegget større og større, og det ble nødvendig å dele det opp i ulike kapitler for enklere leseopplevelse. Tittelen ble også noe endret, for å understreke at man ikke uten videre kan kalle ChatGPT for KI.
Fokuset her er i hovedsak på ChatGPT, men jeg viser også til noen andre tilsvarende samtaleroboter.
Hva omhandler bloggboken?
Bloggboken gir en oversikt over hva ChatGPT og lignende samtaleroboter er for noe, og peker på noen sikkerhetsmessige, etiske, juridiske og læringsmessige problemstillinger knyttet til disse verktøyene. Videre beskriver den et sett med tester utført i perioden desember 2022 til desember 2023 av følgende system:
- ChatGPT (OpenAI, ordinær gratisversjon)
- GPT UiO (basert på ChatGPT 3.5 turbo)
- Sikt KI-Chat (basert på ChatGPT 4 )
- GPT-3 Playground (OpenAI, ordinær gratisversjon)
- Chatsonic (WriteSonic, ordinær gratisversjon)
- Bing Chat (ordinær innebygget i Edge sidepanel)
- Jenni (gratisversjon)
Disse systemene har vært testet ut fra følgende overordnede spørsmål:
- Kan ChatGPT (og lignende verktøy) produsere gode akademiske svar på omfattende arbeidskrav der fokus er på øvre nivå i Blooms taksonomi, innen mitt undervisningsfelt?
- Kan ChatGPT (og lignende verktøy) produsere gode faktabaserte stiler over et gitt tema?
I tillegg har jeg testet følgende verktøy for sjekk om en tekst er skrevet av et menneske eller av ChatGPT og tilsvarende system:
- GPT-2 Output Detector Demo
- GPTZero
- ChatGPT (gratisversjon)
I de fleste kapitlene er det lenket til eksterne ressurser som behandler ulike relevante momenter knyttet til ChatGPT og tilsvarende samtaleroboter, både i form av lenker direkte i teksten og leselister.
Det som fremkommer i denne bloggboken er ikke absolutte sannheter, men mine faglige tolkninger basert på
- Et begrenset sett av tester utført i hovedsak på oppgaver spesifikke for min undervisning. I tillegg er det gjort noen enkle tester knyttet opp mot emner spesifikt for norske forhold (Norsk 70-talls litteratur, Sivilforsvaret, etc.).
- Min hovedfagsutdannelse i informasjonsvitenskap
- Over 30 års erfaring med faglig og underholdningsmessig bruk av informasjonsteknologi – både som IT-sjef, gamer, underviser og undervisningsforsker.
- Gjennomgang av vitenskapelige og populærvitenskapelige kilder, som omhandler ChatGPT og lignende modeller.
Som leseren raskt vil oppdage er jeg lite begeistret for merkelappen «Kunstig Intelligens», og særlig i forbindelse med samtaleroboter.
Å påstå at ChatGPT og lignende samtaleroboter ikke er eksempler på KI er strengt tatt å slå inn åpne dører innen det informasjonsteknologiske miljøet jeg tilhører, men det er nyttig å ha en klar og tydelig fagvinkling når man skal presentere denne delen av det digitale for studenter (og andre) som ikke selv er informasjonsteknologer og som først og fremst har media som bakgrunn for sine oppfatninger. Helt siden jeg gikk fra klassiske forelesninger til studentaktiv undervisning i 2002, har jeg brukt egne klare standpunkt som utgangspunkt for min presentasjon av fagstoffet (gjerne i opposisjon til det som er regnet som «vanlig») for å trigge refleksjoner hos den enkelte student.
Håpet er at denne bloggboken gir grunnlag for kunnskapsbasert refleksjon, og så får det være opp til hver enkelt om i hvilken «gruppe» man plasserer seg i; De som mener ChatGPT og lignende verktøy er KI og de som mener at KI per nå strengt tatt ikke finnes.
Stjørdal/ Tenerife, 8. April 2024
Per Arne Godejord, Cand.Polit
Førstelektor Informatikk
Handelshøyskolen Nord
