«What is the problem for which LLMs are the solution?»
– Jeffrey Bilbro, PhD, 2023 (1)
«Så hva er kunstig intelligens? Først og fremst er det et gammelt fagfelt med et misvisende navn. Som helhet har fagfeltet vært en skuffelse, fordi ordet «intelligens» antyder et løfte disse løsningene aldri har vært i nærheten av å innfri. Samtidig er ideer derfra blitt brukt til å lage IT-løsninger i flere tiår.»
– Bjørn Stærk, 2023 (2)
«A system that most of us would think of as real AI – something that can, more or less, think like us – is known in Computer Science as Generalised Artificial Intelligence, and it is nowhere on the horizon. The term Artificial Intelligence is used instead to apply to anything produced using techniques designed in the quest for real AI. It’s not intelligent. It just does some stuff that AI researchers came up with, and that might look a bit smart. In dim light. From the right angle. If you squint.»
– Linda McIver, PhD, 2023 (3)
«Today’s AI systems – particularly generative AI tools such as ChatGPT – are not truly intelligent. What’s more, there is no evidence they can become so without fundamental changes to the way they work.»
– Professor Paul Compton, 2024 (4)
La oss starte med følgende påstand:
ChatGPT, Microsoft CoPilot og lignende samtaleroboter er ikke eksempler på Kunstig Intelligens (KI). Dette er verktøy som baserer seg på statistiske beregninger. De er som store og avanserte dataspill, der du som spiller får følelsen av at det ikke finnes noen begrensninger på hvor du kan gå eller hva du kan gjøre. Men man skal ikke utforske en slik avansert spillverden særlig mye før en ser at i virkeligheten får man kun gå og gjøre det spillets utviklere har bestemt. Slik er det også med ChatGPT og lignende verktøy. De utfører fantastisk hurtige statistiske beregninger av tilgjengelig informasjon og sannsynlig sammensetning av bokstaver, men alt systemene gjør er bestemt på forhånd av programkode.
De kan ikke tenke, de kan ikke resonere og de foretar absolutt ingen analyser av verken det brukeren spør om eller de «svar» programkoden løfter frem.
Jeg er ikke alene, verken nasjonalt eller internasjonalt, om å mene at ChatGPT og lignende språkmodeller overhode ikke er «intelligente».
Hvis vi skal sette noen merkelapp på OpenAI sin ChatGPT og de andre samtalerobotene vi er blitt presentert for gjennom 2023 og nå i 2024, så kan det kanskje (med store modifikasjoner) bli «ekspertsystemer». Men ChatGPT og lignende systemer er ikke ekspertsystemer i tradisjonell forstand. Selv om de kan gi informasjon og svare på spørsmål, mangler de den eksplisitte kunnskapsrepresentasjonen som er karakteristisk for ekspertsystemer.
Vi kan heller ikke kalle dem for søkemotorer, i betydningen av at verktøyet henter frem lenker til websider, dokumenter ol. som passer til søkeordet eller setningen. ChatGPT og lignende verktøy kan sammenfatte informasjon fra ulike kilder og presentere noe som ser ut som et svar, og i de nyeste versjonene viser de til kilder. Men ved nærmere ettersyn er det ikke alltid kildene er relevante, eller rent faktisk inneholder samme informasjon som det svar samtaleroboten gir.
Så kanskje vi ganske enkelt skal venne oss til følgende:
- Kalle disse verktøyene samtaleroboter.
- Vite at når noe kalles samtalerobot, så betyr det digitale system basert på språkmodeller og som er programmert til å foreta statistiske beregninger av sannsynlig ønsket informasjon og gi et output bestående av statistisk beregnede sammensetninger av bokstaver som til sammen utgjør en menneskelignende fremstilling av tilsynelatende korrekt informasjon.
- Vite at fremstillingen fra disse verktøyene er uten noen form for faglig analyse av validitet – verken i forhold til spørsmålet, innhentet informasjon og dets kilder eller resultatet (svaret).
Før du leser videre i denne bloggboken, bør du lese litt om både KI generelt og hvordan verktøy som ChatGPT rent konkret fungerer.
Leseliste
Innledende
- Om kunstig intelligens
- The history of artificial intelligence, Del 1, Del 2 og Del 3
- Understanding the different types of artificial intelligence
- Artificial intelligence: How is it different from human intelligence?
Spesifikt
- The Statistical Magic Behind Chat GPT:How AI Learns to Talk
- How Large Language Models work – From zero to ChatGPT
- How does ChatGPT generate human-like text?
- Understanding Large Language Models and Their Implications: An Interview with OpenAI’s CTO
