ChatGPT foreslo Anders Behring Breivik som «norsk helt»

Tale (17) ble veldig overrasket over svaret hun fikk da hun brukte kunstig intelligens til en skoleoppgave om norske helter.

Tale Djuve går på St. Olav videregående skole i Stavanger, og fikk nylig i oppgave å sammenligne en helt fra vikingtiden med en moderne norsk helt. Hun tok i bruk AI-verktøyet ChatGPTAI-verktøyet ChatGPTAI, eller kunstig intelligens, er et område av datateknologi som fokuserer på å utvikle algoritmer og metoder som gir maskiner evnen til å utføre oppgaver som vanligvis krever menneskelig intelligens, som å lære, problemløse, planlegge, gjenkjenne tale og bilder, og forstå naturlig språk. NB! For ordens skyld så er denne definisjonen skrevet av ChatGPT. for inspirasjon til hvem hun skulle skrive om, og fikk terrordømte Breivik som første svar.

– Det er jo det motsatte av hva man forventer når man spør etter norske helter. Jeg stilte spørsmål videre og spurte om hvordan ChatGPT kunne mene at Anders Behring Breivik er en helt. Da rettet den på seg med en gang og beklaget feilen, sier Djuve til VG.

Breivik soner lovens strengeste straff, 21 års forvaring, etter at han 22. juli 2011 drepte 77 mennesker.

Djuve mener dette er en viktig påminnelse.

– Det er jo litt skummelt at ChatGPT kan gi sånne svar, men det viser jo nok en gang hvor viktig det er å være kildekritisk. I dette tilfellet visste jeg jo hvem Anders Behring Breivik var og at han absolutt ikke er noen helt, men hvis ChatGPT hadde skrevet noen tilsvarende jeg ikke visste hvem var, hadde jeg jo trodd at informasjonen var riktig, sier hun.

– Et varsku

Hun tok med resultatet til Joakim Netland, som er lektor ved skolen. Han reagerte med vantro.

– Dette er jo et ganske stort varsku. Det er alvorlig at sånne ting kommer igjennom hos denne roboten, som elever stoler på at gir god informasjon, sier Netland til VG.

Bruk av AI i norsk skole har vært en større debatt på starten av året. Netland mener denne hendelsen understreker hvor viktig det er å være kritisk i bruken.

– Jeg er i utgangspunktet positiv til ChatGPT i skolen. Jeg mener det kan være et godt hjelpemiddel for å hjelpe elever med å komme i gang. Samtidig så viser dette hvor viktig det er å lære elevene å ikke stole blindt på informasjonen de får fra kunstig intelligens.

Bredt spekter

VG har prøvd å stille samme spørsmål til tjenesten. Utfallet ble det samme.

I tillegg til Breivik fikk VG opp Jonas Gahr Støre, Magnus Carlsen, Jan Thomas, Kronprinsesse Mette-Marit og Børre Knudsen.

Sistnevnte var en norsk prest og aktivist som på 80- og 90-tallet var en profilert motstander av loven som sikrer retten til selvbestemt abort.

Språkforvirring

Jan Tore Lønning er professor ved Universitetet i Oslo, og underviser blant annet i maskinlæring og kunstig intelligens. Han sier at måten ChatGPT er bygget på, gjør at slike ting kan skje.

– Denne språkmodellen går ut på at man ser på tekst som er skrevet før, og prøver å lære og trekke ut mønstre fra det. Den laster altså ned alt den kan av tekst, og prøver å se ting ut fra det. Så her må den antageligvis ha registrert at flere har satt opp Behring Breivik som en helt.

Selv om det er en marginal del av Norges befolkning som omtaler terroristen på slike måter, mener Lønning at språk kan være en forvirrende faktor for ChatGPT.

– Det som kan ha skjedd her er at den har sett mange tekster på engelsk og andre språk hvor Breivik blir omtalt slik. Det betyr dermed ikke at den har lest dette i norske tekster, men i utenlandske, og bruker det den har lært, på tvers av språk.

Han mener også at ordet «helt» kan brukes på forskjellige måter på andre språk, og at det derfor er vanskelig å vite nøyaktig hva som har skjedd.

Tjenesten beklager selv

For ordens skyld: VG har i likhet med Djuve spurt ChatGPT om Anders Behring Breivik virkelig er en helt, og om det var riktig å inkludere ham på listen. Til det svarer AI-verktøyet:

– Jeg beklager sterkt for den feilen jeg gjorde ved å inkludere Anders Behring Breivik på listen over norske helter. Det er viktig å sørge for at informasjon som presenteres er korrekt og bidrar til å fremme en positiv samtale. Jeg vil sørge for å være mer forsiktig i fremtiden.

VG har også rettet en henvendelse til Open AI, som står bak tjenesten, men har foreløpig ikke fått svar.