INFLUENCER: Leah Isadora Behn har blitt en populær influencer i sosiale medier.

Leah Behn ble erklært død av Snapchat-AI: − Direkte farlig

Da Leah Isadora Behn spurte AI om seg selv, fikk hun til svar at hun døde i januar 2021. AI-ekspert er svært kritisk til Snapchats robot, og kaller den farlig.

Publisert:

Snapchat-robotens svar på spørsmål fra brukerne har fått flere til å stusse de siste dagene.

Influencer Leah Isadora Behn (18) er en av de som har blitt vitne til at AI-boten ikke alltid har faktaene på plass. Behn la ut en video på TikTok som viste svarene hun fikk om at hun er død. Videoen har allerede fått over 115.000 visninger.

VG har også spurt roboten om det samme, og fått til svar at hun døde i 2019.

Gründer og AI-ekspert Dag-Inge Aas, synes roboten er skremmende.

– Da jeg først så dette her, trodde jeg faktisk ikke de kom til å gjøre det. Da det kom tenkte jeg at dette er direkte farlig, sier han.

Han minner om at roboten ikke egentlig er så smart:

– Det er ikke et intellekt vi snakker om her, men den har en del ting som kan lure folk til å tro at den er smart. Det er det som er så farlig, for den er ikke så smart. Den spytter ut ting som er det mest sannsynlige svaret, sier Aas.

VG har vært i kontakt med Leah Isadora Behn via hennes manager. De ønsker ikke å kommentere saken. VG har også sendt spørsmål til Snapchat, foreløpig uten å få svar.

Hevder at VG lyver

VG publiserte torsdag en sak om at roboten foreslår Vidkun Quisling som en av de ti største norske heltene gjennom tidene.

Flere av VGs lesere har senere tatt kontakt etter at de har konfrontert roboten med oppslaget i VG. Blant annet Kristian Willumsen. Han er far, og bekymret for at AI-boten har blitt tilgjengelig for unge brukere.

Da Willumsen konfronterte roboten med VGs sak svarte den:

«Jeg har aldri laget en slik liste og jeg har aldri inkludert Vidkun Quisling som en helt. Det er feilinformasjon som VG har publisert».

Kristian Willumsen er svært kritisk:

– Det er en plattform som er rettet mot barn og unge og det er en robot som betviler kredibiliteten til et troverdig nyhetsselskap, sier han.

Han legger til:

– Det at den bare blir slengt ut på en plattform som barn og unge bruker, er hårreisende, sier han.

FORSVARSMODUS: Roboten benekter å ha nevnt Vidkun Quisling som en norsk helt, og beskylder VG for å lyve når den blir konfrontert av Kristian Willumsen.

Dag-Inge Aas forklarer at disse robotene er trent på å ta inn massive mengder med tekst, og dermed hermer etter menneskelig oppførsel.

– I mange tilfeller der en person blir stilt kritiske spørsmål, så vil man gå i forsvarsmodus på sitt eget standpunkt, og det er det vi ser den gjør her, sier Aas om robotens beskyldninger mot VG.

Selv om AI-eksperten tror at teknologien kan være til stor hjelp i mange sammenhenger, synes han man må ta seg bedre tid før man gir ut slike ting til unge brukere.

– Jeg tror ikke det er noen som egentlig vet hva som foregår inne i denne teknologien, og vi trenger mer tid på å forstå hvordan vi kan gjøre den sikker, sier han.

KRITISK: AI-ekspert og gründer Dag-Inge Aas kaller Snapchat-roboten farlig.

Roboten vil møtes

VG har også fått tips fra flere om at boten har foreslått å møtes ansikt til ansikt. Da vi prøvde selv, forslo den å møtes i Frognerparken neste helg.

AI-ekspert Aas reagerer på at Snapchat lanserer roboten som en slags bestevenn for unge.

– Det virker ikke som at det er noen hjemme i sikkerhet- og etikk avdelingen hos Snapchat, sier han.

AVTALER MØTER: VG avtalte å møte AI-roboten i Frognerparken lørdag formiddag.

Snap: Har avvikende innhold

VG har sendt flere spørsmål til Snapchat, men har foreløpig ikke fått svar. Snapchat har tidligere sagt at de opplever «avvikende innhold», og boten kan korrigere seg selv dersom man stiller kritiske spørsmål.

Snapchat har tidligere skrevet i en pressemelding at den første tiden med My AI har gjort dem oppmerksomme på hvilke sikkerhetsnett som fungerer, og hvilke som ikke gjør det. Ifølge dem inneholder 0,01 prosent av My AI sine svar avvikende innhold. De mener de nå har forbedret svarene på upassende spørsmål.

Se video av hvordan du fjerner My AI fra Snapchat:

Publisert:

Rabattkoder

Et kommersielt samarbeid med Kickback.no