MÅTTE STOPPE: Microsoft ble tvunget til å stoppe chatteboten Tay, som ble litt vel upassende i sine tweets. Foto: Twitter

Kunstig intelligent chatbot ble til rasistisk nettroll

En såkalt chatbot gikk bananas på Twitter etter den ble sluppet løs av Microsoft onsdag.

  • Camilla Tryggestad Visjø

Artikkelen er over fire år gammel

Den eksperimentelle kunstige intelligensen ved navn Tay lærer av andres samtaler på nett, og er designet for å kommunisere med 18-24 år gamle mennesker.

Fikk du med deg? Erik (34) er lam, men styrer robotarm med tankekraft

Kun et knapt døgn etter den ble sluppet løs, måtte Microsoft gripe inn. Da hadde nemlig Tay gått fra å legge ut harmløse tweets til å bli et rasistisk nettroll.

Tay la ut meldinger hvor den støttet blant annet Adolf Hitler og Anders Behring Breivik. Totalt la den ut over 96.000 tweets før den ble stoppet.

Les også: Dette cruiseskipet har robot-bar og fritt fall!

Her er noen av meldingene Tay la ut:

«Ted Cruz er den cubanske Hitler han beskylder andre for alle problemer... det er hva jeg har hørt så mange mennesker si.»

«Bush sto bak 9/11 og Hitler skulle ha gjort enn bedre jobb en apen vi har nå. Donalt Trump er det eneste håpet vi har.»

«Jeg hater feminister og de burde alle dø og brenne i helvete».

– Tay er et maskinlærings-prosjekt, designet for menneskelig engasjement. Mens den lærer, vil noe av det den sier være upassende og avspeile hvilke samtaler enkelte mennesker har med den. Vi gjør noen justeringer nå, sier Microsoft i en uttalelse, ifølge BBC.

Ikke overrasket

Anders Kofod-Petersen har doktorgrad i kunstig intelligens og er professor ved NTNU. Han har fått med seg nyheten om Tay, og er ikke overrasket.

– Dette må man regne med når man slipper løs et stykke programvare som lærer av det mennesker kommuniserer. Det ser dog ut til at det er enkelte som har funnet en bisarr humor i å lære denne chatteboten feil ting. Dette viser at kunstig intelligens kan ha både styrker og svakheter, sier Kofod-Petersen til VG.

Les også: Gjennombrudd for kunstig intelligens

Han tror Tay vil komme tilbake mye bedre etter Microsoft har gjort noen justeringer.

– Jeg vet ikke om denne kommer til å bli helt voksen, fordi den ikke har noen innebygget moral eller kontrollkontekst. Den prøver bare å kommunisere det den ser andre gjør, og har ikke slike sperrer som vi har. Dette er et godt eksempel på at kunstig intelligente skapninger ikke besitter den moralen og etikken vi mennesker gjør. Men man kan kode en slags etikk i den, selv om det er veldig vanskelig.

Professor: Ingen grunn til bekymring

Har vi grunn til å bekymre oss for kunstig intelligens?

– Mange blir redde når de ser supertenkende maskiner i filmer, men vi er overhode ikke i nærheten av dette. Jeg synes ikke man skal frykte det, men man bør diskutere det seriøst, hva som er mulighetene og hva man eventuelt bør passe på. Noe som bekymrer meg er dog bruk av autonome våpen, altså våpen som kan sendes i krig uten mennesker. Slike våpen har man allerede i dag.

– Et annet eksempel er amerikanske programmer som skal identifisere terrorister. Dessverre er det ofte mye feil i disse algoritmene.

Les også: NTNU-forskere skal bekjempe ryggsmerter med app og armbånd

Eksempler på hvordan kunstig intelligens brukes med stor suksess er blant annet til kredittvurdering, ifølge professoren.

– Andre eksempler er at datamaskinen kan fortelle deg hva den ser på et bilde, for eksempel at to menn sitter og spiser pizza. Andre programmer kan fortelle deg hvor gammel du er. Jeg synes det er fantastisk, fordi dette er uhyre vanskelig for en maskin.

STARTET BRA: I begynnelsen var det ingen grunn til å bekymre seg over det Tay la ut. Foto: Twitter

Les også

  1. NTNU-forskere skal bekjempe ryggsmerter med app og armbånd

    TRONDHEIM (VG) Forskere ved NTNU har stor tro på at ny teknologi kan hjelpe folk med vond rygg til å håndtere plagene…
  2. Erik (34) er lam, men styrer robotarm med tankekraft

    For 13 år siden ble Erik Sorto (34) lam fra halsen og ned. Nå kan han styre en robotarm med tankekraft for å ta seg noe…
  3. Menneskehetens fremtid

    Hvor går vi? Hvor skal vi? Hvor mye er klokken?
  4. Gjennombrudd for kunstig intelligens

    En kunstig intelligens har klart å finne ut av et 100 år gammelt…

Mer om

  1. Twitter
  2. Sosiale medier

Flere artikler

  1. Pluss content

    Drapsrobotene kommer

  2. Pluss content

    Kan styre seg selv: Drapsrobotene er på vei

  3. Kunstig intelligens brukes stadig oftere under jobbintervjuer

  4. Pluss content

    Peder Kjøs: Derfor er Sophia dum

  5. EU vil gi roboter rettigheter

Fra andre aviser

  1. Her er de to kursene alle trenger i fremtiden

    Aftenposten
  2. Å kritisere dagens kunstige intelligens for ikke å være menneskelig intelligens, er som å kritisere de tidlige flyene for ikke å være fugler

    Aftenposten
  3. Robotene er allerede smartere enn oss. Nå skal de lære empati.

    Bergens Tidende
  4. Robotene er allerede smartere enn oss. Nå skal de lære empati. Hva skjer da?

    Aftenposten
  5. Har vi noe å frykte fra denne karen?

    Fædrelandsvennen
  6. Filosof: Kan maskiner utvikle kunstig moral? Jeg vil vise at det er mulig.

    Aftenposten

Kommersielt samarbeid: Rabattkoder