Webetikk: Bør du overlate kundeservicen til en chatbot?

Hva tenker du når du hører begrepet webetikk? Kanskje du tenker at det handler om etiske retningslinjer til bruk av web-basert materiale. Begrepet er historisk sett begrenset til hvordan vi mennesker behandler hverandre på webben. Men nå lever vi i en tid hvor nettet ikke er begrenset til oss mennesker. Vi har smarte dataprogrammer eller roboter som har tilgang til webben, og utfører handlinger på lik linje som oss mennesker. I dette blogginnlegget skal jeg se på hvorfor det er viktig å definere etiske retningslinjer ved bruk av maskinlæring i chatbots.

En introduksjon til chatbots

En chatbot er et dataprogram som brukes til å automatisere tekst eller talekommunikasjon. Noen chatbots er ganske primitive, mens andre benytter kunstig intelligens for å imitere menneskelig kommunikasjon. Les om forskjellen mellom AI, bots og maskinlæring her. Teknologien har eksistert siden 1950-tallet, men den har også blitt modernisert spesielt i senere tid ettersom datateknologier har modnet. Det betyr at fenomenet chatbots mest sannsynlig vil fortsette å utvikle seg i de kommende årene. Chatbots kan klassifiseres innenfor følgende kategorier:

1. Menybaserte chatboter

Menybaserte chatboter leder brukeren gjennom et «beslutningstre» for å finne svar på henvendelser. Grensesnittet for beslutningstreet kan variere ut fra teknologien. I en chatbot med talemaskin via telefon kan brukeren bli bedt om å taste «1 for kundeservice», «2 for faktura» og så videre. Hvis det er en chatbot på en hjemmeside, kan man bruke knapper for å vise alternativer i beslutningstreet for å lede brukeren til riktig svar. Menybaserte chatboter er en av de enkleste formene for chatbots og krever ikke maskinlæring.

2. Nøkkelordbaserte chatboter

Nøkkelordbaserte chatbots kan gjenkjenne bestemte nøkkelord som brukeren taster inn og produsere et svar utfra det. Den analyserer hva brukeren skriver (eller sier), og tolker deretter riktig nøkkelord. For å kunne gjenkjenne nøkkelord brukes maskinlæring.

Man kan også kombinere menybaserte chatbots med nøkkelordbaserte, hvor chatboten først prøver å tolke henvendelsene ut ifra nøkkelordene, deretter vise menyer med svaralternativer. Dette gjøres for å eliminere usikkerhet i forespørselen og eventuelt optimalisere resultatet.

3. Kontekstbaserte chatboter

Kontekstbaserte chatbots er igjen et hakk mer avanserte enn de overnevnte typene. De kan blant annet huske samtaleflyten med brukeren og danne en forståelse av intensjonen bak henvendelsen. Man kan for eksempel spørre en vær-chatbot: «Regner det i Oslo i dag?», etterfulgt av «Hva med i morgen?». Boten skal da kunne forstå at man fortsatt snakker om værmeldingen, men for den påfølgende dagen.

Hvordan virksomheter bruker chatbots

For bedrifter som ønsker å ivareta sine kunderelasjoner, anses chatbots som en del av verktøykassen på lik linje med talemaskiner via telefon. Tradisjonelt sett har man laget chatboter som håndterer de vanligste kundehenvendelsene. Spørsmål som kun krevde at man fant svaret i det interne systemet, kunne automatiseres med at chatboten svarte kunden via tekst eller tale.

Men ettersom virksomheter har fokusert mer på digitalisering av sine arbeidsflyter og prosesser, så ble det mulig for bedre og mer avanserte  integrasjoner mellom chatbot-løsningen og interne systemer. Dette førte til at chatboten fikk tilgang til mer informasjon og kunne utføre større arbeidsoppgaver.

En chatbot kan ta imot flere henvendelser og svarer raskere enn en person. Dette gir flere fordeler. Blant annet økning i produktivitet, hvor personalet får mer tid til de mer krevende kundehenvendelsene og bedre kundetilfredsstillelse ved at kunden får raskere tilbakemelding på henvendelsen.

Bruk av chatbots for kundeservice har gitt flere fordeler, men det har også noen utfordringer og ulemper. Det finnes både tekniske og ikke-tekniske utfordringer ved å bruke chatbots. Det tekniske er ofte knyttet til valg av algoritmer og hvor stor del av løsningen som bør styres av maskinlæring.

Ikke-tekniske utfordringer er ofte knyttet til å definere problemstillingen som chatboten skal løse og forventningene sluttbrukerne har til systemet. En kunde foretrekker gjerne direkte kontakt med kundeservicepersonalet istedenfor å snakke med en chatbot. En av grunnene til dette kan være at kunden mangler tillit til chatboten og er redd for at chatboten ikke skal forstå henvendelsen. De fleste chatbot-løsninger er av de simple typene med begrenset funksjonalitet. En bot kan derfor misforstå henvendelser og levere feil tilbakemelding. Dette påvirker kundetilfredsheten.

En annen grunn til at kunden foretrekker å snakke med personalet er at man ønsker en personlig tilbakemelding. Person til person-kommunikasjon er viktig, og dette kan anses å være av de største utfordringene med å bruke chatbots i virksomheter.

Etikk i maskinlæring

Motivasjonen bak å bruke maskinlæring i chatbots er å forbedre kundeservicen og dermed kundeopplevelsen ved å personifisere chatboten. Dette er typisk for kontekstbaserte chatbots som har blitt trent opp til å snakke til deg som en vanlig person. Et system som dette kan være så avansert at det i noen tilfeller er vanskelig å skille mellom om man snakker med en person eller en datamaskin. Dette gir et bedre inntrykk hos brukere som i utgangspunktet er skeptiske til chatboter, men åpner også opp for nye utfordringer knyttet til etikk.

Mennesker lærer normer og regler om hvordan vi behandler hverandre både i virkeligheten og i den digitale verden. Men når det gjelder en chatbot, er det ikke gitt at den forstår hva som er etisk riktig, og det er ikke like lett å lære den det.

For at systemet skal forstå vanlige samtaler og respondere med et mest mulig naturlig språk, er det viktig at den lærer det som vi mennesker oppfatter som vanlig folkeskikk. Dette gjøres i en læringsprosess hvor chatboten analyserer tilbakemeldinger fra oss mennesker om hva som er riktig og galt, og danner en modell eller oppskrift på hvordan den skal oppføre seg.

For en ferdig trent robot, oppfattes systemet som en «svart boks», hvor vi ikke har kontroll over hvordan den løser problemet. Dette er fordi vi kun forteller systemet hva som er svaret, men ikke hvordan den kommer frem til svaret. Det er dermed viktig at man trener opp systemet riktig.

Det har vært tilfeller hvor et chattesystem ble oppfattet som diskriminerende og krenkende med sine tilbakemeldinger. Et godt eksempel på dette er Microsoft sin Twitter-chatbot, Tay. Tay ble laget for at den skulle lære fra interaksjon med personer via Twitter. Men fordi den var åpen for hele verden i sin treningsperiode, plukket systemet opp egenskaper som kan oppfattes som krenkende og rasistiske. Dette var egenskaper som systemet dessverre lærte fra oss mennesker.

Hendelsen med Tay viser hvor viktig det er at man trener en chatbot på samme måte som en medarbeider i avdelingen for kundeservice. Ellers vil det skape dårlige brukeropplevelser.

Vi lever i en spennende tid. Både for oss mennesker og maskiner. Maskinlæring hjelper oss på mange måter innen produktivitet og kundeservice, men byr samtidig på nye utfordringer.

En chatbot som skal svare på spesifikke spørsmål trenger ikke nødvendigvis kjenne til etikk. Dette er typisk menybaserte eller nøkkelordbaserte chatbots med simpel maskinlæring. Men for en personifisert chatbot må det være definerte regler på hvordan den skal tolke henvendelser og respondere, slik at brukeren ikke føler seg krenket.