AI i kundtjänst behöver en väg till en människa

Ett bolag som låter AI svara kunder i chatt eller telefon tar en risk som lätt missas i kalkylen. Gartner frågade 5 728 kunder i december 2023, och 64 procent svarade att de helst ser att bolag inte använder AI i kundtjänst. Dessutom sa 53 procent att de kunde överväga att byta till en konkurrent om de fick veta att bolaget skulle göra det.

Siffrorna kommer från ett pressmeddelande i juli 2024. Det anger inte vilka länder som ingick, och mätningen är från slutet av 2023. De visar en attityd, men inte hur svenska kunder svarar i dag.

Kundernas största oro med AI i kundtjänst är att det blir svårare att nå en människa

Den vanligaste oron i Gartners undersökning var att AI ska göra det svårare att nå en person. Därefter kom oro för att jobb försvinner och för att AI ger felaktiga svar.

Det går att förstå varför. Ett AI-svar fungerar så länge frågan ryms i det tjänsten är byggd för. Ärendet som avviker, en beställning som blivit fel eller en reklamation, är det som kräver en människa. Kommer kunden inte vidare där tappar hen tålamodet.

Förlusten syns sällan, är vår bedömning. Kunden som inte kom fram skriver inget klagomål. Hen går till någon annan, och i bolagets siffror ser det ut som en kund som aldrig hörde av sig.

Lagen kräver att kunden får veta att det är en maskin

AI-förordningens artikel 50 gäller sedan den 2 augusti 2026, vilket vi beskriver närmare i artikeln om AI-förordningens tidsplan. Punkt 1 säger att leverantören av ett AI-system som är avsett att samtala direkt med människor ska utforma det så att människorna får veta att de pratar med AI. Undantaget gäller när det är uppenbart för en rimligt välinformerad och uppmärksam person, med hänsyn till omständigheterna. Enligt punkt 5 ska informationen ges tydligt och senast vid första kontakten.

Skyldigheten ligger på leverantören. Köper bolaget en färdig tjänst är det i regel säljaren, men ett bolag som låter bygga en tjänst och lanserar den under eget namn kan själv räknas som leverantör. Det är vår tolkning att bolaget i båda fallen bör fråga den som byggt eller säljer tjänsten hur och när den talar om för kunden att det är AI, eftersom det är bolagets kunder som möter den. En jurist bör läsa den exakta lydelsen innan ni lanserar.

Vi ser också ett samband med Gartners siffra. Gartner frågade om kunden skulle byta om bolaget använde AI i kundtjänst, inte om upplysningen i själva samtalet. Men ett bolag som är öppet med att det är en maskin får räkna med att just de kunder som 53 procent representerar tar det på allvar.

Tre beslut innan tjänsten tar emot kunder

Det första beslutet gäller vad som händer när kunden ber om en människa. Någon ska ha i uppdrag att svara, inom en tid som är bestämd i förväg, och kunden ska slippa förklara ärendet en gång till.

Det andra gäller vilka ärenden AI inte ska hantera alls. Reklamationer och ärenden där pengar eller avtal ändras är rimliga kandidater, men gränsen är ledningens att dra.

Det tredje gäller uppföljning. Vem läser de samtal som tog slut utan att kunden fick hjälp, hur ofta görs det, och vem har rätt att stänga av tjänsten? Artikeln om att rädda, skala ner eller lägga ner ett AI-initiativ beskriver hur ett sådant beslut kan fattas på fyra veckor. För en tjänst som möter kunder bör det gå fortare, och då måste någon redan ha mandatet. Artikeln om vem som äger AI:n beskriver varför den frågan ofta står öppen.

Hur lång tid tar det i dag innan en kund som ber om en människa får svar?