Kunstig intelligens og digitale tømmermænd i techland

Årets South by Southwest festival var gennemsyret af kunstig intelligens og gav os interessante bud på brugen af chat- og voicebots i en verden, hvor snart sagt alle objekter i vores hverdag er forbundne. Festivalen fandt dog sted på baggrund af en stigende bekymring og bevidsthed om farerne for massemanipulation og desinformation i en gennemdigitaliseret verden.

Når den årlige South by Southwest (SXSW) festival afholdes i marts i Texas-hovedstaden Austin, er det et kulørt sammenrend af politiske superstjerner, teknologinørder, fremadstormende rockmusikere og avantgardefilmfolk, men hen over de 10 dage går det hele op i en højere enhed. En del af formålet med den store festival, hvor op mod 230.000 mennesker samles, er nemlig at lade en mangfoldighed af kreative sjæle berige hinanden på tværs af ekspertiser.

På årets SXSW kunne deltagerne opleve kendisser som Arnold Schwarzenegger, Bernie Sanders, Melinda Gates og Elon Musk – sidstnævnte proklamerede på sædvanlig bombastisk vis, at kunstig intelligens er farligere end atomvåben.

Med sin overflod af viden og ideer giver festivalen et ganske godt fingerpeg om tendenser, der vil sætte sit præg på vores liv og samfund i den nærmeste fremtid, og i år var der tre tendenser, jeg især bed mærke i.

Tillid som en differentiator

På SXSW plejer der at være en teknologibegejstret ivrighed, der går igen blandt både deltagere og de tanker, koncepter og produkter, som bliver præsenteret på festivalen. Men de mørke sider af en gennemdigitaliseret virkelighed fremgik af mange debatter.

I kølvandet på omfattende og stadig mere sofistikerede hackerangreb er virksomheder begyndt at arbejde ud fra mantraet security by design, hvor sikkerhed er tænkt ind i produktet fra dag 1.

Men nu omfatter tendensen også brugen af algoritmer og det, jeg vil kalde trust by design. Jeg kan se, at udviklerne har forstået vigtigheden af, at algoritmer, produkter og services skal designes sådan, at kunderne forstår, hvad deres data bruges til, og man samtidig sikrer, at de data, maskinlæringsmodellerne trænes på, ikke er præget af uhensigtsmæssige bias.

Facebook oplever sit livs krise, da mange brugere ikke har forstået omfanget af, hvordan deres data deles og sælges til tredjepart.

Facebook er langtfra de eneste, som indsamler store mængder data på deres kunder, men noget tyder på, at vi vil se mere transparens og opbygningen af tillid som en differentiator. I takt med at der er kommet en større forståelse blandt forbrugerne af, at deling af deres data med en virksomhed kan give dem en bedre service, er udviklerne samtidig blevet mere bevidst om, at en tredjeparts adgang til kundedata skal foregå i et omfang, som forbrugerne finder rimeligt.

Chatbots modnes, og nye analyseværktøjer løfter dem til næste niveau

Vi oplever en nærmest eksplosiv udvikling inden for chat- og taleteknologi, og vi har i år fået en meget dybere forståelse af menneskers interaktion med bots.

På SXSW blev der for eksempel præsenteret studier, der viser, at folk har sværere ved at lyve, hvis den digitale ’kundeservicemedarbejder’, de skriver eller taler med, materialiserer sig på deres skærm i form af en tegnet figur med store øjne.

Andre udviklere, der har lavet forsøg med chatbots for bankkunder, der søger information om pension eller huslån, kunne fortælle, hvordan kunder uopfordret begyndte at sende selfies til chatbotten og korte videoer med utilfredse ansigtsudtryk. Kunderne havde altså en forventning om, at et billede og emojis i bedste snapchatstil kan aflæses af chatbotten og bedre udtrykke deres holdning til en given information end en tekstbesked.

Kunstig intelligens med følelser

Chat- og voicebotteknologierne er afhængige af kunstig intelligens for at kunne fungere, og udviklerne af kunstig intelligens er blevet klar over, at menneskelige aspekter som følelser og social kontekst er komponenter, som bliver afgørende for en god kundeoplevelse.

Et godt eksempel er Mercedes Benz, der talte om, hvordan de arbejder på at give de digitale assistenter i deres biler kontekstforståelse, som skal resultere i, at bilen forstår, at den for eksempel ikke skal læse beskeder fra ens børn op, når en kollega er i bilen, men foreslå et godt gammelt rock’n’roll-nummer, som man ikke har hørt i årevis, når man sidder alene på vej hjem fra kontoret.

De virksomheder, som forstår at kombinere services med en følelsesmæssig dimension, og aom kan afkode, hvilken kontekst en kunde befinder sig i, vil stå stærkt i konkurrencen.

Men hvis de digitale tømmermænd og den stigende bekymring for misbrug af data skal overvindes, bliver tillid et parameter, som virksomhederne skal indtænke i produkter og services helt fra begyndelsen.

Kommentér dette blogindlæg herunder