Google Duplex – ven eller fjende?

Google ramte et rent home-run, da de forleden under deres I/O udviklerkonference løftede sløret for Google Duplex – en eksperimentel service, der giver mulighed for at udnytte AI og en digital assistent, der bygger på talegenkendelse, text-to-speech og meget andet, til at ringe virksomheder op og nærmest naturligt træffe aftaler på ens vegne.

Videoen med de to små demoer – bookning af en frisørtid samt et bord på en lokal restaurant – er blevet delt utallige gange og de fleste gange med kommentarer som “hvor er det vildt!” og “sådan én vil jeg have!”. Men der er også – helt berettiget blevet rejst en lang række meget kritiske spørgsmål til den retning, som udviklingen af platforme som Google Duplex er udtryk for. Og det er svært ikke at blive bekræftet i, at rammerne for, hvad vi vil være med til rent teknologisk er vigtigere end nogensinde at få en meget grundig debat om.

Det er jo meget godt

Google ‘sælger’ selv umiddelbart Google Duplex på, at det er en smart hjælp til travle mennesker, der kan slippe for at skulle bruge tid på en række mere eller mindre banale koordineringsopgaver, som en computer i princippet lige så godt kunne overtage. Og det er da også svært ikke at finde det attraktivt, at de timer, man kan bruge på at forsøge at få fat i en virksomhed over telefonen for at aftale dette eller hint, snart kan være fortid.

For helt ærligt: Hvem vil ikke gerne slippe for alle de der ting, der bare skal gøres? Bookning af diverse aftaler, bestilling af billetter, bestilling af varer, whatever? Naturligvis vil de fleste gerne det, for det er nu engang de færreste, der som et højdepunkt i deres liv har al den forskellige form for koordinering, der ikke har til andet formål end få en travl hverdag til bare at glide. Så kunderne skal nok være der til en sådan platform.

Alt andet end et tech-problem

Når der alligevel er grund til at tage den store diskussion, skyldes det, at vi med Google Duplex og lignende kommende platforme faktisk står med noget, der måske nok i udgangspunktet er en teknologisk udfordring at få til at lykkes, men som i forhold til impact og betydning overhovedet ikke er noget tech-problem.

Google Duplex er nemlig et perfekt eksempel på en form for teknologi, hvor hele diskussionen omkring de tilladelige rammer, use cases m.m. er væsentlig vigtigere, end om man rent faktisk kan udvikle ‘monsteret’. Fordi perspektiverne i platformen er endog meget skræmmende, hvis ikke det håndteres rigtigt.

Og rigtigt skal det håndteres. Og man kan godt blive en anelse bekymret over, hvorvidt de tech-giganter, der udvikler platforme som Google Duplex er i stand til selv at facilitere den diskussion. Når man f.eks. kigger på den begejstring, der umiddelbart var i udviklerkredse efter demoen forleden, må man være tilbøjelig til at konkludere, at det kan de ikke. Ganske enkelt fordi de ser verden gennem nogle ensidigt farvede teknologibriller.

Store etiske udfordringer

Så hvad er nogle umiddelbare perspektiver, vi er nødt til at forholde os til, før vi kan komme videre – hvis vi skal videre? Der er både nogle umiddelbare etiske perspektiver og nogle forretningsmæssige, der er tæt forbundet med dem. Alt efter temperament kan man vælge at se disse som muligheder eller som trusler.

Hvis vi tager de etiske udfordringer først er der hele diskussionen om, hvorvidt og hvornår, vi overhovedet fremover taler med et menneske. For nogle kan det virke som en banal sondring, men i en tid, hvor vi slås med fake news og snart også vil kæmpe endnu mere med fake video, er det mere end berettiget at spørge, om vi har brug for maskiner, der er så mennesketro i deres kommunikation, stemmeføring m.m., at den enkelte kan endog have meget svært ved at skelne, hvad der er det ene, og hvad der er det andet.

Mennesker har brug for at kommunikere med hinanden. Det er en del af vores natur. Så hvad sker der, når vi overlader denne kommunikation til maskiner? Hvad sker der med os som afsendere, hvis vi afsondrer os i forskellige sammenhænge? Og hvad sker der med os som modtagere, når vi pludselig ikke er mere værd, end at en maskine kan overtage samtalen med os? Det er da om noget en potentiel marginalisering, der vil noget, og som vil få de endnu ukendte konsekvenser af børns megen skærmtid til at blegne i betydning sammenlignet med.

Kan teknologien snydes?

Noget andet og endnu mere alvorligt er så, hvad der sker, når mennesker begynder at ‘game’ – snyde – denne teknologi? Det kan være virksomheder, der udvikler særlige modtræk mod personlige assistenter, som de på en eller anden måde lærer at identificere og tildeler en ganske særlig behandling, der ikke nødvendigvis er i assistents ejers interesse.

Hvad sker der f.eks. også, når digitale assistenter begynder at udgive sig for nogle, de sket ikke er, og folk på denne måde for overtaget deres identitet? Hvordan har vi så overhovedet styr på, hvem der agerer hvordan, hvilke forpligtelser det medfører, og hvilke risici det kan give for den, der pludselig ser sit liv og hele ageren med andre mennesker blive overtaget af nogle, der ikke vil én det godt – eller bare er ude på at svindle?

Det kan for nogle virke som et noget dystopisk scenarie at male. Men vi er bare nødt til at minde hinanden om, at al historie indenfor moderne teknologi – og især informationsteknologi – viser, at hver eneste gang, der kommer noget banebrydende nyt, er der mennesker, der som det første går i gang med at undersøge, hvordan de kan bruge det til lyssky formål.

Og så har vi ikke engang talt om, hvilke muligheder disse teknologier giver myndigheder for at overvåge borgerne endnu mere end tilfældet allerede er.

Opgør med kritisk stillingtagen

I tillæg til disse ting er der også nogle perspektiver for den enkelte bruger af platforme som Google Duplex, som vi har brug for at få taget en grundig diskussion om.

Kritisk stillingtagen er den første. Hvad sker der med den, når man begynder at overlade banale men endog alligevel vigtige opgave til en digital assistent? Her er antagelsen naturligvis den, at hvis vi laver en aftale med nogen, er det fordi aftalen på en eller anden måde er vigtig for os. Hvordan sikrer vi, at det er den bedste og mest optimale aftale, assistenten laver?

Kan kan forestille sig, at man forlader sig på en digital assistent til nogle opgaver, ukritisk lader den operere og så bare slår sin kritiske sans til i de situationer, hvor man fra sag til sag vurderer, man selv bør ‘overtage rattet’? Og kan man overhovedet bare slå en kritisk sans til eller fra, eller er det i virkeligheden noget, der kræver kontinuerlig, daglig træning – også med banale opgaver? Pointen her er, at vi ikke ved det, men at der i hvert fald er tilstrækkelig stor usikkerhed til, at det er noget, vi bør diskutere. Og diskutere grundigt.

Er det overhovedet nødvendigt?

Vender vi os mod den forretningsmæssige side af sagen, er der også en del ting ved Google Duplex, der bør fremkalde en diskussion.

For det første er der den helt nærliggende diskussion om, hvorvidt denne teknologi overhovedet er nødvendig set i forhold til demoerne. Det virker unægteligt som at skyde gråspurve med kanoner, når man ruller den store digitale assistent ud overfor virksomheder, der ikke engang har fundet det værd at investere i redskaber til online bookning/selvbetjening. Det virker som en meget lille problem, der er fundet en meget stor løsning på.

Når det er sagt, er det imidlertid interessant at diskutere perspektiverne i forhold til mere modne forretninger. F.eks. kunne man godt forestille sig, der ville være en del virksomheder, der ville lære at afkode, hvornår det er digitale assistenter, der ringer, og tilbyde alle mulige former for opsalg eller ‘særlige tilbud’ (læs: dyrere tilbud) i de situationer, hvor kunden ikke har fundet det besværet værd at gide kontakte dem selv.

Med Googles fokus på markedsføring in mente kunne man sagtens forestille sig, at optimering i forhold til digitale assistenter kunne blive et helt nyt fokusområde a la SEO. Og hvis det viste sig at blive det, hvor efterlader det så den enkelte bruger/kunde, der alt andet lige er den, der kommer til at betale for gildet?

Maskiner sælger til maskiner

Kører man den tanke endnu længere ud, skal der ikke meget fantasi til at forestille sig en nær fremtid, hvor digitale assistenter baseret på AI og machinelearning handler med virksomhedens algoritmer, der er styret af de samme principper, og hvor der i virkeligheden slet ikke er mennesker inde over de enkelte transaktioner.

Her bliver sådan noget som ‘gaming’ igen væsentligt at diskutere og kaste lys på, fordi man sagtens kan forestille sig, der vil være virksomheder, der vil se disse muligheder som en måde at skabe ny vækst i forretningen på – uanset om det fører til salg, som den enkelte kunde dybest set har brug for. Det vil næppe være nogen specielt langsigtet strategi, man mange virksomheder i dag agerer heller ikke specielt langsigtet, når det sælger salg, så der vil være nogle, der falder for fristelsen.

Hvad skal mennesket nu?

Og alt dette afføder så spørgsmålet: Hvad skal mennesket nu? Hvis maskinerne overtager al samhandel og koordinering på vores vegne over tid, hvad er der så tilbage? Man kan hurtigt forestille sig et scenarie a la den efterhånden halvgamle animationsfilm ‘Wall-E’, hvor mennesket er blevet rene forbrugere, der ikke producerer andet end affald og i processen fuldstændig har forvandlet Jorden til en losseplads.

Der er vi imidlertid ikke endnu. Og derfor er den vel nok væsentligste opgave for os lige nu at kontrollere rammerne for, hvad teknologien kan og skal hjælpe os med at gøre. Og mens vi stadig har vores kritiske sans i behold, kunne vi jo vælge at anvende den til at spørge os selv om, om nogle af disse opgaver, vi har så travlt med gerne at ville overlade til den smarte teknologi i virkeligheden ikke er meget nemmere at håndtere selv?

(Foto: Pixabay.com)