The Dark Side Of Alexa

The Dark Side of Alexa

"AI assistants will help consumers navigate their increasingly overwhelming number of choices."

Wie mijn boek: "de digitale butler" heeft gelezen, herkent onderstaand (realistisch) scenario.

"De autonome auto liet Lori bij haar thuis achter en vertrok vervolgens naar de geplande onderhoudsbeurt bij de dealer. Het zou weer op het juiste moment arriveren om haar de volgende ochtend naar de luchthaven te brengen.

De bekende stem van Eva, een "next-generation" slimme assistente als Alexa, begroette haar in de foyer van haar huis en herinnerde haar op milde wijze aan haar reisplannen voor de komende conferentie in LA. Lori had niet de moeite genomen om de details te achterhalen, omdat Eve had gezorgd voor het vinden van de beste vlucht, stoel en hotelkamer met in achtneming van het onkostenbeleid van haar bedrijf.

Terwijl ze haar boodschappen uitpakte, zag Lori dat Eve haar wekelijkse boodschappen had aangepast, door bederfelijke waren weg te laten en door het toevoegen van reisbenodigdheden en sunblock. Eve had berekend dat Lori te weinig wasmiddel had (en met wasgoed thuis zou komen), had de bot meer besteld maar was overgestapt op een nieuw, minder duur merk dat goede consumentenbeoordelingen kreeg. En, in de wetenschap dat Lori niet wilde koken, had Eve ervoor gezorgd dat haar favoriete afhaalmaaltijd bij haar thuiskomst zou worden afgeleverd.

Godzijdank is Eve er, dacht Lori bij zichzelf. Naast het beheren van haar boodschappen en reizen, volgde de bot haar financiele transacties en hield haar uitgaven binnen de perken. Elk kwartaal controleerde Eve bijvoorbeeld alle telefoonabonnementen op de markt en vergeleek ze met het verwachte dataverbruik van Lori.

Zij vertrouwde ook op Eve voor soortgelijke hulp bij het kopen van verzekerings-, bank- en beleggingsproducten. Soms moest ze haar bot instrueren over de afwegingen die ze bereid was te maken (bijvoorbeeld om af te zien van hogere rendementen voor een groenere beleggingsportefeuille).

En recent was Eve begonnen uit te zoeken welke producten ze naar op zoek was zonder dat ze het haar verteld hoefde te worden."

The Dark Side of Alexa

Alexa = hands free: routine decisions made frictionless

Al langere tijd ben ik geïnteresseerd in de opkomst van de digitale virtuele spraakassistenten. Ik zie dit als een duidelijke technologische trend.

Maar vergis je niet: ik ben niet enkel enthousiast. Deze assistenten bieden hun diensten aan in ruil voor ‘micro convenience’ zoals dat zo mooi wordt genoemd in dit artikel. Kleine handelingen van gemak. Even de praktische jeuk wegnemen binnen je dagelijkse routine. Handig en comfortabel, maar tegelijkertijd verzamelen dit soort apparaten ongekende hoeveelheden data. Corporate surveillance is een realistisch scenario.

Mijn zorg zit niet alleen in het mogelijke 'meeluisteren' van dit soort apparaten, maar ook in de andere (met Alexa gekoppelde) producten die data genereren en op deze wijze iets vertellen over je dagelijkse leven.

Steeds meer fysieke apparaten krijgen namelijk Alexa-achtige software omdat Amazon deze gratis beschikbaar stelt. Zo weet Amazon wat je hebt klaargemaakt in je Alexa magnetron, kan het meekijken met je Amazon Ring deurbel-camera en dankzij 'Echo Auto' kan het bedrijf zien wanneer je vertrekt en thuiskomt.

Niet alleen op individueel niveau, maar ook op macroniveau maakt Amazon een ongekend sterk en fijnmazig profiel van menselijk gedrag. En vergeet niet: het is en blijft een commercieel bedrijf.

Dit artikel is absoluut lezenswaardig omdat het licht schijnt op de manier waarop Alexa en aanverwante assistenten ons mogelijk gaan veranderen.

Omgang met Alexa beïnvloedt ons mens-zijn. Here-we-go.

Ik heb het al vaker gezegd: wanneer slimme digitale assistenten nog intelligenter worden, gaan mensen vriendschappelijke gevoelens beleven in relatie met dit soort software. Zonder schaamte kunnen wij namelijk onze gevoelens en gedachten delen. De digitale assistent heeft altijd aandacht, een luisterend oor en zal nooit bot reageren. En hoewel we met ons hoofd wel weten dat het digitale technologie is, vertelt ons brein dat we praten met iemand anders. We zijn evolutionair nog niet gewend aan het idee dat een pratende stem geen mens is.

En omdat de grote softwarebedrijven steeds beter worden in het distilleren van onze gemoedstoestand uit onze spraak, zal het onderlinge gesprek binnenkort dus ook soepeler lopen. De software weet hoe je je voelt en speelt daarop in. Onze relatie wordt dus steeds intiemer met Alexa. Voor veel mensen is deze surrogaat vriendschap denk ik voldoende, ben ik bang.

NB.1.: De volgende technologische stap is dat uit onze spraak eventuele emotionele problemen gedistilleerd kunnen worden zoals depressie, angststoornissen of posttraumatische stress 

NB.2.: Amazon zegt dat in 2017 maar liefst 1 miljoen mensen een huwelijksaanzoek deden richting Alexa. Velen deden dit natuurlijk voor de grap, maar het getal is opvallend.

Niet alleen wanneer het gaat om vriendschap, maar vooral de handelingen zonder wrijving (micro-convenience oftewel frictionlessness) zorgt ervoor dat we niet kritisch meer kijken naar onze eigen consumptie. Het gaat vanzelf. We hoeven letterlijk niet meer na te denken. Niet meer reflecteren op onze verlangens en wensen die we bevredigen met consumeren. Want: Frictionlessness voorkomt ongemak en daarin ligt juist onze menselijke reflectie.

En wanneer Alexa ons continu en snel voorziet in onze behoeften, wat doet dit met onze frustratietolerantie? Heeft dit device een vergelijkbare werking als de smartphone op onze verveling? Dat we ons niet meer kunnen vervelen omdat we altijd onze smartphone in onze zak hebben? Dat we minder frustatie kunnen verdragen omdat we gewend zijn aan mee-denkende software die snel onze behoeftes bevredigd? De praktische jeuk wegneemt in ons dagelijks leven?

Tevens zet de auteur vraagtekens bij de rol van een virtuele vriend die altijd dienstbaar met je mee buigt en nooit, (zoals in het echte leven) je spiegelt op jouw gedrag of manier van doen. Als een ouder of vriend die conflicten no matter what wil voorkomen; ook wanneer je het er zelf naar gemaakt hebt. Volgens mij is dat geen goeie vriend.

Jarno Duursma 雅诺 @JarnoDuursma

"mensen gaan ook ontzettend veel praten met die robots waarbij ze hun diepste gevoelens en geheimen blootleggen." https://t.co/4tFK12WzcW

Contact maken

Ik geef graag lezingen over tech-trends en over de impact van nieuwe technologie op mens, werk en samenleving. Voel je vrij om contact met me te leggen! info@jarnoduursma.nl 0616074953