De machine praat als een mens. En dat betekent nogal wat.

18.000+ lezers blijven up-to-date over artificial intelligence door 'Trending in Tech' te lezen.

Pats! Een nieuwe editie van Trending in Tech. Dé Nederlandse nieuwsbrief over de impact van artificial intelligence op mens, werk, bedrijf en samenleving. 18K+ abonnees inmiddels.

Doorsturen aan een vriend of collega? Graag!

Veel leesplezier!

met hartelijke groet, Jarno Duursma

“Hello World”

Misschien heb je de geavanceerde voice-modus van OpenAI gehoord.

Een systeem dat kan praten als een mens: vriendelijk, adrem, sociaal, begripvol, zonder vertraging, grappig en beleefd.

Hier een persoonlijk voorbeeld.

Hyperrealistische menselijke interactie door AI is dus geen science fiction meer. Dit impliceert veel. Wat gebeurt er als hyperrealistische AI-stemmen menselijke communicatie overnemen? Zowel zakelijk als privé?

Bedrijven

Bedrijven kunnen vanaf nu goede spraaktechnologie gaan gebruiken in hun processen.

We zullen zien dat ze deze technologie gaan inzetten om bijvoorbeeld afspraken te laten boeken. Denk aan een tandarts, kapsalon of garage, allemaal zonder tussenkomst van een medewerker. Dit zal zeker gebeuren, want het bespaart bedrijven enorm veel tijd, verstoort minder het werk en verlaagt de drempel voor klanten. Transportbedrijven gebruiken het al om updates te ontvangen over ladingen, afspraken te plannen of de betalingsstatus te controleren.

In restaurants en fastfoodketens zullen voice-assistenten onze bestellingen en reserveringen opnemen. Je zult niet eens merken dat je contact maakt met een mens-machine.

Callcenter industrie

Deze voice assistant technologie zal ook een enorme impact hebben op de callcenterindustrie. In eerste instantie voor eenvoudige klantvragen, zoals het wijzigen van een adres of het geven van informatie over een bestelling, maar uiteindelijk ook voor steeds complexere zaken .

Outbound salesmedewerkers zullen deze technologie gebruiken om klanten proactief producten of diensten aan te bieden. Gespecialiseerde AI-stemassistenten worden specifiek getraind voor dat doel, met vele, vele boeken en PDF’s rondom onderhandeling, beïnvloeding en andere verkooptechnieken.

Dit roept echter ook ethische vragen op over de manipulatieve kracht van deze hyperrealistische menselijke interactie. ‘Fake intimacy’ om potentiële klanten te beïnvloeden en om mensen op te lichten is verwerpelijk. En wat wanneer deze mens-machines niet alleen commerciële invloed uit gaan oefenen, maar ook maatschappelijke en politieke meningen gaat sturen? Hier schreef ik al eerder over.

Professional Voice Roleplay

Ook ontstaat er een nieuwe markt voor roleplay, waarbij het voice-systeem een bepaalde rol aanneemt, bijvoorbeeld in opleidings- of trainingsdoeleinden. De voice-assistent speelt dan bijvoorbeeld de rol van een lastige klant, zodat een zorgmedewerker of salesprofessional kan oefenen hoe met dit soort situaties om te gaan.

Salesprofessionals gebruiken nu al voice-software om hun sales gesprekken mee te oefenen.

Sollicitanten passen het over niet al te lange tijd toe om gesprekken te oefenen, en HR-medewerkers zullen het inzetten om te oefenen hoe ze omgaan met medewerkers in geval van een arbeidsconflict.

Recruitmentbureaus zullen software de eerste gesprekken met potentiële kandidaten laten voeren. Dit versnelt niet alleen het proces, maar zal waarschijnlijk ook de kwaliteit van de kandidaten doen toenemen. De vraag is wat ethisch is. Maar de commercie zal winnen.

Ieder ‘makkelijk’ gesprek (beslisboom) die nu nog wordt gevoerd door een mens kan in de nabije toekomst door AI worden gedaan.

Door generatieve AI kunnen veel zaken worden geautomatiseerd die voorheen niet te automatiseren waren. Nu ook menselijke communicatie.

De impact van de mens-machine op onze communicatie en interactie wordt nu nog onderschat.

Ethische overwegingen

Er zijn heel veel ethische wrijvingen.

Het grootste bezwaar is dat de scheidslijn tussen mens en machine vervaagt, en dat het fundament van ons menselijk welzijn begint te wankelen. Menselijke communicatie is een product geworden.

Contact met de mens-machine

De menselijke stem is nu dus niet meer van ons, maar de menselijke verbinding nog wel?

We zien ook dat steeds meer mensen een vorm van 'vriendschap' aangaan met AI-systemen, zoals Replika en Character.ai. Of de Snapchat MyAI feature. (mijn kritiek)

‘Algorithmic Affection’ (link)

Het feit dat we met technologie menselijke interactie kunnen nabootsen, impliceert veel.

Enorm veel ethische vraagstukken. Moeten we bijvoorbeeld softwarebedrijven verplichten om de voice assistent zichzelf kenbaar te laten maken als AI? Zijn we voldoende beschermd tegen voice fraude? Krijgen alleen de mensen die er voor willen betalen in de toekomst nog contact met échte mensen bij een klantenservice?

Niet enkel economisch gewin moet voorop staan; we moeten ook bedenken wat er afbrokkelt. Zoals we hebben gezien met sociale media, kan het vervangen van menselijke interactie door digitale verbindingen, onjuiste spiegelbeelden en vervelende echoputten schadelijke gevolgen hebben voor onze mentale- en emotionele gezondheid en sociale cohesie. Laat dat met AI niet gebeuren.

Efficiency? Handig! Meer productiviteit? Fijn! Meer geld? Prettig! Tijd besparen? Heerlijk! Zonder spot.

Maar.. wat laten we onderweg liggen? Is automatiseren wel een goed idee? Blijft de relatie met de klant bijvoorbeeld goed wanneer je ‘t uitbesteedt aan een pratende machine?

Wordt menselijk contact een luxe product?

Wat is de rol van menselijke communicatie in ons mens zijn? Wat betekent menselijk contact nu en in de toekomst?

De machine kan praten. En we luisteren nu naar stemmen die we nooit eerder hebben gehoord. Maar als we niet opletten, creëren we een wereld met minder betekenis.