🔥📮🤖 It's our future.

DeepFakes, FaceSwap Blackmailing, Foodporn.

Als aanvulling op mijn vorige nieuwsbrief, nog even over de kwalitatieve sprong van "Generative adversarial networks". Oftewel; kunstmatig intelligente systemen die op basis van voorbeelden zelf beelden kunnen creëren. Deze bovenstaande video is een zeer recent voorbeeld van een Deepfake video van actrice Jennifer Lawrence, je kent haar wel uit The Hunger Games, met het gezicht van acteur Steve Buscemi (Reservoir Dogs). Je hebt slechts een video (bron) en een dikke stapel foto's nodig en vervolgens kun je met een stevige computer op je zolderkamer al dit soort Faceswap video's maken. #PostTruth

De donkere kant van deze Deepfake ontwikkeling wordt goed beschreven in dit artikel van de Washington Post. De Faceswap technologie wordt inmiddels gebruikt om pornovideo's te maken van willekeurige vrouwen ter wereld. Om ze te beschadigen in hun werk, carrière of ze te chanteren. Er zijn zelfs al criminelen die voor $20 een video voor je willen creëren zolang je de foto's aanlevert. In dit artikel lees je hoe beschadigend dit is voor vrouwen en hoe extreem groot de negatieve impact is op vrouwen die geconfronteerd worden met deze uitwassen. #NobodyIsSafe

Een luchtiger voorbeeld nog van "Generative adversarial networks" is dit nieuwe systeem uit Tel Aviv dat afbeeldingen creëert van maaltijden op basis van de beschreven bereidingswijze en de ingrediënten. Inderdaad: dit systeem kan door de lijst van ingrediënten en de bereidingswijze te bestuderen fotorealistische nepfoto's maken van de daadwerkelijke gerechten. 

Het interessante aan dit onderzoek is dat het van het computersysteem een bepaalde mate van abstractie vraagt. Vanaf nu kun je je op Instagram dus afvragen of je nou naar een echte foto van een gerecht zit te kijken of naar een nepfoto. 

Een interessant artikel van de New Yorker. Over de therapeutische waarde van een avatar in VR.

In een experiment kregen mensen niet alleen een VR-bril en een hoofdtelefoon op om een virtuele wereld om zich heen te creëren, maar ook sensoren in hun kleding. De onderzoekers probeerden zo de scheidslijn tussen de fysieke en digitale wereld zeer dun te maken. De beleving van het menselijk lichaam en geest over te laten lopen in een virtuele digitale versie. (lees: Body transfer illusion)

Wat zo interessant is aan dit experiment is dat het helder beschrijft hoe je mensen therapeutisch zou kunnen behandelen met psychische of emotionele problemen via VR. Vrouwen met veel zelfkritiek konden bijvoorbeeld in een experiment (in de virtuele wereld) tussen moeder en baby zichzelf vriendelijk toespreken en zichzelf geruststellen en zo plaatsvervangende, therapeutische ervaringen creëren. Interessant: hoe het opdoen van ervaringen in een virtuele wereld therapeutisch werkt in het verdere dagelijkse leven.

Ik ken dit soort voorbeelden wanneer het gaat over behandeling van angsten of bijvoorbeeld posttraumatische stress. Wie kent nog meer voorbeelden?

Autonome drones

Drone technologie wordt steeds geavanceerder. Op de Galapagos eilanden worden autonome drones ingezet omdat ze daar last hebben van een rattenplaag. Autonome drones droppen er gif met maar liefst een precisie van een halve meter. Zo proberen ze de ratten te verdelgen.

Goede zaak zou je zeggen, maar ik denk dan gelijk: wat als kwaadwilligen deze technologie gaan gebruiken om bijvoorbeeld op Koningsdag iets van gif, zuur of chemicaliën te lozen op een concertpubliek. Even los van de nadelen van deze stoffen kun je je ook een behoorlijke paniek voorstellen met mogelijk gewonden of erger.. Autonome drones worden steeds meer een concrete dreiging volgens politie- en inlichtingendiensten.

Gezichtsherkenningstechnologie

Gezichtherkenningstechnologie wordt steeds slimmer. Met deze slimme software kan steeds beter identiteit, etniciteit, gemoedstoestand, geslacht en leeftijd worden vastgesteld. Alles wat je nodig hebt is een camera en wat (open source) software en je bent "ready-to-go".

De technologie kan kan ook gebruikt worden om mensen op te sporen die verward, verdwaald of ontvoerd zijn. Ook is er een database in China waar ouders de foto's van hun kinderen naar kunnen uploaden dat wanneer zij kwijt zijn de kinderen opgespoord kunnen worden. Allemaal positieve use-cases. Maar er zijn ook gevaren natuurlijk.

Microsoft (!) roept nu op tot regulering. Het onderkent 3 problemen: Privacy, Discriminatie en Mass Surveillance.

"Wij vinden het belangrijk dat overheden in 2019 wetten gaan vaststellen om deze technologie te reguleren. De gezichtsherkennings "geest" komt als het ware net uit de fles. Als we niet in actie komen, lopen we het risico dat we over vijf jaar tot de ontdekking komen dat gezichtsherkennings producten zich hebben ontwikkeld op een manier die de maatschappelijke problemen verergert. Tegen die tijd zal het veel moeilijker zijn om deze bedreigingen weer op te lossen."

Mijn Take-aways:

-Het is van cruciaal belang dat gekwalificeerde mensen de resultaten van gezichtsherkenning beoordelen en belangrijke beslissingen zélf nemen in plaats van ze simpelweg over te dragen aan computers. 

-De grootste bedreigingen die door deze technologie ontstaan zijn grootschalige surveillance door overheden en het verlies van onze privacy.

-Deze software is nog in ontwikkeling. Er zitten bijvoorbeeld nog veel fouten in betreffende geslacht en etniciteit.

-We moeten ervoor zorgen dat het gebruik van gezichtsherkenningstechnologie door de overheid onderheven blijft aan de regels van de rechtsstaat. 

En.... Van "face-recognition surveillance" naar "voice print surveillance".

Amerika is namelijk bezig om via de telefoon de stemmen van Amerikaanse gevangenen te verzamelen in een voice-print database. Hiermee kan in de toekomst de identiteit van deze mensen worden vastgesteld op basis van hun stem. In sommige projecten worden zelfs de stemmen van gespreksontvangers van buiten de gevangenis geregistreeerd om zo bij te houden welke van deze ontvangers regelmatig met verschillende gedetineerden spreken.

Een geïnterviewde gevangenisdirecteur zegt dat het systeem moet voorkomen dat bepaalde gevangenen contact opnemen met hun slachtoffers of getuigen met behulp van de persoonlijke telefoon-pincode van andere gevangenen. De stem-analyse maakt dit onmogelijk en ontmaskert de daadwerkelijke beller.

Niet gek gedacht natuurlijk. Maar de vraag is volgens mij niet óf deze database misbruikt gaat worden voor surveillance, maar vooral wanneer en door wie. Of ben ik wat paranoïde?

“De kwalitatieve groeispurt van kunstmatige intelligente systemen biedt zeker kansen, maar roept ook veel vragen op. De antwoorden die wij als mens hierop geven, moeten een helder beeld geven van de samenleving waarin wij willen leven, wat de rol van de mens hierin is en hoe wij onze eigen (mede)menselijkheid uiteindelijk willen beleven.”

Contact maken

Ik geef graag lezingen over tech-trends en over de impact van nieuwe technologie op mens, werk en samenleving. Voel je vrij om contact met me te leggen! info@jarnoduursma.nl 0616074953

Disclaimer: De inhoud is uitsluitend bedoeld voor informatieve doeleinden en mag niet worden opgevat als juridisch, zakelijk, fiscaal of beleggingsadvies. Het is geen aanbod, suggestie of verzoek om een investering te doen. In het bijzonder is de inhoud niet gericht op een belegger of potentiële belegger en mag niet worden gebruikt om een belegging te evalueren of te doen.