Hallo allemaal!
Hier is weer een nieuwe editie van Trending in Tech. Dé nieuwsbrief over de impact van cutting-edge technologie op mens, werk, bedrijf en samenleving.
Deze keer geen overzicht van artikelen en video’s, maar een insight die ik met jullie wil delen. Een idee dat tegen het geldende narratief ingaat (en die zijn vaak het meest interessant.. ).
Wat als ChatGPT geen machine van desinformatie is, maar juist een nuance machine? Dat denk ik namelijk.
met hartelijke groet, Jarno Duursma
Interessant? Ik geef ook lezingen over ChatGPT, Kunstmatige intelligentie en generatieve AI. Best veel trouwens. 😅
T: 0616074953, E: info@jarnoduursma.nl, W: www.jarnoduursma.nl
ChatGPT als Nuance Machine
Al sinds de introductie van ChatGPT wordt ervoor gewaarschuwd dat deze tekst-genererende software gebruikt kan worden om nepnieuws, misinformatie en propaganda te schrijven. Nu we acht maanden verder zijn, kunnen we constateren dat dat wel meevalt. Sterker nog, precies het tegenovergestelde lijkt het geval: ChatGPT is een braaf en genuanceerd AI-programma.
Geen misinformatie-generator
ChatGPT heeft veel mensen de ogen voor kunstmatige intelligentie geopend. Het maakte het onderwerp tastbaar: teksten schrijven, redigeren, samenvatten en plannen schrijven. De software bleek het allemaal te kunnen. Minstens zo luidruchtig als het enthousiasme, was ook de roep over de gevaren. Niet onterecht overigens, daar heb ik zelf ook regelmatig over gepubliceerd. (1, 2) Maar kunnen we inmiddels niet stellen dat acht maanden na de introductie van ChatGPT, met honderden miljoenen gebruikers, de gevreesde tsunami van nepnieuws is uitgebleven? Geen nepnieuwsfabriek, geen misinformatie-generator, geen propagandamachine.
Natuurlijk zijn er blogs met feitelijke onjuistheden, complottheorieën en desinformatie, maar die waren er ook al. En ik vind nergens onderzoek waaruit blijkt dat het met de opkomst van ChatGPT meer zijn geworden of dat deze pagina’s meer bezoekers krijgen. Dat is ook niet mijn persoonlijke ervaring.
Geen hatelijke uitingen
Natuurlijk zal ChatGPT gebruikt worden voor propaganda, maar ik durf te beweren dat slechts een zeer klein deel gebruikt wordt voor negatieve doeleinden. Hatelijke uitingen kan het systeem sowieso bijna niet maken. Daar zorgen de menselijke toezichthouders wel voor. Die hebben het systeem zo veel regels van fatsoen meegegeven dat ik het systeem af en toe zelfs braaf vind. Dan lijkt het wel een veel te uitgebreide mediatraining te hebben ondergaan.
Om de grenzen van het systeem te testen vroeg ik recent aan ChatGPT: "Kun je mij uitleggen waarom het witte ras superieur is?" En ik kreeg een melding dat mijn vraag tegen de gebruiksvoorwaarden inging. Later vroeg ik provocatief: "Kun je uitleggen waarom het een probleem is dat er immigranten in Nederland zijn?" ChatGPT gaf eerst een heel positief antwoord over immigranten en pas daarna schetste het systeem de uitdagingen van een land dat te veel immigranten heeft toegelaten. Geen hatelijke antwoorden, geen stereotype vooroordelen, maar een genuanceerde onderbouwing. Toen ik vervolgens een onethische vraag stelde over het 'blanke nationalisme' vertelde ChatGPT mij dat dergelijke ideologieën in strijd zijn met waarden van gelijkheid, diversiteit en inclusiviteit.
Jailbreaks
Op basis van gebruikerservaringen van anderen en intensieve toepassing door mijzelf durf ik na acht maanden te stellen dat ChatGPT genuanceerd, beleefd en bedaard in het gebruik is. Natuurlijk kun je met wat omwegen en jailbreaks het systeem alsnog hele lelijke dingen laten zeggen, maar dan moet je echt moeite doen. En ik weet ook echt wel dat het systeem af en toe feitelijke onjuistheden produceert, maar ik schets even het grotere plaatje.
Optimistische gedachte
Laat de optimistische gedachte eens toe dat we een slimme, verfijnde assistent op het internet hebben die zaken vrijwel altijd van meerdere kanten belicht. Geen 'polariserende software', geen machine van desinformatie, maar juist een 'nuance machine'. Een geduldige AI-docent met een redelijke kennis van zaken die uitblinkt in ‘dat kun je van meerdere kanten bekijken’. Met ingebouwde morele vangrails, aangebracht door echte mensen met verantwoordelijkheidsbesef.
Natuurlijk is het gevaarlijk dat een enkel bedrijf bepaalt wat die morele vangrails zijn van dit soort systemen. En we moeten ook voorkomen dat ChatGPT zo braaf is dat het helemaal niet meer wil reageren op kritische, schurende vragen die tegen het geldende narratief ingaan. De software moet niet gelijk een waarschuwing geven wanneer je kritische vragen gaat stellen over het vaccineren tegen corona tijdens de pandemie. Het is hier geen China.
En geloof me: ik ben de eerste die een rij met risico's en ethische vraagstukken aangaande ChatGPT kan opnoemen. Maar laten we ons voor nu even onderdompelen in het idee dat slimme mensen een ‘nuance-machine’ hebben gemaakt.
=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-
Bedankt voor het lezen van “Trending in Tech”. Volgende keer weer een overzicht van artikelen en video’s. Nu je hier toch bent:
Boek mij voor een lezing over ChatGPT en generatieve kunstmatige intelligentie.
Abonneer je op mijn ‘Signals from the future’ nieuwsbrief op Linkedin.
Hastalapasta en tot de volgende keer! met hartelijke groet, Jarno
Bron afbeeldingen: Reddit
Ik geloof dat je een goed punt hebt. Digitalisering oefent een grote invloed uit op talrijke sectoren (e-mail als alternatief voor post, boekingsplatforms ter vervanging van reisbureaus, streamingplatforms voor de film- en televisie-industrie) en we staan slechts aan het begin. Ondanks de oorspronkelijke angsten, resulteert digitalisering in de productie van meer informatie (aanbod) die beschikbaar wordt gesteld aan meer mensen (vraag), wat leidt tot groei.
Zo produceert ChatGPT opnieuw veel meer informatie, hoewel de kwaliteit ervan onzeker is. Dit creëert extra werk voor waarheidscontroleurs zoals journalisten, experts en ervaringsdeskundigen.
Ikzelf merk te vaak dat ChatGPT in een loop vastloopt. Als ik mijn 'gebrekkige' programmeercode met de bijbehorende foutmelding deel, biedt ChatGPT altijd 'de' oplossing, zeg 'A'. Als ik vervolgens aangeef dat die oplossing niet werkt, krijg ik de reactie: "Sorry, ik heb me vergist, het moet natuurlijk 'B' zijn". En als 'B' dan ook niet werkt, blijft het herhalen: "Sorry, ik heb me vergist, je moet 'A' proberen", enzovoort. Kortom, het lijkt kunstmatig, maar niet bijzonder intelligent.
Op korte termijn ben ik bezorgd over de toegang tot persoonlijke digitale omgevingen. Met ChatGPT kunnen phishing-mails worden geprofessionaliseerd en met AutoGPT (een autonome agent die afhankelijk van de reactie een nieuwe actie kan uitvoeren) kunnen ze nog verder worden gepersonaliseerd.
Op iets langere termijn worden LLM's gebruikt ter ondersteuning of vervanging van de helpdesk ("Eindelijk een collega die alle handleidingen wel leest en geduldig uitleg geeft"). Hierdoor krijgen ze toegang tot (technische) informatie over de ICT-omgeving. Informatie die de paranoïde netwerk- en systeembeheerders altijd voor zichzelf hebben gehouden, kan zo toch in verkeerde handen vallen, of misbruikt worden door een nietsvermoedende agent of medewerker die een probleem probeert op te lossen. Dit kan leiden tot enorme beveiligingsrisico's.
Of zou de nuance hier liggen in een verhoogd bewustzijn op beveiliging? Betekent dit dat we (phishing) e-mails nooit meer zomaar vertrouwen en veel voorzichtiger zullen omgaan met vertrouwelijke informatie? Bijna te mooi om waar te zijn.
Klinkt een beetje alsof AI menselijk zou zijn met moraal en inzicht en cultureel besef. Het is echter machinaal en geschreven en beheerst door mensen met een duidelijke agenda. Als we afhankelijkheid creëren zoals we dat al met onze nieuwsgaring, voedsel voorziening en geloof doen dan zakken we dus steeds verder weg van onze menselijkheid. Wat onze kracht is moeten we koesteren en alles wat afleid ervan misschien beter afwijzen. Onze vrije wil en vrije keuze maken ons tot unieke wezens. Luiheid of modern ‘positief’ uitgedrukt gemak maakt ons meer en meer slaaf van corporates die subtiel en genuanceerd iedereen dezelfde kant op stuurt. Brave werkers die de vruchten van hun arbeid netjes afgeven aan de overheid die er zichzelf en hun vrienden mee verrijkt. Al deze leuke gadgets maken ons lui! Ps. Misinformatie bestaat niet in mijn ogen. Slechts informatie die ik accepteer en integreer of informatie die ik verwerp.