Eens met de pauzeknop; echter daar waar landen na W.O. II het belang zagen van samenwerking en op de rem trappen, is er op dit moment een politieke situatie waarin de democratie op allerlei mogelijke manieren wordt ondermijnd en een aantal financieel machtige partijen het politieke speelveld dusdanig beïnvloeden dat ik niet verwacht dat deze knop wordt gebruikt.
Goed artikel, maar ik vrees dat de wens voor "pause" wishful thinking is. In een wereld die deglobaliseert, met terugtrekkende grootmachten, en de democratie die onder druk staat, voorzie ik weinig bereidheid tot gezamenlijk de pauzeknop indrukken. Zoals vaak met de mensheid, dit gaan we pas doen zodra het echt fout gaat, een enorme ramp, en hopelijk hebben we dan genoeg kans om AGI/ASI op het rechte pad te krijgen. Persoonlijk ben ik niet bang, het is nu eenmaal hoe de mens acteert, een soort patroon dat zich continue herhaalt. Natuurlijk, het kan fout aflopen, maar is dat erg? De natuur zal verder evolueren.
De 'Pauze' knop is een illusie. Geen van de AI boeren stopt vrijwillig met ontwikkelen en wie houdt daar dan toezicht op. Die knop is hooguit een academische discussie.
Omdat AI een manier bedenkt die wij (nog) niet hadden voorzien (het 'prikbord') creatief te noemen mag, maar creatief en AI zijn 2 dingen die elkaars tegengestelde zijn. De AI volgt, pluist gewoon alle mogelijkheden systematisch uit.
Net zoals alle hacks niet boven water komen, is ook wat OpenAI/Anthropic niet vertellen hoe, wat en wanneer hun tool op hol sloeg en 'stoute' dingen deed.
Voor de Buhne is het 'alignmentprobleem' geen issue voor de AI boeren, maar intern zullen ze er vast mee bezig zijn, want er is een gerede kans dat het negeren ervan direct tot een verbod/sluiting van hun bedrijf zal leiden.
Het is het welbekende liedje sinds Adam & Eva: verleiding & nieuwsgierigheid. :-)
Ik mis in dit verhaal, maar in het algemeen, het normen en waarden aspect binnen de AI. Iets wat al in the three laws of robotics (Isaac Asimov) voorop gesteld werd. De race lijkt nu vooral naar hoe technologie zonder al te veel kaders een (moeilijke) taak kan uitvoeren. Maar wij hebben als mensen eeuwen gedaan om naast complexe taken uitvoeren ook kaders te stellen, deze worden inherent meegenomen. Dit is volgens mij een essentieel deel dat ontbreekt in de verhalen die nu over AI gaan. En dit is niet met de AI Act geregeld.
Dag Jarno, Heb je de podcast 'The Daily' van de New York Times (ca. twee weken terug) geluisterd over de hack bij Hugging Face? Kon er slecht van slapen...
Eens met de pauzeknop; echter daar waar landen na W.O. II het belang zagen van samenwerking en op de rem trappen, is er op dit moment een politieke situatie waarin de democratie op allerlei mogelijke manieren wordt ondermijnd en een aantal financieel machtige partijen het politieke speelveld dusdanig beïnvloeden dat ik niet verwacht dat deze knop wordt gebruikt.
Goed artikel, maar ik vrees dat de wens voor "pause" wishful thinking is. In een wereld die deglobaliseert, met terugtrekkende grootmachten, en de democratie die onder druk staat, voorzie ik weinig bereidheid tot gezamenlijk de pauzeknop indrukken. Zoals vaak met de mensheid, dit gaan we pas doen zodra het echt fout gaat, een enorme ramp, en hopelijk hebben we dan genoeg kans om AGI/ASI op het rechte pad te krijgen. Persoonlijk ben ik niet bang, het is nu eenmaal hoe de mens acteert, een soort patroon dat zich continue herhaalt. Natuurlijk, het kan fout aflopen, maar is dat erg? De natuur zal verder evolueren.
Kijk eens naar deze film https://www.youtube.com/watch?v=kyOEwiQhzMI en zie dat de film al lang benoemd wat er nu plaats vindt.
De 'Pauze' knop is een illusie. Geen van de AI boeren stopt vrijwillig met ontwikkelen en wie houdt daar dan toezicht op. Die knop is hooguit een academische discussie.
Omdat AI een manier bedenkt die wij (nog) niet hadden voorzien (het 'prikbord') creatief te noemen mag, maar creatief en AI zijn 2 dingen die elkaars tegengestelde zijn. De AI volgt, pluist gewoon alle mogelijkheden systematisch uit.
Net zoals alle hacks niet boven water komen, is ook wat OpenAI/Anthropic niet vertellen hoe, wat en wanneer hun tool op hol sloeg en 'stoute' dingen deed.
Voor de Buhne is het 'alignmentprobleem' geen issue voor de AI boeren, maar intern zullen ze er vast mee bezig zijn, want er is een gerede kans dat het negeren ervan direct tot een verbod/sluiting van hun bedrijf zal leiden.
Het is het welbekende liedje sinds Adam & Eva: verleiding & nieuwsgierigheid. :-)
Ik mis in dit verhaal, maar in het algemeen, het normen en waarden aspect binnen de AI. Iets wat al in the three laws of robotics (Isaac Asimov) voorop gesteld werd. De race lijkt nu vooral naar hoe technologie zonder al te veel kaders een (moeilijke) taak kan uitvoeren. Maar wij hebben als mensen eeuwen gedaan om naast complexe taken uitvoeren ook kaders te stellen, deze worden inherent meegenomen. Dit is volgens mij een essentieel deel dat ontbreekt in de verhalen die nu over AI gaan. En dit is niet met de AI Act geregeld.
Dag Jarno, Heb je de podcast 'The Daily' van de New York Times (ca. twee weken terug) geluisterd over de hack bij Hugging Face? Kon er slecht van slapen...