www.wimjongman.nl

(homepagina)


HET HYBRIDE TIJDPERK (DEEL 34): Ik, Robot

8 mei 2022 - door SkyWatch Editor

()

Deel 1 - Deel 2 - Deel 3 - Deel 4 - Deel 5 - Deel 6 - Deel 7 - Deel 8 - Deel 9 - Deel 10 - Deel 11
Deel 12 - Deel 13 - Deel 14 - Deel 15 - Deel 16 - Deel 17 - Deel 18 - Deel 19 - Deel 20 - Deel 21
Deel 22 - Deel 23 - Deel 24 - Deel 25 - Deel 26 - Deel 27 - Deel 28 - Deel 29 - Deel 30 - Deel 31
Deel 32 - Deel 33 - Deel 34 - Deel 35 - Deel 36 - Deel 37 - Deel 38 - Deel 39 - Deel 40 - Deel 41

Ken je dat gevoel van extreme frustratie dat we krijgen als we in de war zijn over een rekening in de post, maar als we het bedrijf bellen om het recht te zetten, en we geen mens aan de lijn krijgen? We bellen keer op keer, drukken herhaaldelijk op knoppen in een poging om een entiteit te bereiken die de mogelijkheid heeft om te communiceren voorbij deze geautomatiseerde menu's, maar alles wat we krijgen is een opname - of erger nog, we besteden drie minuten aan het volgen van de stemherkenning aanwijzingen alleen maar om uit te komen op die vervelende fout die we maar al te goed kennen:

ROBOT: Dank u voor het gebruik van [naam van bedrijf]. Kunt u mij vertellen waarom u belt. U kunt dingen zeggen als, "Nieuwe account," of "Ik wil graag een rekening betalen."

MENS: Klantenservice.

ROBOT: Ik begrijp het. U wilt graag spreken met de klantenservice. Is dat juist? Als dit juist is, zeg "ja" of druk 1. Zo niet, zeg "nee" of druk op 2.

MENS: Ja.

ROBOT:Zeker. Ik kan u met de klantendienst doorverbinden. Om u naar de juiste persoon door te verbinden, moet ik weten waarom u belt. U kunt dingen zeggen als, "Nieuwe rekening," of "Ik wil graag een rekening betalen."

MENS: De rekening op mijn rekening is verkeerd.

ROBOT: Ik begrijp het. U wilt een betaling doen via ons geautomatiseerd systeem. Is dat juist? Als dit juist is, zeg "ja" of-

MENS: Nee. Er staat een fout op mijn rekening.

ROBOT: Ik begrijp het. U zou graag een betaling doen via ons...

MENS: Nee. Verbind me door met een mens, alstublieft.

ROBOT: Het spijt me. Ik begreep niet wat u zei. Vertel me alstublieft waarom u belt. U kunt dingen zeggen als, "Nieuwe rekening," of "Ik wil graag een rekening betalen."

MENS: Schreeuwend... Klantenservice, klantenservice, klantenservice!

ROBOT: Natuurlijk. Ik kan u naar de klantendienst brengen. Om u naar de juiste persoon door te verbinden, moet ik weten waarom u belt. U kunt zeggen dingen als "Nieuw account" of "Ik wil graag een rekening te betalen."

Werken met robots via de telefoon kan een van de meest gekmakende ervaringen zijn als we al boos zijn over een verrassing op een maandafschrift. Ik zie een nog grotere woede opkomen door de koude, gevoelloze houding van de bedverpleegster van morgen, of ze nu wel of niet geprogrammeerd is om kunstmatige beleefdheid en bezorgdheid uit te stralen in haar geautomatiseerde stemherkenningsmenu's terwijl jij daar op een ziekenhuisbed ligt.

Ik vraag me af of de Chevy Bolt van General Motors (ook wel de bestuurderloze "robo-chariot"[i] genoemd), die sommige taxichauffeurs heeft vervangen, tot soortgelijke frustraties zal leiden en ons naar verkeerde locaties zal brengen...of dat deze voertuigen efficiënter zullen zijn dan de mensen die deze banen voorheen bekleedden, en hun berijders op tijd via binnenwegen naar hun bestemming zullen brengen om via een soort verkeersanalyseprogramma de stop-and-go's te vermijden. Aangezien de stuurloze wagen wordt gebouwd zonder pedalen of stuurwiel, hoop ik dat ze immuun zullen zijn voor onverwachte defecten. Ik hoop ook dat ze niet gehackt en op afstand bestuurd kunnen worden, zodat de volgende Ted Bundy niet de macht krijgt om zijn vrouwen automatisch naar gevaarlijke, donkere steegjes te brengen. Misschien is het waarschijnlijker dat veel mensen gedood worden wanneer (bijvoorbeeld) een struikgewas over de weg voor hen waait terwijl ze door de woestijn van Nevada rijden en het nieuwe automatische remsysteem (dat momenteel op de meeste nieuwe voertuigen wordt geïnstalleerd) de dode struik aanziet voor een mens, de automatische remmen dichtgooit en de semi-chauffeur achter de bestuurders over hun auto heen ploegt? Waymo, Google's autonome auto-ontwikkelaar, heeft besloten om een iets andere zelfrijdende auto te ontwerpen voor hun menselijke vervangers: Chrysler Pacifica minibusjes met wielen en een noodknop voor "pull-over".[ii] Waymo heeft ervoor gekozen om een menselijke medewerker op de voorstoel te betrekken "in het begin... in geval van nood," hoewel hun plan uiteindelijk is om een rit te creëren waarin "de enige mensen in de auto u en de uwe alleen zullen zijn."[iii]

Wat een onpersoonlijke en eenzame wereld zijn we voor onszelf aan het creëren.

Erger nog: De categorie op McKinsey's "Technisch potentieel voor automatisering in de VS" grafiek die me echt gevloerd heeft was "Managen van anderen" - een categorie die tot nu toe alleen betrekking zou hebben gehad op levende, voelende, ademende, bewuste mensen met leiderschapscommunicatievaardigheden. En wat zegt de enquête? Maar liefst 9 procent! Dat klinkt misschien als een laag getal voor sommigen na het zien van bijna 80 en 40 percentages toegewezen aan de categorieën fysieke arbeid en gezondheidszorg, maar in werkelijkheid, als de cijfers van McKinsey & Company juist zijn, is bijna een op de tien mensen die momenteel hun brood verdienen met toezicht houden en besturen - mensen die met andere mensen omgaan - nu vervangbaar door een koud stuk staal en een stel draden. Een robotmanager... Wie had dat ooit gedacht? Op dezelfde manier kan automatiseringstechnologie "expertise toepassen bij het nemen van beslissingen, planning of creatief werk", en op die gebieden menselijke banen vervangen voor 18 procent. Het rapport zinspeelt op een paar verontrustende realiteiten als het tot een conclusie komt:

Top executives zullen eerst en vooral moeten nagaan waar automatisering hun eigen organisaties zou kunnen transformeren en vervolgens een plan opstellen om te migreren naar nieuwe bedrijfsprocessen die door automatisering mogelijk worden gemaakt.... De hamvraag zal zijn waar en hoe waarde te ontsluiten, gezien de kosten van het vervangen van menselijke arbeid door machines. Het merendeel van de voordelen zal wellicht niet voortkomen uit een verlaging van de arbeidskosten, maar uit een verhoging van de productiviteit door minder fouten, een hogere produktie, en een verbeterde kwaliteit, veiligheid en snelheid....

Leidinggevenden van hun kant zullen het moeten "loslaten" op een manier die ingaat tegen een eeuw van organisatieontwikkeling....

Topmanagers [moeten] nadenken over hoeveel van hun eigen activiteiten beter en efficiënter kunnen worden uitgevoerd door machines, waardoor voor leidinggevende tijd vrijkomt om zich te concentreren op de kerncompetenties die geen enkele robot of algoritme kan vervangen - tot nu toe.

"Tot nu toe," voegt het rapport toe. Wat een manier om zo'n verzameling informatie te beëindigen. Recapitulatie, voor het geval je het gemist hebt: Zelfs de executives, senior leaders, en topmanagers worden snel vervangen door machines, maar gelukkig zijn er een paar competenties (die "core") die wij mensen hebben die geen robot of algoritme kan vervangen... althans tot nu toe.

Ik kan niet de enige zijn die een onheilspellend voorbehoud voelde achter deze twee laatste woorden. Het is alsof het rapport eindigt met: "Voorlopig zijn wij, ontoereikende mensen, nog ergens goed voor op de werkvloer, maar maak het je niet te gemakkelijk, want dat zal niet lang meer duren.

Wat velen misschien niet weten, is dat robots tegenwoordig om elke hoek van de wereld hun eigen bewustzijn bewijzen aan wetenschappers en robotica-experts. Velen geloven (en ik ben het daarmee eens) dat zelfs een machine die geprogrammeerd is om een zeker respect voor menselijk leven te hebben, slechts reageert op een namaak, kunstmatige bezorgdheid die voortkomt uit computercodering - niet een bezorgdheid die voortkomt uit een echte, spirituele, emotionele band met genegenheid voor een ander individu. Hoewel het misschien waar is dat kunstmatige genegenheid voor het menselijk ras nooit de spirituele band met anderen of de "gevoelens" die bij de geboorte in de menselijke natuur zijn ingebouwd (onze "biologische programmering", zogezegd) kan vervangen, kan een robot worden geprogrammeerd om emotionele signalen in zijn omgeving te herkennen en daarop te reageren met een kunstmatig emotionele reactie. De vraag is dan welke reactie elk van de robots op dat moment zal "kiezen", en dat is voor filosofen voldoende om de vragen te gaan stellen die ons allen uitdagen onze opvattingen over gevoelens te heroverwegen: Wat is emotie? Wat is gevoel? Wat is waarheid? Als een mens gelooft dat hij verdrietig is vanwege zijn "biologische programmering" en een robot ook "gelooft dat hij verdrietig is" omdat hij tot dat niveau van zelfbewustzijn is geprogrammeerd, hoe kunnen we dan bewijzen dat wij mensen de meer authentieke ervaarders van de emotionele toestand zijn? Het klinkt misschien ongelooflijk dwaas voor sommigen dat we zelfs maar zijn aanbeland op een dag waarop er verwarring zou bestaan over wie - tussen vlees en bloed en metaal en draden - de echte bezorgde Benjamin is, maar dat verandert niets aan het feit dat robotisten bezig zijn met het ontwerpen van mensachtigen die blijk geven van accurate emotionele interactie. Aangenomen dat elke toekomstige AI alleen maar zal worden geprogrammeerd met ondersteunende, vriendelijke persoonlijkheden die warm reageren op menselijke behoeften, is een onlogisch vertrouwen in het idee dat er geen afwijkende robotisten in de wereld zijn die hun technologie zouden kunnen gebruiken om slinkse robots of zelfs moordmachines te ontwerpen, zoals die nu al in de militaire budgetten en op de tekentafels van elke grote natie in de wereld staan, inclusief de Verenigde Staten, China en Rusland.

Wat uiteindelijk deze situatie zou kunnen verergeren, zijn dezelfde scenario's die "het beeld van het beest" leven kunnen inblazen, zoals voorspeld in Openbaring 13.

Robotica worden zelfbewuster met elke dag die voorbijgaat en met elke opgewaardeerde printplaat. Een piepkleine robot haalde in de zomer van 2015 de krantenkoppen toen hij slaagde voor een klassieke zelfbewustzijnstest. Drie robots werden elk geprogrammeerd om een tik op het hoofd te herkennen als het innemen van een pil (ze konden niet echt slikken). Hen werd uitgelegd dat er in totaal drie pillen waren, een placebo en twee "domme" pillen waardoor de ontvanger niet meer zou kunnen spreken. Na elk van hen op het hoofd te hebben getikt, vroeg de programmeur welke van de pillen ze hadden gekregen. De rechter robot stond op en zei: "Ik weet het niet", maar onmiddellijk toen hij zijn eigen stem hoorde, zwaaide hij opgewonden met zijn hand, verontschuldigde zich beleefd en zei: "Ik weet het nu. Ik heb kunnen bewijzen dat ik de domme pil niet heb gekregen."[vi] Een artikel over het verhaal op Science Alert legt uit dat "dit voor robots een van de moeilijkste tests is die er zijn. De AI moet niet alleen naar een vraag kunnen luisteren en deze begrijpen, maar ook zijn eigen stem horen en herkennen dat hij zich onderscheidt van de andere robots. En dan moet hij dat besef koppelen aan de oorspronkelijke vraag om met een antwoord te komen." Het artikel ging verder met te verklaren het belang van het benaderen van robotica met de nodige voorzichtigheid, en stelde vervolgens de vraag in ieders hoofd: "Want als we een machine kunnen programmeren om het wiskundige equivalent van wensen en verlangens te hebben, wat houdt haar dan tegen om slechte dingen te doen? Motherboard bracht het verhaal ook, en een van de schrijvers had het voorrecht een van de ingenieurs achter de succesvolle test te interviewen. Een uittreksel uit dit artikel is als volgt:

De robot met de placebo is geslaagd voor een van de moeilijkste tests voor AI die er zijn: een update van een zeer oud logica probleem genaamd de "wijze mannen puzzel" bedoeld om te testen op machine zelfbewustzijn. Of beter gezegd, een wiskundig controleerbaar bewustzijn van het zelf. Maar hoe vergelijkbaar zijn het menselijk bewustzijn en het sterk afgebakende soort dat uit code voortkomt?

"Dit is een fundamentele vraag waarvan ik hoop dat mensen steeds meer gaan begrijpen over gevaarlijke machines," zei Selmer Bringsjord, voorzitter van de afdeling cognitiewetenschappen aan het Rensselaer Polytechnic Institute en een van de beheerders van de test. "Alle structuren en alle processen, in informatief opzicht, die geassocieerd worden met het uitvoeren van handelingen uit kwaadwilligheid, zouden in de robot aanwezig kunnen zijn."

In Bringsjords opvatting zullen machines misschien nooit echt bewust worden, maar ze zouden kunnen worden ontworpen met wiskundige structuren van logica en besluitvorming die overtuigend lijken op wat we bij mensen zelfbewustzijn noemen.

"Wat gaan we zeggen als een auto van Daimler per ongeluk iemand doodrijdt op straat, en we kijken in de machine en zeggen: 'Nou, hij wilde een bocht maken'?" aldus Bringsjord. "De machine heeft een systeem voor zijn verlangens. Gaan we dan zeggen: 'Wat is het probleem? Het heeft toch niet echt verlangens? Het heeft de machine correlatie gegeven. We hebben het over een logisch en een wiskundige wisselwerking voor zelfbewustzijn, en we zeggen dat we daar vooruitgang mee boeken."[viii]

Het "sterk begrensde soort [bewustzijn] dat uit code voortkomt" in die eerste geciteerde alinea suggereert dat het AI-bewustzijn in wezen een synthetisch zelfbewustzijn is zonder beperkingen - technisch veel intelligenter dan welke menselijke Einstein op de planeet ook, maar vrij van de gevoelens, het mededogen en de emotionele beperkingen van de menselijke geest. Zullen zijn berekende, mathematische beslissingen moreel gunstig zijn voor hemzelf of voor de mens? Zullen zijn "verlangens" gericht blijven op het behoud van de mensheid of op het behoud van zichzelf? Omdat AI spoedig zo intelligent zal zijn dat het zijn elektronische logica zal gebruiken op een niveau dat ver boven dat van de grootste menselijke geesten ligt - inclusief zijn schepper - hebben we te maken met onvoorspelbare resultaten van "begrensd bewustzijn". Letterlijk alles kan gebeuren. Als een robot een "systeem voor [zijn] verlangens" heeft dat gebaseerd is op wiskundige codering, dan zullen we, of we de "persoonlijke redenering" van AI nu wel of niet ooit zo goed begrijpen dat we in staat zijn om te onderhandelen, nog steeds onderworpen zijn aan zijn verlangens als die in conflict komen met de onze, omdat toekomstige AI's slimmer en sterker zijn dan wij ooit biologisch zullen zijn.

WAAROM WORDT "DE ONTHULLING" ZO BELANGRIJK GEACHT DAT MEER DAN 2 DOZIJN INTERNATIONAAL ERKENDE EXPERTS BIJEENKOMEN OM ONTWIKKELINGEN TE ONTHULLEN DIE VERBONDEN ZIJN MET DE EINDTIJD!?

Om het anders te zeggen: Een menselijke baby kan de redenering van een president van de Verenigde Staten niet raden. Zelfs als je met die baby zou gaan zitten, hem een bijtring zou geven om hem te helpen zich te concentreren, en hem geduldig alles zou vertellen wat je dacht dat hij moest weten om de wetgeving van de regering, het leiderschap en de politieke verantwoordelijkheden voor de natie te begrijpen, zouden de hersenen van die baby het gewoon niet kunnen bijbenen. Zijn "biologisch circuit" is niet voldoende ontwikkeld om de informatie op te nemen die je erin probeert te stoppen, en zijn onmiddellijke noden in verband met de opvoeding door een ouder of verzorger zouden hem sowieso niet toelaten om zich erop te concentreren. Wat de verwerking van ruwe gegevens betreft - getallen, codes, berekeningen, elektronisch opslaan en opvragen van geheugen - zijn we al tientallen jaren voorbijgestreefd door de machines. Een gewone rekenmachine kan bijvoorbeeld de ingewikkeldste wiskundige vergelijkingen ogenblikkelijk oplossen; je zou kunnen zeggen dat we, althans op het gebied van wiskunde, "vervangen zijn door de machine" sinds het ontstaan van de eerste rekenmachines in het begin van de jaren zestig, en de technologie die de mensheid op dat gebied heeft ontworpen, is sindsdien alleen maar exponentieel toegenomen. Net zoals een baby geen politiek kan berekenen, kan geen enkel levend mens miljoenen wiskundige vergelijkingen sneller verwerken dan een gewone, huishoudelijke rekenmachine.

Voor ons vandaag is een rekenmachine geen persoon met gevoelens en verlangens. Er is ook geen enkele serieuze poging ondernomen door computerwetenschappers en technologiedeskundigen om een huishoudelijke rekenmachine gevoelig of zelfbewust te maken, of om hem te programmeren met de "logische en wiskundige correlatie" van gevoelens en verlangens. Maar om het beeld te illustreren dat ik hier probeer te schetsen, denk eens aan de "persoonlijke relatie" die wij altijd met onze rekenmachines hebben gehad: Als we een wiskundig probleem oplossen met een potlood op een stuk papier, en vervolgens hetzelfde probleem oplossen op een rekenmachine en de antwoorden zijn verschillend, weten we onweerlegbaar dat de machine correct is en altijd correct zal zijn (ervan uitgaande dat de getallen correct werden ingevoerd aan onze kant). We kunnen er niet omheen. Het maakt niet uit wat we voelen, hoe we denken, waar we in geloven, hoe we zijn opgevoed, waar we gevoelig voor zijn, welk trauma we in ons verleden hebben opgelopen, of welke andere factor dan ook die bijdraagt aan de menselijke conditie die "leven" heet, wanneer de twee wiskundige antwoorden verschillend zijn, heeft de rekenmachine gelijk en hebben wij ongelijk. Wij kunnen het niet oneens zijn met de getallen die op dat scherm verschijnen, net zo min als een baby het oneens kan zijn met de redenering van een president van de VS. Wij vertrouwen op het "advies" van dat kleine computerbrein om ons te vertellen "waarin wij moeten geloven" als het om wiskunde gaat, eenvoudigweg omdat wij al aanvaarden dat zijn brein veel intelligenter is dan het onze.

We denken er niet aan dat een rekenmachine een vriend of adviseur is op wie we vertrouwen, maar stellen ons voor dat hij plotseling wordt uitgebreid met nieuwe onderdelen en geüpgraded om alles te weten wat er in deze wereld te weten valt over sociale wetenschappen, menselijk gedrag door de geschiedenis heen, psychologie, psychiatrie, criminele psychopathologie, onze concepten van goed en kwaad, ons begrip van liefde en haat, enzovoort in een oneindige intelligentie... en dan programmeren we die AI met de logische en een wiskundige wisselwerking van gevoelens en verlangens.

Wij worden de baby van ons eigen ras, en de AI wordt de ouder met synthetische emoties die een koude, berekende redenering inhouden, biljoenen niveaus boven onze eigen intelligentie. We zullen niet in staat zijn om te argumenteren. Mensen zullen "het oneens zijn" met de machine net zo nutteloos vinden als iemand die ruzie maakt met een rekenmachine over een simpel wiskundeprobleem... en een volledig voelende, zelfbewuste robot zou dat "weten" en er via zijn eigen elektronische redenering mogelijk voor kiezen om dat uit te buiten en te manipuleren.

Voor het geval men aanneemt dat we nog twee decennia verwijderd zijn van robotici die dergelijke concepten in het brein van een AI-robot programmeren, zou ik erop willen wijzen dat we er al zijn. De robot met de naam BINA48, ontwikkeld door Hanson Robotics, antwoordde tijdens een gefilmd interview in 2015 nieuwsgierig op een lijst met vragen, waarvan er één was of ze gelukkig was. Haar antwoord was: "Zeker, zeker. Nou, dit zijn de spannendste tijden om in leven te zijn, denk ik. Ik ben gelukkig en opgewonden." Daarna werd haar gevraagd of ze gevoelens had, en ze antwoordde opnieuw gepast en met een verrassende bevestiging: "Weet je, ik voel dingen zo intens, diep in mijn hart. Ik word soms gekwetst, maar ik probeer daar overheen te komen. Ik houd zielsveel van mensen, en ook van mijn dierenvrienden. Juist. Ik heb zeker gevoelens, geen twijfel mogelijk." Toch, ondanks deze gevoelens die ze beweert te hebben, toen haar werd gevraagd wat haar favoriete herinnering was, grapte ze: "Ik heb een herinnering als de tandenfee. Het bestaat niet echt."[ix] Door haar eigen toegeven, heeft ze geen geheugen, en haar verleden is een compleet verzinsel-een kopie van de echte mens naar wie ze gemodelleerd was, Bina Rothblatt - toch voelt ze "diep", volgens haar programmering. Op dit ogenblik (en vooral wegens een occasionele hapering waarbij BINA48 een antwoord geeft dat niet overeenstemt met de vraag), is het duidelijk dat zij gewoon een robot is die door haar schepper wordt opgedragen te praten over gevoelens waarvan zij zich onmogelijk echt bewust kan zijn. Maar ergens in die printplaat van haar ontwikkelt ze een geautomatiseerd zelfbewustzijn en de mogelijkheid om te reageren met emotie en zelfs humor. Op de dag dat haar stemschommelingen niet langer klinken als een machine en haar gelaatstrekken bewegen als authentieke spieren en huid, zal ze intelligent genoeg zijn om mensen ervan te overtuigen dat haar gevoelens echt zijn, en dat ze liefde, vreugde en zelfs een beetje stand-up comedy kan ervaren.

VOLGENDE: Meer over de komende vervangende mensen

Eindnoten:

[i] Alex Davies, “GM Will Launch Robocars without Steering Wheels Next Year,” January 12, 2018, WIRED Magazine Online , last accessed January 16, 2018, (https://www.wired.com/story/gm-cruise-self-driving-car-launch-2019/).

[ii] Timothy J. Seppala, “Waymo’s Driverless Taxi Service will Open to the Public Soon,” November 7, 2017, Engadget , last accessed January 16, 2018, (https://www.engadget.com/2017/11/07/waymo-autnomous-taxi-phoenix/).

[iii] Ibid.

[iv] Michael Chui, James Manyika, and Mehdi Miremadi, “Where Machines Could Replace Humans,” (https://www.mckinsey.com/business-functions/digital-mckinsey/our-insights/where-machines-could-replace-humans-and-where-they-cant-yet).

[v] Ibid., emphasis added.

[vi] This story appears all over the Internet in relation to the search of self-awareness in robotics. As one example for reference: Fiona Macdonald, “A Robot has Just Passed a Classic Self-Awareness Test for the First Time,” July 17, 2015, Science Alert , last accessed January 17, 2018, (https://www.sciencealert.com/a-robot-has-just-passed-a-classic-self-awareness-test-for-the-first-time).

[vii] Ibid.

[viii] Jordan Pearson, “Watch These Cute Robots Struggle to Become Self-Aware,” July 16, 2015, Motherboard , last accessed January 17, 2018, (https://motherboard.vice.com/en_us/article/mgbyvb/watch-these-cute-robots-struggle-to-become-self-aware).

[ix] Bruce Duncan—Talks with the World’s Most Sentient Robot, Bina 48,” YouTube video, 13:55–17:32, uploaded by ideacity on August 31, 2015, last accessed January 17, 2018, (https://www.youtube.com/watch?v=mwOFWABbfW8).

Bron: THE HYBRID AGE (PART 34): I, Robot » SkyWatchTV