www.wimjongman.nl
"IK BEN HET EENS MET ELON MUSK" - DR. THOMAS HORN WAARSCHUWT DRINGEND VOOR OPKOMENDE A.I., MENSELIJKE SIMULACRUMS
18 april 2023 - door Thomas Horn
In de afgelopen jaren hebben verbazingwekkende technologische ontwikkelingen de grenzen van de mensheid verlegd naar ingrijpende morfologische transformaties die in de zeer nabije toekomst een nieuwe definitie beloven van wat het betekent om mens te zijn. Een internationale, intellectuele en snelgroeiende culturele beweging die bekend staat als het transhumanisme en waarvan de visie wordt ondersteund door een groeiende lijst van Amerikaanse militaire adviseurs, bio-ethici, hoogleraren in de rechten en academici, is van plan genetica, robotica, kunstmatige intelligentie en nanotechnologie (Grin-technologieën) te gebruiken als instrumenten die onze geest, ons geheugen, onze fysiologie, ons nageslacht en misschien zelfs - zoals Joel Garreau in zijn bestseller Radical Evolution beweert - onze ziel radicaal zullen veranderen.
Helaas voor de mensheid voorspelt de technologische en culturele verschuiving die nu gaande is niet alleen onverbloemd een toekomst die gedomineerd wordt door een nieuwe soort onherkenbaar superieure mensen, maar ook een onpeilbare oorlog - zowel fysiek als spiritueel - waar de wereld niet op is voorbereid. Hij zal worden uitgevochten op het land, in de lucht en op zee, en in nog ondoorgrondelijke dimensies. Zelfs nu worden de synthetische krachten die de vernietiging van de hele mensheid zullen beramen, in stilte ontworpen in vooraanstaande laboratoria, openbaar en privé, gefinancierd door de meest geavanceerde naties op aarde, waaronder de officiële regeringen van de Verenigde Staten, Frankrijk, Groot-Brittannië, Australië en China, om er een paar te noemen. Als resultaat van progressieve deductie, redenering en probleemoplossing op het gebied van neurotechnologie en cybernetica, zullen uit dit onderzoek sterke kunstmatige intelligentie of "artilecten" voortkomen, goddelijke, massaal intelligente machines die "biljoenen biljoenen keren slimmer zijn dan mensen" en waarvan de opkomst de menselijke cultuur grondig zal ontwrichten, wat leidt tot een scherpe scheiding tussen filosofische, ideologische en politieke groepen die ofwel de nieuw geëvolueerde levensvormen steunen als de volgende stap in de menselijke en technologische evolutie of die dit enorm superieure intellect zien als een onberekenbaar risico en dodelijke bedreiging voor de toekomst van de mensheid. Deze diametraal tegenovergestelde wereldbeelden zullen uiteindelijk resulteren in een preventieve nieuwe wereldoorlog - wat nu al wordt omschreven als giga-dodelijk, de bloedigste strijd in de geschiedenis met miljarden doden voor het einde van de eenentwintigste eeuw.
Voor degenen die de fantastische elementen in de bovenstaande verklaringen beschouwen als science fiction of zelfs als een toekomstig Armageddon zoals voorspeld in de oude apocalyptische en profetische boeken van de Bijbel, is de catastrofale visie in feite afgeleid van scenario's voor de nabije toekomst, die vooraanstaande wetenschappers zoals Prof. Hugo de Garis, voormalig directeur van het Artificial Brain Lab aan de Xiamen Universiteit in China, hebben beschreven in zijn boek The Artilect War: Cosmists vs. Terrans: A Bitter Controversy Concerning Whether Humanity Should Build Godlike Massively Intelligent Machines, zoals die zich ontvouwt door de exponentiële groei en ontwikkeling deze eeuw in kunstmatige intelligentie technologieën.
"Ik geloof dat de eenentwintigste eeuw in het teken zal staan van de vraag of de mensheid al dan niet artilecten moet bouwen, dat wil zeggen machines met een goddelijke intelligentie," zegt de Garis. "Ik zie de mensheid uiteenvallen in twee grote politieke groepen, die na verloop van tijd steeds bitterder tegenover elkaar komen te staan, naarmate de artilect-kwestie reëler wordt."
Professor de Garis vervolgt:
De menselijke groep die voor het bouwen van artilecten is, noem ik de "Kosmisten" [voor wie] het bouwen van artilecten als een religie zal zijn "iets werkelijk prachtigs en het aanbidden waard."
De tweede menselijke groep, die tegen de bouw van artilecten is, noem ik de "Terranen", die zullen aanvoeren dat als je de Kosmisten toestaat artilecten te bouwen, je het risico aanvaardt dat de artilecten op een dag besluiten dat de menselijke soort een plaag is. Aangezien de artilecten qua intelligentie zo ver boven de mensen zouden uitsteken, zou het voor hen gemakkelijk zijn de menselijke soort uit te roeien.
Voor de Terranen zijn de Kosmisten dus "veel erger dan de regimes van Hitler, Stalin, Mao" of enig ander regime, die in de twintigste eeuw tientallen miljoenen mensen hebben vermoord," want [dit] keer hebben we het over de potentiële vernietiging van de hele menselijke soort, miljarden mensen.[i]
Professor de Garis beschrijft verder in zijn boek hoe het werk om artilecten te bouwen toch doorgaat in afwachting van de realisatie ervan die mogelijk dichtbij is. Als gevolg daarvan valt hij 's nachts in slaap, denkend aan de goddelijke synthetische intelligentie die hij en anderen aan het bouwen zijn. Soms raakt zijn geest verrukt van zijn creaties met een gevoel van intellectueel en spiritueel ontzag. Als hij dan een paar uur later in het koude zweet wakker wordt, wordt hij uit bed opgeschrikt door een afschuwelijke droom waarin levendige taferelen de slachting van zijn nakomelingen door de kunstmatige godheden uitbeelden.
Dr. de Garis staat niet alleen in deze angst, dat waar hij en andere onderzoekswetenschappers koortsachtig aan werken binnenkort een nachtmerrieachtige toestand zou kunnen worden die de mensheid niet zal overleven. Omdat het moeilijk, zo niet onmogelijk is om nauwkeurig te voorspellen hoe sterk kunstmatige intelligentie de wereld werkelijk zal beïnvloeden, is het onduidelijk of de mens door de onnatuurlijke levensvormen zal worden gezien als een doel dienend in een wereld die wordt gedomineerd door superintelligente machines, of dat hij zal worden gewogen als zonder enige praktische functie en daarom als vervangbaar zal worden beschouwd. Het zou kunnen dat we de vraag niet eens zien aankomen. Met andere woorden, misschien zijn we al bezig om ons te onderwerpen aan de opkomst van de machines. Zoals de briljant gestoorde Theodore Kaczynski, in zijn vijfendertigduizend woorden tellende paper, "Industrial Society and Its Future" (ook wel het "Unabomber Manifest" genoemd), schreef:
Naarmate de samenleving en de problemen waarmee zij geconfronteerd wordt steeds complexer worden en machines steeds intelligenter, zullen mensen meer van hun beslissingen door machines laten nemen, simpelweg omdat door machines gemaakte beslissingen een beter resultaat opleveren dan door mensen gemaakte beslissingen. Uiteindelijk kan een stadium worden bereikt waarin de beslissingen die nodig zijn om het systeem draaiende te houden zo complex zullen zijn dat mensen niet in staat zijn ze op intelligente wijze te nemen. In dat stadium zullen de machines de effectieve controle hebben. Mensen zullen de machines niet zomaar kunnen uitschakelen, omdat ze er zo afhankelijk van zullen zijn dat het uitschakelen ervan op zelfmoord zou neerkomen.[ii]
Gek of niet, Kaczynski kan gelijk hebben dat de ondergang van de mens door toedoen van machines geleidelijk zal plaatsvinden, waarbij wij mensen de spreekwoordelijke kikkers in de ketel worden die aan de kook worden gebracht. Aan de andere kant is het waarschijnlijker dat wij elke dag in een oogwenk worden gereduceerd tot de status van huisdieren in de hoofden van kunstmatige intelligentie, als de Technological Singularity - dat magische toekomstige moment dat volgens veel futuristen en technologiedeskundigen nabij kan zijn - van de ene dag op de andere een versie van de artilecten baart, die plotseling online komen als bewuste, levende super-minds, immens veel krachtiger dan mensen.
KIJK NAAR ELON MUSK: "IK PROBEERDE JE TE WAARSCHUWEN"
"Als metafoor voor verbijsterende sociale verandering is de Singulariteit ontleend aan de wiskunde en de natuurkunde," schrijft Joel Garreau in Radical Evolution. "In die domeinen zijn singulariteiten het punt waar alles ophoudt zinvol te zijn. In de wiskunde is het een punt waar je door nul deelt [en in de natuurkunde zijn het] zwarte gaten - punten in de ruimte die zo dicht zijn dat zelfs licht niet kan ontsnappen aan hun verschrikkelijke zwaartekracht. Als je er een zou naderen in een ruimteschip, zou je merken dat zelfs de wetten van de fysica niet meer lijken te functioneren. Dat is wat een Singulariteit is."[iii] Ray Kurzweil, die wordt gecrediteerd met baanbrekend werk op het gebied van kunstmatige intelligentie en onder meer medeoprichter is van een interdisciplinair graduaatprogramma dat door de Nasa wordt gesteund onder de naam Singularity University, waardeert de vergelijking tussen de komende Technologische Singulariteit en de fysica van zwarte gaten:
Net zoals een zwart gat in de ruimte de patronen van materie en energie die naar zijn waarnemingshorizon toe versnellen dramatisch verandert, is de nakende singulariteit in onze toekomst [een] periode waarin het tempo van de technologische verandering zo snel zal zijn, de impact ervan zo diep, dat het menselijk leven onomkeerbaar zal worden veranderd. Exponentiële groei is misleidend. Het begint bijna onmerkbaar en explodeert dan met onverwachte woede.[iv]
In gewone taal zegt Abou Farman dat Kurzweils werk over de Singulariteit:
"...het analyseert als de curve van de technologische ontwikkeling van het nederige vuursteenknutselen tot de razendsnelle microchip." De curve die hij tekent stijgt exponentieel, en we zitten precies op de elleboog, wat betekent dat deze trend naar kleinere en slimmere technologieën plotseling een grotere machine-intelligentie dan een mens zal opleveren. Dat soort superintelligentie zal zich verspreiden, niet door zelfreplicatie, maar door het bouwen van andere agenten met een nog grotere intelligentie dan zijzelf, die op hun beurt weer meer superieure agenten zullen bouwen. Het resultaat zal een 'intelligentie-explosie' zijn, zo snel en zo groot dat de ons bekende wetten en zekerheden niet meer van toepassing zullen zijn. Die gebeurtenis-horizon wordt de Singulariteit genoemd.[v]
Kurzweil gaat verder in op wat de Singulariteit zal betekenen:
Onze biologische lichamen van versie 1.0 zijn kwetsbaar en onderhevig aan een groot aantal storingen. "De singulariteit zal ons in staat stellen deze beperkingen te overstijgen." We zullen macht krijgen over ons lot. Onze sterfelijkheid zal in onze eigen handen liggen [en] het niet-biologische deel van onze intelligentie zal triljoenen triljoenen keren krachtiger zijn dan de menselijke intelligentie zonder hulp.
We bevinden ons nu in de vroege stadia van deze overgang. Zowel de versnelling van de paradigmaverschuiving als de exponentiële groei van de capaciteit van de informatietechnologie beginnen de "knie van de curve" te bereiken, het stadium waarin een exponentiële trend merkbaar wordt. Kort na dit stadium wordt de trend explosief. Binnenkort zal de groei van onze technologie - die niet te onderscheiden zal zijn van onszelf - zo steil zijn dat hij in wezen verticaal lijkt.
De Singulariteit zal het hoogtepunt zijn van de fusie van ons biologisch denken en bestaan met onze technologie, resulterend in een wereld die onze biologische wortels overstijgt. Er zal na de Singulariteit geen onderscheid meer zijn tussen mens en machine.[vi]
WAT IK TIEN JAAR GELEDEN BIJ STRATEGIC PERSEPECTIVES WAARSCHUWDE DAT ZOU KOMEN
In 1993 leidde kritisch denken over de timing van de Singularity betreffende de opkomst van sterke kunstmatige intelligentie ertoe dat de gepensioneerde San Diego State University professor en computerwetenschapper Vernor Vinge, in zijn vaak geciteerde en nu beroemde lezing, "The Coming Technological Singularity," (uitgesproken op Vision-21 Symposium gesponsord door Nasa Lewis Research Center en het Ohio Aerospace Institute), eraan toevoegde dat wanneer de wetenschap "de technologische middelen bereikt om bovenmenselijke intelligentie te creëren, kort daarna het menselijke tijdperk zal worden beëindigd. [vii] In tegenstelling tot Vinge geloven cyborgisten zoals Kevin Warwick, professor in de cybernetica aan de Universiteit van Reading in Engeland, die het boek van de Garis onderschreef, dat de Singulariteit niet zozeer het einde van het menselijk tijdperk zal betekenen als wel de assimilatie van de mens met machine-intelligentie, zoals de Borg van Star Trek. Dit komt omdat, volgens Warwick, de Technologische Singulariteit niet zal plaatsvinden als gevolg van vrijstaande onafhankelijke machines, maar binnenin menselijke cyborgs waar mens-machine integratie wordt gerealiseerd en verbeterde biologie wordt gerecombineerd tot levende hersenen die cybernetisch zijn, leesbaar voor machines en gekoppeld aan kunstmatige neurale netwerken waar trans-mensen met versterkte intelligentie zo volledig superieur worden aan hun biologische tegenhangers (normale mensen) dat ze onbegrijpelijk worden - uiteindelijk "postmenselijk". De technologie om deze taak te volbrengen is al ver gevorderd en wordt door onderzoekers als Warwick beschouwd als een van de belangrijkste wetenschappelijke voorzieningen die momenteel worden ingezet voor de posthumane toekomst van de mens. Als deze brug tussen technologie en menselijke biologie deze eeuw wordt bereikt, zal niets minder dan het volledige herontwerp van de mens, inclusief genetische integratie met andere levensvormen - planten, dieren en synthetische creaties - worden gerealiseerd. Deze visie - de borgificatie (huwelijk tussen biologie en machine) van de mens - wordt ondersteund in het laatste rapport "State of the Future" (2010) van de mondiale denktank, het Millennium Project, opgericht na een driejarig haalbaarheidsonderzoek met de Universiteit van de Verenigde Naties, het Smithsonian Institution en de Futures Group International, waarin synthetische biologen bevestigen dat "zoals computercode wordt geschreven om software te creëren die de menselijke vermogens vergroot, zo zal ook genetische code worden geschreven om levensvormen te creëren die de beschaving vergroten. [viii] Bovendien, als biotech-, infotech-, nanotech- en cognotech-doorbraken snel migreren met passende synergieën om wijdverspreide mens-machine aanpassing binnen de samenleving te creëren, zal een "wereldwijd collectief intelligentiesysteem [hive supermind] nodig zijn om al deze wetenschappelijke en technologische vooruitgang te volgen," zegt het rapport verder.
Ik (Tom) heb persoonlijk gesproken met de toonaangevende transhumanist Dr. James Hughes (te zien in onze bekroonde documentaire Inhuman) over deze onvermijdelijke techno-sapien toekomst in zijn wekelijkse talkshow Changesurfer Radio. Hughes is uitvoerend directeur van het Institute for Ethics and Emerging Technologies en doceert aan Trinity College in Hartford, Connecticut. Hij is de auteur van Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future, een soort bijbel voor transhumanistische waarden. Dr. Hughes sluit zich aan bij een groeiend aantal academici, bio-ethici en sociologen die voorstander zijn:
Grootschalige genetische en neurologische engineering van onszelf... [een] nieuw hoofdstuk in de evolutie [als] het resultaat van versnellende ontwikkelingen op het gebied van genomica, stamcelonderzoek, genetische verbetering, kiembaan engineering, neurofarmacologie, kunstmatige intelligentie, robotica, patroonherkenningstechnologieën en nanotechnologie... op het kruispunt van wetenschap en religie [die zich beginnen af te vragen] wat het betekent om mens te zijn.[ix].
Hoewel de transformatie van de mens naar deze postmenselijke toestand nog in de kinderschoenen staat, nadert de volledige integratie van de technologie die nodig is om de bestaande Homo sapiens te vervangen als de dominante levensvorm op aarde, Kurzweils exponentiële curve.
Waar dit alles uiteindelijk toe leidt, is niet alleen het herdefiniëren van wat het betekent om mens te zijn, maar ook het herdefiniëren van latere mensenrechten. Dr. James Hughes wil bijvoorbeeld dat transgene chimpansees en mensapen genetisch worden opgewaardeerd, zodat ze "persoonlijk worden". Het onderliggende doel van deze theorie zou zijn om vast te stellen dat fundamentele cognitieve bekwaamheid gelijk zou moeten staan aan "persoonlijkheid" en dat deze "cognitieve standaard" en niet "mens-zijn" de sleutel zou moeten zijn tot grondwettelijke bescherming en privileges. Dit zou onder andere leiden tot niet-menselijke "personen" en "niet-menselijke" mensen, waardoor het bestaande argument achter de intrinsieke heiligheid van het menselijk leven wordt ontkracht en de weg wordt vrijgemaakt voor zaken als het oogsten van organen van mensen als Terry Schiavo, wanneer het verlies van cognitieve bekwaamheid gelijk staat aan het verlies van "persoonlijkheid". Dit zouden de eerste slachtoffers zijn van het transhumanisme, volgens Prof. Francis Fukuyama, over wie wel of niet als volledig mens wordt aangemerkt en dus wordt vertegenwoordigd door het basisidee dat "alle mensen gelijk zijn geschapen". De meesten zullen beweren dat ieder mens in dit plaatje past, maar vrouwen en zwarten vielen niet onder deze rechten in 1776, toen Thomas Jefferson de Onafhankelijkheidsverklaring schreef. Dus wie kan zeggen welke bescherming automatisch kan worden aangenomen in een tijdperk waarin de menselijke biologie is veranderd en waarin de persoonlijkheidstheorie een uitdaging vormt voor wat bio-ethici zoals Wesley J. Smith voorstaan als "menselijk exceptionalisme": het idee dat mensen een speciale morele status in de natuur hebben en speciale rechten, zoals het recht op leven, plus unieke verantwoordelijkheden, zoals rentmeesterschap van het milieu. Sommige, maar niet alle, gelovigen in het menselijk exceptionalisme komen tot dit concept vanuit een bijbels wereldbeeld, gebaseerd op Genesis 1:26, dat zegt: "En God zei: 'Laat ons de mens maken naar ons beeld, naar onze gelijkenis; en laat hem heersen over de vissen van de zee, en over het gevogelte van de lucht, en over het vee, en over de hele aarde, en over al wat op de aarde kruipt'".
Zoals grondig beschreven in mijn baanbrekende werken Forbidden Gates en The Milieu, vordert de technologie om menselijke hersenen met machines samen te voegen in een fantastisch tempo. Nanotechnologie - de wetenschap van engineering van materialen of apparaten op een atomaire en moleculaire schaal van 1 tot 100 nanometer (een nanometer is een miljardste van een meter) - staat op het punt de ontwikkeling tussen brein-machine-interfaces en cybernetische apparaten naar een geheel nieuw aanpassingsniveau voor menselijke modificatie te brengen. Dit zal gebeuren omdat, zoals Dr. C. Christopher Hook opmerkt:
Engineering of het manipuleren van materie en leven op nanometerschaal [voorziet] dat de structuren van onze lichamen en onze huidige hulpmiddelen aanzienlijk kunnen worden gewijzigd. De afgelopen jaren hebben veel regeringen in de wereld, waaronder de Verenigde Staten met hun nationale nanotechnologie-initiatief, en tal van academische centra en bedrijven steeds meer steun toegezegd voor de ontwikkeling van nanotechnologieprogramma's. Het leger, dat een aanzienlijke belangstelling heeft voor nanotechnologie, heeft het Center for Soldier Nanotechnologies (csn) opgericht [dat] geïnteresseerd is in het gebruik van dergelijke technologie om te helpen de naadloze interface van elektronische apparaten met het menselijk zenuwstelsel tot stand te brengen, waardoor de cyborg-soldaat wordt ontwikkeld.[x]
GERM-LINE GENETISCHE ENGINEERING
Kiemlijn-gentechnologie heeft ook het potentieel om de doelstellingen van de vroege eugenetica-beweging (die streefde naar het creëren van superieure mensen via het verbeteren van de genetica door selectief fokken) daadwerkelijk te bereiken door het genetisch modificeren van menselijke genen in zeer vroege embryo's, sperma en eieren. Als gevolg daarvan wordt kiembaan-engineering door sommige conservatieve bio-ethici beschouwd als de gevaarlijkste technologie voor mensverbetering, omdat zij het vermogen heeft om de aard van de mensheid werkelijk om te vormen tot postmens, door elke cel van een embryo te veranderen en te leiden tot overerfbare wijzigingen die zich uitstrekken tot alle volgende generaties. Het debat over kiembaan-engineering is daarom zeer kritisch, want als veranderingen in de genetische nakomelingen van de "downline" in gang worden gezet, zullen de aard en de fysieke samenstelling van de mensheid worden veranderd zonder hoop op ommekeer, waardoor de toekomst van de mensheid voorgoed wordt veranderd. Een gerespecteerd voorstander van kiemlijntechnologie is Dr. Gregory Stock, die, net als cyborgist Kevin Warwick, afwijkt van Kurzweils versie van Mensen 2.0 die voor het eerst verschijnt als gevolg van de computer Singularity. Stock gelooft dat de mens ervoor kan kiezen om in de nabije toekomst (op of voor computers een sterke kunstmatige intelligentie bereiken) de bestaande biologische beperkingen te overstijgen door middel van kiembaan-engineering. Als we betere mensen kunnen maken door nieuwe genen aan hun dna toe te voegen, vraagt hij zich af, waarom zouden we dat dan niet doen? "We hebben miljarden uitgegeven om onze biologie te ontrafelen, niet uit ijdele nieuwsgierigheid, maar in de hoop ons leven te verbeteren. We staan niet op het punt ons hiervan af te keren," zegt hij, alvorens elders toe te geven dat dit zou kunnen leiden tot "clusters van genetisch verbeterde supermensen die ons zullen domineren, zo niet tot slaaf maken."[xi] De titels van Stock's boeken spreken voor zich over wat germ-line engineering zou doen met het menselijk ras. De naam van één boek is Redesigning Humans: Our Inevitable Genetic Future en een ander heet Metaman: The Merging of Humans and Machines into a Global Superorganism.
Naast de korte lijst hierboven, zijn er nog andere gebieden van zorg waarover de lezers zich wellicht goed willen informeren over de voor- en nadelen van verbeteringstechnologie: onsterfelijkheid, postgenderisme, augmented reality, cryonics, designer baby's, neurohacking, mind uploading, neurale implantaten, xenotransplantatie, reprogenetica, verjonging, radicale levensverlenging, en meer.
WATCH: DR. HORN LEGT "HET HYBRIDE TIJDPERK" UIT
HEMEL- EN HEL-SCENARIO'S
Hoewel sommige van de besproken wetenschappelijke en technologische gebieden reeds positieve vooruitgang hebben geboekt of dat nog zullen doen, waarschuwen geleerden als prof. Francis Fukuyama in zijn boek Our Posthuman Future: Consequences of the Biotechnology Revolution, waarschuwen dat onbedoelde gevolgen van wat de mensheid nu in gang heeft gezet, de gevaarlijkste tijd in de geschiedenis van de aarde vertegenwoordigen, een periode waarin exotische technologie in de handen van transhumanistische ambities voor altijd zou kunnen veranderen wat het betekent om mens te zijn. Voor degenen die een transhumanistische toekomst willen realiseren, waarschuwt Fukuyama voor een ontmenselijkt "hel-scenario" waarin we "niet langer worstelen, streven, liefhebben, pijn voelen, moeilijke morele keuzes maken, gezinnen hebben, of andere dingen doen die we traditioneel associëren met mens-zijn". In deze ultieme identiteitscrisis zouden we "niet langer de eigenschappen hebben die ons menselijke waardigheid geven" omdat, ten eerste, "mensen die ontmenselijkt zijn à la Brave New World niet weten dat ze ontmenselijkt zijn, en, wat erger is, het niet zou interesseren als ze het wisten. Zij zijn inderdaad gelukkige slaven met een slaafs geluk.[xii] Het "helle scenario" dat Fukuyama voor ogen heeft is slechts een begin van wat er volgens andere intelligente denkers mis zou kunnen gaan.
Aan de andere kant van het spectrum en diametraal tegenover de conclusies van Fukuyama staat een even energieke menigte die een vorm van technologisch utopisme onderschrijft dat het "hemel-scenario" wordt genoemd. Onder deze groep bevindt zich een "who's who" van transhumanistische evangelisten als Ray Kurzweil, James Hughes, Nick Bostrom en Gregory Stock, die de dageraad van een nieuw tijdperk van verlichting zien aanbreken als gevolg van de steeds snellere Grin-technologieën. Net als bij de achttiende-eeuwse Verlichting, waarin de intellectuele en wetenschappelijke rede het gezag van wetenschappers over priesters verhoogde, geloven techno-utopisten dat ze zullen zegevieren over onheilsprofeten door "het vuur van de goden te stelen, leven te blazen in inerte materie, en onsterfelijkheid te verwerven". Onze pogingen om meer dan menselijk te worden hebben een lange en voorname geschiedenis. Het volgen van de geschiedenis van deze pogingen verlicht de menselijke aard. In elke beschaving, in elk tijdperk, hebben wij de goden geen rust gegeven."[xiii] Deze mannen worden in hun zoektocht naar goddelijke grondwetten bijgestaan door een groeiende lijst van officiële Amerikaanse departementen die elk jaar honderden miljoenen dollars uitdelen voor wetenschappelijk en technologisch onderzoek. De National Science Foundation en het United States Department of Commerce anticipeerden ruim tien jaar geleden op deze ontwikkeling en publiceerden het overheidsrapport Converging Technologies for Improving Human Performance - compleet met diagrammen en opsommingen - om de blauwdruk te leggen voor de radicale evolutie van mens en machine. Hun visie stelde zich voor dat, vanaf het jaar 2012, het "hemel-scenario" zich zou beginnen te manifesteren en snel zou resulteren in (onder andere):
- Het transmenselijke lichaam is "duurzamer, gezonder, energieker, gemakkelijker te repareren en bestand tegen vele soorten stress, biologische bedreigingen en verouderingsprocessen."
- Brain-machine interfacing die "het werk in fabrieken zal veranderen, auto's zal besturen, militaire superioriteit zal verzekeren, en nieuwe sporten, kunstvormen en manieren van interactie tussen mensen mogelijk zal maken."
- "Ingenieurs, kunstenaars, architecten en ontwerpers zullen enorm uitgebreide creatieve vaardigheden ervaren," gedeeltelijk door "een beter begrip van de bron van menselijke creativiteit."
- "Gewone mensen en beleidsmakers zullen een enorm verbeterd bewustzijn hebben van de cognitieve, sociale en biologische krachten die hun leven bepalen, waardoor ze zich veel beter kunnen aanpassen, creatiever kunnen zijn en betere dagelijkse beslissingen kunnen nemen."
- "De fabrieken van morgen zullen worden georganiseerd" rond "meer mens-machine mogelijkheden."[xiv]
Behalve hoe menselijke vergroting en biologische heruitvinding zich zouden verspreiden in de bredere cultuur na de technologische singulariteit (wanneer A.I. de menselijke cognitie overtreft en zelfbewust wordt), beschreef het regeringsrapport de bijzonder belangrijke mondiale en economische aspecten van genetisch superieure mensen die op superieure manieren handelen. die leidt tot techno-sapien dna upgrading, brein-tot-brein interactie, mens-machine interfaces, persoonlijke sensorische apparaat interfaces, en biologische oorlogsbestrijdingssystemen, "De eenentwintigste eeuw zou kunnen eindigen in wereldvrede, universele welvaart, en evolutie naar een hoger niveau [als] de mensheid wordt [als] een enkel, transcendent zenuwstelsel, een onderling verbonden 'brein' gebaseerd op nieuwe kernpaden van de samenleving." De eerste versie van het regeringsrapport beweerde dat de enige echte hindernis voor dit "hemel-scenario" de "catastrofe" zou zijn die zou ontstaan als de samenleving de technologische mogelijkheden die ons nu ter beschikking staan niet zou benutten. "We hebben misschien niet de luxe van uitstel, want de opmerkelijke economische, politieke en zelfs gewelddadige onrust van de afgelopen jaren impliceert dat het wereldsysteem instabiel is. Als we er niet in slagen de richting van de verandering vastberaden aan te geven, kunnen we het slachtoffer worden van een onvoorspelbare catastrofe."[xv] Dit argument komt overeen met wat momenteel in de militaire wandelgangen weerklinkt, waar het gevoel heerst dat het niet inzetten van middelen om Grin te ontwikkelen als de volgende stap in de menselijke en technologische evolutie er alleen maar toe zal leiden dat anderen ons voor zullen zijn en het zullen gebruiken voor wereldheerschappij.
Niet iedereen gelooft in het "hemel-scenario", en van de dromerige fantasieën van Star Trek tot de sombere visie van Aldous Huxley's Brave New World, zijn sommigen gaan geloven dat er demonen schuilen in het mystieke (of mythische?) "Shangri-la" van het transhumanisme.
"Veel van de schrijvers [van het hierboven geciteerde regeringsrapport] delen een geloof in technologie dat grenst aan religiositeit, opscheppend over wonderen waarvan ooit werd gedacht dat ze de provincie van de Almachtige waren," schrijven de redacteuren van The New Atlantis: A Journal of Technology and Society. "Maar zonder serieus na te denken over de gevaren van het technisch manipuleren van onze hersenen en ons bewustzijn is een ander soort catastrofe nabij. Zonder de gevolgen van deze krachtige nieuwe [Grin] technologieën eerlijk en serieus te beoordelen, zijn we er zeker van dat we in ons enthousiasme en onze fantasie en trots halsoverkop op een ramp afstevenen."[xvi]
Weinig mensen zouden meer gekwalificeerd zijn dan computerwetenschapper Bill Joy om deze gevaren aan te kondigen, of om het "helse scenario" te schetsen dat zich zou kunnen ontvouwen als gevolg van Grin. Toch moet het voor sommigen die hem herinnerden als de nuchtere wetenschapper uit Silicon Valley en medeoprichter van Sun Microsystems (sm) als een echte verrassing zijn gekomen toen hij als hoofdwetenschapper van het bedrijf een uitgebreid en nu beroemd geworden essay publiceerde, "Why the Future Doesn't Need Us," waarin hij betoogde hoe Grin in de zeer nabije toekomst de mensheid zou dreigen uit te roeien. Het bijzondere aan Joy's voorspelling was hoe hij zichzelf - en mensen zoals hij - zag als verantwoordelijk voor het bouwen van de machines die "de constructie van de technologie die onze soort kan vervangen mogelijk maken".
"Vanaf het moment dat ik betrokken raakte bij het creëren van nieuwe technologieën, hebben hun ethische dimensies mij beziggehouden," begint hij. Maar pas in de herfst van 1998 werd hij zich "angstig bewust van de grote gevaren die ons in de eenentwintigste eeuw te wachten staan". Joy dateert zijn "ontwaken" aan een toevallige ontmoeting met Ray Kurzweil, met wie hij sprak in een hotelbar tijdens een conferentie waarop zij beiden spraken. Kurzweil legde de laatste hand aan zijn manuscript voor The Age of Spiritual Machines en de krachtige beschrijvingen van gevoelige robots en op korte termijn verbeterde mensen deden Joy versteld staan, "vooral gezien Ray's bewezen vermogen om de toekomst voor te stellen en te creëren," schreef Joy. "Ik wist al dat nieuwe technologieën zoals genetische manipulatie en nanotechnologie ons de macht gaven om de wereld opnieuw vorm te geven, maar een realistisch en dreigend scenario voor intelligente robots verraste me."
In de weken en maanden die volgden op het gesprek in het hotel, verdiepte Joy zich in Kurzweils visie op de toekomst, totdat het uiteindelijk tot hem doordrong dat genetische manipulatie, robotica, kunstmatige intelligentie en nanotechnologie "een andere bedreiging vormen dan de technologieën die daarvoor bestonden". Specifiek delen robots, gemanipuleerde organismen en nanobots een gevaarlijke versterkende factor: Ze kunnen zichzelf vermenigvuldigen. Een bom wordt maar één keer opgeblazen, maar één bot kan tot vele worden, en snel uit de hand lopen." De ongekende dreiging van zelfreplicatie drukte Joy bijzonder zwaar, omdat hij als computerwetenschapper het concept van ongecontroleerde replicatie of virussen die leiden tot het uitschakelen van machinesystemen of computernetwerken goed begreep. Ongecontroleerde zelfreplicatie van nanobots of gemanipuleerde organismen zou "een veel groter risico op aanzienlijke schade in de fysieke wereld met zich meebrengen", concludeerde Joy voordat hij er zijn diepere angst aan toevoegde:
Wat was er anders in de twintigste eeuw? Zeker, de technologie achter de massavernietigingswapens (wmd) - nucleair, biologisch en chemisch (nbc) - was krachtig, en de wapens vormden een enorme bedreiging. Maar voor de bouw van kernwapens was zwaar beveiligde informatie nodig; voor programma's voor biologische en chemische wapens waren ook grootschalige activiteiten nodig.
De 21e-eeuwse technologieën - genetica, nanotechnologie en robotica - zijn zo krachtig dat ze nieuwe soorten ongelukken en misbruik kunnen veroorzaken. Het gevaarlijkste is dat deze ongevallen en misbruiken voor het eerst binnen het bereik van individuen of kleine groepen liggen. Er zijn geen grote installaties of zeldzame grondstoffen voor nodig. Kennis alleen zal het gebruik ervan mogelijk maken.
We hebben dus niet alleen de mogelijkheid van massavernietigingswapens, maar van door kennis mogelijk gemaakte massavernietiging (kmd), waarvan de destructiviteit enorm wordt versterkt door de kracht van zelfreplicatie.
Ik denk dat het niet overdreven is om te zeggen dat we aan de vooravond staan van de verdere vervolmaking van het extreme kwaad, een kwaad waarvan de mogelijkheid veel verder reikt dan wat de massavernietigingswapens aan de natiestaten hebben nagelaten, op naar een verrassende en verschrikkelijke versterking.[xvii]
Joy's profetie over het zelf-replicerende "extreme kwaad" als een dreigende en enorme transformerende kracht die de natuurwetten dreigt te herschrijven en de loop van het leven zoals wij dat kennen voorgoed dreigt te veranderen, wordt herhaald door zijn medewerkers die dit gevaar erkennen - dat zelf-replicerende biologische systemen zoals die welke zij bouwen zowel gevaar als hoop inhouden - en zij hebben zich aangesloten bij de oproep aan het Congres om wetten aan te nemen in een poging om de stroom van informatie en synthetische "recepten" die dodelijke nieuwe ziekteverwekkers voor terroristen zouden kunnen opleveren te beheersen. Het probleem is, zoals altijd, dat alle regeringen in de wereld vrijwillig een vaste ethiek of regels moeten volgen. Dit is op zijn best wishful thinking. Het is veel waarschijnlijker dat de wereld afstevent op wat Joel Garreau als eerste het "hel-scenario" noemde - een moment waarop door mensen aangedreven Grin technologieën de aarde en al haar bewoners op koers zetten naar zelfvernietiging.
Ironisch genoeg gebruiken sommige voorstanders van posthumaniteit nu hetzelfde dreigingsscenario om te pleiten voor transhumanisme als de beste manier om om te gaan met het onvermijdelijke uitsterven van de mensheid via Grin. Op het wereldwijde interdisciplinaire instituut Metanexus (www.metanexus.net/) concludeert Mark Walker, assistent-professor aan de New Mexico State University (die de Richard L. Hedden of Advanced Philosophical Studies Chair bekleedt) net als Bill Joy dat "de technologische vooruitgang betekent dat er een grote kans is dat een toekomst met alleen mensen zal eindigen in uitsterven." Hieruit leidt hij een paradoxaal argument af:
In een notendop komt het argument erop neer dat het scheppen van postmensen weliswaar een zeer gevaarlijk sociaal experiment kan zijn, "maar dat het nog gevaarlijker is om het niet te proberen."
Ik vermoed dat degenen die denken dat de transhumanistische toekomst riskant is vaak zoiets als de volgende redenering in gedachten hebben: (1) Als we de menselijke natuur veranderen dan voeren we een experiment uit waarvan we de uitkomst niet zeker kunnen weten. (2) We moeten geen grootschalige experimenten uitvoeren als we de uitkomst niet kennen. (3) Wij kennen de uitkomst van het transhumanistische experiment niet. (4) Dus moeten we de menselijke natuur niet veranderen.
Het probleem met het argument is: Omdat genetische manipulatie al onder ons is, en het het potentieel heeft om de beschaving te vernietigen en postmensen te creëren, betreden we al onbekende wateren, dus moeten we experimenteren. De vraag is niet of we gaan experimenteren, maar alleen de resterende vraag welk sociaal experiment we gaan uitvoeren. Zullen we afstaan proberen? Dit zou een ongekend sociaal experiment zijn om kennis en technologie uit te roeien. Wordt het het 'steady-as-she-goes' experiment waarbij voor het eerst regeringen, organisaties en particuliere burgers toegang krijgen tot kennis en technologie die (per ongeluk of opzettelijk) kan worden aangewend voor doeleinden die een einde maken aan de beschaving? Of wordt het uiteindelijk het transhumanistische sociale experiment waarbij we proberen wezens helderder en deugdzamer te maken om met deze krachtige technologieën om te gaan?
Ik heb geprobeerd om tenminste een 'op het eerste gezicht'-zaak te maken dat transhumanisme de veiligste doorgang door technologieën van de eenentwintigste eeuw belooft.[xviii]
Samen met technologen als Elon Musk gelooft deze auteur echter dat de "slimmere en deugdzamer wezens" waar professor Walker en anderen voor pleiten, bovennatuurlijke elementen bevatten en dat de geest achter de transhumanistische nachtmerrie de "hel" in het "helse scenario" eerder zal plaatsen dan de meesten begrijpen.
Eindnoten:
[i] Hugo de Garis, The Artilect War: Cosmists vs. Terrans: A Bitter Controversy Concerning Whether Humanity Should Build Godlike Massively Intelligent Machines E(Palm Springs, CA: ETC, 2005) 11–12, 15, 84.
[ii] Theodore Kaczynski, “Industrial Society and Its Future,” Wikisource, http://en.wikisource.org/wiki/Industrial_Society_and_Its_Future.
[iii] Joe Garreau, Radical Evolution: The Promise and Peril of Enhancing Our Minds, Our Bodies—and What It Means to Be Human (New York: Broadway, 2005) 71–72)
[iv] Ray Kurzweil, The Singularity is Near (New York: Penguin, 2006) 7–8.
[v] Abou Farman, “The Intelligent Universe,” Maison Neuve (8/ 2/10) http://maisonneuve.org/pressroom/article/2010/aug/2/intelligent-universe/.
[vi] Kurzweil, 9.
[vii] “The Coming Technological Singularity,” presented at the Vision-21 Symposium sponsored by Nasa Lewis Research Center and the Ohio Aerospace Institute (3/30–31/93).
[viii] Jerome C. Glenn, “The State of the Future” (7/14/10) www.kurzweilai.net/the-state-of-the-future, emphasis added.
[ix] Ibid, emphasis added.
[x] C. Christopher Hook, Human Dignity in the Biotech Century (Downers Grove, IL: InterVarsity, 2004) 80–81.
[xi] Garreau, Radical Evolution, 116.
[xii] Francis Fukuyama, Our Posthuman Future: Consequences of the Biotechnology Revolution (New York: Picador, 2002) 6.
[xiii] Garreau, 106.
[xiv] Garreau, Radical Evolution, 113–114.
[xv] “Carried Away with Convergence,” New Atlantis (Summer 2003) 102–105, http://www.thenewatlantis.com/publications/carried-away-with-convergence.
[xvi] (Summer 2003 issue of The New Atlantis, http://www.thenewatlantis.com/publications/carried-away-with-convergence)
[xvii] Bill Joy, “Why the Future Doesn’t Need Us,” Wired (April 2000) http://www.wired.com/wired/archive/8.04/joy.html), emphasis added.
[xviii] Mark Walker, “Ship of Fools: Why Transhumanism is the Best Bet to Prevent the Extinction of Civilization,” Metanexus Institute (2/5/09) http://www.metanexus.net/magazine/tabid/68/id/10682/Default.aspx.