(Automatische vertaling, onbewerkt)

'De Godfather van A.I.' verlaat Google en waarschuwt voor gevaar in de toekomst

1 mei 2023 in Nieuws

Geoffrey Hinton was een pionier op het gebied van kunstmatige intelligentie. In 2012 creëerden Dr. Hinton en twee van zijn afgestudeerde studenten aan de Universiteit van Toronto technologie die de intellectuele basis werd voor de A.I.-systemen waarvan de grootste bedrijven in de technologische industrie geloven dat ze de sleutel tot hun toekomst vormen.

Op maandag sloot hij zich echter officieel aan bij een groeiend koor van critici die zeggen dat die bedrijven naar het gevaar racen met hun agressieve campagne om producten te maken op basis van generatieve kunstmatige intelligentie, de technologie die populaire chatbots zoals ChatGPT aandrijft.

Dr. Hinton zei dat hij zijn baan bij Google heeft opgezegd, waar hij meer dan tien jaar heeft gewerkt en een van de meest gerespecteerde stemmen in het veld is geworden, zodat hij zich vrijelijk kan uitspreken over de risico's van A.I. Een deel van hem, zei hij, heeft nu spijt van zijn levenswerk.

"Ik troost me met het normale excuus: als ik het niet had gedaan, had iemand anders het wel gedaan," zei Dr. Hinton vorige week tijdens een lang interview in de eetkamer van zijn huis in Toronto, op korte loopafstand van waar hij en zijn studenten hun doorbraak maakten.

Dr. Hintons reis van A.I. pionier tot doemdenker markeert een opmerkelijk moment voor de technologische industrie op misschien wel het belangrijkste keerpunt in decennia. Industrieleiders geloven dat de nieuwe A.I.-systemen even belangrijk kunnen zijn als de introductie van de webbrowser begin jaren negentig en tot doorbraken kunnen leiden op gebieden variërend van geneesmiddelenonderzoek tot onderwijs.

Maar aan veel insiders in de industrie knaagt de angst dat ze iets gevaarlijks in de natuur loslaten. Generatieve A.I. kan nu al een instrument zijn voor verkeerde informatie. Binnenkort kan het een risico zijn voor banen. Ergens in de toekomst kan het een risico zijn voor de mensheid.

"Het is moeilijk te zien hoe je kunt voorkomen dat de slechte actoren het gebruiken voor slechte dingen," zei Dr. Hinton.

Nadat de start-up OpenAI uit San Francisco in maart een nieuwe versie van ChatGPT had uitgebracht, ondertekenden meer dan 1.000 technologieleiders en onderzoekers een open brief waarin werd opgeroepen tot een moratorium van zes maanden op de ontwikkeling van nieuwe systemen, omdat A.I.-technologieën "diepgaande risico's voor de samenleving en de mensheid" inhouden.

Enkele dagen later gaven 19 huidige en voormalige leiders van de Association for the Advancement of Artificial Intelligence, een 40 jaar oude academische vereniging, hun eigen brief vrij waarin ze waarschuwden voor de risico's van A.I. In die groep zat ook Eric Horvitz, wetenschappelijk hoofdambtenaar bij Microsoft, dat de technologie van OpenAI heeft toegepast in een groot aantal producten, waaronder zijn Bing zoekmachine.

Dr. Hinton, die vaak "de Godfather van A.I." wordt genoemd, heeft geen van deze brieven ondertekend en zei dat hij Google of andere bedrijven pas publiekelijk wilde bekritiseren nadat hij zijn baan had opgezegd. Vorige maand liet hij het bedrijf weten dat hij ontslag nam en donderdag sprak hij telefonisch met Sundar Pichai, de directeur van Google's moederbedrijf Alphabet. Hij weigerde de details van zijn gesprek met de heer Pichai publiekelijk te bespreken.

De hoofdwetenschapper van Google, Jeff Dean, zei in een verklaring: "We blijven ons inzetten voor een verantwoorde benadering van A.I. We leren voortdurend om opkomende risico's te begrijpen en tegelijkertijd moedig te innoveren."

Dr. Hinton, een 75-jarige Britse expatriate, is een levenslange academicus wiens carrière werd gedreven door zijn persoonlijke overtuigingen over de ontwikkeling en het gebruik van A.I. In 1972, als afgestudeerd student aan de Universiteit van Edinburgh, omarmde Dr. Hinton een idee dat neuraal netwerk wordt genoemd. Een neuraal netwerk is een wiskundig systeem dat vaardigheden leert door gegevens te analyseren. Destijds geloofden weinig onderzoekers in het idee. Maar het werd zijn levenswerk.

In de jaren tachtig was Dr. Hinton hoogleraar computerwetenschappen aan de Carnegie Mellon University, maar hij verliet de universiteit voor Canada omdat hij zei dat hij geen financiering van het Pentagon wilde aannemen. In die tijd werd het meeste A.I.-onderzoek in de Verenigde Staten gefinancierd door het ministerie van Defensie. Dr. Hinton is fel gekant tegen het gebruik van kunstmatige intelligentie op het slagveld - wat hij "robotsoldaten" noemt.

In 2012 bouwden Dr. Hinton en twee van zijn studenten in Toronto, Ilya Sutskever en Alex Krishevsky, een neuraal netwerk dat duizenden foto's kon analyseren en zichzelf kon aanleren om gewone objecten te identificeren, zoals bloemen, honden en auto's.

Google gaf 44 miljoen dollar uit om het bedrijf van Dr. Hinton en zijn twee studenten over te nemen. En hun systeem leidde tot de ontwikkeling van steeds krachtigere technologieën, waaronder nieuwe chatbots zoals ChatGPT en Google Bard. De heer Sutskever werd hoofdwetenschapper bij OpenAI. In 2018 ontvingen Dr. Hinton en twee andere langdurige medewerkers de Turing Award, vaak "de Nobelprijs voor de informatica" genoemd, voor hun werk aan neurale netwerken.

Rond dezelfde tijd begonnen Google, OpenAI en andere bedrijven neurale netwerken te bouwen die leerden van enorme hoeveelheden digitale tekst. Dr. Hinton vond het een krachtige manier voor machines om taal te begrijpen en te genereren, maar het was inferieur aan de manier waarop mensen met taal omgingen.

Toen Google en OpenAI vorig jaar systemen bouwden die veel grotere hoeveelheden gegevens gebruikten, veranderde zijn mening. Hij geloofde nog steeds dat de systemen in sommige opzichten inferieur waren aan het menselijk brein, maar hij dacht dat ze in andere opzichten de menselijke intelligentie overschaduwden. "Misschien is wat er in deze systemen gebeurt," zei hij, "eigenlijk veel beter dan wat er in de hersenen gebeurt."

Naarmate bedrijven hun A.I.-systemen verbeteren, worden ze volgens hem steeds gevaarlijker. "Kijk naar hoe het vijf jaar geleden was en hoe het nu is," zei hij over A.I. technologie. "Neem het verschil en verspreid het naar voren. Dat is eng."

Tot vorig jaar, zei hij, handelde Google als een "goede rentmeester" voor de technologie, voorzichtig om niet iets vrij te geven dat schade zou kunnen veroorzaken. Maar nu Microsoft zijn Bing-zoekmachine heeft uitgebreid met een chatbot - een uitdaging voor de kernactiviteiten van Google - is Google in een race verwikkeld om dezelfde soort technologie in te zetten. De tech-reuzen zijn verwikkeld in een concurrentiestrijd die misschien onmogelijk te stoppen is, aldus Dr. Hinton.

Zijn onmiddellijke zorg is dat het internet zal worden overspoeld met valse foto's, video's en tekst, en dat de gemiddelde persoon "niet meer zal kunnen weten wat waar is."

Hij vreest ook dat A.I.-technologieën op termijn de arbeidsmarkt zullen ontwrichten. Vandaag zijn chatbots zoals ChatGPT meestal een aanvulling op menselijke werknemers, maar ze zouden paralegals, persoonlijke assistenten, vertalers en anderen die routineuze taken uitvoeren kunnen vervangen. "Het neemt het zware werk weg," zei hij. "Het kan meer dan dat wegnemen."

In de toekomst vreest hij dat toekomstige versies van de technologie een bedreiging vormen voor de mensheid, omdat ze vaak onverwacht gedrag leren van de enorme hoeveelheden gegevens die ze analyseren. Dit wordt een probleem, zei hij, als individuen en bedrijven A.I.-systemen niet alleen hun eigen computercode laten genereren, maar die code ook daadwerkelijk zelf uitvoeren. En hij vreest een dag waarop echt autonome wapens - die killer robots - werkelijkheid worden.

"Het idee dat dit spul echt slimmer zou kunnen worden dan mensen - een paar mensen geloofden dat," zei hij. "Maar de meeste mensen dachten dat het er ver naast zat. En ik dacht dat het ver weg was. Ik dacht dat het nog 30 tot 50 jaar of zelfs langer weg was. Uiteraard denk ik dat niet meer."

Veel andere experts, waaronder veel van zijn studenten en collega's, zeggen dat deze dreiging hypothetisch is. Maar Dr. Hinton gelooft dat de race tussen Google en Microsoft en anderen zal escaleren tot een wereldwijde race die niet zal stoppen zonder een soort wereldwijde regulering.

Maar dat kan onmogelijk zijn, zei hij. Anders dan bij kernwapens, zei hij, is er geen manier om te weten of bedrijven of landen in het geheim aan de technologie werken. De beste hoop is dat 's werelds beste wetenschappers samenwerken aan manieren om de technologie te controleren. "Ik denk niet dat ze dit meer moeten opschalen totdat ze begrepen hebben of ze het kunnen controleren," zei hij.

Dr. Hinton zei dat wanneer mensen hem vroegen hoe hij aan potentieel gevaarlijke technologie kon werken, hij Robert Oppenheimer parafraseerde, die de Amerikaanse inspanningen om de atoombom te bouwen leidde: "Als je iets ziet dat technisch leuk is, ga je het doen."

Dat zegt hij niet meer.