Harari’s aangstaanjagende visioen in Davos

Yuval Noah Harari hield in Davos een indrukwekkende en angstaanjagende toespraak. Hier de hele tekst over het eerste deel: over de ‘zegeningen’van de technologie.

‘Wat gebeurt er met de politiek in uw land over twintig jaar, wanneer iemand in San Francisco of Beijing de hele medische en persoonlijke geschiedenis kent van elke politicus, elke rechter en elke journalist in uw land, inclusief al hun seksuele escapades, al hun mentale zwakheden en al hun corrupte handelingen? Blijft het nog steeds een onafhankelijk land of wordt het een datakolonie?

In Davos horen we veel over de enorme beloften van technologie – en deze beloften zijn er zeker . Maar technologie kan ook onze menselijke samenleving en de betekenis van het menselijk leven verstoren, variërend van de oprichting van een wereldwijde nutteloze klasse tot de opkomst van datakolonialisme en digitale dictaturen.

Ten eerste kunnen we te maken krijgen met omwentelingen op sociaal en economisch niveau.

Automatisering zal spoedig miljoenen en miljoenen banen elimineren, en hoewel er zeker nieuwe banen zullen worden gecreëerd, is het onduidelijk of mensen in staat zullen zijn om de nodige nieuwe vaardigheden snel genoeg te leren.

Stel dat u een vijftig jaar oude vrachtwagenchauffeur bent en dat u uw baan bent kwijtgeraakt aan een zelfrijdende auto. Nu zijn er nieuwe banen in het ontwerpen van software of het onderwijzen van yoga aan ingenieurs – maar hoe vindt een vijftig jaar oude vrachtwagenchauffeur zichzelf opnieuw uit als software-ingenieur of als yogaleraar?

En mensen zullen het niet één keer maar telkens opnieuw moeten doen in hun leven, omdat de automatiseringsrevolutie geen keerpunt zal kennen naar een stabiel punt,  een nieuw evenwicht. Oude banen zullen verdwijnen, nieuwe banen zullen ontstaan, maar vervolgens zullen die nieuwe banen snel veranderen en ook weer verdwijnen. Terwijl de mens in het verleden tegen uitbuiting moest vechten, zal in de eenentwintigste eeuw de echt grote strijd tegen irrelevantie zijn. En het is veel erger om irrelevant te zijn dan uitgebuit.

Kan automatisering een 'nutteloze klasse' creëren?

Kan automatisering een ‘nutteloze klasse’ creëren?

Degenen die falen in de strijd tegen irrelevantie zullen een nieuwe “nutteloze klasse” vormen – mensen die nutteloos zijn niet voor hun vrienden en familie, maar nutteloos vanuit het oogpunt van het economische en politieke systeem. En deze nutteloze klasse zal worden gescheiden door een steeds groter wordende kloof van de steeds machtiger elite.

De AI-revolutie kan ongekende ongelijkheid creëren, niet alleen tussen klassen, maar ook tussen landen.

In de negentiende eeuw, waren een paar landen zoals Groot-Brittannië en Japan als eerste geïndustrialiseerd, en ze veroverden en exploiteerden het grootste deel van de wereld. Als we niet uitkijken, gebeurt hetzelfde in de eenentwintigste eeuw met AI.

We zitten al midden in een AI-wapenwedloop, waarbij China en de VS de race leiden en de meeste landen ver achterblijven. Tenzij we actie ondernemen om het voordeel en de kracht van AI onder alle mensen te verdelen, zal AI waarschijnlijk enorme rijkdom creëren in een paar hightech hubs, terwijl andere landen failliet gaan of geëxploiteerde datakolonies worden.

Nu hebben we het niet over een science fiction-scenario van robots die rebelleren tegen mensen. We hebben het over veel meer primitieve AI, die desondanks voldoende is om het mondiale evenwicht te verstoren.

Denk eens aan wat er zal gebeuren met ontwikkelende economieën als het goedkoper is om textiel of auto’s in Californië te produceren dan in Mexico? En wat gebeurt er met de politiek in uw land over twintig jaar, wanneer iemand in San Francisco of Beijing de hele medische en persoonlijke geschiedenis kent van elke politicus, elke rechter en elke journalist in uw land, inclusief al hun seksuele escapades, al hun mentale zwakheden en al hun corrupte handelingen? Blijft het nog steeds een onafhankelijk land of wordt het een datakolonie?

Als je voldoende gegevens hebt, hoef je geen soldaten te sturen om een ​​land te besturen.

Naast ongelijkheid is het andere grote gevaar waarmee we worden geconfronteerd de opkomst van digitale dictaturen, die iedereen voortdurend in de gaten zullen houden.

Heeft de toekomst een digitale dictatuur?

Komt in de toekomst een digitale dictatuur?

Dit gevaar kan worden gegoten in de vorm van een eenvoudige vergelijking, die volgens mij de bepalende levensvergelijking in de eenentwintigste eeuw zou kunnen zijn:

B x C x D = AHH!

Wat betekent dat? Biologische kennis vermenigvuldigd met rekenkracht vermenigvuldigd met gegevens is gelijk aan het vermogen om mensen te hacken, ahh.

Een gevaarlijke vergelijking.

Een gevaarlijke vergelijking.

Als je genoeg kennis hebt van biologie en genoeg rekenkracht en gegevens hebt, kun je mijn lichaam en mijn hersenen en mijn leven hacken en kun je me beter begrijpen dan ikzelf. Je kunt mijn persoonlijkheidstype, mijn politieke opvattingen, mijn seksuele voorkeuren, mijn mentale zwakheden, mijn diepste angsten en verwachtingen kennen. Je weet meer over mij dan ik over mezelf. En dat kun je niet alleen bij mij doen, maar bij iedereen.

Een systeem dat ons beter begrijpt dan wijzelf, kan onze gevoelens en beslissingen voorspellen, onze gevoelens en beslissingen manipuleren en uiteindelijk beslissingen voor ons nemen.

In het verleden wilden veel regeringen en tirannen dat doen, maar niemand begreep de biologie goed genoeg en niemand had voldoende rekenkracht en gegevens om miljoenen mensen te hacken. Noch de Gestapo, noch de KGB kon het. Maar binnenkort zullen in ieder geval sommige bedrijven en overheden in staat zijn om systematisch alle mensen te hacken. Wij mensen moeten wennen aan het idee dat we niet langer mysterieuze zielen zijn – we zijn nu hackbare dieren. Dat is wat we zijn.

De kracht om mensen te hacken kan worden gebruikt voor goede doeleinden – zoals het bieden van veel betere gezondheidszorg. Maar als deze macht in handen van een eenentwintigste-eeuwse Stalin valt, zal het resultaat het slechtste totalitaire regime in de menselijke geschiedenis zijn. En we hebben al een aantal sollicitanten voor de functie van Stalin in de eenentwintigste eeuw.

Stel je Noord-Korea voor over twintig jaar, wanneer iedereen een biometrische armband moet dragen die constant vierentwintig uur per dag je bloeddruk, je hartslag en je hersenactiviteit bewaakt. Je luistert naar een toespraak op de radio van de grote leider en zij weten wat je eigenlijk voelt. Je kunt in je handen klappen en glimlachen, maar als je boos bent, zorgen ze dat je morgen in de goelag bent.

En als we de opkomst van dergelijke totale bewakingsregimes toestaan, denk dan niet dat de rijken en machtigen in plaatsen als Davos veilig zullen zijn, vraag het maar aan Jeff Bezos. In de USSR van Stalin hield de staat de leden van de communistische elite meer in de gaten dan wie ook. Hetzelfde zal gelden voor toekomstige totale bewakingsregimes. Hoe hoger je in de hiërarchie staat – hoe beter je in de gaten wordt gehouden.

Wilt u dat uw CEO of uw president weet wat u echt van hen vindt?

Het is dus in het belang van alle mensen, inclusief de elites, om de opkomst van dergelijke digitale dictaturen te voorkomen. En als je in de tussentijd een verdacht WhatsApp-bericht krijgt van een of andere prins, open dit dan niet.

Als we nu inderdaad de oprichting van digitale dictaturen voorkomen, kan het vermogen om mensen te hacken nog steeds de betekenis van menselijke vrijheid ondermijnen. Omdat mensen afhankelijk zijn van AI om meer en meer beslissingen voor ons te nemen, zal het gezag verschuiven van mensen naar algoritmen en dit gebeurt al.

Al vandaag vertrouwen miljarden mensen op het Facebook-algoritme om ons te vertellen wat nieuw is, het Google-algoritme vertelt ons wat waar is, Netflix vertelt ons wat we willen zien en de algoritmen van Amazon en Alibaba vertellen ons wat we willen kopen.

In de niet zo verre toekomst kunnen vergelijkbare algoritmen ons vertellen waar we moeten werken en met wie we moeten trouwen, en ook beslissen of ze ons inhuren voor een baan, of ze ons een lening geven en of de centrale bank de rente moet verhogen .

En als u vraagt ​​waarom u geen lening hebt gekregen en waarom u de bank de rente niet hebt verhoogd, is het antwoord altijd hetzelfde – omdat de computer nee zegt. En omdat het beperkte menselijke brein onvoldoende biologische kennis, rekenkracht en gegevens mist, kunnen mensen eenvoudigweg de beslissingen van de computer niet begrijpen.

Dus zelfs in zogenaamd vrije landen verliezen mensen waarschijnlijk de controle over hun eigen leven en verliezen ze ook het vermogen om het beleid van De Staat te begrijpen.

Hoeveel mensen begrijpen nu nog het financiële systeem? Misschien is één procent al veel. Over een paar decennia zal het aantal mensen dat het financiële systeem kan begrijpen exact nul zijn.

In voor-en tegenspoed?

In voor-en tegenspoed?

Het gebruikelijke koopje tussen filosofen en politici is dat filosofen veel fantasievolle ideeën hebben, en politici leggen in feite uit dat ze de middelen missen om deze ideeën te implementeren. Nu bevinden we ons in een tegenovergestelde situatie. We staan ​​voor filosofisch faillissement.

Zal de filosofie machines kunnen bijhouden?

Ten slotte kan technologie niet alleen onze economie, politiek en filosofie verstoren, maar ook onze biologie.

In de komende decennia zullen AI en biotechnologie ons goddelijke vermogens geven om het leven opnieuw te ontwerpen, en zelfs om volledig nieuwe levensvormen te creëren. Na vier miljard jaar organisch leven gevormd door natuurlijke selectie, staan ​​we op het punt een nieuw tijdperk in te gaan van anorganisch leven gevormd door intelligent ontwerp.

Ons intelligente ontwerp wordt de nieuwe drijvende kracht van de evolutie van het leven en door onze nieuwe goddelijke scheppingskrachten te gebruiken, kunnen we fouten maken op kosmische schaal. In het bijzonder zullen overheden, bedrijven en legers technologie waarschijnlijk gebruiken om menselijke vaardigheden te verbeteren die ze nodig hebben – zoals intelligentie en discipline – terwijl ze de vaardigheden van andere mensen verwaarlozen – zoals compassie, artistieke gevoeligheid en spiritualiteit.

Het resultaat kan een mensenras zijn dat zeer intelligent en zeer gedisciplineerd is maar geen compassie, artistieke gevoeligheid en spirituele diepte mist. Natuurlijk is dit geen profetie. Dit zijn slechts mogelijkheden. Technologie is nooit deterministisch.

De toekomst ligt niet in steen.

De toekomst is niet in steen gegoten.

In de twintigste eeuw gebruikten mensen dezelfde industriële technologie om zeer verschillende soorten samenlevingen op te bouwen: fascistische dictaturen, communistische regimes, liberale democratieën. Hetzelfde zal gebeuren in de eenentwintigste eeuw.

AI en biotech zullen de wereld zeker transformeren, maar we kunnen ze gebruiken om heel verschillende soorten samenlevingen te creëren. En als je bang bent voor sommige van de mogelijkheden die ik heb genoemd, kun je er nog steeds iets aan doen. Maar om iets effectiefs te doen, hebben we wereldwijde samenwerking nodig.

Alle drie de existentiële uitdagingen waarmee we worden geconfronteerd, zijn wereldwijde problemen waarvoor wereldwijde oplossingen nodig zijn.

Wanneer een leider zoiets zegt als “My Country First!”, Moeten we die leider eraan herinneren dat geen enkel land nucleaire oorlog kan voorkomen of de ecologische instorting alleen kan stoppen, en geen enkel land kan AI en bio-engineering zelf regelen.

Speel op eigen risico.

Bijna elk land zal zeggen: “Hé, we willen geen dodelijke robots ontwikkelen of menselijke baby’s genetisch manipuleren. Wij zijn de goeden. Maar we kunnen onze rivalen niet vertrouwen om het niet te doen. Dus we moeten het eerst doen ”.

Als we toestaan ​​dat zo’n wapenwedloop zich ontwikkelt op gebieden als AI en bio-engineering, maakt het niet echt uit wie de wapenwedloop wint – de verliezer zal de mensheid zijn.

Spel is over.

Helaas, juist wanneer wereldwijde samenwerking meer dan ooit nodig is, ondermijnen enkele van de machtigste leiders en landen ter wereld nu opzettelijk de wereldwijde samenwerking. Leiders zoals de Amerikaanse president vertellen ons dat er een inherente tegenstelling is tussen nationalisme en globalisme, en dat we nationalisme moeten kiezen en globalisme moeten verwerpen.

Maar dit is een gevaarlijke fout. Er is geen tegenstelling tussen nationalisme en globalisme. Omdat nationalisme niet gaat over het haten van buitenlanders. Nationalisme gaat over het houden van je landgenoten. En in de eenentwintigste eeuw, om de veiligheid en de toekomst van uw landgenoten te beschermen, moet u samenwerken met buitenlanders.

Wereldwijde oplossingen voor wereldwijde problemen.

Wereldwijde oplossingen voor wereldwijde problemen.

Dus in de eenentwintigste eeuw moeten goede nationalisten ook globalisten zijn. Globalisme betekent niet dat er een wereldwijde regering moet worden opgericht, dat alle nationale tradities moeten worden opgegeven of dat de grens moet worden geopend voor onbeperkte immigratie. Globalisme betekent veeleer een toewijding aan enkele wereldwijde regels.

Regels die het unieke karakter van elke natie niet ontkennen, maar alleen de relaties tussen naties reguleren.

En een goed model is het Wereldkampioenschap voetbal.

Het WK is een competitie tussen landen, en mensen tonen vaak een sterke loyaliteit aan hun nationale team. Maar tegelijkertijd is het WK ook een verbluffende weergave van wereldwijde harmonie. Frankrijk kan niet tegen Kroatië voetballen tenzij de Fransen en de Kroaten dezelfde regels voor de wedstrijd overeenkomen. En dat is globalisme in actie.

Wereldwijde oplossingen voor wereldwijde problemen.

Als je van het WK houdt, ben je al een globalist.

De complete tekst, ook over milieu en wapenwedloop

Yuval Noah Harari is een Israëlisch historicus, filosoof, futuroloog. Tot 2014 was hij een onbekende wetenschapper, gespecialiseerd in de geschiedenis van de Middeleeuwen. Daarna kreeg hij wereldfaam door drie boeken: Sapiens, Homo Deus en 21 lessen voor de 21e eeuw.