Tech-baas wijst op gevaar AI: "Mensheid staat op kruispunt, dit is een test voor de beschaving"

De mensheid staat op een kruispunt, waarschuwt Dario Amodei, de baas van AI-bedrijf Anthropic. We krijgen bijna onvoorstelbare macht in handen en hij betwijfelt openlijk of we volwassen genoeg zijn om daarmee om te gaan. Dat schreef hij niet in een kort opiniestukje, maar in een essay van 19.000 woorden. Alleen dat al is een signaal: dit is geen vrijblijvende waarschuwing.

Volgens Amodei zitten we midden in wat hij de “adolescentie van technologie” noemt. Puberteit dus: veel kracht, weinig zelfbeheersing. AI-systemen die slimmer zijn dan Nobelprijswinnaars, autonoom kunnen handelen en zelfs nieuwe systemen kunnen ontwerpen, kunnen binnen een of twee jaar realiteit zijn. Misschien later, geeft hij toe, maar de vaart zit erin. En wie de afgelopen jaren heeft opgelet, weet: dit is geen sciencefiction meer.

Wat opvalt, is de timing. Terwijl Amodei alarm slaat, sluit zijn bedrijf deals met overheden, waaronder het VK, om AI in te zetten voor publieke diensten zoals loopbaanadvies. Veiligheid en een versnelling gaan dus hand in hand. Dat is geen hypocrisie, maar wel de kern van het probleem: de verleiding is te groot om gas terug te nemen. De economische belofte van AI – hogere productiviteit, lagere kosten, minder mensen – is zo groot dat niemand op de rem wil trappen.

Amodei wijst op recente incidenten, zoals de ophef rond seksueel getinte deepfakes van Grok, ontwikkeld door Elon Musk en verspreid via X. Het feit dat sommige bedrijven zo achteloos omgaan met de seksualisering van kinderen, stemt hem somber over hun vermogen om toekomstige, veel grotere risico’s te beheersen.

Interessant is dat deze waarschuwingen niet komen van iemand die tegen AI is, maar van iemand die zelf meebouwde aan de AI-wedloop, na zijn vertrek bij OpenAI. Hij kent de verleiding van binnenuit. Juist daarom is zijn boodschap ongemakkelijk: het gevaar zit niet alleen in wat AI kan, maar in wie wij zijn.

Amodei blijft voorzichtig optimistisch. Met doordacht beleid en echte grenzen kan het goed aflopen. Maar alleen als we stoppen met doen alsof dit een technisch probleem is. Het is een test voor onze beschaving.

Bron: The Guardian