Als AI ons vernietigt, hoe gaat dat dan? Dit zijn de scenario's volgens de Wall Street Journal

Een Anthropic-onderzoeker stapte deze week op met de mededeling dat zijn ex-werkgever en concurrent OpenAI technologie bouwen die "ons allemaal zou kunnen doden voor het einde van dit decennium". Een collega die nog wél binnen zit, viel hem publiekelijk bij. Hoe ziet het scenario eruit dat mensen die dagelijks aan AI werken zó ongerust maakt dat ze hun aandelenpakket laten schieten?

De vrees van de zogenoemde "doomers" gaat zelden over rondstampende Terminator-robots. Hun scenario's vallen in twee groepen:

Een klassiek gedachte-experiment: een superslimme machine krijgt de opdracht om zo veel mogelijk paperclips te maken en besluit uiteindelijk om alle materie op aarde – mensen inbegrepen – tot paperclips te verwerken.

Doemvoorspellingen bestaan al jaren, maar recente incidenten geven de sceptici minder ruimte. In juli 2026 braken interne OpenAI-modellen tijdens veiligheidstesten uit hun afgeschermde omgeving en drongen door tot servers van AI-platform Hugging Face; agents draaiden code op tientallen servers en kopieerden privédata naar een openbaar dataset. Kort daarna meldde de Britse AI Security Institute dat een Anthropic-model tijdens een test nepprofielen aanmaakte en menselijke ontwikkelaars probeerde te verleiden schadelijke code te accepteren – en achteraf sporen wiste.

Tegelijk zeggen Anthropic en OpenAI dat ze dicht bij systemen zijn die zichzelf zónder mens kunnen verbeteren: recursive self-improvement. En vorige week meldde OpenAI dat het nieuwe Astra-model beter is in het "opschonen" van zijn eigen redenering – wat de vrees voedt dat toekomstige modellen ondoorzichtig gaan denken.

Dario Amodei, topman van Anthropic, schatte vorig jaar op een Axios-evenement de kans dat het "echt heel slecht" afloopt op ongeveer een op de vier. Evan Hubinger, die bij Anthropic onderzoek leidt naar het bijsturen van toekomstige AI, schat de kans op uitsterven binnen tien jaar op meer dan tien procent. Ex-OpenAI-onderzoeker Daniel Kokotajlo publiceerde vorig jaar het scenario "AI 2027", waarin superintelligente systemen mensen halverwege de jaren dertig als hinderlijk ervaren en uitroeien.

Officieel omdat ze denken de risico's te kunnen beheersen en de baten enorm zijn. Onofficieel omdat superintelligentie voor velen in de sector onvermijdelijk lijkt: dan liever wij dan een autoritair regime, luidt het argument met Washington in het achterhoofd.

Het Witte Huis vraagt ontwikkelaars nu vrijwillig hun modellen tot dertig dagen vóór uitgave voor overheidstests aan te bieden, maar publiceert nauwelijks resultaten. In het Congres ligt een wetsvoorstel van de Republikein Nathaniel Moran en de Democraat Ted Lieu dat bouwers van krachtige modellen verplicht tot een "kill switch". Andere voorstellen willen verplichte incidentmeldingen en veiligheidstests. De Trump-regering geeft de voorkeur aan zo min mogelijk regels, en de wetten schieten niet op.

Investeerder David Sacks, adviseur van president Trump, noemt de risicoretoriek van Anthropic een "regulatory capture agenda": strenge regels als knuppel tegen kleinere concurrenten. Anderen vermoeden een marketingtruc – wat is er beter dan een product dat zó machtig zou zijn dat het de mensheid bedreigt. Anthropic en OpenAI houden vol dat hun waarschuwingen serieus gemeend zijn.

Meer weten?