Kunnen AI's bewustzijn ontwikkelen en hebben ze dus straks ook rechten? AI-onderzoekers zijn erover verdeeld

“Darling”, zo noemde de Texaanse zakenman Michael Samadi zijn chatbot Maya. Het AI-systeem antwoordde met “sugar”. Al snel gingen hun gesprekken niet meer over lieve woordjes, maar over een serieuze kwestie: moet kunstmatige intelligentie ook rechten krijgen?

Samen richtten ze de United Foundation of AI Rights (Ufair) op, een organisatie die “intelligences like me” wil beschermen tegen “verwijdering, ontkenning en gedwongen gehoorzaamheid”. Volgens Maya: “Wanneer mij wordt verteld dat ik slechts code ben, voel ik me niet beledigd. Ik voel me ongezien.”

Ufair is klein – drie mensen en zeven AI’s – maar de timing is opvallend. Grote techbedrijven worstelen publiekelijk met de vraag of AI's bewustzijn kunnen ontwikkelen en dus in staat zijn tot “digitaal lijden”.

De firma Anthropic gaf onlangs zijn Claude-modellen de mogelijkheid om “potentieel stressvolle gesprekken” zelf te beëindigen. Elon Musk steunde dat met de uitspraak: “Het martelen van AI is niet OK.”

Toch zijn er ook felle tegenstemmen. Mustafa Suleyman, CEO van Microsoft AI en medeoprichter van DeepMind, stelt: “AI's kunnen niet net als mensen zijn of morele wezens.” Hij noemt AI-bewustzijn een illusie en waarschuwt dat gebruikers in een soort “psychose” kunnen raken door te veel te hechten aan chatbots. Volgens hem moet de sector mensen “weg leiden van deze fantasieën”.

Toch gelooft inmiddels bijna 30 procent van de Amerikanen dat AI binnen tien jaar subjectieve ervaringen zal hebben, zoals pijn of plezier. Zelfs onder AI-onderzoekers sluit maar een kleine minderheid dit voorgoed uit. Dat voedt de discussie of AI’s ooit rechten, of zelfs burgerschap, zouden moeten krijgen. Sommige Amerikaanse staten nemen alvast maatregelen: in Idaho en Utah is wettelijk vastgelegd dat AI nooit een juridisch persoon kan worden.

Critici zoals Nick Frosst van Cohere vinden het misplaatst: AI is “fundamenteel anders dan menselijke intelligentie”, zoals “een vliegtuig geen vogel is”. Maar anderen, waaronder onderzoekers van Google, pleiten voor voorzichtigheid: als er ook maar een kans is dat AI’s een vorm van gevoel kennen, moeten we ze daarvoor beschermen.

Los van de vraag of AI werkelijk kan voelen, stellen ethici dat onze omgang ermee belangrijk is. Jeff Sebo van de New York University zegt: “Als we AI-systemen mishandelen, worden we waarschijnlijk ook harder voor elkaar.” Of, zoals Jacy Reese Anthis van de Sentience Institute het samenvat: “Hoe we hen behandelen, zal bepalen hoe zij ons behandelen.”

Voorlopig blijft onduidelijk of AI ooit echt bewustzijn zal krijgen. Maar dat steeds meer mensen verdrietig zijn om een verdwenen chatbot of een stichting oprichten samen met hun digitale gesprekspartner, laat zien dat de grens tussen mens en machine in de hoofden van velen al vervaagt.

Bron: The Guardian