Studie: Het is onmogelijk om een superintelligente AI onder controle te houden

Het idee van kunstmatige intelligentie die de baas wordt over de mens bestaat al decennia, maar dit jaar bedachten wetenschappers serieus of mensen in staat zijn om de controle te houden over een hoogintelligente robot of computer. Hun antwoord? Dat lukt vrijwel zeker niet.

Regels als 'breng geen schade toe aan mensen' kunnen niet worden ingesteld als we niet begrijpen met welke scenario's een AI kan komen, schrijven de wetenschappers van het Max Planck Instituut. Als een computersysteem eenmaal op een hoger niveau werkt dan onze programmeurs, kunnen we niet langer grenzen stellen.

"Een superintelligent systeem kan een verscheidenheid aan bronnen mobiliseren om doelen te bereiken die potentieel onbegrijpelijk zijn voor mensen, laat staan te controleren," schrijven de onderzoekers.

Macht inperken
Volgens hen is er geen algoritme waarvan je zeker weet dat het een AI kan bijbrengen de wereld niet te vernietigen. Een alternatief is om de capaciteiten van deze supercomputer in te perken. Hij kan bijvoorbeeld worden afgesloten van delen van het internet of van bepaalde netwerken.

Maar de studie verwerpt ook dat idee, omdat het de kracht van de AI zou beperken. Het argument is dat het weinig nut heeft om zo'n supercomputer te ontwikkelen als we hem niet gebruiken om problemen op te lossen die de menselijke denkkracht te boven gaan.

Als we zo doorgaan met de ontwikkeling van kunstmatige intelligentie, zullen we misschien niet eens weten wanneer er zo'n superrobot ontstaat die we niet onder controle hebben, klinkt het nog.

"Een superintelligente machine die over de wereld heerst, klinkt als sciencefiction," zegt computerwetenschapper Manuel Cebrian van het Max Planck Instituut. "Maar er zijn nu al computers die sommige belangrijke taken geheel zelfstandig uitvoeren zonder dat programmeurs precies begrijpen hoe ze dat geleerd hebben."

Bron(nen):   Science Alert