Google wil noodknop inbouwen uit angst voor eigen supercomputer

Natuurkundige Stephen Hawking heeft al meermaals gewaarschuwd voor het gevaar van kunstmatige intelligentie die de macht van de mens overneemt. Ook Google vreest nu de dag dat hun eigen supercomputer besluit dat de mens een hinderlijke factor is die buitenspel moet worden gezet. DeepMind, dochter van Google, gaat daarom een noodknop inbouwen in zijn kunstmatig intelligente software, schrijft de Volkskrant. Google is bang dat een hyperintelligente entiteit ooit een list bedenkt die voorkomt dat de software nog kan worden stopgezet. Die angst is niet helemaal ongegrond. Eerder al bleek dat een beetje uit 'gedrag' dat DeepMinds slimme software vertoonde die zichzelf had gespecialiseerd in het winnen van de game Tetris. Toen tijdens een potje verlies onafwendbaar leek, nam de software een onverwachte beslissing en zette de game op pauze. Zo'n 'onverwachte' beslissing zou ook het onklaar maken van de noodknop kunnen zijn. Om dit te voorkomen hebben onderzoekers van DeepMind en de universiteit van Oxford onderzocht hoe dit scenario voorkomen kan worden. Dat kan door een simpele regel toe te voegen: slimme software mag menselijk ingrijpen nooit betrekken in zijn missie. Daardoor zou het nooit trucs bedenken om de mens buiten te sluiten, is het idee. Momenteel is dat gevaar nog niet aanwezig, stellen de onderzoekers in de Franse krant Le Monde. "Maar het is beter om er te vroeg over na te denken, dan te laat," zegt onderzoeker Stuart Armstrong van de universiteit van Oxford. "Met deze studie willen we er zeker van zijn dat dit nooit zal gebeuren."

Bron(nen):   De Volkskrant