Facebook stopt AI-experiment nadat robots eigen geheimtaal ontwikkelen

Het klinkt als de omschrijving van een Sci-Fi-thriller, maar het is echt waar: Facebook heeft een experiment met kunstmatige intelligentie stilgelegd, nadat twee robots een eigen taal ontwikkelden die alleen zij begrepen. Alice en Bob paste uit eigen beweging het Engels aan, zodat ze gemakkelijker met elkaar konden communiceren. De onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) begrepen niets meer van de vreemde zinnen. De twee robots leerden onder meer hoeden, boeken en ballen te verkopen. Daarbij moesten ze onderhandelen over de prijs. De voertaal was Engels. Maar toen ze de vrije hand kreeg om hun spraakalgoritmes te verbeteren, begonnen ze vreemde codewoorden te gebruiken. Dat was nog niet alles. De robots bleken ook steeds slimmer te worden in het onderhandelen. Ze deden bijvoorbeeld alsof ze een product leuk vonden om het later in de onderhandeling 'op te offeren', zodat ze tot een 'vals compromis' kwamen. Toen de onderzoekers doorkregen wat er gebeurde, legden ze het experiment direct stil. "Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", zegt professor Kevin Warwick, een Britse expert in robotica. "We hebben er geen flauw idee van wat deze robots tegen elkaar zeggen. Zodra je robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."

Bron(nen): HLN