Nieuwe AI ‘te gevaarlijk om openbaar te maken’

Een AI-systeem dat realistische verhalen, gedichten en nieuwsberichten maakt is geüpdatet. Volgens sommigen is het nu bijna net zo goed als een menselijke schrijver. En daarmee levensgevaarlijk.

De tekstgenerator, gebouwd door onderzoeksbureau OpenAI, werd oorspronkelijk beschouwd als ‘te gevaarlijk’ om openbaar te maken vanwege de mogelijkheden voor misbruik.

Maar nu is er toch een nog krachtigere versie van het systeem verschenen, dat kan worden gebruikt om fake nieuws of misleidende spam te verspreiden op social media. Schrijver Tristan Greene zegt: “Ik ben doodsbang voor GPT-2 omdat het de soort technologie is waarmee kwaadwillenden de bevolking kunnen manipuleren. Dat maakt het naar mijn mening gevaarlijker dan welk wapen dan ook.”

Maar computerprofessor aan de universiteit van Sheffield, Noel Sharkey, is nog niet zo onder de indruk. “In de huidige vorm genereert de AI alleen nog maar incoherente en ridicule teksten die maar weinig te maken hebben met de zinnen die je erin stopt.”

De professor legt uit: “Ik testte de software met talloze titels en kreeg lachwekkende resultaten. Ik voerde bijvoorbeeld in: ‘Turkeys (kalkoenen, red.) hate Christmas’. De AI maakte ervan dat ‘Turkije het enige land ter wereld is waar geen kerst wordt gevierd’ aangevuld met een aantal nonsens zinnen.”

Bron(nen):   BBC