AI-bazen beloven VN-Veiligheidsraad voorzichtigheid met AI

NEW YORK (ANP/AFP) - Topmannen van prominente AI-bedrijven hebben woensdag de VN-Veiligheidsraad woensdag toegesproken over de risico's en veiligheid rond AI, nu AI-systemen steeds krachtiger worden. Zo beloofde topman Dario Amodei van Anthropic, bekend van chatbot Claude, dat het bedrijf "zoveel zal vertragen als nodig is om ervoor te zorgen dat elke volgende AI-technologie die we uitbrengen ook echt veilig is".

De afgelopen tijd hebben berichten over hacks door AI-systemen wereldwijd een debat ontketend over de toenemende risico's van kunstmatige intelligentie en de maatregelen die nodig zijn om deze te beperken. Amodei riep AI-bedrijven onlangs al op om het tempo waarin ze de capaciteiten van AI-modellen uitbreiden bewust te matigen. Die oproep werd gesteund door onder meer OpenAI-topman Sam Altman en Elon Musk.

Altman sprak de vijftien leden van de Veiligheidsraad ook toe. De baas van het bedrijf achter chatbot ChatGPT zei dat de huidige fase in de ontwikkeling van AI "vraagt om uiterste voorzichtigheid".