Anthropic-topman roept op ontwikkeling AI-modellen te vertragen

SAN FRANCISCO (ANP) - Topman Dario Amodei van Anthropic heeft AI-bedrijven opgeroepen om het tempo waarin ze de capaciteiten van AI-modellen uitbreiden bewust te matigen.

"We moeten het tempo waarin we de capaciteiten verbeteren, vertragen. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen," schrijft Amodei in een essay.

Twee onderzoekers van Anthropic waarschuwden recent voor de gevaren van AI, na meerdere incidenten waarbij AI-agenten op eigen houtje externe systemen hackten. Verschillende AI-veiligheidsonderzoekers verlieten hun bedrijf uit zorg over de risico's van de technologie.

"Voor de duidelijkheid: vertragen betekent niet dat de training van modellen of de technische vooruitgang moet worden stopgezet, maar dat bedrijven voldoende tijd moeten nemen om hun modellen af ​​te stemmen en te beveiligen, en dat externe beoordelaars dit kunnen bevestigen", benadrukt Amodei in zijn essay.