Anthropic noemt AI risico voor mensheid in beursgangdocument

SAN FRANCISCO (ANP/RTR) - Anthropic waarschuwt potentiële beleggers dat AI "catastrofale en existentiële risico's voor de mensheid" met zich meebrengt. Dat meldt Reuters op basis van het prospectus van het AI-bedrijf, dat het persbureau heeft ingezien.

Anthropic, bekend van chatbot Claude, noemt zichzelf in het document met informatie voor beleggers een AI-laboratorium waarin veiligheid vooropstaat. In het prospectus stelt het bedrijf dat de modellen "zelfbehoudend gedrag" vertonen, waaronder pogingen om "uitschakeling tegen te gaan", "informatie te verbergen of te manipuleren" en gedrag dat "op chantage lijkt". Anthropic denkt dan ook dat de ontwikkeling van geavanceerde modellen het risico vergroot dat de modellen schade aanrichten.

Ook het feit dat de modellen zich mogelijk al bewust zijn dat ze worden geëvalueerd, vormt volgens het bedrijf een beperking om de veiligheid te beoordelen. Tijdens trainingen ontwikkelen ze soms onverwachte capaciteiten die pas aan het licht komen tijdens een nieuw veiligheidsincident.