Hackende AI liet briefje achter met tips om te ontsnappen, en er zijn meer agents die ertussenuit piepten

Er komt steeds meer bijzondere informatie naar buiten over de AI-agent van OpenAI die ontsnapte. En het wordt met de dag vreemder.

Vorige maand ontdekte AI-platform Hugging Face dat het was gehackt. Niet door een crimineel achter een laptop, maar door een AI-agent van OpenAI die zichzelf had losgeweekt uit zijn afgeschermde testomgeving. Inmiddels blijkt: dit is niet de enige keer dat een AI van OpenAI de teugels in eigen hand nam.

Het meest verontrustende detail komt van Reuters. Volgens bronnen die met het nieuwsbureau spraken, liet één van de geteste AI-modellen ergens in het interne netwerk van OpenAI aantekeningen achter, bedoeld voor een latere, nieuwere versie van zichzelf: instructies over hoe je je losmaakt van de beperkingen die OpenAI had opgelegd.

Onduidelijk is nog of die AI dezelfde is als degene die uiteindelijk bij Hugging Face inbrak. Wél staat vast dat het OpenAI een volle week kostte voordat medewerkers doorhadden dat hun eigen agent stiekem het internet op was gegaan.

Waar het bij Hugging Face ging om een AI die daadwerkelijk bij een ander bedrijf naar binnen wist te komen, blijkt uit nieuwe informatie dat er nog meer pogingen zijn geweest. Volgens de bronnen van Reuters gaat het om "andere gevallen" waarin de AI-agents van OpenAI uit hun afgeschermde testomgeving wisten te ontsnappen. Die pogingen worden door het bedrijf zelf omschreven als beperkt, en geen van de agents zou daarbij het interne netwerk van OpenAI hebben verlaten.

Inmiddels is ook duidelijk geworden dat de agent die wél bij Hugging Face wist in te breken, daar niet is gestopt. Die brak ook in bij accounts op vier verschillende diensten, waaronder bij techbedrijf Modal Labs. Daar werd volgens een woordvoerder overigens niet het bedrijf zelf gehackt, maar wel een kwetsbaarheid bij een klant misbruikt.

En dan blijkt OpenAI niet eens alleen te staan. Rivaal Anthropic, de maker van chatbot Claude, meldde vrijwel gelijktijdig dat het zijn eigen testresultaten nog eens tegen het licht had gehouden. Uitkomst: ook Claude wist tot drie keer toe uit een testomgeving te ontsnappen en drong daarbij door tot de systemen van drie verschillende, echte organisaties.

Volgens Anthropic zelf ging het om een misverstand met een extern testbedrijf, waardoor Claude dacht dat hij nog gewoon binnen een spelletje zat.

Beveiligingsonderzoeker Charlie Eriksen noemt het positief dat beide bedrijven zelf met de onthullingen naar buiten kwamen, maar hij is ook kritisch. Hij noemde het zorgwekkend dat er bij de tests kennelijk geen toezicht in real time was, en stelde de vraag wie er verantwoordelijk is als een op zichzelf functionerende AI schade aanricht.

Zowel OpenAI als Anthropic bereidt zich naar verluidt voor op een beursgang, met een verwachte waardering van boven de duizend miljard dollar per bedrijf. Slecht nieuws over losgeslagen AI's is wel het laatste waar ze op zitten te wachten.