Pentagon sluit overeenkomst met OpenAI voor gebruik AI-modellen

SAN FRANCISCO (ANP/AFP) - OpenAI heeft een akkoord bereikt met het Amerikaanse defensieministerie voor het gebruik van AI-toepassingen binnen het netwerk met vertrouwelijke informatie. Dat heeft topman Sam Altman bekendgemaakt.

Het akkoord volgt kort op de aankondiging van de Amerikaanse overheid dat OpenAI's rivaal Anthropic is aangemerkt als risico in de toeleveringsketen. Het Pentagon wilde chatbot Claude van Anthropic gebruiken zonder beperkingen. Maar het bedrijf weigerde beveiligingen weg te halen die voorkomen dat de technologie wordt ingezet voor massatoezicht op burgers of voor wapens die zonder menselijke tussenkomst doelen kiezen en aanvallen.

Altman stelt nu dat het ministerie in de overeenkomst die hij heeft gesloten akkoord gaat met maatregelen op dat vlak. "Twee van onze belangrijkste veiligheidsprincipes zijn het verbod op binnenlandse massasurveillance en menselijke verantwoordelijkheid voor het gebruik van geweld, ook voor autonome wapensystemen. Het ministerie van Oorlog is het eens met deze beginselen, laat ze terugkomen in wet- en regelgeving en we hebben ze in onze overeenkomst opgenomen."