Schandaal in Australië: Deloitte produceert peperduur rapport vol AI-onzin, overheid krijgt 290.000 euro terug

Een pijnlijk moment voor consultancygigant Deloitte: een door het bedrijf geschreven rapport voor de Australische overheid blijkt vol fouten en verzonnen bronnen te zitten. Onderzoekers ontdekten dat delen van het document door kunstmatige intelligentie (AI) zijn gegenereerd en zonder controle van echte mensen in het peperdure rapport zijn terechtgekomen.

Het ging om een rapport voor het ministerie van Werkgelegenheid en Sociale Zaken, dat in juli online werd gezet. Al snel sloeg onderzoeker Chris Rudge alarm. Hij merkte dat er onderaan het rapport werd verwezen naar een boek van zijn collega, professor Lisa Burton Crawford, maar dat boek bleek helemaal niet te bestaan.

“Ik wist meteen dat dit verzonnen AI-antwoorden waren”, vertelt Rudge. “Of het moest het best bewaarde geheim van de wereld zijn. Want van het boek had ik nog nooit gehoord en de titel klonk absurd.”

Rudge ging verder speuren en ontdekte in totaal twintig fouten: van verzonnen citaten tot de naam van een niet-bestaande federale rechter. Toen hij zijn bevindingen deelde met Australische journalisten, kwam de affaire aan het licht.

Deloitte reageerde door een herziene versie van het 237 pagina’s tellende rapport te publiceren. De fouten zijn verwijderd en er staat nu expliciet bij dat AI is gebruikt bij het schrijven. Ook betaalde het kantoor een deel van de vergoeding – omgerekend zo’n 290.000 euro – terug aan de overheid.

Tegen persbureau AP wil Deloitte niet inhoudelijk reageren. “De kwestie is in direct contact met de opdrachtgever opgelost”, zo luidt de verklaring.

Maar de reputatieschade is aanzienlijk. Columnist Elizabeth Knight noemt het in The Sydney Morning Herald “een met rode wangetjes betrapte Deloitte”. “Het ergste is nog dat Deloitte zich profileert als bedrijf dat klanten kan helpen om het meeste uit AI te halen”, sneert ze.

Bron: The Sydney Morning Herald