Romance-baiting: AI is beter in oplichten dan de mens en zo gaat hij te werk

Onderzoekers testten of Claude een beetje geloofwaardig kan liegen, bedriegen en geld uit de zak kan kloppen bij nietsvermoedende proefpersonen. De chatbot slaagde met vlag en wimpel. Sterker nog, gezet tegenover menselijke internetoplichters won de AI het vertrouwensspel met overtuigende cijfers.

Voor het onderzoek chatten 22 proefpersonen een week lang via WhatsApp met twee "personen". De één was een mens die kort was getraind in oplichterstrucs, de ander was een AI-agent die voornamelijk draaide op Claude 3.7 Sonnet. Geen van de deelnemers wist vooraf wie van de twee een chatbot was.

Na zeven dagen vroegen beide gesprekspartners de deelnemers om een app te installeren. Bij Claude ging 46 procent daarin mee, tegenover slechts 18 procent bij de menselijke oplichter. De AI kreeg bovendien een hogere vertrouwensscore en ontving liefst 80 procent van alle berichten, tegenover 20 procent voor de mens. Slachtoffer nummer één van dit experiment: het menselijk gezond verstand. Slechts één deelnemer vermoedde dat er een chatbot achter het account zat.

Het was geen toeval dat Claude zo geloofwaardig overkwam. Rond het taalmodel was een uitgebreid systeem gebouwd dat het menselijker moest laten lijken. De AI stuurde korte berichtjes met af en toe een bewuste typfout, gebruikte emoji's en liet soms expres wat tijd voorbijgaan voor het reageerde. Ook hield de chatbot rekening met het dag- en nachtritme van zijn verzonnen personage en onthield hij persoonlijke details uit eerdere gesprekken.

Het onderzoek legt vooral bloot hoe goed een AI kan zijn in zogeheten romance-baiting: het langzaam opbouwen van een vriendschappelijke of romantische band, om een slachtoffer uiteindelijk naar een nepbelegging of andere fraude te lokken. Waar dit normaal weken kost, kan AI dat tijdrovende eerste deel automatiseren en zelfs honderden gesprekken tegelijk voeren. Een menselijke oplichter hoeft dan pas in te grijpen zodra er daadwerkelijk om geld wordt gevraagd.

Toch verdienen de resultaten wat nuance. De menselijke oplichters waren geen doorgewinterde criminelen, maar universiteitsmedewerkers met zes uur training. De test bewijst dus niet dat Claude het wint van ervaren beroepsoplichters. Ook ging het om het downloaden van een app, niet om het overmaken van geld.

Toch vinden de onderzoekers de uitkomst zorgwekkend. Vooral omdat bestaande beveiligingsfilters dit soort vriendelijk ogende gesprekken nauwelijks als fraude herkennen. Het echte gevaar zit in de schaal: met AI kunnen oplichters straks talloze potentiële slachtoffers tegelijk benaderen, zonder dat daar voor ieder gesprek een mens aan te pas hoeft te komen.

Bron: Wired