EU zet omstreden AI-leugendetector in bij grenscontrole

_{Wilt u dit artikel liever beluisteren? Hieronder staat de door Blendle voorgelezen versie.}

Wat is het doel van uw reis? Wat zit er in uw koffer? Waarom heeft u alleen handbagage mee? Wat is uw beroep? Waar komt u vandaan? Wie de EU binnenkomt, moet dit soort – en veel meer – vragen beantwoorden. Als het aan de EU ligt, nemen machines deze rol van mensen gedeeltelijk over. Europa steekt miljoenen in een project, genaamd iBorderCtrl, waarmee in eerste instantie aan de drukke grenzen van Hongarije, Griekenland en Letland wordt geëxperimenteerd.

De Europese Commissie, noemt het zelf een ‘slim leugendetectiesysteem’. Dit intelligente controlesysteem moet uit de stroom van 700 miljoen mensen die jaarlijks de buitengrenzen van de EU passeren de illegale immigranten kunnen selecteren. Het systeem draagt er zo ook aan bij dat misdaad en terrorisme worden ingedamd, voegt de Europese Commissie toe.

‘Echt heel slecht’

Met het systeem van iBorderCtrl (een consortiumdat bestaat uit de Hongaarse nationale politie, de Letse douane, een maker van ‘biometrische identificatie-oplossingen’ en universiteiten van Manchester en Leibnitz) moeten reizigers aan de grens hun reisdocumenten uploaden. Daarna moeten ze via een webcam vragen beantwoorden die door een computeranimatie van een grenswacht worden gesteld. Het systeem analyseert zogenoemde micro-expressies van de reizigers om na te gaan of ze liegen. ‘iBorderCtrl verzamelt gegevens die verdergaan dan biometrie. Het kijkt naar biomarkers om bedrog te ontdekken’, meldt projectleider George Boultadakis op de site van de Europese Commissie.

Die biomarkers zijn in dit geval micro-expressies, minieme uitdrukkingen op het gezicht die mensen vaak niet opmerken. Een trilling bij het oog bijvoorbeeld of het optrekken van een mondhoek. In emotie-onderzoek kan het zinvol zijn hiernaar te kijken, zegt Bruno Verschuere, hoofddocent forensische psychologie aan de Universiteit van Amsterdam. ‘Maar non-verbale signalen, zoals micro-expressies, zeggen echt helemaal niets over de vraag of iemand liegt of niet.’ 

Verschuere verbaast zich hogelijk over het project. ‘Dit is de belichaming van alles wat mis kan gaan met leugendetectie. Er bestaat geen enkele wetenschappelijke fundering voor de methoden die nu gebruikt gaan worden.’ Ook zijn collega Bennett Kleinberg, als psycholoog verbonden aan het University College London, is deze mening toegedaan: ‘Dit kan leiden tot de implementatie van een pseudowetenschappelijke grenscontrole.’

‘Onzin erin is onzin eruit’

Er is geen bewijs voor de populaire aanname dat leugenaars gestrest zijn en dat die stress zich vertaalt naar bijvoorbeeld gefriemel of een trillende mondhoek, aldus Verschuere. ‘Je kan nog zo’n mooie en geavanceerde AI-machine hebben, en die hebben ze ongetwijfeld, maar als je er onzin instopt, komt er ook onzin uit.’ 

Volgens Verschuere doen er opvallend genoeg geen gerenommeerde leugenexperts mee met het Europese project, dat valt onder Horizon 2020, Europa’s grootste onderzoeks- en innovatieprogramma. Tussen 2014 en 2020 is er in totaal 80 miljard subsidie beschikbaar onder deze paraplu voor diverse projecten.

Boultadakis van iBorderCtrl verwacht dat de nu lopende laboratoriumtests uiteindelijk in 85 procent van de gevallen succesvol zullen zijn. De livetesten aan de grenzen onder realistische omstandigheden zullen nog dit jaar beginnen en daarna ‘langer dan zes maanden’ doorlopen. Verschuere maakt zich grote zorgen: ‘Als dit soort systemen eenmaal in gebruik worden genomen, gaan ze niet meer weg. Het publiek krijgt alleen de succesverhalen te horen en niet de verhalen over degenen die ten onrechte zijn tegengehouden.’