Utrikes.

2019-12-14 13:00
Foro: Boris Grdanoski
Puffetikett
Nyhetsmagasinet ETC

AI-gränsvakter testas längs Europas gränser

Testprojektet iBorderCtrl, där en artificiell intelligent lögndetektor läser av migranters ansikten och värderar deras berättelser, har under året pågått längs tre av EU:s gränser. Nu stäms EU-kommissionen för beslutet att inte offentliggöra resultaten så de kan granskas

Vill du fortsätta läsa?

Bli prenumerant på Nyhetsmagasinet ETC!
Om du redan är det loggar du in här.

Betala per vecka

Från

39 kr

Beställ här!

Din prenumeration på Dagens ETC förnyas varje vecka. Avsluta när du vill.

Betala per månad

Från

139 kr

Beställ här!

Din prenumeration på Dagens ETC förnyas varje månad. Avsluta när du vill.

Under nio månader, längs gränserna mellan Ryssland och Lettland, Serbien och Ungern och Grekland och Norra Makedonien, kunde personer som korsade gränsen välja att ställa upp på ett videosamtal med en virtuell gränsvakt. I samtalet fick personerna svara på frågor om sin identitet och sitt bagage, samtidigt som AI läste av deras ansiktsuttryck för att bedöma om de talade sanning. Mjukvaran, iBorderCtrl, har utvecklats av det brittiska bolaget Silent Talker, som hävdar att en persons omedvetna ansiktsuttryck avslöjar lögner. Försöket, som avslutades i somras, är finansierat av EU:s forsknings- och innovationsprogram Horizon 2020, som har målet att producera världsledande forskning och innovation i EU.

Men att lögner kan utläsas ur ansiktsuttryck är omstritt. Silent Talkers teknologi lutar sig mot teorier om känsloigenkänning, som är mycket kritiserade. Dessutom har ansiktsigenkänningsteknik som sådan i en mängd fall visat sig bära på diskriminerande utfall, på grund av att AI:n ofta tränats upp på ett skevt urval. När tidningen The Intercepts reporter, som första journalist, testade systemet vid den serbisk-ungerska gränsen, tolkade den virtuella gränsvakten fyra av 16 svar som falska, trots att reportern svarade sanningsenligt på alla frågor.

I en rapport från projektet påstås att iBorderCtrl har en 74-procentig träffsäkerhet när det kommer till att avgöra om en person ljuger och en träffsäkerhet på 76 procent när det kommer till att känna igen sanningar. Någon data för att underbygga dessa påståenden, eller beskrivningar av hur projektet gått till, har dock inte släppts för offentlig granskning. Detta med hänvisning till att det kan underminera företagets framtida lönsamhet.

Patrick Breyer, EU-parlamentariker för tyska Piratpartiet har stämt EU på grund av beslutet att inte släppa dokumenten.

– Det handlar om demokrati. Det är ett projekt som finansierats av skattepengar, och ändå får vi inte se datan. Även om teknologin inte skulle implementeras i EU finns risken att företaget säljer teknologin till auktoritära regimer eller den privata sektorn, säger han till Novara media.


Prenumerera på Dagens ETC:s nyhetsbrev

 

PRENUMERERA PÅ ETC HELG

Den här artikeln kommer från veckans ETC Helg.
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.