'Nú een grens trekken voor gezichtsherkenning'

Illustratie Pleun Gremmen

Tijdens de twaalfde editie van de Big Brother Awards gaf [directeur] Hans de Zwart [van Bits of Freedom] een speech in de grote zaal van de Stadsschouwburg in Amsterdam. Over Stevie Wonder en Ray Kurzweil, de staat van gezichtsherkenning, en over dat we nu een grens moeten trekken.

[...] Het Israelische FACEPTION doet aan geautomatiseerde gezichtsprofilering. Ze beloven de persoonlijkheid van iemand af te kunnen lezen op basis van een beeld van een gezicht. FACEPTION heeft hun kunstmatige intelligentie alvast met wat handige categorieën getraind. Ze zeggen dat ze bijvoorbeeld professionele pokerspelers kunnen onderscheiden van normale pokerspelers, of mensen met een hoog IQ van mensen met een laag IQ. Uiteraard kan FACEPTION ook helpen bij het vinden van witte-boordencriminelen, terroristen en pedofielen.
Ze richten zich expliciet op het veiligheidsdomein en beloven dat opsporingsdiensten persons of interest kunnen oppakken voordat ze iets kwaad hebben gedaan. Op basis van iemands gelaatstrekken iemands persoonlijkheid bepalen… What could possibly go wrong?
Camera’s die automatisch en ongericht onschuldige mensen identificeren, die daarbij een analyse maken van de emoties van die mensen en ze vervolgens profileert op basis van die data.
Het is tijd om Orwell’s 1984 erbij te pakken. Hij schreef in 1948:

It was terribly dangerous to let your thoughts wander when you were in any public place or within range of a telescreen. The smallest things could give you away. A nervous tic, an unconscious look of anxiety, a habit of muttering to yourself—anything that carried with it the suggestion of abnormality, of having something to hide. In any case, to wear an improper expression on your face [..] was itself a punishable offence. There was even a word for it in Newspeak: facecrime, it was called.

Facecrime… Daar zijn we nu dus aangekomen.

> Lees de hele voordracht

Later toegevoegd:

These Spy Sunglasses Help Cops Pick a Face From a Crowd of Thousands
Door Kali Holloway, AlterNet, 21 februari 2018

They're only in use in China...for now.

How Facial Recognition Could Tear Us Apart
Door Jon Christian, Medium.com, 17 juli 2018

Zie ook m'n blog:
Permanente surveillance vergiftigt onze vrijheid. Ai Weiwei maakt het al mee