Hold my beer, Clearview AI

Clearview AI lijkt z’n plaats in het landschap gevonden te hebben, namelijk buiten de Europese Unie. Een en ander is het gevolg van uitspraken door de Duitse, Italiaanse, Franse en Britse gegevensbeschermingsautoriteiten. Jammergenoeg lijkt iedere (ex-)lidstaat dit voor zich te moeten doen in plaats van dit meteen Europees af te dwingen maar het zij zo. Clearview zal de Europese boodschap ondertussen wel begrepen hebben.

Ook in de VS is er overigens een duidelijk signaal gekomen. Naar aanleiding van een schikking in Illinois met de American Civil Liberties Union (ACLU) zal Clearview zijn producten niet meer aanbieden aan private partijen, iets dat meteen ook buiten Illinois voor heel de VS geldt. Niet getreurd, de troon van meest gehate gezichtsherkenningstool ter wereld is acuut weer opgevuld. Ontmoet PimEyes

Afpersen met PimEyes

PimEyes is zeer vergelijkbaar met Clearview, maar met een twist. Waar Clearview zich altijd meer richtte op ondernemingen en de overheid zet PimEyes duidelijk in op diensten verkopen aan de doorsnee burger. Op de voorpagina loopt men te koop met ronkende reviews uit toonaangevende media zoals CNN, The Washington Post, en de BBC. Een innovatieve insteek op het gebruik van getuigenissen: de betreffende quotes komen uit alarmerende artikelen van deze media over de gigantische privacyinbreuken waar PimEyes voor staat en zijn ongetwijfeld niet bedoeld als positieve referentie. Een link naar de bron van de artikelen is dan ook nergens te bespeuren. 

Binnenkort met verwijzing naar uitspraken van de rechtbank

PimEyes vertegenwoordigt de natte droom van iedere afperser: als er ergens gênante foto’s van iemand zijn genomen en die staan op het internet kan PimEyes ze vinden. De slachtoffers moeten niet eens gezocht worden, via de handige zoekfunctie op de hoofdpagina kan van iedereen een foto gebruikt worden. Na het opladen van de foto verschijnt een Google-achtige resultatenpagina met mogelijke hits. De potentieel desastreuze impact wordt perfect beschreven in één van de artikelen over PimEyes waarin een jonge vrouw erachter kwam dat een misstap uit het verleden (met zeer pikante beelden als gevolg) nog steeds terug te vinden was via Pimeyes. Het bedrijf vindt echter niet alleen problemen maar biedt ook de oplossing: door een duur betaalabonnement te nemen op de dienst zullen zij deze resultaten niet verder verspreiden. Een business model dat ook wel bekend staat als chantage of afpersing, de jongedame uit het genoemde artikel voelde zich verplicht hierop in te gaan uit vrees voor haar carrière en relaties met bekenden. 

Hoe werkt het dan?

Hoe dit precies werkt kun je maar op één manier achterhalen: zelf eens proberen. Zo gezegd zo gedaan: schrijver dezes zocht een representatieve foto en gooide die door de zoekfunctie. Aanschouw het resultaat! 

Algoritme kijkt door alle vermommingen

Zoals je mag verwachten van het betere gezichtsherkenningswerk maakt meer of minder haar, op het gezicht dan wel de hoofdhuid, niets uit voor het algoritme.  Ook de kwaliteit van het beeld heeft ogenschijnlijk geen impact. Al is niet iedere foto een plaatje, buitengewoon gênant zijn de foto’s niet dus dat valt weer mee. Verderop in de resultaten merk je dat het algoritme gezichten herkent zoals wij dat zelf zouden doen: andere gezichten vertonen weliswaar gelijkenissen in uiterlijk maar zijn duidelijk een ander persoon en zijn dus terecht meer naar onderen geschoven. 

Serieus, een turquoise stropdas?!

Laten we echter voor het onderzoek even veronderstellen dat een van de foto’s wel degelijk beschamend is en dat ik acuut wil weten waar die foto gevonden is. 

Compleet willekeurige foto uit de lijst

Je kunt klikken op de foto waarna je verschillende opties krijgt. Gretig klik je dan op de optie om de betreffende website te openen waarna de aap uit de mouw komt: meer informatie maakt deel uit van een betaald abonnement. Je foto uit de resultaten van PimEyes weren, maakt zelfs deel uit van een heel duur abonnement tot 351,- euro per maand!

Afpersing in beeld

Interessant business model zullen we maar zeggen, maar in Europa hebben we de GDPR. Verwijderd worden uit resultaten op een site zoals PimEyes is dan geen gunst van de beheerder van de website maar een fundamenteel recht. Kwestie van dat recht uitoefenen uiteraard en dat is in de praktijk vaak niet evident. We gaan toch een poging wagen. 

Over 30 dagen naar de GBA met deze screenshot

De kans is erg groot dat er geen of onvolledige reactie komt op dit verzoek, maar je moet ergens beginnen: als we meteen naar de GBA stappen, is de kans groot dat men verwacht dat we eerst de termijn van één maand afwachten die in de GDPR is voorzien.

Laten we hopen dat een gang naar de relevante autoriteiten en uitgedeelde boetes vervolgens snel gemaakt is: enig potentieel positief aspect aan dergelijke websites is volledig overschaduwd door het mogelijke misbruik. Eens zien of wij onze bijdrage kunnen leveren om PimEyes zo snel mogelijk van het (Europese) internet te krijgen.

Update 05/06/2022: ondertussen een eerste reactie gehad van PimEyes waarin men vraagt om een speciaal opt-out formulier te gebruiken. Uiteraard moet er als onderdeel van de procedure een kopie van een officieel identiteitsdocument worden voorzien (met sommige info verwijderd). Men noemt een dergelijke ID “geanonimiseerd”, ondanks dat naam en foto er op moeten staan. Niet verrassend dat een absoluut basisbegrip als “anoniem” bij PimEyes niet voldoende bekend is. Iets meer verstrekken dan een foto gaan we uiteraard niet doen en dat hebben we ze ondertussen laten weten. Wordt vervolgd!

Uiteraard gaan we PimEyes geen ingescande ID documenten bezorgen.