Datum: 17.11.2024
Tijd: 13:00-17:00 CET (inclusief lunch)
Locatie: Varia (Gouwstraat 3)
Deelname: registreren via email
Als vervolg op het Miscalculating Risk: Policing Technologies-evenement starten we deze sessie samen met Sanne Stevens een collectief onderzoekstraject rond supermarktbewakingstechnologieën.
Terwijl de inflatie het hoogst is sinds 1975 en de kosten van levensonderhoud mensen over de rand duwen, boeken supermarkten recordwinsten. Intussen geven zij prioriteit aan de strijd tegen winkeldiefstal, via een overvloed aan maatregelen, waaronder een investering in AI om diefstal op te sporen. Dit gebruik van AI werd opgepikt door media in Nederland toen supermarktketen Jumbo (de op een na grootste supermarkt van NL) een verklaring gaf dat het AI-gestuurde videobewaking zou gaan inzetten. Het zou gaan om software van het Franse bedrijf Veesion, dat beweert een ‘gebarengebaseerde herkenningssoftware’ te hebben ontwikkeld om winkeldiefstal ‘automatisch in realtime’ te detecteren. Zodra deze software een ‘verdachte’ beweging detecteert, krijgt de winkelmanager een melding, samen met van de activiteit.
Veesion is bij lange na niet de enige die AI aanbiedt om winkeldiefstal op te sporen. Ook Scylla biedt de optie van gezichtsherkenning om 'recidivisten' te identificeren. Anavid en Dragonfruit AI beschikken over State-of-the-art-Art Pose-detectie. Deze vormen van AI-videobewaking zouden wel eens een nieuwe AI-trend kunnen zijn die binnenkort ook naar jouw buurtsupermarkt komt.
Ondertussen wijzen experts op mogelijke schade en negatieve gevolgen. Wat AI bijvoorbeeld als een ‘verdachte’ activiteit beschouwt, zou heel goed niet-normatief gedrag kunnen zijn dat niets te maken heeft met winkeldiefstal. Dit kan grote stress veroorzaken bij mensen die zich, om wat voor reden dan ook, anders verplaatsen, bijvoorbeeld personen met een handicap of lichamelijke of geestelijke gezondheidsproblemen. We weten dat AI de neiging heeft het structurele racisme van de samenleving te reproduceren, een ander probleem dat moeilijk te negeren is. Ondertussen werd ontdekt dat het ‘geautomatiseerde’ softwareprogramma van Veesion in werkelijkheid werd uitgevoerd door onderbetaalde werknemers in Madagaskar die de beelden bekeken om verdacht gedrag te signaleren. Nog een voorbeeld van ‘nep’ AI.
Tijdens deze sessie willen we al deze kanten van AI-winkeldiefstaltechnologieën verkennen; de beloften, de drijfveren, motivaties en ideologische aannames achter de technologie, maar ook hoe deze in de praktijk uitpakt, wie erdoor wordt beïnvloed en op welke manieren. De Veesion AI-software die door de Jumbo-supermarkt wordt ingezet, is een perfecte lokale casestudy – dicht bij ons, in onze straten, maar tegelijkertijd verbonden met een web van mondiale inzet, de algemene crisis in de kosten van levensonderhoud, de ideologieën van automatisering, de machtstructuren die de AI-hype in stand houden en de criminalisering van degenen die, wederom, onevenredig zwaar worden getroffen en getroffen.
Om dit te kunnen doen willen we graag een algoritmische ecologie creëren op basis van de Jumbo winkeldiefstal AI. We zullen deze gebruiken als hulpmiddel om niet alleen een collectieve onderzoeksinspanning te begeleiden, maar ook om een gesprek op gang te brengen over mogelijke interventie, verstoring of weigering.
Als je geïnteresseerd bent om je bij deze onderzoeksgroep aan te sluiten, stuur dan vóór 8 november een e-mail naar info@varia.zone met 1-2 zinnen waarin je jezelf en je interesse in dit onderwerp beschrijft.
Sanne Stevens (Justice, Equity and Technology Table) is een onderzoeker, opgeleide facilitator en adviseur met jarenlange ervaring in het werken met maatschappelijke organisaties en mediaorganisaties op het gebied van technologie, digitale veiligheid en internetvrijheid. Sanne is mededirecteur van het Justice, Equity and Technology Project.
Deze serie valt onder de onderzoekslijn Counter Coloniality van Varia en wordt ondersteund door het Stimuleringsfonds Creatieve Industrie.
