Technopolice, la surveillance dans l'espace public

Graf'hit 94.9FM

Introduction

« La Quadrature du Net promeut et défend les libertés fondamentales dans l'environnement numérique. L'association lutte contre la censure et la surveillance, que celles-ci viennent des États ou des entreprises privées. Elle questionne la façon dont le numérique et la société s'influencent mutuellement. Elle œuvre pour un Internet libre, décentralisé et émancipateur. https://www.laquadrature.net/nous »

« Partout sur le territoire français, la « Smart City » révèle son vrai visage : celui d'une mise sous surveillance totale de l'espace urbain à des fins policières. En juin 2019, des associations et collectifs militants ont donc lancé la campagne Technopolice, afin de documenter ces dérives et d'organiser la résistance. https://technopolice.fr »

L'interview

Klorydryk, membre de La Quadrature Du Net

  • Qui est à l'origine de cette campagne ?

  • Quel est le problème, c'est quoi le vrai visage de la Smart City ?

  • Concrètement, on parle de quoi, de reconnaissance faciale ?

  • Comment on peut participer à cette campagne ?

L'échange

  • La surveillance de la population a toujours été un sujet, à des fins plus ou moins discutables, mais quand est-ce-que la vidéosurveillance s'est popularisée ?

  • En terme de nombre, on est comment en France ?

  • Ok, mais ça marche bien ? Niveau efficacité, on est comment ? (spoiler, non !)

  • Comment un truc qui ne marche pas peut s'être autant développé ?

  • Et on l'a vu, c'est pas près de s'arrêter avec le concept de Smart Cities. On a quelques exemples en vrac ?

  • Et en dehors du fait que ça ne fonctionne pas très bien, on retrouve quels genre de problèmes ?

  • Est-ce-que tout est à jeter dans les Smart Cities ?

Les notes

La surveillance de la population a toujours été un sujet, à des fins plus ou moins discutables, mais quand est-ce-que la vidéosurveillance s'est popularisée ?

La vidéosurveillance a été utilisée par les allemands lors de la Seconde Guerre mondiale afin de surveiller les lancements de missiles. Mais cela est différent de la télésurveillance au sens strict qui correspond à une vidéosurveillance industrialisée, où un seul opérateur observe une multitude de caméras sur des écrans centralisés à des fins civiles. En revanche, ces premiers systèmes nécessitaient la présence d'un humain, car les supports pour enregistrer les vidéos n'existaient pas encore (comme les cassettes). La première ville américaine à s'équiper de caméras de surveillance le fait en 1968, et dès 1973, des caméras surveillent Time Square et consignent les enregistrements sur des cassettes.

C'est dans les années 1980 que ce système est généralisé au Royaume-uni, qui reste encore aujourd'hui le pays d'Europe le plus télé-surveillé (500 000 caméras en 2008 à Londres !), que ce soit dans le public ou le privé. Les politiques de vidéosurveillance se mettent en place dans les autres villes d'Europe dans les années 1990. Aux États-Unis comme en Angleterre ou même en France, on observe les plus grosses augmentations historiques de la vidéosurveillance après des événements graves, e.g. les attentats du 11 septembre. On peut aussi corréler cette augmentation aux politiques conservatrices.

En terme de nombre, on est comment en France ?

Voir Vous êtes filmés ! Enquête sur le bluff de la vidéosurveillance - Laurent Mucchielli

1,5 million de caméras filmant des lieux publics et des voies publiques, dont environ 150 000 à l'initiative des communes

88% des villes de 15 000 à 150 000 habitants sont pourvues d'équipement

Près de 52 caméras par ville en 2016, chiffre qui aurait doublé depuis 2010

L'extension se poursuit depuis 2015 en direction des petites villes et des territoires périurbains et ruraux

L'État a investi plus de 210 millions d'euros entre 2007 et 2017 pour aider les communes à s'équiper, les collectivités à peu près à la même hauteur, sans compter les dépenses des villes elles-mêmes.

Ok, mais ça marche bien ? Niveau efficacité, on est comment ?

Pour justifier le nombre de caméras, les promesses de la vidéosurveillance sont d'abord la baisse de la criminalité et la prévention du terrorisme. Mais comme on l'a vu, aujourd'hui, la vidéosurveillance entend lutter contre une menace protéiforme, allant des incivilités au non-respect du code de la route, en passant par les crimes - on est bien en présence d'un ogre qui cherche à tout capturer.

En ce qui concerne l'efficacité des caméras pour résoudre des délits et des crimes, difficile de trouver des études d'évaluation. Les études existantes soulignent l'absence de corrélation systématique entre densité de caméras sur un espace et effets préventifs. La Cour des comptes régionale de Saint-Étienne montrait qu'en 2010, le système coûtait plus d'un million d'euros par an pour un taux de faits "repérés ou élucidés" de seulement 2% sur l'année. À Lyon, à la même époque, un autre rapport montre que pour un coût de 3 millions par an, seulement environ 1% des faits l'étaient. Nice, ville emblématique de la vidéo surveillance, explose le plafond avec un coût de 17 millions annuels en 2018 pour seulement 1,2% de taux d'élucidation.

Cette question pose clairement le problème du rapport coût/efficacité, qui est monstrueusement faible. Alors certes, on pourrait se dire qu'1 ou 2%, c'est déjà ça de pris, mais peut-être qu'avec le même coût il serait possible d'investir dans des politiques de cohésion sociale, de vivre ensemble, d'accompagnement... mais c'est une autre histoire.

Comment un truc qui ne marche pas peut s'être autant développé ?

Deux pistes :

  • Financière : les industriels du secteurs (Thales, Safran, Eiffage...) investissent massivement dans le marketing et le lobbying ; ils sont par ailleurs membre du CICS (Conseil des Industries de la Confiance et de la Sécurité), qui se présente comme l'interlocuteur privilégié de l'État. Le marché revendique 125.000 emplois et 21 milliards de CA en 2017

  • Idéologique : celle du technosolutionnisme, qui pense que la technologie peut apporter une réponse définitive à l'ensemble des problèmes de la société. Eric Schmidt annonçait bien en 2012 : "Si nous nous y prenons bien, je pense que nous pouvons réparer tous les problèmes de monde"... Une idéologie qui rêve d'une solution optimale, algorithmique, probablement dénuée de biais humains... tandis qu'on ne cesse de constater que même les meilleurs algorithmes reproduisent sans cesse ces mêmes biais (logique, en même temps...).

Et on l'a vu, c'est pas près de s'arrêter avec le concept de Smart Cities. On a quelques exemples en vrac ?

En France, quelques exemples :

La reconnaissance faciale testée dans les lycées (Nice et Marseille)

Saint-Étienne voulait expérimenter l'audiosurveillance pour détecter les "bruits suspects" (klaxons, bris de verres, bombes aérosols...). Ce mardi 29 octobre, la CNIL a rendu un avis négatif sur le dossier, en expliquant que les dispositifs risquaient de "violer les textes relatifs à la protection des données à caractère personnel", et indiquait qu'il était urgent que le législateur établisse un cadre juridique.

À Lannion (Bretagne), des capteurs qui permettent de suivre les smartphones à la trace pour reconstituer des trajets (notons que les écrans publicitaires dans le métro le font déjà très bien, par exemple...)

À Marseille, on pousse encore plus loin avec "l'Observatoire de la Tranquillité Publique" (ça fait très orwellien quand même), qui se veut agréger un tas de données (acteurs privés, publics, citoyens, fichiers de criminalité, vidéosurveillance, données des hôpitaux, messages sur les réseaux sociaux...) afin d'analyser les situations passées mais aussi d'anticiper les situations "probables".

Et ailleurs...

En Chine, la reconnaissance faciale au service du "crédit social", qui punit cette fois-ci non pas la délinquance mais les incivilités (à Pékin, manger dans le métro, promener son chien sans laisse...)

En Russie, des systèmes de reconnaissance faciale "live" - proactif - scanne en permanence l'ensemble des visages

Amazon envisage d'utiliser ses drones de livraison aux États-Unis pour surveiller les maisons (pour protéger des effractions par exemple)

Et en dehors du fait que ça ne fonctionne pas très bien, on retrouve quels genre de problèmes ?

On peut soulever plusieurs problèmes majeurs comme :

L'atteinte à la vie privée, surveillance de masse (Georges Orwell)

Seulement un déplacement de la délinquance vers les zones non surveillées.

Les faux-positifs : exemple frappant avec l'association Big Brother Watch qui, en compilant les données rendues accessibles grâce au Freedom of Information Act, a déterminé qu'entre 90 et 98% des identifications par reconnaissance faciale étaient de faux positifs au Royaume Uni.

La discrimination : les algorithmes sont souvent entraînés à l'aide d'images peu diversifiées (par exemple, énormément de peaux blanches), ainsi qu'avec des données socio-économiques centrées sur le pays concerné. Les "décisions" proposées par ces algorithmes peuvent comporter d'énormes biais. Aux États-Unis, des programmes labelisants des personnes en fonction de leur "risque" ont attribué à tort des taux de risques significativement plus élevés aux personnes noires (source : enquête de ProPublica)

Manipulation | changement du comportement : on agit différemment lorsque l'on se pense observé.e, et pas seulement vis-à-vis d'actes interdits (cf. Panoptique, exemple de Stéphane dans l'émission Mobilizon - les Smart Cities sont les panoptiques modernes). En identifiant les biais des algorithmes de surveillance, on peut par exemple adapter son comportement pour moins risquer d'être identifié à tort comme suspect - ce qui peut être instrumentalisé.

Risque de piratage et de vol d'information via les caméras pour la maison qui sont connectées à internet

Futur dystopique (Black Mirror, Watchdogs, ...), déjà une réalité en Chine avec la vidéosurveillance et la reconnaissance faciale

Est-ce-que tout est à jeter dans les Smart Cities ?

Non ! Il y a probablement plein d'applications intéressantes. La collecte de données en tant que telle n'est pas une mauvaise chose en tant qu'elle peut apporter un éclairage sur des problématiques insaisissables.

On peut penser à l'optimisation de la consommation d'énergie de l'éclairage public, la surveillance du niveau de pollution, la détection de fuites d'eau, la réduction du trafic routier...

Le souci demeure principalement dans cette idéologie du solutionnisme, doublée du fantasme sécuritaire, et de la collecte massive de données personnelles sans aucun consentement.

Dans tous les cas, des éléments de réponses nécessaires mais sans doute pas suffisants sont :

  • Un cadre législatif

  • Une transparence et un accès aux données

  • Une consultation et une implication des citoyens

  • L'anonymat des données collectées

Le quiz

Quelle phrase ne trouve-t-on pas dans le roman 1984 de George Orwell ?

  1. La guerre, c'est la paix.

  2. La liberté, c'est l'esclavage.

  3. L'ignorance, c'est la force.

  4. La sécurité, c'est la surveillance.

La musique

Sandwich à la merde (pot pourri en mi) par Total Rektal (Besoin de rien, envie de rien)

https://culture.picasoft.net/music/total-rektal/besoin-de-rien-envie-de-rien

Licence LAL

Le générique

Near death experience par Marker beacon (album Dead frequencies),

http://www.markerbeacon.org/?page_id=71

Licence CC BY-SA

Enregistrement

Émission enregistrée le 4 novembre 2019 dans les locaux de Graf'hit.