Engagements et Futurs. Surveillance de masse en art : mes dilemmes éthiques

Surveillance de masse en art: mes dilemmes éthiques

En novembre 2021, l’UNESCO a adopté une recommandation sur l’éthique de l’intelligence artificielle qui appelle notamment à encadrer strictement la surveillance algorithmique, la notation sociale et les usages susceptibles de porter atteinte aux libertés fondamentales. Moins de trois ans plus tard, la France autorisait, à titre expérimental et dans le cadre de la loi relative aux Jeux Olympiques et Paralympiques de 2024, l’emploi de traitements algorithmiques pour repérer certains événements ou comportements dans l’espace public. La reconnaissance faciale directe en était exclue, mais la frontière entre analyse de situation et surveillance des personnes restait au centre des débats.

Entre ces deux jalons, des artistes ont employé des techniques associées à la surveillance — reconnaissance faciale, analyse automatisée d’images, collecte de traces biologiques — pour en exposer les mécanismes. Le geste est puissant parce qu’il retourne l’outil contre lui-même. Il est aussi inconfortable: l’artiste qui veut montrer comment une personne peut être observée risque de reproduire, même dans un cadre critique, une partie de cette observation.

C’est là que se situe le problème de l’art numérique et de la surveillance de masse éthique. Il ne suffit pas de dénoncer un dispositif. Il faut aussi regarder les conditions matérielles de la dénonciation: quelles données sont captées, sur qui, avec quelle information, pour combien de temps et sous quelle responsabilité?

L’héritage militaire de la vision par ordinateur: de la base FERET à l’art critique

Trevor Paglen documente depuis le milieu des années 2010 les infrastructures de la vision par ordinateur. Son installation It Began as a Military Experiment (2017) s’appuie sur la base FERET, un programme de recherche lancé dans les années 1990 avec le soutien de la Defense Advanced Research Projects Agency, la DARPA américaine. FERET a contribué à structurer l’évaluation des systèmes de reconnaissance faciale en réunissant des photographies de visages prises dans des conditions contrôlées et associées à des identités.

Ce point historique compte, mais il faut le formuler avec précision. FERET n’est pas l’unique origine de la reconnaissance faciale contemporaine et ne constitue pas, à lui seul, la condition indispensable de tous les systèmes apparus par la suite. La recherche s’est développée à partir de plusieurs programmes, bases de données, méthodes statistiques et architectures techniques, dans des environnements militaires, universitaires et industriels. La base a cependant joué un rôle important dans la constitution d’un terrain commun de comparaison: elle a fourni des données et des protocoles à partir desquels les performances des algorithmes pouvaient être mesurées.

La conversion d’un visage en représentation numérique suppose généralement une phase d’apprentissage sur des images annotées. L’algorithme ne reconnaît pas un visage comme le ferait un témoin humain; il compare des caractéristiques calculées avec des représentations déjà présentes dans un modèle ou une base. Le résultat dépend donc autant de la méthode que des images utilisées pour entraîner et tester le système. Les conditions de prise de vue, la qualité des annotations, la diversité des visages et la définition même de la réussite influencent directement les performances.

Paglen ne présente pas FERET comme une archive isolée. Il en montre plutôt la place dans une histoire plus vaste, celle d’une vision par ordinateur développée dans des contextes militaires puis progressivement rendue disponible à d’autres secteurs. Des techniques, des méthodes de classement et des imaginaires de l’identification ont circulé entre laboratoires, administrations et entreprises. Cette circulation ne signifie pas que chaque caméra civile prolonge directement un dispositif militaire précis. Elle montre plutôt comment des outils conçus ou perfectionnés dans certains contextes peuvent être reconfigurés pour des usages policiers, commerciaux, aéroportuaires ou événementiels.

L’installation de Paglen ne désigne pas une ligne droite entre l’armée et chaque caméra civile; elle rend visible une circulation d’outils, de méthodes et de manières de regarder.

L’enjeu artistique est donc généalogique. Il consiste à rappeler qu’un outil ne devient pas neutre au moment où il change d’utilisateur. Son contexte d’emploi peut évoluer, ses finalités peuvent être redéfinies, ses garanties peuvent être différentes; mais son fonctionnement conserve une histoire. Une technologie de classement n’est jamais seulement une interface. Elle contient des choix sur ce qui doit être mesuré, sur les corps qui servent de référence et sur les erreurs que l’on accepte de rendre invisibles.

Cette histoire nourrit une éthique technologique de l’art contemporain qui refuse de séparer l’esthétique de l’infrastructure. Une image produite par une caméra n’est pas seulement une image. Elle peut être un point d’entrée vers une base de données, un signal dans un système d’alerte, une catégorisation ou une décision prise par un opérateur. L’art critique se situe précisément dans cet écart entre ce que le public voit et ce que le dispositif fait en arrière-plan.

Quand l’artiste devient observateur: le cas des influenceurs et de la reconnaissance faciale

Dries Depoorter a présenté en 2022 le projet The Follower. Le dispositif s’appuie sur des flux vidéo accessibles publiquement en ligne et les met en relation avec des images publiées par des influenceurs sur Instagram. Le projet cherche à repérer la présence de certaines personnes dans ces flux grâce à des techniques de reconnaissance faciale, puis à confronter leur image publique — construite, cadrée, légendée et mise en scène — à des images captées par une caméra tierce.

La force de l’œuvre vient de cette inversion. Les influenceurs maîtrisent habituellement une grande partie de leur visibilité: ils choisissent les photographies, les décors, les angles et le récit associé à leur présence. The Follower imagine une situation dans laquelle cette maîtrise se fissure. L’image publiée sur un réseau social rencontre l’image produite par un système de surveillance, sans intention narrative commune et sans le même degré de contrôle.

La méthode demeure juridiquement et éthiquement sensible. Le fait qu’un flux soit accessible en ligne ne signifie pas que toutes les utilisations ultérieures soient légitimes. La visibilité d’une donnée ne vaut pas consentement général à sa collecte, à son croisement avec d’autres sources ou à son traitement biométrique. De même, les personnes filmées ne deviennent pas disponibles simplement parce qu’elles se trouvent dans un espace public.

Cette distinction est essentielle pour comprendre l’art engagé et les données personnelles. Un artiste peut vouloir démontrer qu’une donnée publique devient intrusive lorsqu’elle est combinée à une autre donnée. Mais, pour le démontrer, il peut être tenté de réaliser exactement cette combinaison. Le raisonnement critique ne dispense donc pas d’examiner la proportionnalité du protocole, la nécessité du traitement et les mesures prises pour limiter l’exposition des personnes.

Dans The Follower, le spectateur est placé dans une position ambiguë. Il ne regarde plus seulement une image de surveillance; il découvre la logique qui permet de relier un visage, un lieu, une présence et une identité médiatique. L’œuvre ne dit pas seulement que les influenceurs sont visibles. Elle montre que plusieurs régimes de visibilité peuvent être agrégés jusqu’à produire une image beaucoup plus précise que chacune des sources prises séparément.

The Follower ne se contente pas de montrer un visage: le projet rend perceptible la chaîne qui transforme une présence en information exploitable.

Cette chaîne est devenue familière dans les usages commerciaux comme dans certaines pratiques policières: détection, comparaison, classement, alerte. Le passage de l’une à l’autre n’est jamais automatique, mais la logique de corrélation peut être commune. C’est pourquoi une installation interactive fondée sur la reconnaissance faciale ne devrait pas être évaluée seulement à partir de son intention déclarée. Il faut également regarder ce qu’elle apprend au public sur la captation, ce qu’elle impose aux visiteurs et ce qu’elle fait réellement aux personnes qui n’ont pas choisi d’entrer dans l’œuvre.

La traque génétique dans l’espace public: le corps comme donnée involontaire

Entre 2012 et 2013, Heather Dewey-Hagborg a développé le projet Stranger Visions. L’artiste a recueilli des traces biologiques abandonnées dans l’espace urbain, comme des cheveux, des mégots ou des chewing-gums, puis les a utilisées pour produire des portraits en trois dimensions à partir d’analyses génétiques et de modèles prédictifs.

Le protocole déplace la surveillance du visible vers le moléculaire. Une caméra capte une surface, une posture ou un déplacement. Une trace biologique peut sembler plus intime, parce qu’elle renvoie au corps indépendamment de la volonté de communiquer. Elle n’est pas nécessairement abandonnée comme un message. Elle est laissée derrière soi dans le cours ordinaire de la vie, puis réinterprétée comme une source d’information.

Le projet ne produit pas une photographie de la personne et ne permet pas, à lui seul, d’établir une identité certaine. Les portraits sont des constructions probabilistes: ils traduisent des hypothèses à partir de caractéristiques génétiques retenues par le protocole et par les limites du modèle. Le visage obtenu n’est donc pas la restitution fidèle d’un individu, mais une projection parmi d’autres. Cette incertitude ne rend pas l’œuvre inoffensive. Elle déplace au contraire le problème vers la fabrication d’une apparence crédible à partir d’un matériau que la personne n’avait pas nécessairement conscience de fournir.

Trois éléments structurent la portée de Stranger Visions:

• La donnée provient d’une trace involontaire. La personne n’a pas remis son ADN pour participer à une œuvre. Cela ne signifie pas que toute collecte de ce type fonctionne toujours sans consentement: un protocole artistique peut aussi utiliser des échantillons fournis volontairement, des données anonymisées ou des données synthétiques. Mais le projet de Dewey-Hagborg repose précisément sur la tension créée par la récupération d’un matériau biologique laissé dans l’espace public.
• Le portrait est une interprétation. Les traits représentés ne constituent pas une identification certaine. Ils donnent à voir la manière dont un modèle transforme des probabilités en image, et comment une image peut ensuite être reçue comme une vérité.
• Le protocole rend visible une vulnérabilité. La question n’est pas de savoir si chaque passant peut effectivement être identifié à partir d’un mégot. Elle est de comprendre ce que change la possibilité technique de traiter une trace corporelle hors de la relation dans laquelle elle a été produite.

L’œuvre met ainsi en crise l’idée selon laquelle le corps serait une frontière stable. Une personne peut décider de ne pas être photographiée et laisser malgré tout derrière elle des éléments biologiques. Elle peut éviter les réseaux sociaux et demeurer prise dans des systèmes de captation. Elle peut accepter de participer à une expérience sans mesurer que les données produites seront réutilisées ailleurs. Dans chacun de ces cas, la question n’est pas seulement celle de la propriété de la donnée. C’est aussi celle du pouvoir de décider de ce qu’elle permet de déduire.

Stranger Visions ne reconstitue pas une personne; le projet montre comment une trace ordinaire peut être transformée en hypothèse sur une personne.

La prudence s’impose ici davantage encore qu’avec une image. Les données génétiques sont sensibles et leur interprétation comporte des limites scientifiques, culturelles et politiques. Un portrait qui prétend déduire l’origine, le caractère ou l’apparence d’un individu peut reconduire des catégories discutables sous l’apparence de l’objectivité. L’art critique a donc intérêt à rendre visibles ses incertitudes plutôt qu’à les dissimuler derrière la précision technique de l’impression 3D ou du rendu numérique.

Entre loi Renseignement et JO 2024: le cadre français face à la surveillance algorithmique

Le cadre français ne se résume pas à un texte unique sur la reconnaissance faciale. Il se compose de règles relatives au renseignement, à la vidéoprotection, aux données personnelles, au droit à l’image, à la sécurité et aux traitements biométriques. Ces régimes n’ont ni les mêmes finalités ni les mêmes autorités de contrôle. Les appliquer indistinctement à une œuvre artistique conduirait à simplifier un paysage juridique déjà complexe.

La loi n° 2015-912 du 24 juillet 2015, dite loi Renseignement, encadre certaines techniques de renseignement et prévoit l’intervention de la Commission nationale de contrôle des techniques de renseignement. Elle ne constitue pas un régime général autorisant la reconnaissance faciale dans l’espace public. Elle s’inscrit dans le champ particulier des activités de renseignement, avec des procédures et des contrôles propres à ce domaine. Son existence participe toutefois à une histoire française plus large: celle de l’extension progressive des capacités de collecte et d’analyse automatisée des communications et des flux de données.

La CNCTR exerce une mission de contrôle sur les techniques de renseignement selon les modalités prévues par la loi. Cette architecture ne doit être décrite ni comme une garantie absolue d’indépendance, ni comme une simple formalité administrative. Elle repose sur un équilibre institutionnel entre autorisation, contrôle et responsabilité politique. Pour un artiste, l’enseignement principal est moins de transposer directement ce régime à une installation que de comprendre qu’un traitement de données n’est jamais défini par sa seule technologie. Sa finalité, son responsable, son cadre d’emploi et le type de données traitées modifient l’analyse.

La loi relative aux Jeux Olympiques et Paralympiques de 2024 a, pour sa part, prévu une expérimentation de traitements algorithmiques appliqués à des images issues de dispositifs de vidéoprotection ou de caméras. Ces traitements devaient détecter des événements ou comportements prédéfinis susceptibles de présenter un risque pour la sécurité, comme des mouvements de foule, des objets abandonnés ou certaines situations anormales. Le dispositif ne devait pas procéder à une reconnaissance faciale destinée à identifier les personnes.

Cette différence est importante. Détecter une configuration dans une image n’est pas juridiquement identique à identifier un individu. Pourtant, la séparation n’est pas magique. Une analyse de mouvement transforme déjà des corps en catégories: personne immobile, groupe compact, déplacement inhabituel, franchissement d’une zone. Même sans nom ni visage, elle sélectionne ce qui mérite d’être signalé et contribue à organiser l’attention des opérateurs. La distinction entre identification et détection doit donc être maintenue, mais elle ne suffit pas à épuiser la discussion éthique.

La recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle propose un cadre international de principes, et non une loi française directement applicable à chaque installation. Elle appelle à protéger les droits humains, à encadrer les pratiques de surveillance et à éviter les usages discriminatoires ou disproportionnés. Il faut donc éviter de présenter son contenu comme une interdiction automatiquement transposée dans le droit national. L’écart entre une recommandation internationale, un texte législatif français et le fonctionnement concret d’une œuvre constitue précisément l’un des sujets que l’art peut rendre perceptibles.

Pour un projet d’art numérique et de surveillance de masse éthique, plusieurs questions juridiques et politiques se croisent:

• Le traitement porte-t-il sur des images, des données biométriques, des traces biologiques ou de simples informations statistiques?
• Les personnes concernées ont-elles été informées, ont-elles consenti, ou existe-t-il une autre base juridique applicable?
• Le traitement est-il nécessaire à la finalité annoncée, ou l’identification individuelle apporte-t-elle surtout un effet spectaculaire?
• Les données sont-elles conservées, transmises, recoupées avec une autre base ou détruites après un traitement immédiat?
• Les visiteurs peuvent-ils comprendre le fonctionnement du dispositif et contester leur participation?
• L’œuvre expose-t-elle un public volontaire, ou capte-t-elle des passants qui ne peuvent raisonnablement éviter le dispositif?

Ces questions ne transforment pas une œuvre en formulaire administratif. Elles empêchent plutôt que le vocabulaire de la critique serve de raccourci. Dire qu’un dispositif dénonce la surveillance ne répond pas, à lui seul, à la question de savoir s’il est légitime de surveiller les personnes qui le rencontrent.

Le dilemme du créateur: dénoncer la surveillance sans devenir un outil de contrôle

La pratique artistique de la surveillance pose une tension difficile à résoudre. Pour démontrer un dispositif, l’artiste peut choisir de le faire fonctionner. Mais il n’est pas nécessaire, dans tous les cas, de collecter des données personnelles réelles. Une installation de reconnaissance faciale peut s’appuyer sur des volontaires informés, des images synthétiques, des modèles entraînés sur des données autorisées ou un traitement local qui ne conserve aucune image identifiable. Une œuvre sur l’analyse génétique peut également travailler à partir d’échantillons fournis par les participants, de données simulées ou d’une démonstration visuelle du processus.

Le choix d’un protocole sans consentement n’est donc pas une obligation technique universelle. Il peut être un choix artistique destiné à produire une situation de malaise ou à montrer la violence d’une captation imposée. Ce choix doit alors être assumé comme une décision à justifier, et non présenté comme la conséquence inévitable du médium. L’efficacité critique n’est pas proportionnelle à la quantité de données captées.

L’artiste n’est pas régulateur. Il n’a ni la légitimité ni l’autorité d’un juge, d’un législateur ou d’une autorité de protection des données. Son apport se situe ailleurs: il rend un système perceptible, il matérialise une relation de pouvoir, il montre ce qui reste habituellement invisible. Mais cette position ne l’exonère pas de toute responsabilité. Une installation peut reproduire une asymétrie très concrète: l’artiste et l’institution disposent de l’infrastructure, tandis que le passant, le visiteur ou le sujet d’une trace biologique ne maîtrise ni la captation ni la circulation de ce qui a été recueilli.

La destruction des données peut réduire les risques, mais elle ne règle pas automatiquement la question du consentement. Elle ne remplace pas non plus une base légale lorsqu’un tel fondement est requis. Elle intervient après la collecte, alors que l’information des personnes, la nécessité du traitement et la définition de sa finalité doivent être examinées en amont. Une donnée supprimée peut avoir déjà été visualisée, copiée, exportée ou associée à une identité. La temporalité du traitement compte autant que son issue.

La réversibilité reste néanmoins un critère important. L’artiste ou l’institution peut documenter ce qui est conservé, ce qui est traité en temps réel et ce qui est supprimé. Un registre interne, une procédure de purge et une vérification indépendante ne produisent pas, à eux seuls, un effet juridique automatique. Ils rendent toutefois les choix plus explicites et permettent de répondre à une question essentielle: que restera-t-il de la personne après la fermeture de l’exposition?

La lisibilité éthique d’une œuvre dépend alors de plusieurs variables:

• La finalité. Le projet cherche-t-il à produire une expérience critique, une démonstration pédagogique, une recherche ou un simple effet de saisissement? Une finalité artistique n’efface pas les obligations applicables, mais elle doit être formulée avec assez de précision pour guider le protocole.
• Le degré de participation. Le visiteur sait-il qu’il entre dans un espace capté? Peut-il refuser, contourner l’installation ou retirer son image? Le consentement doit être compréhensible et ne pas être noyé dans une signalétique illisible.
• La minimisation. Le dispositif peut-il fonctionner avec moins de données, une résolution réduite, un traitement local, des visages floutés ou des identifiants temporaires? La limitation technique n’est pas une concession esthétique; elle peut faire partie du propos.
• La durée de conservation. Les données sont-elles nécessaires après la séance, la performance ou l’exposition? Si oui, pourquoi, et qui y a accès?
• Le contexte. Une œuvre présentée dans un centre d’art, dans un festival ou dans un espace public ne crée pas la même relation avec son public. Dans la rue, la possibilité d’éviter le dispositif peut être théorique.
• La restitution. Le public comprend-il ce qui lui est arrivé? Une œuvre critique devrait pouvoir montrer ses propres coulisses: type de capteur, traitement appliqué, limites du modèle et conséquences pour les personnes exposées.

La documentation de la suppression mérite une place particulière, mais elle doit rester à sa juste place. Une trace datée de destruction peut apporter un élément de gouvernance et de confiance; elle ne déplace pas mécaniquement la charge de la preuve et ne transforme pas une collecte contestable en collecte licite. Elle constitue une pièce du protocole, pas une solution juridique universelle.

Ce que l’artiste peut choisir de ne pas capter

Le réflexe dominant dans l’art technologique consiste souvent à démontrer la puissance d’un outil. Plus le modèle reconnaît, classe et prédit, plus l’installation semble convaincante. Dans le champ de la surveillance, ce réflexe peut conduire à confondre intensité critique et intensité de captation. Or un dispositif moins intrusif peut être plus précis politiquement: il montre la logique sans fabriquer une nouvelle base de données.

Quelques choix peuvent modifier profondément la relation entre l’œuvre et son public:

1. Remplacer l’identification par la détection. Une installation peut faire comprendre le fonctionnement d’un système sans associer une image à un nom ou à un profil.

2. Employer des données synthétiques. Elles ne reproduisent pas tous les problèmes sociaux d’une base réelle, mais elles permettent de simuler une classification sans exposer directement des personnes.

3. Traiter localement. Lorsque c’est techniquement possible, l’image peut être analysée sur place sans être envoyée vers un serveur distant.

4. Limiter la conservation. L’absence d’archive n’efface pas la captation, mais elle réduit les usages secondaires et les risques de réutilisation.

5. Donner une véritable sortie. Informer ne suffit pas si le public ne peut ni éviter l’installation ni obtenir une explication sur le traitement subi.

6. Montrer les erreurs. Une œuvre sur la reconnaissance faciale devrait rendre visibles les faux positifs, les incertitudes et les différences de performance plutôt que présenter l’algorithme comme une autorité.

Ces choix ne produisent pas une œuvre moralement pure. Ils rendent le conflit plus honnête. Ils montrent que la critique de la surveillance par l’art ne se limite pas à retourner la caméra vers le spectateur. Elle peut aussi consister à refuser la logique selon laquelle toute donnée disponible doit être captée, toute image analysée et toute trace convertie en décision.

Une critique qui accepte de se mettre elle-même en question

Les œuvres de Paglen, Depoorter et Dewey-Hagborg ne posent pas le même problème et ne reposent pas sur les mêmes matériaux. L’une travaille sur l’histoire des bases de données et des infrastructures de vision; l’autre met en scène le croisement entre visibilité sociale et captation publique; la troisième transforme une trace biologique en portrait spéculatif. Les réunir sous le mot surveillance ne doit pas effacer ces différences.

Elles ont pourtant un point commun: elles déplacent l’attention du résultat vers le protocole. Le portrait n’est pas seulement un portrait. Le visage détecté n’est pas seulement une personne retrouvée. Le flux vidéo n’est pas seulement une image de rue. Derrière chaque résultat se trouvent une sélection, une base de comparaison, une hypothèse et une décision sur ce qui mérite d’être retenu.

C’est aussi ce qui rend leur position éthique instable. Une œuvre critique peut révéler une violence sans être exempte de violence. Elle peut donner au public les moyens de comprendre la surveillance tout en faisant subir une forme de surveillance à certaines personnes. Cette contradiction n’est pas un défaut que l’on pourrait éliminer par une formule. Elle doit être exposée, documentée et discutée avec la même rigueur que le dispositif technique.

L’art numérique n’a pas à choisir entre l’innocuité et la critique radicale. Il doit choisir entre une critique qui ignore ses propres conditions de production et une critique qui les rend visibles. La seconde est plus exigeante: elle accepte de dire ce qu’elle collecte, ce qu’elle ne peut pas garantir, ce qu’elle détruit, ce qu’elle conserve et qui supporte le risque.

La question n’est donc pas de savoir si une œuvre utilise une technologie de surveillance pour être légitime ou illégitime une fois pour toutes. Il faut regarder comment elle construit la situation, quelles marges de refus elle laisse, quelles données elle rend nécessaires et quelles personnes elle expose. L’éthique technologique dans l’art contemporain ne se trouve pas dans l’intention déclarée de dénoncer. Elle se vérifie dans l’architecture concrète de l’œuvre.

La surveillance de masse devient un sujet artistique particulièrement fort lorsqu’elle cesse d’être une abstraction. Elle apparaît alors comme une chaîne de gestes: filmer, extraire, comparer, classer, conserver, interpréter. L’artiste peut interrompre cette chaîne, la ralentir ou la retourner. Mais s’il la reproduit, même pour la critiquer, il doit accepter de répondre de chaque maillon. C’est à cette condition que l’art engagé et les données personnelles peuvent rester un espace de pensée, plutôt qu’une simple démonstration de puissance technique.