Dépêches du futur La première année de Chat Control
Avertissement
Cet exercice de réflexion imagine les conséquences de l'adoption par l'Union européenne d'une proposition visant à scanner toutes les photos et vidéos envoyées par des particuliers afin de détecter d'éventuels cas d'abus sexuels commis contre des mineurs.
La proposition est réelle, mais cet article est de la fiction spéculative (extrapolative).
Les citations sont basées sur des propos réels tenus par la personne citée, mais présentées hors de leur contexte d'origine. Leurs contextes d'origine sont liés.
Les applications futuristes sont imaginées mais elles s'inspirent d'idées actuellement étudiées.
Jour 1
Législation de l'UE commence à contraindre la « Big Tech » à lutter contre l'imagerie pédopornographique, un activiste passe à l'action
Bruxelles — La réglementation relative aux abus sexuels sur mineurs est entrée en vigeur aujourd'hui dans l'Union européenne. Cette loi est considérée comme un partenariat inattendu pour l'UE : celui avec les grandes entreprises technologiques qu'elle avait précédemment sanctionnées pour ne pas avoir suffisamment respecté la vie privée.
L'adoption par l'industrie du chiffrement de bout en bout a permis des entreprises et des gouvernements de communiquer par voie numérique avec moins de soucis concernant les fuites de données. La sécurité s'accompagnait d'un compromis : difficulté accrue pour les forces de l'ordre d'enquêter sur des crimes potentiels.
Le chiffrement de bout en bout fonctionne en partie grâce à l'échange de clés uniques entre l'expéditeur et le destinataire afin de déchiffrer leurs messages respectifs. L'introduction d'une clé de décryptage supplémentaire pour un tiers est possible et pourrait permettre aux forces de l'ordre de lire les messages interceptés. Cependant, le défi consistant à empêcher que des clés supplémentaires ne soient également utilisées par des adversaires a empêché l'utilisation de cette technique.
L'opposition des législateurs de l'UE à cette proposition s'est atténuée lorsqu'une autre solution technique a été trouvée. La réglementation exige que les applications de messagerie vérifient que les photos et les vidéos ne contiennent pas d'images sexuellement explicites impliquant un mineur avant d'être envoyées sous forme cryptée. Les applications peuvent télécharger temporairement les médias non cryptés vers leurs serveurs de modération ou utiliser des modèles d'apprentissage automatique (IA) locaux, entraînés sur les contenus illégaux précédemment obtenus par les forces de l'ordre. Les application de messagerie doivent soumettre des nouveaux images identifiées aux forces de l'ordre.
Plus d'une centaine d'organisations de défense des droits humains se sont opposées à la proposition de « chat control » avant qu'elle ne soit adoptée. Les opposants ont promis de porter l'affaire devant la Cour européenne de justice pour violation du droit à la vie privée garanti par la Charte des droits fondamentaux de l'Union européenne.
« Dans le cadre de l’analyse automatisée des conversations numériques, il est impossible d'éviter les faux positifs fréquents, même si les taux de précision sont élevés, ce qui incrimine de nombreuses personnes innocentes. Compte tenu de la possibilité de tels impacts, une surveillance aveugle est susceptible d'avoir un effet dissuasif important sur la liberté d'expression et d'association, les gens limitant leurs modes de communication et d'interaction avec les autres et s'adonnant à l'autocensure », a déclaré Le Haut-Commissariat des Nations Unies aux droits de l'homme.
« Cette réglementation considère chaque photo que nous partageons avec nos amis comme une preuve potentielle de notre culpabilité jusqu'à ce que nous ayons prouvé notre innocence au-delà de tout doute raisonnable. Aujourd'hui, la surveillance étatique de nos photos est justifiée par la sécurité des enfants. Demain, la surveillance pourrait s'éteindre sur tout ce que nous faisons sur nos appareils au nom de la lutte contre le terrorisme ou le crime organisé », a déclaré le militant et développeur logiciels Jeremiah Lee.
Ce reportage est fictionnel. Il n'a jamais été publié par Reuters. Voir l'avertissement.
Communiqué de Presse
Signal doit quitter l'UE pour rester sécurisée
San Francisco — Aujourd'hui, la Fondation Signal a, à son grand regret, mis fin à ses services de messagerie Signal dans les États membres de l'Union européenne.
Signal avait averti les législateurs de l'UE que le fait de la contraindre à compromettre ses garanties en matière de la protection de la vie privée l'amènerait à quitter le marché de l'UE.
« Il est impossible de mettre en œuvre le règlement européen sur les abus sexuels commis sur mineurs en ligne dans le contexte des communications cryptées de bout en bout sans compromettre fondamentalement le cryptage et créer une vulnérabilité dangereuse dans les infrastructures de base, qui aurait des implications mondiales bien au-delà de l'Europe », a déclaré Meredith Whittaker, la Présidente de Signal.
Les comptes utilisateurs enregistrés avec des numéros de téléphone comportant des indicatifs nationaux de l'UE ne peuvent plus envoyer ni recevoir de messages via Signal. L'application n'est plus disponible au téléchargement sur l'App Store d'Apple et Google Play Store pour les personnes dont l'adresse de facturation se trouve dans l'Union européenne. Les applications déjà installées continueront de donner accès aux messages précédemment envoyés, mais aucune mise à jour ne sera plus fournie.
Ce communiqué de presse est fictionnel. Il n'a jamais été publié par Signal. Voir l'avertissement.
« Chaos communicationnel » pour les fonctionnaires gouvernementaux lorsque la loi européenne « Chat control » entre en vigueur
Bruxelles — Les négociations nocturnes ménées par la Commission Européenne n'ont pas réussi à convaincre la Fondation Signal de continuer à fournir ses services aux membres des gouvernements, agences de sécurité et des forces armées européennes exemptés de la réglementation de scannage rélative au « Chat control ».
La Commission a recommandé l'utilisation de Signal pour la communication entre le personnel et les personnes extérieures à l'institution en 2020 après que des milliers de câbles diplomatiques aient été accédés illégalement. Elle envisage actuellement l'embranchement du projet open source et des produits utilisant le protocol Matrix, mais ne prévoit pas de nouvelle recommandation avant au moins six mois.
Ce reportage est fictionnel. Il n'a jamais été publié par Reuters. Voir l'avertissement.
Communiqué de Presse
Apple annonce de nouvelles fonctionnalités de sécurité puissantes
Cupertino, Californie — Aujourd'hui Apple a présenté de nouvelles fonctionnalités de sécurité pour les enfants dans l'application Messages. Le machine learning intégré à l'appareil permettra de détecter, de signaler et de supprimer les contenus représentant des activités sexuellement explicites impliquant des enfants. Apple a été le pionnier de cette fonctionnalité en 2021 et est désormais en mesure de commercialiser cette innovation grâce au soutien des gouvernements désireux de protéger les enfants.
La fonctionnalité de Sécurité des Communications et le framework Sensitive Content Analysis (analyse des contenus sensibles) d'Apple ont été conçus dans le respect de la vie privée des utilisateurs. Au lieu de scanner les images dans le cloud, le système effectue la detection sur l'appareil à partir d'une base de données d'images illégales connues fournie par le Centre national pour les enfants disparus et exploités (NCMEC) et d'autres organisations de protection de l'enfance. Cela permet à Apple de signaler ces cas aux autorités policières.
Nous continuerons à collaborer avec les gouvernements, les défenseurs des droits des enfants et d'autres entreprises afin de protéger les jeunes, de préserver leur droit à la vie privée et de faire d'Internet un endroit plus sûr pour les enfants et pour nous tous.
Ce communiqué de presse est fictionnel. Il n'a jamais été publié par Apple. Voir l'avertissement.
Newsroom
- Messenger
Rendre la Messagerie plus Sûre pour Tous
Menlo Park — Meta poursuit ses investissements dans la sécurité publique grâce à l'IA de pointe qui permet d'identifier avec précision les contenus illégaux au sein de l'UE et de signaler les violations aux autorités compétentes, conformément à la législation en vigueur.
Assurer la sécurité des jeunes sur Internet est un défi depuis les débuts du Web. À mesure que les criminels font évoluer leurs tactiques, nous devons également faire évoluer nos moyens de défense.
Nous avons entraîné l'IA à partir de millions de décisions de modération nuancées prises par des humains. La nouvelle réglementation nous permet d'étendre cette protection aux images et vidéos envoyées de manière cryptée entre les personnes.
La propagation de contenu pédopornographique (Child Sexual Abuse Material, CSAM) représente un défi pour toutes les plateformes de communication et ne peut être résolu par une seule entreprise. « Meta se réjouit du rôle plus actif joué par les gouvernements et les régulateurs dans la mise à jour des règles régissant Internet, afin que nous puissions préserver ce qu'il a de mieux, à savoir la liberté d'expression des individus et la liberté des entrepreneurs de créer de nouvelles choses, tout en protégeant la société contre des danger plus généraux », a déclaré Mark Zuckerberg, PDG de Meta.
WhatsApp relie des centaines de millions de personnes dans l'Union européenne et des milliards dans le monde entier. Nos plateformes permettent à nos utilisateurs de réaliser des choses extraordinaires, et nous nous engageons à garantir une expérience positive à tous.
Meta a investi plus de 20 milliards de dollars depuis 2016 dans des initiatives visant à renforcer la confiance et la sécurité. « Meta met tout en œuvre pour s'assurer qu'aucune partie de son réseau ne soit le théâtre de ce type d'activité », a déclaré le Centre National pour les Enfants Disparus et Exploités (NCMEC).
Ce communiqué de presse est fictionnel. Il n'a jamais été publié par Meta. Voir l'avertissement.
Jour 83
Distopični Časi
La police innocente une mère du quartier accusée de pédophilie
Ljubljana (Reuters) — Une mère pour la première fois affirme que la réglementation récemment adoptée sur les abus sexuels sur mineurs (CSAM) a causé un préjudice irréparable à sa réputation après que WhatsApp ait signalé des photos qu'elle avait envoyées.
La police a fait une descente dans la maison de Melody Bostic à Ljubljana quelques semaines après qu'elle ait envoyé à sa mère des photos de l'érythème fessier de son nouveau-né. Bostic, 21 ans, a demandé conseil sur l'urgence du problème de santé.
« Je m'inquiète tout le temps de faire quelque chose de mal pour mon bébé. Je ne peux pas l'emmener chez le médecin chaque fois que je soupçonne que quelque chose ne va pas. Je n'aurais jamais imaginé que la police viendrait chez moi, prendrait mon téléphone et ne partirait pas avant que je leur donne mon code d'accès pour fouiller toutes mes photos », a dit Bostic.
Un porte-parole des forces de l'ordre a confirmé que la perquisition chez Bostic avait bien eu lieu et qu'aucune accusation n'avait été portée. Les conséquences de l'enquête continuent de peser sur Bostic. « Même si mon innocence a été prouvée, mes voisins continuent de m'éviter. Ils ont vu les gyrophares des voitures de police devant chez moi pendant des heures ».
La mère de Bostic a dit, « Une fois que vous êtes accusé d'un acte horrible, il est difficile pour les gens de ne pas se méfier de vous. Les Dix Commandements nous enseignent de ne pas porter de faux témoignage contre notre prochain, mais qu'en est-il des applications ? Elles ne devraient pas porter de faux témoignage non plus. Ma fille est punie pour leur mensonge. En quoi est-ce juste ? »
Meta a refusé de commenter, invoquant sa politique de ne pas discuter des situations individuelles des utilisateurs.
Ce reportage est fictionnel. Il n'a jamais été publié par Reuters. Voir l'avertissement.
Jour 203
Époque après-vie privée ?
Pas sous la garde de ces geeks.
Suite au revirement de l'UE en matière de vie privée, des outils tiers ont rétabli les fonctionnalités de sécurité supprimées de force de leurs applications de messagerie préférées, tandis que de nouvelles applications radicales aspirent à être à l'épreuve de la réglementation.
Les clients tiers WhatsApp ne sont pas nouveaux, mais leur popularité l'est. Les developpeurs de WasÄpp estiment qu'un quart des utilisateurs européens de WhatsApp l'utilisent désormais. (Was signifie what (quoi) en Allemand.) L'apparence et les fonctionnalités de WasÄpp sont pratiquement identiques à celles de WhatsApp. Sa popularité vient d'une fonctionnalité qui manque à WhatsApp et que WasÄpp ajoute.
La réglementation de l'UE concernant les contenus d’abus sexuels sur mineurs en ligne (CSAM) a exigé des applications de messagerie qu'elles examinent toutes les images et vidéos à la recherche de contenus illégaux envoyés via leurs services. WasÄpp contourne la réglementation européenne en ne fournissant pas de service (il s'agit simplement d'une application qui utilise le service WhatsApp) et en utilisant uniquement du texte pour partager des médias. Les législateurs ont exempté le texte de l'examen dans ce qui a été présenté comme une concession majeure en matière de vie privée.
Au lieu de joindre des fichiers multimédias à un message, WasÄpp les chiffre et les télécharge sur le Google Drive, Dropbox ou tout autre service de stockage en ligne de l'expéditeur. Ensuite, WasÄpp envoie un lien vers le fichier et la clé de décryptage sous forme de texte au destinataire. Le WasÄpp du destinataire identifie le lien de partage dans le message texte et télécharge et décrypte automatiquement l'image.
Une fois configurée, les utilisateurs ne remarquent pas l'automatisation que WasÄpp effectue en arrière-plan. L'expérience utilisateur est exactement la même qu'avant la réglementation « Chat control », et c'est justement le but recherché. À moins que l'UE n'interdise le chiffrement de vos propres données, il n'y a pas grand-chose qu'elle puisse faire pour empêcher cette solution de contournement.
Une nouvelle catégorie d'applications n'attend pas pour réagir de manière défensive. Être ingouvernable est un objectif explicite de la conception de ValidChat, Wallow Messenger, et Freebirdnet Chat. Chacune d'entre eux offre une expérience utilisateur classique en matière d'application de messagerie, qui se distingue par des choix d'architecture logicielle destinés à défier Bruxelles.
Tout d'abord, leur code est open source. Tout le monde peut télécharger, modifier et distribuer les applications. Deuxièmement, les applications fonctionnent dans un navigateur Web, elles ne dépendent donc pas des boutiques d'applications d'Apple ou de Google pour leur distribution. Enfin, les applications utilisent la technologie peer-to-peer pour relayer les messages de manière sécurisée et anonyme sans passer par des serveurs centralisés.
« Nous avons repris les idées de la technique de navigation web anonymisée Tor, les avons améliorées et les avons appliquées à la messagerie », a déclaré un membre du légendaire groupe de hacktivistes Cult of the Living Unicorn qui contribue à ValidChat pendant son temps libre.
Sans organisation centrale, sans dépendance vis-à-vis d'un serveur, sans goulot d'étranglement au niveau de la distribution et avec une utilisation camouflée sous l'apparence d'une activité Internet classique, les régulateurs européens ne peuvent pas faire grand-chose pour empêcher les Européens de disposer à nouveau d'un chat véritablement privé et crypté de bout en bout.
Lorsqu'on lui a demandé si les criminels utilisant leur logiciel les dérangeaient, un développeur de logiciels de Wallow Messenger a répondu : « Le préjudice causé à ces victimes ne doit pas être ignoré. Elles méritent que justice soit faite. Nous ne pouvons toutefois pas supprimer le droit fondamental à la vie privée dont jouit chaque membre de la société au motif qu'un petit pourcentage de personnes se livrent à de telles activités. »
Ce reportage est fictionnel. Il n'a jamais été publié par Wired. Voir l'avertissement.
Jour 365
Un an après « Chat Control », les législateurs européens débattent du niveau de surveillance nécessaire pour une société plus sûre
Bruxelles — Le règlement de l'Union européenne relatif aux abus sexuels commis sur mineurs, communément appelé « chat control », est entré en vigueur il y a un an. Les critiques et les promoteurs de la réglementation s'accordent à dire qu'elle n'a eu qu'un succès limité dans la protection des enfants. La prochaine étape reste un sujet de débat controversé.
Les signalements aux forces de l'ordre d'images présumées abusives ont augmenté de 600 % au cours de l'année dernière, lorsque les applications de messagerie ont mis en œuvre le signalement automatique des contenus suspects requis par la réglementation. L'augmentation du nombre de signalements d'abus n'a pas entraîné d'augmentation du nombre d'inculpations ou de condamnations. Seules quatre accusations criminelles ont utilisé des preuves obtenues à partir des soumissions automatisées et toutes les enquêtes étaient en cours avant l'obtention des preuves supplémentaires.
« Nous avons été submergés par les rapports automatisés. Nous n'avons pas le budget nécessaire pour embaucher et former suffisamment de personnes afin d'examiner rapidement les rapports. On dirait que les réseaux sociaux ont simplement sous-traité leur problème de modération au gouvernement », a déclaré un agent des forces de l'ordre souhaitant rester anonyme.
Le centre européen chargé de superviser la réglementation a admis que la plupart des signalements concernaient soit des cas anodins, tels que des photos de vacances montrant des enfants nus jouant sur une plage, soit des cas relevant d'une zone grise juridique, tels que des adolescents envoyant des photos intimes, mais consensuelles, d'eux-mêmes.
Les critiques de « Chat Control », qui estiment que la loi est allée trop loin dans la restriction de la vie privée, invoquent l'absence d'augmentation du nombre de condamnations comme raison pour abroger une loi malavisée, tandis que ses promoteurs invoquent cet échec comme preuve que la loi n'est pas allée assez loin pour aider les forces de l'ordre.
« La criminalité évolue rapidement et nous devons évoluer encore plus vite. Nous soupçonnons les criminels d'utiliser désormais des applications de messagerie type « bulle noire » pour éviter toute interception », a déclaré un autre agent des forces de l'ordre souhaitant rester anonyme.
Les applications de messagerie utilisant la technologie peer-to-peer inspirée du « dark web » de Tor ont été baptisées « applications bulle noire », en référence au traitement visuel d'Apple consistant à afficher les messages envoyés via iMessage sur fond bleu et les messages envoyés via l'ancienne technologie SMS aux utilisateurs Android sur fond vert.
Les États membres du Conseil de l'UE ont débattu la semaine dernière d'une extension des capacités de surveillance au-delà des applications de messagerie et des enquêtes sur les abus commis sur des mineurs. Proposé pour la première fois lors de la présidence suédoise de l'UE au printemps 2023, la réglementation mise à jour pourrait obliger les fournisseurs de services logiciels à donner aux forces de l'ordre l'accès aux données non cryptées des utilisateurs lorsque cela leur est ordonné par un juge.
Les organisations de défense des droits humains se sont opposées à cette proposition, invoquant les difficultés techniques liées à la mise en œuvre d'une telle politique et les risques d'abus.
« Ce qu'on appelle « l'accès légal dès la conception » est en réalité « l'insécurité dès la conception ». Il n'existe aucun moyen d'ajouter un accès détourné au cryptage ou un dispositif d'espionnage intégré à l'appareil pour la police qui ne puisse également être exploité par un État hostile ou un hacker criminel. Ce n'est pas un fétichisme de la vie privée. C'est une réalité technique », a déclaré Jeremiah Lee, un ingénieur en protection des données.
Le débat autour de l'équilibre entre le droit humain à la vie privée et la capacité du gouvernement à rendre justice aux victimes est susceptible de se poursuivre pendant des générations. Pour certains, ce débat détourne l'attention de la recherche de solutions non techniques à des problèmes non techniques.
« Ce dont nous parlons ici, c'est d'une sorte de paradoxe qui se nie lui-même. Vous ne pouvez pas exercer une surveillance de masse à titre privé, point », a déclaré Meredith Whittaker, la Présidente de Signal.
Ce reportage est fictionnel. Il n'a jamais été publié par Reuters. Voir l'avertissement.
Post-scriptum
Agissez si ce n'est pas l'avenir dans lequel vous souhaitez vivre.
Écrivez à vos eurodéputés, à la représentation permanente de votre pays auprès du Conseil européen et aux dirigeants de votre pays pour leur faire part de votre opposition au « Chat Control ». Ensuite, votez en conséquence.
Faites un don à Droits Numériques Européens (European Digital Rights, EDRi) et à l'organisation de défense des droits numériques de votre pays.
Utilisez Signal pour discuter avec vos amis et votre famille. Faites un don pour le soutenir.
Pour aller plus loin
Générique
Écrit, conçu et codé par
Jeremiah Lee
Remerciements particuliers à
Jonathan Cowperthwait
Marcel Waldvogel
Traduction en français par
A.L.
Pouvez-vous m'aider à traduire ce texte en néerlandais, flamand, espéranto ou dans une autre langue ? Contactez moi!
Les logos et noms de sociétés sont des marques déposées appartenant à leurs propriétaires respectifs.
Utilisés à des fins d'usage loyal dans le cadre d'enquêtes journalistiques, de critiques culturelles, de commentaires, de caricatures et de parodies.
Logiciels open source utilisés :
Hero Icons (licence MIT), Monaspace Krypton (SIL Open Font License 1.1), Old Standard TT (SIL Open Font License 1.1), Tailwind CSS (licence MIT)
Image du communiqué de presse Meta provenant de Meta Newsroom
Les gros titres de la première année de Chat Control par Jeremiah Lee sont sous licence CC BY 4.0
