Ces anciens espions collectent les photos Facebook pour une base de données massive de reconnaissance faciale
Source : Forbes, Thomas Fox-Brewster, 16-04-2018
Le PDG de Facebook, Mark Zuckerberg, a comparu lors d’une audience avec le House Energy and Commerce Committee (Comité à l’énergie et au commerce ) au Rayburn House Office Building le mercredi 11 avril 2018 à Washington, DC. Il n’a pas été malmené au sujet des sociétés de surveillance opérant sur la plate-forme. (Photo par Matt McClain/The Washington Post via Getty Images)
Lorsque Mark Zuckerberg a comparu devant le House Energy and Commerce Committee la semaine dernière à la suite des révélations de Cambridge Analytica, il a essayé de décrire la différence entre « la surveillance et ce que nous faisons ». « La différence est extrêmement claire », a dit un Zuckerberg à l’air nerveux. « Sur Facebook, vous avez le contrôle sur vos informations… les informations que nous collectons, vous pouvez choisir que nous ne les collections pas. »
Mais pas un seul membre du comité n’a bousculé le PDG milliardaire au sujet des sociétés de surveillance qui exploitent les données sur Facebook à des fins lucratives. Forbes a dévoilé un cas qui pourrait les choquer : au cours des cinq dernières années, une société de surveillance secrète fondée par un ancien officier de renseignement israélien a tranquillement construit une énorme base de données de reconnaissance faciale composée de visages acquis sur le réseau social géant, YouTube et d’innombrables autres sites Web. Les militants de la protection de la vie privée sont pertinemment alarmés.
Cette base de données forme le cœur d’un service de reconnaissance faciale appelé Face-Int, qui appartient maintenant au vendeur israélien Verint après qu’il se soit accaparé le créateur du produit, Terrogence, une société de surveillance peu connue, en 2017. Verint et Terrogence sont depuis longtemps des fournisseurs du gouvernement américain, fournissant des technologies d’espionnage de pointe à la NSA, à la marine américaine et à d’innombrables autres agences de renseignement et de sécurité.
Comme décrit sur le site Web de Terrogence, la base de données se compose de profils faciaux de milliers de suspects « récoltés à partir de sources en ligne telles que YouTube, Facebook et des forums ouverts et fermés dans le monde entier ». Ces visages ont été extraits de 35 000 vidéos et photos de camps d’entraînement terroristes, de clips de motivation et d’attaques terroristes. Cette même page de marketing était en ligne en 2013, selon l’archive Internet de la Wayback Machine, indiquant que le produit a au moins cinq ans. L’âge du produit suggère également que plus de 35 000 vidéos et photos ont été ratissées par la technologie Face-Int à ce jour, bien que le cofondateur de Terrogence et responsable de la recherche Shai Arbel ait refusé de commenter cet article.
Relever les enjeux de la reconnaissance faciale
Bien que Terrogence vise principalement à aider les organismes de renseignement et les organismes d’application de la loi à lutter contre le terrorisme en ligne, les profils LinkedIn d’actuels et d’anciens employés indiquent qu’elle participe également à d’autres initiatives plus politiques. Une ex-officier, en décrivant son rôle d’analyste de la Terrogence, a déclaré qu’elle avait « mené des opérations de gestion de la perception du public pour le compte de clients gouvernementaux étrangers et nationaux » et qu’elle avait utilisé « des pratiques de renseignement en libre accès et des méthodes d’ingénierie des médias sociaux pour enquêter sur les groupes politiques et sociaux ». Elle n’était pas joignable au moment de la publication.
Et maintenant, des inquiétudes surgissent quant à la façon dont Terrogence s’est emparé de tous ces visages de Facebook et d’autres sources en ligne. Ce qui est apparent, cependant, c’est que Terrogence est encore une autre entreprise qui a pu profiter clandestinement de l’ouverture de Facebook, en plus de Cambridge Analytica, qui a acquis des informations sur 87 millions d’utilisateurs en 2014 du chercheur britannique Aleksandr Kogan pour aider à cibler des individus pendant son travail pour les campagnes présidentielles de Donald Trump et Ted Cruz.
« Cela accroît les enjeux de la reconnaissance faciale – cela intensifie les conséquences négatives potentielles », a averti Jay Stanley, analyste politique senior à l’American Civil Liberties Union (ACLU). « Lorsque vous contemplez la reconnaissance faciale qui est partout, nous devons penser à ce que cela va signifier pour nous. Si des entreprises privées utilisent des photos et les combinent avec des renseignements personnels afin de porter des jugements sur des personnes – êtes-vous un terroriste, ou êtes-vous susceptible d’être un voleur à l’étalage ou quoi que ce soit entre les deux – alors cela expose tout le monde au risque d’être mal identifié, ou correctement identifié et mal jugé ».
Jennifer Lynch, avocate à l’Electronic Frontier Foundation, a déclaré que si la base de données sur la reconnaissance faciale avait été partagée avec le gouvernement américain, cela menacerait la liberté d’expression et le droit à la vie privée des utilisateurs de médias sociaux.
« Appliquer la reconnaissance faciale avec précision à la vidéo est extrêmement difficile, et nous savons que la reconnaissance faciale ne fonctionne pas bien avec les personnes de couleur, en particulier avec les femmes et celles dont la peau est plus foncée », a déclaré Lynch à Forbes. « En combinant ces deux problèmes connus avec la reconnaissance faciale, il y a de fortes chances que cette technologie identifie à tort les gens comme des terroristes ou des criminels. »
« Cela pourrait avoir des répercussions sur les déplacements et les droits civils de dizaines de milliers de voyageurs respectueux de la loi qui devraient alors prouver qu’ils ne sont pas les terroristes ou les criminels comme le système les a identifié. »
La manière dont le produit Face-Int acquiert des visages n’est pas claire, bien qu’il semble similaire à un projet mené par la NSA, comme l’a révélé le lanceur d’alerte Edward Snowden en 2014, où l’agence de renseignement avait recueilli 55 000 « images de qualité de reconnaissance faciale » à partir du Web en 2011. Le cofondateur Arbel, un ancien officier de renseignement de l’armée israélienne, a refusé de répondre aux questions sur le fonctionnement de la technologie, bien qu’il ait décrit Face-Int comme « incroyable » dans un message texte et confirmé qu’elle continue à fonctionner avec Verint.
Un porte-parole de Facebook, qui utilise sa propre technologie de reconnaissance faciale pour aider à identifier les visages des utilisateurs sur les photos de la plateforme, a déclaré qu’il semblait que le produit de Terrogence violerait ses politiques, y compris celle qui interdit l’utilisation de données saisies sur le réseau social pour produire des outils de surveillance. Facebook ne permet pas non plus d’accéder ou de recueillir de l’information par des méthodes automatisées, comme les robots de récolte ou les scrapers. Le porte-parole a fait remarquer qu’il n’avait trouvé aucune application Facebook exploitée par l’entreprise.
Un observateur des médias sociaux
Il n’y a aucune preuve que les États-Unis aient acheté Face-Int. Mais ils ont bénéficié d’autres services de renseignement créés par Terrogence. Le fournisseur a obtenu au moins deux contrats avec le gouvernement des États-Unis, tous deux avec la US Navy et d’une valeur totale de 148 000 $, selon les documents publics. Les contrats, l’un à partir de 2014 et l’autre signé en 2015, portaient sur des abonnements aux produits de la société, Mobius et TGAlertS.
Mobius consiste en des rapports sur les dernières tendances en matière d’engins explosifs improvisés (IED) des terroristes et leurs tactiques. Les rapports sont basés sur des informations recueillies sur diverses plateformes de médias sociaux « où des terroristes mondiaux cherchent à recruter, à radicaliser et à préparer leur prochaine attaque », selon une brochure de l’entreprise. TGAlertS, quant à lui, fournit des informations « presque en temps réel » sur les problèmes urgents découverts par le personnel de Terrogence en parcourant le web.
Ces employés recueillent ces informations en partie au moyen de faux profils. Comme le dit une autre brochure, ils « obtiennent des informations en guidant soigneusement les discussions en ligne, souvent en suscitant l’intérêt et en facilitant la communication en employant plusieurs entités virtuelles dans une seule opération ».
Ce n’est pas le premier rodéo d’Arbel dans le complexe industriel de surveillance : il a cofondé SenseCy, qui a été acquis par Verint en 2017. Il met aussi en place des “entités virtuelles” pour recueillir des renseignements. « Perfectionné au cours de nombreuses années de pratique, SenseCy exploite des douzaines d’entités virtuelles qui combinent des couvertures solides et crédibles avec des méthodologies d’interaction Web perfectionnées et qui fournissent des renseignements inestimables à partir de toutes les plates-formes Web pertinentes », peut-on lire sur son site. L’entreprise y apparaît toutefois plus axée sur la protection de la cybersécurité que sur la surveillance gouvernementale.
La privatisation des listes noires
Si Terrogence ne se concentre pas uniquement sur le terrorisme, mais a aussi un côté politique pour ses affaires, son travail de reconnaissance faciale pourrait toucher un grand nombre de personnes. Cela soulève un autre aspect particulièrement inquiétant de l’activité de Terrogence : l’aube de la « privatisation de la liste noire », avertit Stanley. « Nous nous battons avec le gouvernement depuis des années au sujet des procédures officielles pour ces listes… des gens qui y sont inscrits sans qu’on leur dise pourquoi et sans savoir comment ces listes sont utilisées », a-t-il dit à Forbes.
« Beaucoup de ces problèmes pourraient s’intensifier si vous avez une bande de quasi-justiciers privés qui font leurs propres listes noires de toutes sortes ». Au début du mois, Verint a lancé ce qui semblait être un produit de reconnaissance faciale entièrement distinct, FaceDetect. Il promet d’identifier les individus « indépendamment des occultations du visage, du vieillissement des suspects, des déguisements et de l’ethnicité » et « permet aux opérateurs d’ajouter instantanément des suspects aux listes de surveillance ».
Mais Stanley a également remis en question les politiques de Facebook sur le contrôle des photos de profil par les utilisateurs. Le réseau social possède la plus grande collection de visages au monde, et pourtant les photos de profil, dans une certaine mesure, ne peuvent pas être entièrement verrouillées, a-t-il dit. Un porte-parole de Facebook a déclaré que les photos de profil sont toujours publiques, mais qu’il est possible d’ajuster les paramètres de confidentialité des photos de profil précédentes pour limiter le nombre de personnes qui peuvent les voir.
Les groupes de défense de la vie privée comme l’ACLU veulent maintenant que les utilisateurs aient plus de contrôle sur ces images. Compte tenu de la fureur récente entourant Cambridge Analytica, de tels changements pourraient survenir plutôt tôt que tard.
Source : Forbes, Thomas Fox-Brewster, 16-04-2018
Traduit par les lecteurs du site www.les-crises.fr. Traduction librement reproductible en intégralité, en citant la source.
