WhiteHall Analytica : IA, sociétés de surveillance et santé publique
Source : By Line Times – Nafeez Ahmed
Première partie d’une grande enquête du journaliste d’investigation Nafeez Ahmed sur une importance convergence d’hommes, d’intérêts et de fonds autour de la question des données médicales.
La crise sanitaire du Covid-19 est en train d’enrichir un réseau de sociétés de surveillance liées à de hauts fonctionnaires du gouvernement britannique – au détriment de la population. Les aventures financières d’un ancien maître de l’espionnage du MI5 et les fantasmes médicaux du conseiller principal de Boris Johnson pointent vers une fin de partie déconcertante : un super- État de l’IA dominé par des intérêts privés.
Notre histoire commence avec les services de sécurité britanniques – et se termine avec Dominic Cummings. Elle révèle à quel point notre démocratie et notre santé publique sont aujourd’hui menacées par une série de défaillances du gouvernement qui trouvent leur origine dans une idéologie en faillite, influencée par les vestiges modernes du racisme scientifique.
Le 12 avril 2020, le gouvernement britannique a annoncé que le National Health Service (NHS – le système de santé publique du Royaume-Uni – allait lancer une nouvelle application de recherche des contacts Covid-19. Depuis lors, les questions cruciales posées par cette évolution en matière de protection de la vie privée ont fait l’objet d’une multitude d’analyses et de commentaires. Mais il manque à ces interrogations un contexte beaucoup plus large qui met lumière les raisons pour lesquelles le gouvernement n’a pas réussi à éviter une catastrophe sanitaire sans précédent – qui a laissé le Royaume-Uni avec le deuxième plus grand nombre de décès par Covid-19 dans le monde.
Le jour même où l’application de recherche des contacts a été annoncée, l’ancien directeur général du MI5, Lord Jonathan Evans, a fait valoir que la technologie existante utilisée dans les enquêtes de lutte contre le terrorisme et le crime organisé pourrait être utilisée pour compléter l’application développée par NHSX, la filiale du NHS axée sur l’innovation numérique.
Lord Evans, qui a dirigé le service de sécurité intérieure britannique de 2007 à 2013, dirige actuellement le chien de garde du gouvernement en matière de normes publiques et est donc un conseiller de haut niveau du Premier ministre Boris Johnson sur les normes éthiques dans le secteur public.
« Des pouvoirs de surveillance stricts sont acceptables lorsqu’il existe une surveillance et une responsabilité tout aussi strictes qui garantissent que les pouvoirs sont appliqués légalement, proportionnellement et seulement lorsque cela est nécessaire« , a-t-il écrit dans le Sunday Times. « C’est désormais le cas pour la lutte contre le terrorisme et il doit en être de même pour la santé« .
Plus d’une semaine auparavant, le secrétaire d’État à la Santé et la Protection sociale Matt Hancock avait déjà accordé l’accès aux données du NHS au Service de renseignements électroniques britanniques (GCHQ), notamment pour des raisons de cybersécurité.
Ce que l’ancien maître de l’espionnage ne dit pas, c’est que, pas plus tard que l’année dernière, le Bureau d’investigation du commissaire (IPCO) a constaté que le MI5 avait enfreint la loi en ce qui concerne les garanties de surveillance destinées à limiter le partage et le stockage des données interceptées. Les données privées de millions de citoyens ordinaires auraient pu être partagées avec des gouvernements étrangers dans le cadre de protocoles de « sécurité nationale » opaques et échappant à tout contrôle.
Lord Evans est également lié à une industrie privée de la cybersécurité en plein essor, qui cherche depuis longtemps à exploiter la privatisation rampante du NHS à des fins lucratives. En fait, il est lié à trois sociétés géantes qui profitent actuellement de contrats importants avec le NHS.
De Chef espion à lobbyiste
Le parcours de Lord Evans, de directeur général du MI5 à conseiller principal d’entreprise, n’est pas particulièrement original si on le compare aux trajectoires de ses prédécesseurs et successeurs. Cependant, il offre une fenêtre d’observation sur la façon dont l’industrie de la sécurité nationale britannique profite de la privatisation fragmentaire des infrastructures de santé publique du pays.
Selon DeclassifiedUK, une plateforme de journalisme d’investigation axée sur les questions de sécurité nationale britannique, les anciens chefs espions britanniques ont régulièrement fait pression sur le gouvernement pour qu’il soutienne le secteur privé. Cela a conduit le gouvernement à investir des millions de livres sterling – l’argent des contribuables – dans des entreprises privées de « sécurité nationale » – ce qui a affaibli la préparation de l’État à une pandémie tout en donnant la priorité à des menaces bien moindres.
La pandémie de Covid-19 accélère ce processus, car le gouvernement accorde un pouvoir sans précédent aux entreprises technologiques privées avec peu de transparence.
Au cours de ses 33 années de service dans la sécurité intérieure britannique, Lord Evans a joué un rôle clé dans les politiques de contre-espionnage et de contre-terrorisme de l’agence, notamment en tant que directeur de la division anti-terroriste pendant la « guerre contre le terrorisme » qui a suivi le 11 septembre 2001. En 2009, en tant que chef adjoint du MI5, il s’est distingué en justifiant les liens de l’agence avec les régimes étrangers qui torturent les suspects de terrorisme pour fournir des renseignements au MI5 et au MI6.
En 2013, soit l’année où Lord Evans a pris sa retraite du MI5, le registre national des risques établi par le Bureau du Conseil des ministres a averti qu’une pandémie était « le risque d’urgence civile le plus important » – une priorité plus élevée que le terrorisme ou les inondations côtières.
Après sa carrière au MI5, Lord Evans est devenu lobbyiste pour une industrie privée de sécurité nationale qui n’a pas réussi à protéger la Grande-Bretagne contre ce risque. Il a rapidement occupé des postes lucratifs dans le secteur des services financiers, notamment des postes rémunérés chez Accenture, Deloitte et HSBC.
Collecteur de fonds pour Darktrace, entreprise d’espionnage proche des renseignements britanniques
En septembre 2013, il a rejoint le conseil consultatif de Darktrace, une société de cybersécurité centrée sur l’intelligence artificielle, d’une valeur de 1,65 milliard de dollars. Fondée un peu plus tôt cette année-là par des agents du renseignement britannique, cette société disposait d’une technologie de base conçue par la version britannique de la NSA – le service de renseignements électroniques (GCHQ), qui vient d’obtenir un accès sans précédent aux systèmes d’information du NHS.
Selon une analyse détaillée de DeclassifiedUK, Darktrace a une relation quasi symbiotique avec les communautés de renseignement britannique et américaine, avec des membres du personnel provenant du GCHQ, du MI5, du MI6, du ministère britannique de la défense, de l’armée britannique et des forces spéciales.
Des documents du Comité consultatif du gouvernement sur les nominations des entreprises (ACOBA) – qui est censé réglementer les conflits d’intérêts des fonctionnaires sortants – confirment qu’au moment de son départ en 2013, Lord Evans a reçu l’autorisation du Premier ministre de l’époque, David Cameron, « de s’impliquer personnellement dans le lobbying auprès du gouvernement britannique au nom de son nouvel employeur » – à savoir Darktrace – deux ans après son dernier jour de service.
Matt Hancock est un fan de longue date de cette entreprise conseillée par Lord Evans. En 2017, Darktrace a été un membre principal d’une délégation commerciale britannique à Singapour dirigée par Hancock, à l’époque Ministre du numérique. Cette année-là, une « agence du NHS » a rejoint la liste des clients de Darktrace. Elle aurait ainsi été protégée contre l’attaque du logiciel malveillant WannaCry grâce à la technologie « Enterprise Immune System« .
En juillet 2018, Hancock est devenu secrétaire d’État à la Santé et la Protection sociale – et Darktrace a continué de le suivre au sein du NHS. Toujours en juillet, la société a annoncé qu’elle avait signé un « contrat de plusieurs millions de dollars » avec un ministère pour déployer sa technologie afin de protéger « les services publics et les données des citoyens« , sans identifier précisément le ministère en question. Un mois plus tard, la société a confirmé que le NHS intensifiait son adoption de la technologie Darktrace « pour sauvegarder les systèmes et les informations sur les patients, y compris les données relatives aux prescriptions et aux groupes sanguins« .
Récemment, suite de la crise du Covid-19, Darktrace a tenté de consolider ce travail, en déclarant qu’elle offrirait gratuitement ses services au NHS.
En 2015, Lord Evans a également acquis un nouveau rôle de directeur non exécutif pour Ark Data Centers, une société britannique de stockage de données. Il prenait alors la place d’Eliza Manningham-Buller, qui n’était autre que sa prédécesseur à la tête du MI5. Cette même année, la société Ark a remporté un contrat de 700 millions de livres sterling sur quatre ans avec le Cabinet Office pour fournir l’ensemble des centres de données du gouvernement, via son contrat d’hébergement de la Couronne.
En 2018 – l’année même où Darktrace a commencé à étendre sa portée dans le NHS – Ark a obtenu une extension de quatre ans pour son contrat d’hébergement de la Couronne pour un montant de 500 millions de livres sterling, contournant apparemment le processus habituel d’appel d’offres au nom de la volonté d’éviter les perturbations du Brexit. Plus tard dans l’année, les trusts du NHS ont commencé à utiliser la solution de stockage de données soutenue par Ark.
Pendant tout ce temps, Lord Evans s’est tenu occupé. En 2017, il avait accepté un autre poste de directeur non exécutif au sein de la société de services financiers KPMG, basée au Royaume-Uni, pour siéger à son Comité d’intérêt public. Ce dernier est chargé de « superviser les aspects d’intérêt public du processus décisionnel de KPMG LLP (Royaume-Uni) et de ses entités connexes – en tenant compte (entre autres) des intérêts légitimes des clients et du gouvernement « .
Et il se trouve que KPMG a été le fer de lance de la privatisation du NHS – une entreprise dans laquelle le rôle du conseil d’administration de Lord Evans implique une surveillance importante.
KPMG : quand le PIB transcende les vies
En octobre 2010, Mark Britnell, responsable mondial de la santé chez KPMG – à l’époque conseiller en matière de santé auprès du Premier ministre David Cameron – s’est exprimé lors de l’Apex Partners Global Healthcare Conference : « À l’avenir, le NHS sera un fournisseur d’assurance d’État et non plus un fournisseur d’État. Le NHS sera sans pitié et le meilleur moment pour en profiter sera dans les deux prochaines années« .
Une brochure d’Apex Partners explique plus en détail l’essentiel des commentaires de Britnell : à l’avenir, « tout fournisseur du secteur privé qui le souhaite pourra vendre des biens et des services au système… Le bras monolithique du contrôle de l’État sera assoupli, ce qui offrira une énorme opportunité aux fournisseurs efficaces du secteur privé ».
En 2015, KPMG figurait parmi plusieurs autres sociétés de services financiers en tant que fournisseurs agréés pour environ deux tiers des consortiums candidatant pour la planification et la fourniture de soins aux commissaires médecins généralistes – déterminant en fait où et comment le budget du NHS serait dépensé.
Pendant la crise du Covid-19, KPMG a obtenu un contrat du gouvernement pour superviser la gestion des hôpitaux Nightingale du NHS. La société conseille également le ministère du travail et des pensions sur sa réponse au coronavirus.
De nombreux hôpitaux Nightingale n’ont pas été utilisés, ce qui a été salué par certains comme un succès dans la libération des capacités existantes. Cependant, le personnel des nouveaux hôpitaux a déclaré que les véritables goulets d’étranglement étaient le manque de personnel correctement formé, une pénurie nationale d’infirmières en soins intensifs, et le manque d’équipement de dialyse rénale et de soutien cardiaque pour traiter les défaillances d’organes multiples – et qui ne pouvaient donc pas être utilisés pour traiter les patients les plus malades.
Parallèlement à son rôle influent en tant que contractant du gouvernement, KPMG semble être une voix clé réaclamant la nécessité de « concilier » l’économie et les priorités de santé publique.
Dans un message adressé en avril aux 16 000 employés de l’entreprise, le président de KPMG, Bill Michael, écrivait : « nous courons le risque, à un moment donné, que le désastre économique transcende le désastre humain« . Mais il a rassuré son personnel en affirmant que KPMG était « bien placé » pour conseiller le gouvernement sur les « décisions difficiles à prendre pour trouver un équilibre entre la santé de notre population et notre économie« .
Faire pression pour l’accès aux données d’IA dans le secteur public
Parallèlement à ces multiples rôles commerciaux, le gouvernement a nommé Lord Evans en octobre 2018 à la présidence du Comité des normes de la vie publique, qui conseille le Premier ministre sur les normes éthiques dans l’ensemble du secteur public. Il avait été sollicité pour ce poste par le vétéran Jonathan Hellewell, actuellement conseiller spécial de Boris Johnson sur les communautés religieuses.
Il semblerait que Lord Evans devait être l’homme de pointe du gouvernement pour assainir ses plans de révolution de l’IA qui, en fait, privatiserait furtivement le secteur public.
Au début de l’année 2018, Lord Evans s’était adressé à ses collègues de la Chambre des Lords. Notant qu’il était conseiller auprès de la start-up britannique Facewatch, spécialisée dans la reconnaissance faciale, il avait vanté les avantages d’une généralisation de cette technologie dans l’ensemble de la société, dans les transports, les magasins, les loisirs, les espaces publics, par la police, le gouvernement et le secteur privé, afin de « permettre une action préventive » à des « fins de renseignement » et même, à terme, à des fins « probatoires » avec des « normes » appropriées. « Il est également important que cela ne devienne pas une aubaine pour les avocats« , a-t-il ajouté, faisant allusion au problème posé par les lois sur la vie privée.
Pendant son séjour chez Facewatch, qui a débuté en 2014, l’entreprise a rapidement développé son produit, « en créant une base de données de présumés malfaiteurs, dont les images ont été soumises par les entreprises qui s’inscrivent à son service« . Bien qu’en théorie, toute personne ajoutée incorrectement à cette base de données puisse faire appel, le journaliste Geoff White note cependant que, « pour cela, vous devez savoir ou suspecter que vous êtes dans la base de données, et puisque la société ne la rend pas publique, cela crée une situation de blocage… votre visage est maintenant utilisé pour accéder à des magasins de données vous concernant, qui contrôle ces magasins ? Quelle est leur précision ? Et comment allez-vous le savoir ? ».
Facewatch gère une plateforme en ligne de signalement des crimes et de partage de renseignements, approuvée par Secured by Design, une initiative officielle de la police britannique en matière de sécurité. Il semblerait que le système fonctionne comme une liste noire crowdsourcée, sans comptes à rendre et qui ne respecte aucune règle de procédure.
Lord Evans s’est retiré de son poste de Facewatch lorsqu’il a pris ses nouvelles fonctions au sein de l’organisme britannique de surveillance des normes publiques. À ce titre, il a supervisé un rapport historique qui exhortait essentiellement le gouvernement à accélérer la mise en œuvre d’un grand plan visant à déployer l’intelligence artificielle (IA) dans la société britannique, y compris au sein du NHS. Tout en reconnaissant que le gouvernement a « échoué » dans son objectif d’ »ouverture » dans la manière dont l’IA est utilisée, le rapport n’a pas préconisé de changement majeur dans les modèles de gouvernance du secteur public.
« Nos preuves ont montré que les soins de santé et la police disposent actuellement des programmes d’IA les plus développés, la technologie étant utilisée, par exemple, pour identifier les maladies oculaires et pour prédire les taux de récidive, bien que les niveaux de maturité du système diffèrent selon les trusts du NHS et les forces de police« , indique le rapport.
Le principal obstacle à l’adoption de ces programmes, conclut le rapport, est l’accès aux données : « Les experts en politique publique ont souvent répondu à cette étude que l’accès à la bonne quantité de données propres et de bonne qualité est limité et que les systèmes à l’essai ne sont pas encore prêts à être mis en service. Nous avons l’impression que de nombreux organismes publics se concentrent encore sur la numérisation des services à un stade précoce, plutôt que sur des projets d’IA plus ambitieux« .
Parmi les recommandations bienvenues pour améliorer les orientations réglementaires et les codes d’éthique, l’importance générale du rapport était de préparer la voie à la destruction progressive du processus démocratique.
Il a rejeté l’idée d’un régulateur de l’IA et a soigneusement évité le casse-tête de Lord Evans : les nouvelles lois sur l’IA. Cette approche allait à l’encontre de la reconnaissance par Paul Nemitz, architecte de la réglementation générale sur la protection des données (GDPR), du fait que « ne pas réglementer par la loi toutes ces technologies omniprésentes et souvent décisives équivaudrait en fait à la fin de la démocratie« .
Le rapport de Lord Evans a été publié en février 2020 alors que la pandémie de Covid-19 prenait rapidement de l’ampleur. Il n’a fait l’objet que d’un examen minimal, alors qu’il venait de donner le feu vert à une nouvelle ère de l’IA qui affaiblirait les contrôles et les équilibres démocratiques en Grande-Bretagne.
Le NHS, pièce maîtresse de la révolution de l’IA
Bien que le rapport de Lord Evans reconnaisse que certains des programmes d’IA les plus développés du Royaume-Uni sont activés au sein du NHS, il néglige leurs vastes ramifications.
En fait, le NHS a discrètement été à l’avant-garde de la plus ambitieuse campagne d’IA jamais menée par le gouvernement. En effet, la privatisation et la transformation du NHS sont considérées par les hauts fonctionnaires du gouvernement comme la pierre angulaire d’une stratégie nationale visant à surpasser les économies concurrentes. Cela vous semble bizarre ? Oui, ça l’est.
Deux ans avant la publication du rapport de l’organisme de surveillance des normes publiques, Matt Hancock avait exposé sa vision des « soins préventifs, prédictifs et personnalisés », fondée sur une transformation numérique complète du NHS dans laquelle les données des patients seraient canalisées vers la création de nouvelles applications et de nouveaux services « Healthtech ». L’un des services qu’il a promus était une application pour smartphone destinée à faciliter les consultations vidéo avec les médecins généralistes, créée par la start-up Babylon Health, qui vend maintenant ce service au NHS. L’ancien architecte de Vote Leave, Dominic Cummings, a également été consultant rémunéré pour Babylon jusqu’en juillet 2018, et a continué à conseiller la société jusqu’en septembre de la même année.
Le 4 septembre 2019, N°10 a organisé une table ronde ministérielle avec secrétaire d’État à la Santé et la Protection sociale Matt Hancock sur les sciences et technologies de la vie, en invitant les principaux dirigeants du secteur privé. Parmi les participants à cette réunion figuraient Babylon, Darktrace, NHS England et d’autres entreprises telles que Deepmind (Google), et Faculty.
Tout comme Babylon, Faculty est intimement liée à Cummings, puisqu’il a contribué au travail de modélisation électorale de la campagne Vote Leave. Le PDG de la société, Mark Warner, est le frère de l’un des meilleurs assistants de Cummings chez N°10, Ben Warner, Tous trois ont participé aux réunions du Scientific Advisory Group for Emergencies (SAGE) créé pour fournir au gouvernement des conseils scientifiques indépendants pendant la pandémie de Covid-19.
Au lieu de réagir aussi rapidement que possible en se basant sur les meilleures pratiques de santé publique face au nouveau Coronavirus, le gouvernement a accéléré ses ambitions de privatisation numérique du NHS. Toutefois, ces ambitions sont sous-tendues par une vision extraordinairement sombre, qui n’a pas été pleinement comprise.
Le 13 mars 2020, au lendemain de l’abandon de la recherche des contacts par le gouvernement – et alors qu’une vague de conseillers scientifiques du gouvernement confirmait publiquement qu’il adoptait une politique d’ »immunité collective » – Faculty a annoncé qu’elle avait « établi un partenariat avec le NHSX pour construire son nouveau laboratoire d’IA afin de contribuer à la transformation numérique et à l’utilisation de l’IA au sein du NHS… Faculty aidera le NHSX à utiliser et à déployer des techniques d’intelligence artificielle de pointe« .
C’était juste un mois après que Lord Evans ait publié le rapport de son comité qui a largement entériné l’omniprésence de l’IA dans la société britannique.
L’année dernière, les cadres supérieurs de Faculty et de Darktrace faisaient partie d’une cohorte plus large de sommités britanniques en matière d’IA qui ont contribué au projet Applied AI 1.0, un programme national de croissance pour les start-ups soutenu par le Bureau du gouvernement pour l’intelligence artificielle.
Faculty a également aidé à « configurer » les paramètres d’un modèle de l’université d’Oxford qui servirait de base à l’application de recherche de contacts NHSX. L’université d’Oxford et Faculty ont tous deux nié le fait que l’entreprise travaillait au développement de l’application et qu’elle aurait accès aux données de l’application. Mais Faculty travaille simultanément avec le géant américain Palantir sur un vaste exercice d’exploration de données pour traiter de grands volumes d’informations confidentielles sur les patients britanniques dans une base de données gouvernementale centralisée.
Selon une analyse accablante du Dr Michael Veale, expert en protection des données à l’University College de Londres, selon la loi britannique, l’application NHSX actuellement testée sur l’île de Wight ne préserve pas l’anonymat. Elle peut permettre aux utilisateurs d’être identifiés personnellement et elle est conçue pour surveiller systématiquement les espaces accessibles au public – malgré les refus du gouvernement. Les utilisateurs ne peuvent ni effacer ni accéder à leurs propres données dans le système.
Tout cela amène à se demander : à quoi sert cette nouvelle impulsion en faveur de la surveillance de masse dans la santé ? Nous vous présenterons des réponses possibles dans la deuxième partie de cette enquête.
Lord Jonathan Evans et Dominic Cummings ont été contactés pour cet article, mais n’ont pas encore répondu.
Source : By Line Times – Nafeez Ahmed
via » WhiteHall Analytica : IA, sociétés de surveillance et santé publique – par Nafeez Ahmed
