Résister à l’algocratie

Rester humain dans nos métiers et dans nos vies

Vincent Magos

Temps d’Arrêt / Lectures 

Une collection de textes courts destinés aux professionnels en lien direct avec les familles. Une invitation à marquer une pause dans la course du quotidien, à partager des lectures en équipe, à prolonger la réflexion par d’autres textes.
– 8 parutions par an.

Directrice de collection : Claire-Anne Sevrin assistée de Diane Huppert ainsi que de Meggy Allo, Laurane Beaudelot, Philippe Dufromont, Audrey Heine et Habiba Mekrom.

Le programme yapaka

Fruit de la collaboration entre plusieurs administrations de la Communauté française de Belgique (Administration générale de l’Enseignement, Administration générale de l’Aide à la Jeunesse, Administration générale des Maisons de Justice, Administration générale du Sport, Administration générale de la Culture et ONE), la collection « Temps d’Arrêt / Lectures » est un élément du programme de prévention de la maltraitance yapaka.be

Comité de projets : Stephane Albessard, Mathieu Blairon, Nicole Bruhwyler, Olivier Courtin, Déborah Cuignet, Marie Darat, Marleine Dupuis, Nathalie Ferrard, Ingrid Godeau, Louis Grippa, Françoise Guillaume, Pascale Gustin, Françoise Hoornaert, Farah Merzguioui, François Moors, Raphaël Noiset, Marie Thonon, Nathalie Van Cauwenberghe, Françoise Verheyen.

Comité directeur : Frédéric Delcor, Liliane Baudart, Annie Devos, Stephan Durviaux, Lise-Anne Hanse, Alain Laitat, Benoit Parmentier, André-Marie Poncelet.

L’écriture de ce texte a été stimulée par le séminaire mené conjointement avec Agnès Bressolette au sein de l'École Belge de Psychanalyse.

Une initiative de la Fédération Wallonie-Bruxelles
de Belgique.

Éditeur responsable  : Frédéric Delcor – Fédération Wallonie-Bruxelles
de Belgique – 44, boulevard Léopold II – 1080 Bruxelles.
Février 2020

Sommaire

Introduction

Algocratie ?

Les algorithmes, la technique

Des data, encore des data

La surveillance permanente

Les effets de l’algocratie

Et l’intimité ?

Le rapport à la norme et la déviance

La capacité de juger ?

Privatisation et surveillance

L’effacement de l’interlocuteur

Quid de la place du tiers ?

Les relations transformées

La fin de l’inconscient ?

Le calcul et la mise à mal de la diversité

Le langage

Un monde sans limites, le transhumanisme

Les effets pour les professionnels

L’institution transformée

Le respect de la confidentialité

BelRAI, FranceRAI et autres

Des traitements prédéterminés

Le capitalisme de surveillance

Antidotes et résistances

Déprolétariser

Se déconnecter ?

Dans un monde opaque, se réapproprier la technique

Faire

Remise en question de la séparation Nature/Culture

Le droit

L’obfuscation

Très humain, plutôt que transhumain

Pour approfondir le sujet

Introduction

Un. Voulant atteindre l’université d’Harvard où il a été accepté, Ismail B. Ajjawi se voit bloqué à l’entrée des États-Unis. Après cinq heures de fouilles de son ordinateur et de son téléphone, son visa est annulé et il est refoulé vers son pays d’origine, le Liban. En effet, la police a trouvé dans sa liste d’amis des personnes affichant des points de vue politiques qui s’opposent aux États-Unis. Le tollé provoqué par sa famille, ses avocats, l’université finit par permettre à l’étudiant de rentrer dix jours plus tard, mais la médiatisation de sa situation a mis à jour d’autres cas similaires.1

Deux. Rentrée scolaire. Smartschool est installé dans l’école de Julien. Son smartphone lui permet d’être en contact avec ses professeurs et de disposer de sa liste de travaux à remettre. Quant à ses parents, grâce à leur compte, ils peuvent vérifier les absences et le bulletin de leur fils. Smartschool offre encore bien d’autres avantages mais qu’en est-il de l’aspect éducatif de cette surveillance parentale ? Et quid de toutes les données engrangées peu à peu par la firme – une mine pour une société de recrutement – surtout si un jour elle se voit rachetée ? « Nous nous réservons la possibilité de modifier, étendre, limiter ou interrompre temporairement Smartschool et ses services connexes » disent les conditions d’utilisation2.

Trois. Notre carte de fidélité ou de banque peut nous jouer de vilains tours, comme à cette personne qui a un accident dans un supermarché de Los Angeles. Les avocats de l’enseigne repèrent que la victime y achète régulièrement de l’alcool3.

Quatre. « Vous souhaitez suivre votre cycle menstruel en observant ses signes de fertilité, favoriser ou différer une grossesse ? » L’application Femm est faite pour vous, elle vous aide à établir une contraception naturelle et si nécessaire vous met en contact avec des professionnels. Mais, il y a un hic, révélé par The Guardian : cette application est financée et dirigée par des militants catholiques anti-avortement et anti-gays et au moins deux des médecins de FEMM n’ont pas le droit d’exercer aux États-Unis. Que penser des conseils prodigués par l’application et des données qu’elle recueille sur les femmes qui l’utilisent ?4

Cinq. Comme dans de nombreux pays, en Australie, l’aide sociale est conditionnée aux ressources du bénéficiaire et celui qui a trop perçu doit rembourser. La différence peut notamment être vérifiée grâce à un algorithme qui compare ce que les gens reçoivent de l’aide sociale et leurs revenus déclarés aux impôts. En 2016, cette tâche fut automatisée par l’agence CentreLink. Le résultat fut désastreux : e-mails et appels automatiques menaçants, difficulté voire impossibilité de contester… Suite à une enquête du Sénat en mai 2017, le gouvernement australien fut contraint de suspendre le système. Pareil imbroglio fut répertorié dans de nombreux pays. Au Michigan (USA), par exemple, l’agence pour l’emploi a émis des demandes de remboursement auprès de 93 % de ses bénéficiaires entre 2013 et 20155

Nous pourrions multiplier les exemples, tel ce programme de Pennsylvanie visant à prévoir le risque de maltraitance et d’agression d’enfant… Mais essayons plutôt de voir comment nous en sommes arrivés là et ce que cela implique.

1. Incoming Harvard Freshman Deported After Visa Revoked - Shera S. Avi-Yonah and Delano R. Franklin - 27 Aout 2019 The Harvard Crimson & Freshman Previously Denied Entry to the United States Arrives at Harvard 3 September 2019 - The Harvard Crimson

2. Conditions d’utilisation – Mise à jour d’août 2017 - https ://www.smartschool.be/fr/conditions-dutilisation/ consultée le 4 octobre 2019

3. Robert Ellis Smith , Privacy Journal, mars 1999, p5 Cité par Helen Nissebaum & Finn Brunton – Obfuscation- C&F Ed - p66

4. Revealed : women’s fertility app is funded by anti-abortion campaigners - Jessica Glenza - 30 Mai 2019 The Guardian

5. L’austérité est un algorithme – Hubert Guillaud – 6 février 2018 - InternetActu

Algocratie ?

Au départ, il y a la procédure ; une simple recette de cuisine par exemple, soit un ensemble d’actes et de règles qui permettent à quelqu’un de réaliser quelque chose qu’il connaît peu ou pas. Mais d’emblée, nous savons tous que suivre pas à pas une recette peut conduire à un désastre culinaire. Faire la cuisine nécessite avant tout de comprendre l’eau et le feu, choisir les aliments… Vous ne cuirez pas nécessairement de la même manière des carottes selon l’épaisseur de la semelle de votre casserole, la fraîcheur des légumes, la taille du récipient, la manière dont le couvercle est hermétique, le fait que vous le soulèverez ou non toutes les cinq minutes, etc.

Une recette, une procédure qui précise des étapes, c’est déjà un algorithme.

Mais comme on le voit, si la recette a son utilité, car elle offre un cadre, sa réussite dépend de l’environnement humain et non-humain, de notre histoire, de la manière dont nous parvenons à nous en décaler, bref de notre subjectivité et de notre expérience.

Voilà qui vient compliquer la tâche de celui qui édicte la procédure et qui voudrait qu’elle soit respectée point par point ; il aura beau être de plus en plus précis, il ne parviendra jamais à l’être.

Et pourtant, c’est bien cette tendance à l’extrême précision vers laquelle s’engagent souvent les institutions, jusqu’au moment de constater que pour aboutir aux objectifs fixés, il y a lieu de ne pas totalement respecter la procédure, ou pas tout le temps… L’ingénieur en sciences du travail sort de ses calculs une manière plus efficace de serrer les boulons, le chef d’atelier à moitié convaincu la transmet aux ouvriers pour qui cette procédure s’avère sans intérêt au point que parfois ils ne l’appliquent pas et… tout va bien. Une étude6 dans le milieu pharmaceutique mentionne 30 % de non-respect des procédures sans effets sur le produit fini. Vient alors le concept, rassurant pour les managers, de « normalisation de la déviance ». D’autres rappellent la différence entre travail réel et travail prescrit et insistent sur l’importance de la transmission humaine.

Comme on peut le comprendre, tout cela peut fonctionner tant qu’on peut discuter. Mais comment discuter avec un algorithme ?

Notons que le concept de « bonnes pratiques » relève également de ce monde procédural et maintient l’illusion qu’il y a moyen de prédéterminer les actes permettant d’aboutir à un résultat. C’est partiellement vrai pour réduire un bras cassé, mais non pour accueillir un enfant difficile, un parent débordé ou un patient délirant. Quoi que… Tel est le rêve de certains, nous y reviendrons.

Avec les algorithmes d’aujourd’hui nous allons un cran plus loin. À la suite de Michel Foucault, Antoinette Rouvroy parle de gouvernementalité algorithmique. Nous avons privilégié le terme d’Algocratie parce qu’il laisse entendre que le processus échappe à l’usager, qui de sujet devient assujetti. Parfois même, à l’instar de la créature de Frankenstein, l’algorithme s’émancipe de son patron et devient monstrueux. Monstrueux comme la voiture autonome qui, face à un choix, blessera un usager plutôt qu’un autre (selon son score social ?) ou encore comme les armes autonomes et autres robots tueurs contre lesquels plus d’un millier de personnalités signèrent un appel7 en 2015. Cette autonomie est également due à l’imbrication d’algorithmes les uns dans les autres au point de ne plus exactement savoir ce qui s’y passe et de se contenter de l’intérêt (provisoire ?) du résultat. On parlera de « machine learning », l’algorithme étant censé apprendre au fur et à mesure qu’il absorbe de nouvelles données. Mais en fait, nous sommes face à une « boite noire », loin d’une position scientifique qui exige que l’on soit capable de reproduire et expliquer un phénomène.

On l’aura compris, en retenant le terme d’algocratie, nous voulons indiquer que ce n’est pas tant l’algorithme en lui-même qui pose problème que la manière dont il nous échappe. Ou plus exactement le fait que ses propriétaires ont choisi qu’il nous échappe.

Aujourd’hui, l’algorithme est devenu le cœur de la technique, c’est l’algorithme qui nous recommande lectures, voyages, achats, assure le service clientèle, régule le carburateur de notre voiture, fait fonctionner un robot et ouvre la porte au transhumanisme, permettant que nos corps soient « augmentés », augmentés surtout du fantasme d’être un jour Dieu.

Les algorithmes, la technique

En 1964, Gunter Anders adresse une lettre au fils d’Eichmann, dans laquelle il fait le lien entre la machine et la catastrophe nazie : la technique est devenue tellement gigantesque, imbriquée, auto-expansive qu’aucun humain n’a plus la possibilité d’en percevoir l’ensemble et qu’il y perdra son humanité.

À l’heure où personne ne semble reconnaître sa responsabilité dans la chute du pont de Gênes, on se rappelle l’exemple que donne Jacques Ellul8 d’un barrage qui craque. Qui est responsable, demande-t-il ? Les géologues qui ont étudié le terrain ? Les ingénieurs qui en ont établi le profil ? Les différents corps d’ouvriers qui l’ont construit ? Les responsables politiques qui ont pris la décision ? Etc. Qui est responsable ? Personne. Il n’y a jamais personne du fait que les tâches sont tellement fragmentées. Il n’y a plus de responsable et hélas plus personne non plus en capacité d’appréhender un ensemble.

Il n’est pas étonnant que l’on revienne à la lecture d’Anders, Illich, Ellul ou Castoriadis, car ce qu’ils ont exprimé dans les années 60-80 recouvre une nouvelle actualité.

Le XXe siècle est marqué par Auschwitz et Hiroshima, le management et la technique qui dépassent l’entendement humain : comment appréhender de telles catastrophes ? Dans les années qui suivirent, ces préoccupations, loin de s’atténuer, s’intensifièrent avec la prolifération du nucléaire au plan de l’armement d’abord (guerre froide) et civil ensuite.

C’est en 1973 que Castoriadis rédige l’article sur la « technique » pour l’Encyclopaedia Universalis.

Une réflexion sur la technique ne peut être séparée d’une réflexion sur le travail, sur la création. Pour Aristote, le faire humain est créateur : soit la technique imite la nature soit elle effectue ce que la nature est dans l’impossibilité d’accomplir9. Ainsi, l’Homme, par cette créativité, engendre un monde humain. Mais très vite, ce monde, via la technique, est asservissement de la nature et d’autres Hommes. La nature est domptable en fonction des besoins humains et la technique au sein de laquelle se concentrent efficacité et rationalité aurait été détournée des communs par la classe capitaliste.

Et Castoriadis de reprendre « la grande thèse de Marx qui domine encore aujourd’hui le sujet : l’état de la technique (des « forces productives ») à un moment donné détermine l’organisation de la société, car il détermine immédiatement les rapports de production, et médiatement l’organisation de l’économie d’abord, de l’ensemble des « superstructures » sociales ensuite ; le développement de la technique détermine les changements de cette organisation.10» On voit alors comment en découlent la vitesse (indispensable dans un monde compétitif), l’obsolescence (pour maximiser le profit) et surtout la suppression de l’humain dans le processus de production ; car s’il est bien un facteur source d’inconnues, c’est l’humain, aux prises avec sa subjectivité, inconscient compris.

Castoriadis ne relève qu’une limite de cette tendance à l’automatisation intégrale du procès de production « car, pour qu’elle atteigne vraiment son objectif, il faudrait aussi automatiser le procès de consommation ». Nous voyons aujourd’hui à quel point cette limite se réduit autant par les algorithmes qui choisissent pour nous alimentation, loisirs voire partenaire ainsi que les modalités de paiement qui n’obligent parfois même plus à cliquer.

On pourrait donc dire que les algorithmes représentent l’extrême de la technique, sa dématérialisation, son cœur et les problèmes qu’ils engendrent prennent un tour paroxystique.

Des data, encore des data

Pour que les algorithmes fonctionnent, il faut les alimenter. Ils sont nourris de données, lesquelles sont récoltées en continu par les traces que nous laissons : bien sûr, notre smartphone, nos achats en ligne, nos mails, notre carte de fidélité, notre carte de banque, le GPS de notre voiture, même certains vibromasseurs… Mais aussi par les traces récoltées par d’autres dispositifs tels les caméras de surveillance (bientôt capables de lire sur les lèvres). Tous ces outils nous rendent la vie plus facile ou sont censés nous la rendre plus sécurisée. On remarquera à ce propos le glissement sémantique11 où vidéosurveillance est devenu (très officiellement) « vidéoprotection »12

Afin d'augmenter les données recueillies, il y a d’une part l’augmentation des dispositifs, mais aussi l’ensemble des stratégies mises en œuvre sur internet afin de nous maintenir sur un site ; c’est ce que l’on dénomme « économie de l’attention ».

Bref la tendance générale va vers une reconnaissance de nos empreintes digitales, de notre visage, de notre voix et une traçabilité de nos mouvements, de nos choix, de nos décisions, de nos sentiments… En ce qui concerne l’argent (indicateur de bon nombre de nos choix), on assiste aux multiples mouvements combinés : les recommandations et autres processus qui poussent à l’achat (à un prix variable selon notre profil), ceux qui simplifient notre vie (achat et livraison en un clic) et la pression pour une disparition du cash (plus difficilement traçable).

Mais ce qui est extraordinaire, c’est que l’ensemble de ces données peuvent être récoltées de manière large et anonymisée, croisées et malaxées ensuite pour, in fine, produire des prescriptions pour un individu précis. Plusieurs études montrent que si nos données sont anonymisées avant de pouvoir être partagées ou vendues, il est possible de ré-identifier les personnes grâce à un algorithme capable d’identifier quels critères peuvent rendre une personne unique dans un groupe donné13.

La surveillance permanente

Les algorithmes ont donc besoin de datas et pour récolter ceux-ci, une surveillance permanente est nécessaire.

De cette surveillance consentie émerge le mythe du « Je n’ai rien à cacher », affirmation que l’on peut comprendre dans la mesure où le voyeur est invisible. Mais imaginons un instant quelqu’un qui lit notre correspondance, entend la manière dont nous parlons à notre conjoint, nos enfants, sait ce que nous pensons, aimons et nous voit aux toilettes ou quand nous nous masturbons… Qui imaginerait mettre une webcam dans chaque pièce de son habitation, dans sa voiture, à son travail… ?

Pourtant, nous y sommes. C’est la raison pour laquelle Dominique Quessada propose le terme de « Sousveillance »14

« Surveiller », c’est « veiller sur », ouvrir des yeux scrutateurs de façon particulièrement intense. Le sur-veillant est toujours en position épiscopale (littéralement : celui qui voit les choses d’en haut) par rapport au sur-veillé. Ainsi, là où « sur-veillance » désigne une modalité de contrôle basée sur un scopique redoublé – ouvrir les yeux depuis un « dessus » d’où l’on regarde –, « sous-veillance » pourrait en nommer une pratique reposant sur un scopique atténué (…) La sousveillance est un dépassement de la surveillance en ce qu’elle est légère, discrète, immatérielle et omniprésente. Le « sous » de sousveillance en désigne le côté plus insidieux, l’action de quelque chose qui travaille « par en dessous ».

La technique vient en appui ou en remplacement d’une incapacité humaine. Ainsi télescope ou microscope augmentent les capacités de la vue, mais le sujet reste maître de ce qu’il perçoit. Aujourd’hui toute lunette à capacité augmentée nous permet de voir des éléments invisibles à l’œil nu, mais offre cette même possibilité au fabricant dudit outil. Qu’il s’agisse d’un thermostat, d’un capteur du cœur ou du sommeil, d’une chaîne stéréo… tous ces « devices » recueillent en continu nos interactions, données personnelles et celles de notre environnement. Et le plus souvent sans notre consentement ou en forçant celui-ci, telle la technologie mise au point par Generali dont le contrat d’assurance intègre l’accès aux data de notre voiture, avant de nous prescrire comment la conduire.

6. Nyssen A-S. - Catastrophe de Hal : l’illusion de tout contrôler grâce à des règles ? - Le Soir - 19 février 2010

7. Stephen Hawking et Elon Musk réclament l’interdiction des « robots tueurs » - Morgane Tual - 27 juillet 2015 - Le Monde

8. Betrayal of Technology : A Portrait of Jacques Ellul - IKON televisie – 1993 – Sur Vimeo

9. Aristote Physique B, 8, 199 a, 15-17.

10. Castoriadis Article « Technique ». Encyclopaedia Universalis. Volume 15 (mars 1973), republié dans « Les carrefours du Labyrinthe I », 1978, pp. 221 - 248.

11. Quand la «vidéoprotection» remplace la «vidéosurveillance» - 16 février 2010 - Le Monde

12. LOI n° 2011-267 du 14 mars 2011 d’orientation et de programmation pour la performance de la sécurité intérieure (1) – Légifrance

13. Données personnelles : une étude enterre (définitivement) l’anonymat - Lucile Meunier – 27/07/2019 - Usbek & Rica.

14. Ce terme de « sousveillance » a été inventé par Dominique Quessada (Quessada Dominique - De ) en août 2009 à la faveur des ébullitions du présent dossier (Multitudes 2010/1 (n° 40)). Vincent Puig, de l’Institut de Recherche et d’Innovation du Centre Pompidou, aurait entendu pour la première fois le mot dans la bouche d’un chercheur américain… Mieux : début décembre, au moment du bouclage de ce dossier, nous l’avons découvert dans une recension du journal du CNRS de décembre 2009. Dans Voir et pouvoir : qui nous surveille ? (Le Pommier, octobre 2009), Jean-Gabriel Ganascia utiliserait le terme « sousveillance » dans un sens positif, pour identifier le « quatrième pouvoir » naissant du Web 2.0 et de la multiplication des dispositifs matériels qui permettent « à tout le monde d’enregistrer des images et des sons et de les diffuser à la planète entière ».

Les effets de l’algocratie

Quels sont les effets de l’algocratie et en quoi cela nous concerne ?

Et l’intimité ?

S’il est bien une question essentielle à nos yeux, c’est celle de l’intimité et l’on peut émettre l’hypothèse qu’elle se voit ici profondément troublée. La séparation entre vie publique et vie privée, fondamentale aux démocraties, est en écho à notre distinction entre réalité objective et réalité psychique, conscient et inconscient. Notre intimité, nous ne la partageons que partiellement et certains de ses aspects restent obscurs, y compris à nous-même. L’enfant construit sa vie psychique en se différenciant peu à peu de ses parents. Un petit mensonge, par exemple, lui permettra de vérifier qu’ils ne sont pas dans sa tête, et il va ainsi progressivement construire sa personnalité.

Les domaines de l’intimité varient avec les cultures, avec les époques. Ces dernières années ont vu l’émergence de ce que Serge Tisseron appelle l’extimité, la part de notre intimité que nous souhaitons partager avec les autres, notamment pour la faire valider, ce qui contribue également à la construction psychique (de l’adolescent souvent).

La difficulté ici réside dans le fait que les données ne se limitent pas à ce que la personne montre mais bien à ce que la sousveillance voit et garde en mémoire. En effet, celle-ci récolte nettement plus de données que celles que souhaite montrer l’utilisateur. Ainsi par exemple toute photo prise avec un smartphone contient dans ses données nombre d’éléments techniques, dont la date et la position GPS de la prise de vue. Si vous la publiez sur Facebook, ou la rangez dans Google photos, vous-même mais aussi les autres personnages seront enregistrés et répertoriés (par reconnaissance faciale notamment). L’autre aspect est la durée dans le temps. On pouvait sourire du marin qui s’était tatoué « À Ginette, pour la vie » et qui depuis lors avait rencontré bien d’autres Marguerite ou Chantal. La sousveillance conserve tout et peut nous le resservir à tout moment. Par exemple à celui qui se présente pour un travail et se voit reprocher un comportement alors qu’il était étudiant. Et inutile de rêver qu’un pseudo puisse protéger.

L’expérience que nous avons des régimes totalitaires à la surveillance généralisée est celle d’une autocensure mais aussi d’une mise à mal des liens sociaux. Leur préoccupation est de savoir ce que pensent les citoyens et donc d’intervenir avant toute action. Dans 1984, Orwell avait d’ailleurs imaginé la Police de la Pensée. Lors des élections législatives allemandes de mars 1933, les nazis refusaient le secret du vote. L’isoloir (bien juste terme) est consubstantiel à la démocratie.

Quels vont être les effets psychiques de la sousveillance ? Du côté du faux-self, de la perte de spontanéité ? Ou du renforcement des surmois archaïques et tyranniques ; un retour au « Dieu sait tout, entend tout, voit tout » et nous corsète ?

Notre subjectivité, notre capacité de penser impliquent la possibilité ET l’autorisation de tout penser, de tout imaginer, de tout phantasmer… Cela inclut un droit au secret. Nous évoquons d’ailleurs le « jardin secret » pour dénommer cet indispensable espace psychique que nous ne partageons pas, que nous gardons par-devers nous15. Or, sans que nous en ayons conscience, nos fantasmes sont déjà répertoriés, et pas seulement par la visite de sites pornographiques.

Le rapport à la norme et la déviance

La sousveillance, on l’a vu, vise essentiellement à prévoir, prédire les comportements des groupes ou des individus. Il ne s’agit pas seulement de faire des recommandations d’achats – ce qui en cas d’erreur ne porte pas à conséquence – mais aussi d’attribuer un crédit à l’habitation, un revenu minimum voire de piloter une intervention de la police.

Normes et déviances de celles-ci varient profondément selon les cultures et régimes politiques. Nous n’allons pas évoquer ici la manière dont la sousveillance est utilisée par des régimes autoritaires, des milices privées, ni comment des dispositifs sont vendus à certains pays, comme ce fut le cas lors des printemps arabes.

Nous ne parlerons pas non plus de la Chine, aux multiples caméras de surveillance et aux notations intégrées au système de payement de votre smartphone. Là-bas, votre « crédit social »16, lié à votre comportement de « bon citoyen » et à la qualité de votre réseau social, détermine si vous avez le droit de voyager, d’occuper un logement confortable, de louer un vélo, d’obtenir un prêt, d’accéder à certains services sociaux ou établissements scolaires, de vous inscrire sur un site de rencontres, d’être exempté de faire la queue au contrôle de sécurité de l’aéroport international de Pékin…

Restons-en à nos démocraties en ayant à l’esprit que l’ensemble des dispositifs existants rend aisément possible l’installation d’une dictature.

En 1956, Philip K. Dick, publie sa nouvelle Minority Report que S. Spielberg adaptera pour le cinéma. Dans ce texte, des êtres humains mutants, les précogs, peuvent prédire les crimes à venir grâce à leur capacité de précognition. C’est exactement ce que cherchent à faire des programmes tels «PredPol» (USA) vendus aux services de police.

En 2018, lors de l’annonce en Belgique du projet de iPolice qui consiste en l’utilisation de bases de données et d’algorithmes pour prévoir la criminalité avant même qu’elle ne se produise, le porte-parole du ministre de l’intérieur nous gratifiait de cet oxymore : « Mais qu’on se le dise : la liberté reste pour nous aussi une valeur supérieure. Nous ne permettrons jamais que les choses tournent à une surveillance à la Big Brother. Mais la sécurité est aussi nécessaire pour être libre. »17. Benjamin Franklin disait qu’« Un peuple prêt à sacrifier un peu de liberté pour un peu de sécurité ne mérite ni l’une ni l’autre, et finit par perdre les deux. »

Mais il faut bien comprendre que cette question de prévention crée une rupture quant à la causalité entre faute et punition puisque l’idée est bien que la police intervienne avant l’acte délictueux. Le personnage de Ph.K.Dick en fait la valorisation « Vous avez audacieusement et efficacement aboli le système punitif post-crime fondé sur l’emprisonnement et l’amende. Comme nous le savons tous, la perspective du châtiment n’a jamais été très dissuasive ; quant aux victimes, une fois mortes elles n’en retiraient guère de réconfort. (…) Donc l’acte criminel proprement dit ne relève strictement que de la métaphysique. C’est nous qui proclamons ces gens coupables. Eux se prétendent éternellement innocents. Et en un sens, ils sont innocents (…) Notre société ne connaît plus le crime grave, (…) mais nous avons tout de même un camp de détention peuplé de criminels potentiels ». Ainsi, nous passons de la présomption d’innocence à la présomption de culpabilité ; même la notion d’appel, importante en justice, n’a plus de raison d’être.

Outre ce saut particulièrement préoccupant, on peut se demander si cela fonctionne. Dans la mesure où les algorithmes créent des modèles à partir des données qu’on leur fournit, si ces données contiennent des biais, l’algorithme va les reproduire. Ainsi, aux USA, on a pu montrer que les données produites sont discriminantes vis-à-vis de noirs, ce qui reflète la surévaluation des policiers. De même, l’algorithme va sous-évaluer les besoins là où manquent des données. Pour les chercheurs qui se sont penchés sur Predpol, les résultats sont accablants18 et jettent de nombreux doutes sur la capacité du logiciel à réellement prévoir des crimes. Il s’agit, conclut Bilel Benbouzid, d’« un cas parmi d’autres d’un mouvement général de commercialisation de savoirs privatisés à destination de l’action publique (… dont) les techniques de marketing utilisées réduisent les discussions à de la persuasion. »19

Les corrélations, qui ne peuvent rendre compte de la complexité, risquent d’aboutir à des raccourcis décisionnels simplificateurs. Dans le domaine de la santé mentale, on se souviendra du mouvement Pas de zéro de conduite pour les enfants de trois ans20, lancé en 2006 en France, en réponse au rapport de l’Inserm qui préconisait le dépistage du « trouble des conduites » chez l’enfant dès le plus jeune âge. Dans la foulée, le Gouvernement de l’époque avançait un projet de loi comprenant notamment dépistage précoce et carnet de comportement dès la maternelle. Le projet fut retiré suite à l’appel signé par près de 200 000 professionnels rappelant à quel point la réalité du développement de l’enfant est nettement plus complexe.

La capacité de juger ?

S’il est bien un domaine humain, c’est celui de juger. Mais là encore, l’arbitraire ou le doute s’avèrent possibles. D’où la tentation de vendre des logiciels.

Ainsi, aux USA, Compas a pour but d’aider le juge à décider d’une remise en liberté conditionnelle. Ici encore, le logiciel s’avère discriminatoire envers les personnes noires21.

Beaucoup plus classique et déjà sur les voies, des programmes scannent la jurisprudence et proposent des montants d’indemnité de licenciement de retards d’avions, ou des pensions alimentaires.

Le 27 juin 2019, la Chine mettait en ligne le Tribunal Internet de Pékin comprenant notamment une juge virtuelle, à la voix et aux expressions faciales soignées, pilotée par intelligence artificielle.

En Europe, toute une série d’entreprises font du lobbying pour qu’avance la « legaltech » : numérisation (et privatisation) de la justice, procédures en ligne, jugements rédigés, voire rendus, par un algorithme. Le tout devenant à son tour la gigantesque base de données nécessaire aux algorithmes d’une justice elle aussi prédictive.

Si cela peut avoir du sens pour déterminer une amende pour excès de vitesse, ce qui est aisément quantifiable, il n’en va pas de même pour de multiples situations. En effet, rappelle Jean Lassègue22 « La justice, ce n’est pas seulement appliquer la loi. C’est réussir à ce que, par une opération très ritualisée et très complexe, on arrive à se mettre d’accord sur l’issue d’un certain litige. Et tout ça prend du temps. C’est pour cela qu’un procès, c’est long et compliqué, et avec toutes sortes de ritualisations collectives. Si l’on oublie toute la dimension anthropologique du droit pour ne conserver que sa dimension algorithmique, ce qui est un rêve formaliste pour certains juristes, on rate le but qui est de rendre justice. ».

Privatisation et surveillance

On le voit, l’algocratie s’inscrit et intensifie un mouvement de privatisation où des pans entiers relevant de l’intérêt général, autrefois gérés par les pouvoirs publics, se voient privatisés : écoles, maisons de repos, cantines, armées, polices, prisons. On imagine sans peine les dérives que cela implique : fini un enseignement de qualité gratuit pour tous, nous sommes dans l’ère du premium, de celui qui peut payer (et c’est ce que peut déterminer l’algorithme qui calcule le potentiel de solvabilité future d’un étudiant). Il devient donc très rentable d’ouvrir des universités. Quant aux prisons privées, leurs actionnaires ont tout intérêt à bien calculer leur taux d’occupation et on peut imaginer le lobbying que peut alors exercer le système carcéral sur le système judiciaire ; d’ailleurs, des clauses d’occupation sont parfois prévues23. Pensons aussi à la manière dont peuvent être surfacturés les produits de cantine aux détenus 24 ou aux « sous-locations » des établissements pénitentiaires hollandais à la Belgique ou à la Norvège25. Le propos ici n’est pas de faire un exposé sur la privatisation, mais il s’agit bien d’en saisir l’accélération grâce aux algorithmes.

Et cette accélération est omniprésente. Si elle reste visible et théoriquement modifiable dans un logiciel qui détermine le temps accordé à une rencontre (à un guichet ou lors d’une consultation), elle devient hors de portée dans des domaines tels celui de la finance où le trading algorithmique à haute fréquence place 70 à 90 % des ordres de vente et d’achat sur les bourses26. Ces transactions, qui se déroulent en fraction de secondes (4 millions de fois plus vite que le système nerveux), peuvent en un instant vendre, acheter et revendre la même action, le tout de manière totalement déconnectée de l’économie réelle, de la production de biens ou services.

En ce qui concerne le glissement du public au privé, prenons l’exemple de DoorBot : en 2012, Jamie Siminoff propose sa sonnette connectée. On sonne à notre porte et où que nous soyons dans le monde, grâce à notre smartphone, nous voyons notre visiteur et pouvons lui parler. Son projet ne convainc pas les investisseurs, mais il persévère ; peu à peu les clients arrivent et le projet s’étoffe : surveillance du jardin, détecteurs de fumée, liaison avec les appareils auditifs, création d’une application visant à la surveillance du quartier en partageant les informations entre voisins, etc. En 2018, la firme s’appelle Ring et est rachetée par Amazon pour plus d’un milliard de dollars. Et là, les choses prennent leur envol : Ring fait appel aux services de police pour promotionner ses caméras de surveillance en échange de produits gratuits et d’un « portail » qui permet aux forces de l’ordre d’avoir accès à ce réseau. Reste à le coupler à un système de reconnaissance faciale pour aboutir à un maillage de surveillance complet.27 C’est en quelque sorte ce qui se passe au Zimbabwe où les autorités vont vendre les visages de leurs citoyens à la compagnie chinoise Cloudwalk (qui manque de données sur les personnes à la peau noire). En échange, celle-ci fournira gracieusement les équipements28. « Du public-privé on va passer au privé-privé, et très vite le Cercle deviendra responsable de tous les services gouvernementaux, avec l’efficacité incroyable du privé et un appétit sans borne. Tout le monde sera citoyen du Cercle »29.

L’effacement de l’interlocuteur

À une remarque, un préposé répond de plus en plus souvent : « Je n’y peux rien, c’est l’ordinateur, c’est la procédure, c’est le management… » Bref, c’est comme ça, de la même manière que la terre tourne autour du soleil. Cet agent dit ainsi qu’il n’a aucun pouvoir sur ce qui se passe. Du coup, il devient impossible de discuter, d’entrer en conflit avec lui. Sans doute peut-on relier l’augmentation de l’agressivité brute et non médiatisée à l’augmentation de la distance entre l’usager et celui à qui il s’adresse. Si le discours évoque l’humanisation et le souci du client, dans la pratique celui-ci doit de plus en plus fréquemment faire face à une mise à distance (bot, vitres épaisses, pas de contact téléphonique…) Or, la vie démocratique est faite de désaccord et d’une discussion médiatisée de ces dissensions. Comment délibérer si l’interlocuteur disparaît ?

Dans le milieu du travail, la pointeuse, sous prétexte de justice et d’objectivité, dispense le responsable d’un service de prendre ses responsabilités, de faire une remarque à un tire-au-flanc ou d’entendre les arguments d’un autre ; bref, d’occuper sa place. Bien sûr, il n’est pas question de revenir à l’âge de pierre et de vouloir gérer au calcul mental la paye d’une entreprise, mais l’exemple de la pointeuse – B.a.-ba de l’algorithme – permet de comprendre l’effacement de l’interlocuteur et la résignation, ou agressivité brute qu’il suscite. Les processus de recrutement par algorithmes sont un autre exemple : plus besoin de remplir des formulaires ou examens complexes, il suffit de donner l’accès à sa boite mail – vous n’avez rien à cacher, n’est-ce pas ?

Quid de la place du tiers ?

Si l’interlocuteur s’efface, le tiers lui aussi peut voir sa fonction altérée. Petit détour : qu’est-ce que le tiers ? Le tiers, c’est ce qui vient séparer l’enfant collé à son parent30, trancher un conflit de voisinage, mettre de l’air dans un désaccord. On dira que la loi fait tiers, mais pour ce faire, elle doit être incarnée, portée par le pouvoir judiciaire. La position tierce tient le coup pour autant que celui qui en exerce le contrôle – le pouvoir judiciaire – se différencie de celui qui l’édicte, le pouvoir législatif. Sinon, il y a collusion. Nos démocraties fonctionnent selon cette séparation des pouvoirs. Dans certains cas, on peut s’interroger sur la position de tiers dans laquelle est mis l’algorithme.

L’Éducation Nationale française a mis en place un dispositif (l’algorithme de ParcourSup) censé être impartial afin de :

« renforcer l’accompagnement à l’orientation pour aider les élèves de terminale à construire leur projet d’études

favoriser la mobilité sociale et géographique et garantir ainsi un accès plus juste à l’enseignement supérieur

améliorer la réussite des étudiants, notamment en licence dont le taux d’échec reste trop important, grâce à la personnalisation des parcours dans l’enseignement supérieur » 31

Hélas, si les objectifs sont louables, le dispositif fait face à de nombreuses critiques et les chercheurs rappellent qu’il faut cesser « de penser que les algorithmes prennent des décisions ; ils ne font qu’exécuter les choix de ceux qui les ont écrits32 » Que ce soit pour prédire des crimes ou pour attribuer de l’aide sociale, l’opacité de l’algorithme empêche son contrôle et permet une collusion entre deux registres. Il ne s’agirait pas d’aboutir à la décision la plus juste mais à une réduction budgétaire, par exemple.

Néanmoins dans certaines situations on remarquera, surtout si l’on a accès au code, que le tiers désincarné représenté par l’algorithme a tout son intérêt. On peut l’illustrer en partant des blockchains. Une blockchain est un calcul dont le résultat contient en lui-même l’ensemble de ses opérations, de ses transactions précédentes. Chaque transaction est gardée en mémoire et s’intègre au résultat final, lequel change donc à chaque opération et est infalsifiable. Les cryptomonnaies33 sont des blockchains, mais de très nombreuses autres applications également. Ainsi par exemple un registre cadastral peut être construit grâce aux blockchains, chaque titre de propriété contenant en lui l’ensemble des informations relatives aux propriétaires précédents, montant et dates de vente, etc. C’est un peu ce qui se passe en version papier mais de manière limitée dans un bureau de cadastre. On comprendra tout l’intérêt d’un tel système confié à l’algorithme dans un pays où les titres de propriété peuvent être volés ou falsifiés. Cet exemple nous indique que dans les pays ou institutions dans lesquelles le tiers ne peut, ne veut remplir son rôle, l’algorithme a tout son sens parce que là, il fait tiers. Nous reviendrons d’ailleurs plus tard sur le fait que ce n’est pas tant l’algorithme qui pose problème que la manière dont il est majoritairement mis en œuvre actuellement.

La question du tiers touche également à la neutralité de la science, de la technique. Castoriadis formule la question en ces termes : « Comment pourrait-on séparer les significations du monde posées par une société, son « orientation » et ses « valeurs », de ce qui est pour elle le faire efficace, dissocier l’organisation qu’elle impose au monde de l’incarnation la plus proche de cette organisation : son instrumentation dans les procédés canoniques de ce faire ? »34. En d’autres termes, la technique imprime l’orientation d’une société. Pour revenir à l’algorithme de Parcours Sup, une des scientifiques ayant travaillé sur le programme se voit poser la question : « Dans quelle mesure l’utilisation des algorithmes est détachée de toute forme de morale ou d’idéologie ou de fin poursuivie qui viendrait influencer la manière dont ces algorithmes sont utilisés ? ». Sa réponse : « Disons que les questions que j’ai à résoudre en tant que scientifique n’ont pas en elles-mêmes de dimension morale. » 35 Ah bon ?

La science n’est jamais neutre ; on commence à entendre parler d’équipes de recherches qui interrompent leurs travaux algorithmiques.

Les relations transformées

En 2016, un épisode36 de la série Black Mirror présente une société régie par la cote personnelle, chacun étant coté de 1 à 5 par son entourage. Les mieux notés ont accès aux meilleurs services. L’héroïne de l’épisode a absolument besoin d’élever sa cote pour occuper l’appartement de ses rêves. Afin d’y parvenir, elle réussit à être choisie comme demoiselle d’honneur au mariage d’une amie d’enfance qui, elle, a un score très élevé. Mais le trajet vers ce mariage est plein d’écueils, au point que la cote de notre héroïne a tellement baissé que la mariée n’en veut plus, craignant de voir sa cote à elle baisser.

Charlie Brooker, créateur de la série, indiqua à plusieurs reprises que son inspiration ne vient pas de la fiction, mais bel et bien de notre propre contemporanéité. On a précédemment mentionné la façon dont les autorités chinoises organisaient le crédit social de leur population. Mais déjà en 2012, Facebook brevetait une méthode d’évaluation de crédit capable de prendre en compte les scores des personnes de notre réseau. Nos amis se voient attribuer un score moyen et si cette moyenne est inférieure à un certain minimum, on peut se voir refuser une demande de prêt. Des voyageurs, on l’a vu plus haut, se sont vu refouler des USA et leur visa annulé, car le douanier constatait que la personne avait des amis ayant émis des commentaires anti-américains. Les cliniciens mentionnent le fait que les adolescents veillent à ne pas être amis avec leurs condisciples qui ne seraient pas assez « populaires » sur les réseaux sociaux.

Pour Frank Pasquale, spécialiste du big data à la faculté de droit de l’université du Maryland, « on peut parfaitement imaginer un avenir où les gens surveilleront l’évolution de la cote de crédit de leurs amis et où, si elle est en baisse, ils les laisseront tomber de peur d’être eux-mêmes affectés. C’est terrifiant 37».

La question que nous souhaitons soulever ici n’est pas celle de l’intimité ou de la surveillance, mais de ses effets en chaîne sur nos relations sociales, sur nos « intimes ». Certes, nos « amis » des réseaux sociaux ne sont pas nécessairement nos vrais amis et de tout temps il fut question d’être bien vu des puissants ; mais on peut néanmoins s’inquiéter de la manière organisée dont cela se profile.

Au plan professionnel, nous assistons également à un système de notation. Après la notation des restaurants et hôtels, il y eut celle des services clientèle. Généralement nous avons affaire à un bot, mais si finalement nous parvenons à parler à quelqu’un (souvent dans un call center au Maroc ou à Madagascar), on nous signalera que la conversation est enregistrée et nous serons amenés à évaluer notre interlocuteur. Cette notation va de pair avec ce qu’il est convenu d’appeler l’uberisation du travail, un paiement à la micro-tâche, au clic parfois.

Du côté des pouvoirs publics, l’utilisation du numéro national dans un nombre croissant de bases de données et donc les agrégations possibles peuvent également aboutir à des notations. Ces croisements servent bien sûr à détecter la fraude fiscale ou sociale mais cela va parfois beaucoup plus loin : classification des internautes, des demandeurs de logements sociaux… Au Danemark, un système de points tente de détecter les enfants en situation de vulnérabilité. Des paramètres tels que la maladie mentale (3000 points), le chômage (500 points), l’absence d’un rendez-vous chez le médecin (1000 points) ou chez le dentiste (300 points) contribuent au score de chaque famille.38

Dans l’autre sens, on peut également s’attendre à ce que des gestionnaires publics se laissent contaminer et demandent aux usagers d’évaluer enseignants, infirmières, assistants sociaux. Que la qualité pédagogique d’un professeur puisse être discutée est, en soi, une avancée, mais quand on voit la manière réductrice d’obtenir les données calculables pour évaluer, il est difficile d’y espérer un progrès. Quant aux psychothérapeutes, la commercialisation de leurs services sur des sites internet laisse également prévoir notation ou commentaires sur les réseaux sociaux, sans compter la concurrence des applications de « fitness de l’âme » hyper personnalisées telles que Kip, Stoic, Quirk, Mindset Health...

Quant à notre spiritualité, déjà les marchands du temple se sont mis aux algorithmes : dans le temple Kodaiji (Kyoto, Japon), c’est un robot qui accueille les fidèles ; un robot qui figure Kannon, déesse bouddhique de la compassion !

La fin de l’inconscient ?

L’inconscient, constitué de traces de notre enfance, de ce que nous avons refoulé, relégué… reste pourtant bien actif. Cependant, il est agissant de manière masquée et, de manière détournée, nous amène parfois à prendre des décisions autodestructrices. Par essence, il s’échappe, nous échappe et bien sûr échappe au calculable. Voilà qui est bien embêtant pour l’algorithme qui a besoin de quantifier.

Nous assistons dès lors à toute une série de pressions qui visent à orienter les pratiques professionnelles vers du mesurable, vers des comportements. Il est évident que l’on mesurera plus facilement les effets d’une thérapie cognitivo-comportementale ou d’un médicament au regard d’un symptôme. Et c’est bien pour cela que d’année en année, le DSM se fait de plus en plus détaillé : comme un algorithme, ce manuel de psychiatrie d’origine américaine découpe la santé mentale en syndromes de plus en plus précis et tente de définir un traitement pour chacun d’entre eux.

C’est croire, comme les tenants de l’« evidence base medecine » que le symptôme est un dérèglement à corriger, alors que nous estimons qu’il est la tentative de résoudre un conflit intérieur. L’« evidence base medecine » est certainement très utile pour les bras cassés au sens propre, mais sans doute pas au sens figuré. De fait, ceux-là se voient rejetés des procédures de soins, et parfois à la rue. Plusieurs études évoquent l’important pourcentage de psychotiques parmi les SDF ; précédemment ils étaient à l’hôpital, à l’hospice, lieux qui partagent l’étymologie avec hospitalité.

Car évidemment, l’inconscient fait tache ; c’est d’ailleurs ce qu’il a toujours fait, ce petit fripon ! Il faut dire qu’il est non maîtrisable, incalculable. Que faire d’autre alors que de le laisser au bord de la procédure, voire d’en occulter le concept ? C’est quasi la voie prise début 2019 par l’Éducation Nationale souhaitant supprimer les notions d’Inconscient et de Travail (soit Freud et Marx) des programmes de philosophie en Terminale. Johan Faerber, à l’initiative de la levée de bouclier qui fit réintégrer ces notions dans les programmes, rappelle que le Ministre est ardent défenseur des neurosciences : avec ces « réformes », « les neurosciences restaurent une idéologie, celle du scientisme et du cerveau comme organe mais perçu comme un organe comme un autre. Ce que promeut le discours des neurosciences, c’est la grande banalisation du cerveau, qui est considéré comme le cœur, les doigts, les mains, à savoir un organe que l’on va pouvoir infiniment radiographier. Ici le cerveau n’est pas un discours : c’est un muscle et un muscle répond toujours à une tautologie : un muscle est fait pour se muscler. »39

Si l’inconscient est évacué, le transfert l’est tout autant. Rappelons que le transfert, c’est le fait que quelqu’un vive avec son amoureux, son patron, son collègue… une situation ancienne. Bien sûr, cela se passe également dans la relation d’aide. C’est la raison pour laquelle il est important que les psychistes soient sensibilisés au transfert. Nous reprenons sous le terme de psychistes (Tosquelles) tous les professionnels de l’aide, du soin, de l’éducation, les juges aussi… qui, pour exercer leur métier, mettent en jeu leur propre psychisme et sont sans cesse amenés à une pensée auto-réflexive : qu’est ce qui fait que je fais ce métier, qu’est-ce que je provoque chez l’autre, en quoi il me touche, etc. Qu’on le veuille ou non, ces questions imprègnent toujours la relation, laquelle ne pourra jamais se limiter à des actes, à une transmission de savoir…

On voit à quel point une formation qui évacue l’inconscient ainsi que des procédures qui ne tiennent compte que du conscient peuvent rendre l’aide inopérante. L’algorithme aura alors tendance à éjecter l’usager comme il a appris à le faire par exemple avec les consommateurs qui trop fréquemment renvoient un produit acheté ; ils sont rayés de la liste.

Le calcul et la mise à mal de la diversité

L’algorithme est calcul. Et calcul dans tous les sens du terme. La notion de sujet n’a rien à voir avec celle de consommateur, même si celui-ci est reconnu dans ses moindres désirs « personnalisés ». Le sujet échappera toujours à la calculabilité, car sa richesse est qu’il s’échappe partiellement à lui-même. Aux prises avec son inconscient, il est divisé et l’algorithme cherchera toujours à supprimer cette division, ce conflit.

La notion de sujet renvoie autant à celle d’unique qu’à celle de diversité, or l’un et l’autre posent problème à l’algocratie, qui va toujours tenter de revenir à du prévisible, en ce compris dans le langage. Les traducteurs automatiques sont très pratiques et leur portabilité nous permet aujourd’hui de parler avec un interlocuteur chinois sans jamais avoir dû apprendre la langue. Mais quel algorithme est-il capable de comprendre la poésie ?

Cet abrasement (justement mon dictionnaire ne connaît pas ce terme) de la langue correspond à la perte de la diversité au plan écologique. Construit sur le passé – même si c’est en y ajoutant la seconde qui vient de s’écouler – l’algorithme ne peut donc produire que du passé. Or l’évolution biologique est erreur, surprise et non copie. Sans erreur, sans diversité, sans création, il n’est que du même, de la mort.

Le langage

Le langage évoque la culture ambiante ou, plus exactement, comme nous l’a appris Orwell, ce que nous pouvons penser. L’appendice de 1984 – Principes du néoparler – est passionnant à cet égard. Il introduit son propos de la manière suivante : « Le néoparler n’avait pas pour seul objectif de fournir un idiome propre à exprimer la représentation du monde et les habitudes mentales (...), il visait aussi à exclure tout autre mode de pensée. Le néoparler adopté une fois pour toutes et l’obsoparler tombé dans l’oubli, toute pensée hérétique, c’est-à-dire déviant des principes (...), deviendrait littéralement impensable, si tant est du moins que la pensée dépende des mots. Son vocabulaire était conçu pour permettre une formulation exacte, voire subtile, de toute idée qu’un membre du Parti puisse vouloir émettre, à l’exclusion des autres, et ce y compris par des voies détournées. Il fallait donc créer de nouveaux mots, mais aussi et surtout éliminer les mots indésirables et dépouiller ceux qui restaient de leurs sens hétérodoxes, et d’ailleurs de tout sens second dans la mesure du possible. »

Relire, en équipe, la dizaine de pages de cet appendice pour ensuite repérer et refuser le vocabulaire ambiant peut être un stimulant travail d’équipe. On a mentionné plus haut le glissement entre vidéosurveillance et vidéoprotection et le slogan qui l’accompagne « Souriez, vous êtes filmés ». Aux trois slogans qui régissent ce monde orwellien - « La guerre c’est la paix. La liberté c’est l’esclavage. L’ignorance c’est la force » - le romancier Dave Eggers en suggère trois autres pour le monde de transparence qu’il imagine40 : « Les secrets sont des mensonges, Partager, c’est aimer, Garder pour soi, c’est voler »

Le « cost killer » laisse entendre que les coûts (les salaires ?) doivent être éradiqués comme des rats, ou alors on parlera de « dégraisser ». En fait, les modifications de langage visent également à étouffer le conflit. Le capitalisme s’appelle développement, la domination est devenue partenariat, l’exploitation a pris le nom de gestion des ressources humaines et l’aliénation est qualifiée par le terme projet, il n’y a plus d’exploités mais des exclus, plus de licenciements mais des optimisations, rationalisations41…

Dans nos mails, les algorithmes nous proposent une réponse42. Mais sans doute la modification la plus importante de ces dernières années consiste-t-elle en l’utilisation massive des émoticônes et la manière dont ils contribuent à l’appauvrissement des nuances au sein de la communication, appauvrissement qui va de pair avec la modification au plan de la technique et de la temporalité : le passage de la lettre au mail, puis au chat. Et de l’écrit à l’image ou à l’oral. Alors que jusqu’il y a peu l’alphabétisation était importante, actuellement, le mouvement va en sens inverse : les applications nous invitent à envoyer des messages vocaux, il en va de même pour les instructions aux machines, que l’on pourra bientôt piloter par la pensée. Bientôt, seuls les vieux schnocks continueront-ils de voir dans l’écrit un intérêt pour l’élaboration d’une pensée qui dépasse la satisfaction de besoins primaires ?

Par ailleurs, que l’« anglais basic » (850 mots) se répande pour tous n’est pas très inquiétant, mais ce qui l’est plus, c’est la disparition de langues, tel l’ouïghour, dont les locuteurs sont progressivement forcés à passer au chinois43.

Un monde sans limites, le transhumanisme

Si l’on comprend que chaque outil, du silex à l’ordinateur, est une prolongation du corps humain vient tôt ou tard la question de la limite et de savoir s’il est souhaitable qu’il y en ait une. L’humanité a toujours souhaité repousser cette limite et aujourd’hui, le smartphone par exemple vient augmenter notre mémoire, ou notre capacité de calculer. Nous ne discuterons pas ici de ce que cela vient retrancher car chacun des conforts a toujours son envers. L’escalator, utile au handicapé ou au parent avec poussette, coûte en installation, en entretien et retire le bénéfice de l’exercice de monter un escalier. L’ensemble – alternatives comprises – est rarement envisagé, comme l’a montré Illich44, qui propose la notion de vitesse généralisée d’une voiture en incluant le temps passé à travailler pour supporter le coût de cette automobile.

Tant que ces dispositifs sont à l’extérieur du corps, l’usager peut envisager de s’y soustraire, même si cela devient de plus en plus difficile, tout comme il devient compliqué d’obtenir un document officiel à un guichet physique, auprès d’un préposé en chair et en os.

Le transhumanisme franchit une étape puisqu’il s’agit de modifier son corps, de l’augmenter. Certains dispositifs ne sont pas algorithmiques : une broche pour réduire une fracture, un stent coronarien, un anneau gastrique… Mais d’autres le sont. D’abord les bracelets, patchs, capteurs transcutanés… qui restent en surface, mesurent tension artérielle, taux de glycémie… et injectent éventuellement une substance. L’étape suivante consiste dans l’intégration du dispositif : le pacemaker ou les capsules à ingérer, ou encore les puces greffées dans le cerveau, l’augmentation de la mémoire ou les interfaces neuronales pour commander une machine grâce aux ondes cérébrales.

Autant dire qu’à ce niveau, l’usager n’a plus la main sur ces dispositifs. En termes de santé, quelle est la valeur ajoutée du dispositif ? Car on constate que si l’espérance de vie progresse encore, l’espérance de vie en bonne santé, elle, diminue (excellent pour les marchés !) Et quid de la surveillance accrue ? Si l’on peut accepter le lien entre la capsule ingérée et le service hospitalier qui en assure le pilotage, il est plus compliqué de supporter celui reliant le bracelet électronique à la compagnie d’assurance qui paramètre le tarif de votre police à votre alimentation ou pratique sportive...

Plus largement – et c’est l’envers de la théorie du genre qui a désarrimé le sujet de son corps, de la nature –, jusqu’où la limite peut-elle être repoussée ? À quel moment le sujet se cogne-t-il au réel ? Faudrait-il attendre une catastrophe écologique ? Dans le transhumanisme réside un fantasme de toute-puissance : l’humain est fondamentalement limité, il ne peut faire tout en même temps et de manière éternelle, d’autant que notre planète est limitée. L’accepter n’est-il pas inhérent à « une vie bonne » (pour reprendre la formulation qui traverse la philosophie, d’Aristote à Judith Butler) ?

15.  « Sil est vrai que dans le registre du Je la possibilité de phantasmer présuppose celle de garder secrètes ces pensées, la perte du droit au secret comporterait d’un « en trop » à refouler, un « moins » à penser : deux éventualités qui risquent de rendre tout aussi impossible l’activité de penser et, par là, l’existence même du Je » Piera Castoriadis-Aulagnier – Le droit au secret : condition pour pouvoir penser – in Nouvelle Revue Française de Psychanalyse – n°14 - 1976

16. L’enfer du «social ranking» : quand votre vie dépend de la façon dont l’Etat vous note - Mara Hvistendahl – Mediapart - 18 août 2018

17. La police va prévoir la criminalité grâce à des algorithmes - Lars Bové - 30 août 2018 – L’Echo

18. Malgré l’affirmation de Predpol « a proven track record of crime reduction in communities that have deployed PredPol. Predictions use no personal information about individuals or groups of individuals, eliminating any personal liberties and profiling concerns. » https ://www.predpol.com/results/

19. À qui profite le crime ? Le marché de la prédiction du crime aux États-Unis - Bilel Benbouzid - 13 septembre 2016 - La vie des idées

20. Pasde0deconduite

21. Machine Bias - There’s software used across the country to predict future criminals. And it’s biased against blacks. by Julia Angwin, Jeff Larson, Surya Mattu and Lauren Kirchner – 23 mai 2016 - ProPublica

22. Jean Lassègue (philosophe) et Antoine Garapon (magistrat), auteurs de Justice digitale (PUF, avril 2018) Cité par Jérôme Hourdeaux - La justice se prépare à l’arrivée des algorithmes Médiapart, le 2 Janvier 2019.

23. This Is How Private Prison Companies Make Millions Even When Crime Rates Fall - Andy Kroll 19 septembres 2013 Mother Jones - En français dans Le Courrier International du 10/10/2013

24. Enquête sur le coût de la vie en prison - Franck Dedieu et Géraldine Meignan - 22/02/2011 – L’expansion-l’express

25. Pays-Bas : Les prisons mettent la clé sous la porte faute de prisonniers – 18 juillet 2018 - La Rédaction@8e_etage.

26. Wikipedia

27. Amazon Requires Police to Shill Surveillance Cameras in Secret Agreement - Caroline Haskins - 25 juillet 2019 – Vice & Five Concerns about Amazon Ring’s Deals with Police - Matthew Guariglia - 30 aout 2019 - Electronic Frontier Foundation

28. Reconnaissance faciale : quand le Zimbabwe vend le visage de ses citoyens- Jacques Deveaux - 03 août 2018 - Rédaction Afrique France Télévisions

29. Dave Eggers - Le Cercle - Gallimard, (2016 ) (Le Cercle est métaphore des GAFAM – Roman très chaudement recommandé par l’auteur de ces lignes.)

30. Dans le développement de l’enfant, on parle de « fonction paternelle », laquelle n’a rien à voir avec le sexe de celui qui l’exerce. Cette fonction est d’ailleurs parfois exercée par une institution, une crèche par exemple.

31. Accompagner les lycéens sur Parcoursup - Guide pratique à l’attention des chefs d’établissements, des professeurs principaux et des psychologues de l’éducation nationale - Janvier 2019 – Education.gouv.fr

32. Derrière l’algorithme de Parcoursup, un choix idéologique - Hugues Bersini - 8 juillet 2018 - L’Obs.

33. Même si elle en a quelque apparence, Libra, proposé par Facebook n’en est pas une. Que du contraire ! De nombreux articles ont été consacrés à cette question. Par exemple « Libra : les dangers du développement d’une monnaie privée » Tristan Dissaux, - 05 juillet 2019 - La Libre

34. La technique, ibid

35. Claire Mathieu (directrice de recherches au CNRS en informatique) ayant travaillé sur l’algorithme de ParcourSup, interviewée par Adèle Van Reeth le 6 mai 2019, sur France Culture. Il ne s’agit pas d’accabler celle qui répond en direct aux questions, nuancera son propos et laisse d’ailleurs entendre, en début d’émission, que ni la dimension poétique, ni l’être humain ne seront jamais mis en équation. Ce qui saute ici aux oreilles relève plutôt du lapsus.

36. S3-E1 : Chute lib

37. Cité par Mara Hvistendahl in L’enfer du «social ranking» : quand votre vie dépend de la façon dont l’Etat vous note – 18 août 2018 – Mediapart.

38. Personal Scoring in the EU : Not quite Black Mirror yet, at least if you’re rich - Nicolas Kayser-Bril - 7 aout 2019 – Algorithm Watch

39. Les neurosciences, outil managérial des « réformes » Blanquer - Johan Faerber - 27 mai 2019- Diacritik

40. Un monde où notamment chacun se promène avec une minuscule camera - Le Cercle - Gallimard, (2016 )

41. Olivier Starquit fait une bonne synthèse de la question et donne la bibliographie à laquelle se référer dans son article La novlangue néolibérale - 2010 - Barricade

42. Il ne fallut que quelques mois d’implantation pour que 10 % des réponses envoyées sur Gmail proviennent des « Smart Replies », générées automatiquement par l’algorithme de Google - 21 septembre 2018 - Numerama.

43. D’abord libératrice, la technologie a peu à peu piégé la communauté ouïghoure - Darren Byler - 23 Octobre 2019 - The Conversation

44. Énergie et équité - Ivan Illich, Le Seuil - 1973

Les effets pour les professionnels

Les effets de l’algocratie sont multiples pour les professionnels, on peut déjà le percevoir de ce qui vient d’être dit. Précisons quelques points pour les « psychistes» :

L’institution transformée

Les mouvements de pédagogie et de psychothérapie institutionnelle ont montré qu’au-delà du professionnel et de la relation individuelle qu’il pouvait établir, c’est l’institution dans son ensemble qui est aidante, éducative, soignante… Cela se marque autant dans l’agencement des lieux que dans la manière dont le jardinier parle avec les usagers. On parlera de « transfert diffracté » pour évoquer les différents mouvements transférentiels qu’un usager peut diriger vers l’un ou l’autre membre de l’institution. Ceci permet de comprendre l’intérêt d’associer tous les membres du personnel à la mission générale de l’institution.

Une salle d’attente ouverte dans laquelle travaille une secrétaire-accueillante n’a rien à voir avec un guichet équipé d’une vitre blindée et d’un lecteur de cartes d’identité. L’assistant social qui doit recevoir l’usager dans un open space ne travaillera pas de la même manière que s’il dispose d’un bureau dont il peut fermer la porte. L’adolescent en crise ne parlera pas à la femme de ménage si elle provient d’un service extérieur et est différente chaque semaine.

Les normes d’hygiène (poussées par lobbying) font en sorte qu’il devient de plus en plus difficile d’échapper aux repas industriels. Or, au-delà de la qualité gustative, la présence de cuisiniers, la possibilité de visiter la cuisine changent les rapports à l’institution. Dans une maison de repos, participer à la confection d’un repas n’aurait-il pas tout son intérêt en termes de convivialité et d’ergothérapie ?

Que penser du professionnel qui reçoit un usager, un patient et qui est obligé d’encoder un certain nombre de données ? Autant l’agencement du bureau que le regard, donc l’écoute, sont profondément modifiés. Sans compter que le questionnaire lui-même oriente la relation (voir plus loin), ou que le logiciel se déconnecte après un temps d’inactivité (du clavier !)

Les logiciels de vie scolaire sont un parfait exemple des dérives de l’algocratie. Sous couvert d’autonomiser les élèves, d’améliorer les relations avec les parents, d’aider les enseignants, ils coupent les relations humaines, déresponsabilisent parents, éducateurs et élèves, questionnent les notions d’intimité et d’autonomie, bref les fondements mêmes de l’éducation. Les signataires de l’Appel de Beauchastel dénoncent « une transformation implacable de nos gestes quotidiens, de notre langage, de notre rapport aux autres, de notre métier » et refusent en bloc leur mise à jour programmée. « Nous n’utiliserons pas le cahier de texte numérique, ni les multiples écrans dont on prétend nous équiper (tablettes, tableaux numériques ou même smartphones) »45. Des enseignants vont jusqu’à dire que « les logiciels de vie scolaire sont les caméras de vidéo-surveillance de l’Éducation Nationale »46. Soyons-en sûrs, certains gestionnaires ont déjà imaginé le lien « utile » entre ces logiciels et ParcourSup (évoqué plus haut). Quant aux portails de gestion des études supérieures (qui, comme des dealers, offrent un accès aux suites bureautiques, lesquelles seront payantes plus tard), ils font déjà le lien avec les services de recrutement : « Avec le Career Center, vous disposez de l’accompagnement nécessaire pour trouver un job étudiant, un stage, participer aux événements professionnels, découvrir et rencontrer les entreprises, trouver un emploi et mettre toutes les chances de votre côté pour faire décoller votre future carrière ».47

Le rôle des services psycho-sociaux est-il d’adapter à tout crin ? Le rôle de l’enseignement doit-il se paramétrer aux besoins des entreprises ? Autant fermer les facultés d’Histoire, de philosophie, de littérature…

Le respect de la confidentialité

Nous ne nous étendrons pas sur ce point, car, à la lecture de ce qui précède, chacun peut extrapoler la manière dont il va veiller à la confidentialité de ce que lui confie le patient. Au-delà du contenu d’une séance, au-delà d’un éventuel diagnostic exigé par le système informatisé du service de santé mentale, la seule présence d’un patient pose déjà question tant pour aujourd’hui que pour demain. Que fera un employeur ou un assureur s’il sait que untel a consulté, il y a dix ans, quand il était adolescent ? En France, le « Health Data Hub », futur guichet unique d’accès à l’ensemble des données de santé reposera sur Microsoft Azure. Aux USA, via son projet Nightingale, Google récolte déjà les données de quantité de patients ; Amazon ou Apple ont des programmes similaires.

Depuis des siècles, le serment d’Hippocrate sert de balise aux professionnels de la relation d’aide. « Quoi que je voie ou entende dans la société pendant, ou même hors de l’exercice de ma profession, dit le serment, je tairai ce qui n’a jamais besoin d’être divulgué, regardant la discrétion comme un devoir en pareil cas. » Le secret professionnel est, on le sait, souvent menacé et l’algocratie le menace d’une manière plus insidieuse encore.

On se demandera un jour s’il ne faut pas demander aux patients de s’abstenir de venir avec leur smartphone dont la géolocalisation est possible même si elle est désactivée, dont le micro peut être activé subrepticement. Il ne s’agit hélas pas de parano. À titre d’exemple, le documentaire « Nothing To Hide48 » interviewe un militant écologiste, non violent, sans casier judiciaire, qui fut l’objet d’une longue surveillance ciblée. Cela ne se passe pas dans une dictature, mais en France.

BelRAI, FranceRAI et autres

L’enfer, nous le savons, est pavé de bonnes intentions. Ainsi par exemple, dans les années 80, suite à des mauvais traitements dans des maisons de repos et de soins, le Congrès américain exige la mise en place d’un système d’évaluation. Cela donne naissance au RAI (Resident Assessment Instrument). De fil en aiguille, le système s’étoffe et dépasse largement la problématique initiale pour devenir interRAI, « un réseau collaboratif de chercheurs et de praticiens dans plus de 35 pays qui s’engagent à améliorer les soins aux personnes handicapées ou médicalement complexes. Notre consortium, disent-ils, s’efforce de promouvoir la pratique clinique et la prise de décisions éclairées par des données probantes grâce à la collecte et à l’interprétation de données de haute qualité sur les caractéristiques et les résultats des personnes servies dans divers milieux de services sociaux et de santé.49 ». Si l’on décode cette déclaration de bonnes intentions, on constate qu’un nombre de plus en plus étendu de situations médicales, mais aussi de santé mentale ou sociales font l’objet d’un programme (soins à domicile, pédiatrie, santé mentale des jeunes…) Le processus peut être résumé de la manière suivante : un encodage de très nombreux items allume parfois une alarme et, dans ce cas, des solutions sont proposées sur base d’une revue de la littérature existante, suite à quoi le logiciel peut faire une estimation des coûts engendrés par le traitement. Comment les algorithmes malaxent-t-ils les données initiales ? Mystère, le code est opaque. Quelle est cette littérature ? Elle est difficile d’accès. Le traitement ne serait-il pas proposé, à l’inverse, en fonction des coûts, lesquels prédétermineraient les services et professionnels disponibles ? On peut le craindre50.

Des traitements prédéterminés

En fait, à partir du moment où l’encodage relatif à un patient est profondément orienté, il n’est pas étonnant qu’un traitement prédéterminé soit prescrit par l’autorité administrative.

Prenons un autre exemple, celui du burn-out, objet d’un projet pilote : La Ministre des Affaires sociales et de la Santé publique belge « s’attaque à la prise en charge du burn-out comme maladie liée au travail. Dès novembre 2018, jusqu’à 1 000 travailleurs en burn-out ou menacés de burn-out pourront participer à un projet pilote leur offrant un trajet d’accompagnement sur mesure. Ce projet pilote sera développé par l’agence fédérale des risques professionnels (Fedris) et fera partie d’un plan global destiné à mieux anticiper et traiter les troubles mentaux courants, qu’ils soient liés au travail ou non. »51

Quel est ce trajet accompagnement sur mesure ? Si l’on se plonge dans les documents, il est constitué

d’une phase de dépistage (maximum 2 séances)

de 3 séances de starter kit recommandées : gestion du stress, hygiène de vie, récupération d’énergie, session de formation de type psycho-éducationnelle individuelle

de 7 séances en option : selon les approches psycho-corporelle ou cognitivo-émotionnelle.

Pourquoi ces méthodes ? Le projet se fonde sur un rapport du Conseil Supérieur de la Santé qui indique qu’au plan thérapeutique, « il est difficile de donner des recommandations claires concernant les interventions à mettre en place. Seule la thérapie cognitivo-comportementale a suffisamment de preuves dans la littérature pour être recommandée dans les interventions. Les interventions comportementales cognitives sont cependant aussi les plus étudiées, ce résultat peut donc venir uniquement du fait qu’il y a peu d’autres techniques thérapeutiques qui ont été étudiées à ce jour. » 52

On voit bien comment fonctionne la procédure : les souffrances sont découpées en items que l’on va essayer de mettre dans une grille d’évaluation53 permettant de mesurer l’impact des interventions. Or, de nombreux cliniciens rappellent que les personnes atteintes de burn-out combinent souvent un environnement professionnel totalement inadéquat avec des fragilités personnelles. Celles-ci ne se seraient peut-être pas réveillées si le cadre de travail (que l’on ne choisit pas toujours) n’avait pas allumé la répétition. Les travaux de Christophe Dejours, Marie Pezé, l’ont montré à suffisance.

Mais le plus étrange est de lire que  « Nous devons mettre davantage l’accent sur la prévention car prévenir, c’est guérir. Il faut agir le plus rapidement possible avant que la maladie ne s’installe pour de bon, et ce peu importe la cause. », comme le déclare la Ministre. Or, le rapport du CSS mentionne à de très nombreuses reprises que « Prévenir ou soigner le burn-out doit en effet inclure un changement dans le modèle de société, plutôt que de reposer uniquement sur des solutions adaptatives, ou sur la médication ou la psychologisation.54 »

Comme on le voit, une souffrance due à des conditions de vie est renvoyée à la responsabilité individuelle, à un disorder à réparer rapidement.

La meilleure prévention du burn-out ne résiderait-elle pas dans la participation à l’action syndicale ? N’est-ce pas ce que fait entendre le CSS dont la première recommandation est formulée comme suit : « Étant donné que le burn-out est lié au modèle de société, le CSS recommande d’abord que les acteurs sociaux et les pouvoirs publics mènent une réflexion générale sur le modèle de société, et plus particulièrement sur un nouveau modèle d’organisation du travail plus « durable » et « soutenable », qui serait moins orienté vers la performance.55 ». Les éléments mis en avant lors du procès « France Télécom »56 sont exemplatifs à cet égard.

Le capitalisme de surveillance

Une fois ces constats opérés, on peut rejoindre Shoshana Zuboff, professeure à la Harvard Business School. Pour elle, les big data sont la base de ce qu’elle définit comme le « capitalisme de surveillance57 », lequel vise à prédire et modifier les comportements humains dans le but de générer des revenus.

Après le recours à l’esclavage, la production de masse, le capitalisme managérial, l’économie des services, le capitalisme financier, nous serions entrés dans une nouvelle ère du capitalisme, fondée sur l’exploitation des prédictions comportementales issues de la surveillance des utilisateurs58. Analyser les données pour prédire les comportements n’était qu’une première étape, aujourd’hui « les systèmes sont conçus pour intervenir sur l’état actuel des choses et modifier réellement les comportements, les façonnant vers les résultats commerciaux souhaités (…) Et nous sommes piégés dans une fusion involontaire de nécessité personnelle et d’extraction économique, car les mêmes canaux sur lesquels nous comptons pour la logistique quotidienne, l’interaction sociale, le travail, l’éducation, les soins de santé, l’accès aux produits et services, et bien plus encore, servent désormais d’opérations de la chaîne logistique pour surveiller les flux excédentaires du capitalisme. Il en résulte que les mécanismes de choix que nous avons traditionnellement associés au domaine privé sont érodés ou viciés. Il ne peut y avoir de sortie des processus qui sont intentionnellement conçus pour contourner la conscience individuelle et produire l’ignorance, surtout quand ce sont les mêmes processus dont nous devons dépendre pour une vie quotidienne efficace. Ainsi, notre participation s’explique mieux en termes de nécessité, de dépendance, d’exclusion des alternatives et d’ignorance forcée. 59»

Voilà un bien pessimiste constat. C’est la raison pour laquelle la notion de pharmakon, sur laquelle revient sans cesse Bernard Stiegler a tout son intérêt. Le poison est également le médicament ; mais il faut se mettre au travail pour le secréter. D’ailleurs, Shoshana Zuboff le note bien, ce n‘est pas tant la technique qui est en cause que la manière dont elle est utilisée. « La technologie [les algorithmes] est la marionnette, mais le capitalisme de surveillance est le maître des marionnettes. »

Castoriadis termine son article sur la technique par une note à la fois encourageante et d’avertissement : « si une nouvelle culture humaine est créée, après une transformation radicale de la société existante, elle n’aura pas seulement à s’attaquer à la division du travail sous ses formes connues, en particulier à la séparation du travail manuel et du travail intellectuel ; elle ira de pair avec un bouleversement des significations établies, des cadres de rationalité, de la science des derniers siècles et de la technologie qui leur est homogène. Mais de cette musique d’un avenir lointain nous devons renoncer à rien entendre aujourd’hui, sous peine de la confondre avec les hallucinations auditives que pourrait faire naître notre désir. »

Sans nous laisser bercer par des mirages, voyons malgré tout quelques frémissements.

45. Appel de Beauchastel contre l’école numérique – Collectif - 29 août 2016 – L’Obs-Rue 89

46. Les logiciels de vie scolaire : l’outil de surveillance de l’Éducation nationale - Thomas Messia – Slate 21.09.2015.

47. Annonce aux étudiants de la Haute École Francisco Ferrer - 25.10.2019 - https ://mon.he-ferrer.eu/news

48. Nothing to Hide - Marc Meillassoux et Mihaela Gladovic – (2017) – La suite, D est en cours de tournage (2019-20).

49. https ://www.interrai.org/organization Pour la Belgique ou la France, on trouvera plus de détails sur Belrai.org ou Francerai.fr .

50. Cédric Detienne – Le BelRAI, vers un « processus décisionnel informatisé imposé » ? - Conférence in « Nouvelles politiques en Santé Mentale : évaluation, quelle efficacité pour quels soins ? » Ligue Wallonne Pour La Sante Mentale - 8 juin 2018

51. Site de Maggie De Block, - Communiqué de presse  du 7 Mai 2018 :

52. Conseil Supérieur de la Santé. Burnout et travail. Bruxelles : CSS; 2017. Avis n° 9339.

53. Par exemple le MBI : Maslach Burnout Inventory Echelle de mesure de l’Epuisement Professionnel du Soignant.

54. CSS, Op cit pg 20

55. Op cit p. 35

56. Il fallait transformer France Télécom en trois ans, en faisant partir 22 000 salariés et en déplaçant 10 000 autres personnes en interne, sur un total de 120 000 employés, fonctionnaires pour une grande partie. La mise en place brutale de ces plans a fait de nombreuses victimes, subissant un burn-out ou se suicidant, par dizaines : trente-neuf personnes – dont dix-neuf se sont suicidées – ont été retenues comme victimes par les juges d’instruction , entre 2007 et 2010..
L’union Syndicale Solidaires a suivi l’ensemble du procès en confiant chaque audience par un auteur, intellectuel, chercheur ou syndicaliste différent.

57. Shoshana Zuboff - The Age of Surveillance Capitalism - The Fight for a Human Future at the New Frontier of Power - Profile Books - 2019

58. L’intérêt est bien de voir les multiples évolutions du capitalisme, abordées par d’autres auteurs également. Par exemple Yann Moulier Boutang qui propose Le capitalisme cognitif. «Se représenter le capitalisme actuel sous les vieux habits du capitalisme industriel ne nous aide en rien à construire un futur plus juste et plus satisfaisant», dit-il.

59. Shoshana Zuboff interviewée par John Naughton - ‘The goal is to automate us’ : welcome to the age of surveillance capitalism – 20 janvier 2019 - The Guardian.

Antidotes et résistances

Le premier point de résistance, d’ordre général, est le fait d’en parler, que différentes disciplines (philosophie, droit, sociologie, économie, psychanalyse…) trouvent les mots, élaborent les théories pour identifier ces menaces d’ordre anthropologique. Mais aussi que ce soit l’objet de discussions au sein des équipes, de prendre notamment la mesure d’à quel point nous sommes amenés à abdiquer, à déléguer à l’algorithme notre capacité, notre devoir de décider.

Déprolétariser

L’ensemble des dispositifs rendus possibles par les algorithmes mènent à une prolétarisation, c’est-à-dire que le sujet perd son savoir, lequel se voit externalisé dans les machines ou des logiciels. Les réunions cliniques sont remplacées par des réunions opérationnelles et les entretiens où prédominait l’écoute par d’autres, prédéterminés par l’encodage « harmonisé ». De la même manière que l’artisan tisserand fut dépossédé d’un savoir-faire et relégué au simple rang de force de travail, il en va de même aujourd’hui pour le psychologue chargé de suivre une procédure. Ceci se produit autant au travail que dans la sphère privée. Bernard Stiegler parle d’une prolétarisation généralisée créée par un capitalisme pulsionnel, une économie de dealers, une société d’addiction qui court-circuite l’économie libidinale.

Notre économie libidinale, ou psychique, c’est ce qui transforme la pulsion en investissements sociaux, en sublimation : le travail et l’art, l’engagement, les relations… Nous devenons attentifs à un objet, une personne, un groupe… lorsque d’objet de pulsion, c’est-à-dire de consommation, il devient objet de désir, c’est-à-dire d’attention. Mais le dispositif algorithmique (en satisfaisant la pulsion) court-circuite cette transformation, détruit le désir, attaque les modalités relationnelles : la solidarité, l’amitié, l’amour… et exploite le mimétisme. Il y a court-circuit de l’identification, du transfert, de l’économie libidinale…bref de tous les dispositifs de liaison des pulsions de vie et de mort, étayés par la famille, les institutions, la culture…

Pour déprolétariser, Bernard Stiegler invite à restaurer les processus de transformation, d’élaboration de savoir, d’attention, de care.

En étant attentif, on peut justement remarquer l’émergence de tendances qui vont dans ce sens. Il y a bien entendu le « care », qui de plus offre des modèles théoriques, donc de symbolisation qui lui permettent de contrer la déshumanisation. Mais il est également quantité d’autres initiatives individuelles (les lanceurs d’alerte) ou mouvements qui – même s’ils sont maladroits, tâtonnants – tentent de construire de nouveaux savoirs ou de nouveaux espaces. Pensons au renouveau de la théorie des communs ou de l’écoféminisme, aux modèles collaboratifs des logiciels libres, au Cyberminimalisme, aux ZAD, aux lieux partagés (cafés, potagers, fablab…), aux circuits courts, aux nouvelles formes de militantismes (Nuit debout, Gilets jaunes, XRebellion…) qui ne se limitent pas à protester mais tentent de vivre autrement, aux élaborations autour du don, de la gratuité, du prix libre…

À ceux qui disent que ce n’est que marginal, Damasio oppose l’image suivante « J’ai changé de vision, de topologie politique : je vois davantage une émergence de points de rouille sur la plaque d’acier du Capital. (… essayer de trouver les points aveugles), les zones non-soumises au contrôle et au pouvoir qui se génèrent et s’articulent progressivement ensemble. Ce sont des expériences diverses qui vont ronger le système à différents endroits, et se réunir pour finalement faire un gros trou béant. »60

Naïf ? Restons-en à l’idée de frémissements et réfléchissons aussi, en tant que professionnels, à nos modes de compagnonnage et leur adéquation aux enjeux évoqués ici.

Se déconnecter ?

Nous ne mentionnerons pas toutes les initiatives du type « Digital detox », mais il faut connaître la manière dont de nombreux responsables de la Sillicon Valley éduquent leurs enfants : par exemple en les mettant à l’école Waldorf, où les principaux outils pédagogiques sont «stylos et papier, aiguilles à tricoter et, parfois, boue. Pas un ordinateur à trouver. Pas d’écran du tout. Ils ne sont pas autorisés dans la salle de classe, et l’école fronce même les sourcils quant à leur utilisation à la maison.»61

Chamath Palihapitiya, ancien vice-président chargé de la croissance de l’audience de Facebook, estime que les médias sociaux « déchirent le tissu social du fonctionnement de la société ». Évoquant Facebook, il déclare que ses enfants « ne sont pas autorisés à utiliser cette merde »62.

Chez Bill Gates, patron de Microsoft : « Nous n’avons pas de GSM à table et nous n’en avons pas donné à nos enfants avant qu’ils aient 14 ans, quand bien même ils se plaignaient que leurs camarades en recevaient plus tôt. » 63

Bref, ces responsables partagent l’avis des professionnels quant aux dangers de ces dispositifs pour le développement psychoaffectif et social des enfants ainsi que des liens de disponibilité et de stimulation des parents.64

S’il est illusoire de se déconnecter complètement, les professionnels peuvent néanmoins s’interroger et débattre avant l’introduction de nouveaux dispositifs tels caméras à l’entrée des établissements scolaires, software de correction automatique des examens, programmes d’accompagnement des usagers, des patients, imprimantes qui gardent la correspondance en mémoire…

Dans un monde opaque, se réapproprier la technique

Loin de nous l’idée d’une déconnexion, d’une vie en ermite ou en ashram. Plutôt que technophobes, nous serions technophiles – au sens de mieux comprendre la technique – pour mieux réduire addiction et pistage, d’autant qu’on ne peut totalement échapper aux algorithmes. C’est notre refus de les penser et de les décoder qui poserait problème. Peut-on éviter les mails ? Et si j’ai une boite mail sécurisée, que vaut la confidentialité de mon message si mon correspondant a une boite Gmail ? Il y a néanmoins la possibilité de comprendre et donc de mieux choisir ce qui serait acceptable ou non, par exemple de refuser Facebook. Savoir que dès l’inscription Google, Facebook ou WhatsApp siphonnent notre carnet d’adresse n’est pas sans intérêt.

Au-delà de faire l’effort d’avoir une compréhension des mécanismes sous-jacents aux programmes que nous utilisons vient la nécessité d’apprendre à coder. Si l’effort est sans doute trop important pour beaucoup d’adultes, il ne l’est pas pour les enfants, qui pourraient l’apprendre dès l’école primaire, comme en Estonie ou en Finlande. Coder permet de décoder. À Taïwan (qui dispose d’un ministre du numérique), l’effort est mis sur des jeux, sans copyright, que les élèves sont invités à modifier. Ils utilisent également des hardwares simples et abordables (Arduino et Raspberry) ou des dispositifs bon marché de mesure de la pollution atmosphérique. Les étudiants apprennent à être gestionnaires responsables de données, ils découvrent ce que signifie le calibrage des appareils, comment contribuer à la mise en commun de data et comment les analyser par apprentissage automatique pour pouvoir ensuite collaborer et prendre de meilleures décisions.65

De manière plus large, il s’agit de revendiquer la mise à disposition du code des programmes algorithmiques afin que pouvoirs publics et chercheurs puissent l’examiner. Il n’est d’ailleurs pas normal que les programmes utilisés (donc financés) par les pouvoirs publics, par la collectivité, ne soient pas open source (idem pour les travaux scientifiques produits au sein des universités). Il y a de très nombreuses initiatives ou appels dans ce sens. Tel celui d’Hugues Bersini s’exprimant sur les algorithmes relevant des services publics pour lesquels doit émerger chaque fois « un groupe de développeurs en charge de son écriture, son maintien et ses évolutions, composé d’experts en informatique, en éducation publique et de citoyens intéressés et responsables, des parents par exemple, tirés au sort. De très intéressantes expériences de reprise en main du big data et des technologies informatiques par le public et le politique sont en cours dans des villes telles que San Francisco, Boston ou Milton Keynes (en Grande-Bretagne). Boston est le lieu d’expérimentation algorithmique d’un groupe de développeurs sous le label « Code for America » et qui, parmi d’autres réalisations, ont inscrit à leur tableau de chasse l’inscription automatisée dans les écoles publiques. Cela devrait se généraliser dans toutes les villes, tous les pays. Que les auteurs des algorithmes à venir aient accès à un maximum de données publiques, en ce compris celles détenues par les GAFA (et qui leur octroient tant de pouvoir et tant de richesse), afin de concevoir et calibrer les logiciels en charge de notre cohabitation heureuse. »66

Cette attente rejoint le point de résistance qui réside dans les logiciels libres et toutes les initiatives pour « Dégoogliser Internet » (Framasoft), pour disposer de boites mails hors Gmail & Co, de smartphones respectant la vie privée (LineageOS, /e/, Librem), de systèmes opensource (Ubuntu, Debian…), de navigateurs plus respectueux (Firefox), de bloqueurs de pub (uBlock Origin), de suppression des cookies, de traqueurs, etc.

Peut-être est-ce le moment de s’arrêter sur l’éventuelle naïveté de ces mouvements minoritaires. Il faut rappeler que les résistances sont toujours minoritaires. Celle de 40-45 ne dépassait pas 5 %. Plus récemment, des chercheurs ont pu montrer qu’il suffit que 3,5 % d’une population soit mobilisée pour qu’une lutte non violente renverse un gouvernement67. Un bémol : les populations ressentaient l’oppression de ces gouvernements, ce qui n’est pas le cas ici où la servitude serait plutôt volontaire. Néanmoins, la manière dont les psychistes peuvent poursuivre leur travail sous des régimes totalitaires a toujours été source d’enseignement et d’espoir. Évoquant le travail psychanalytique sous la dictature argentine, Gilda Sabsay Foks rappelle que « Si Mélanie Klein et Anna Freud ont pu travailler, à Londres, sous les bombardements, je dirais alors que les psychanalystes conservent la possibilité de travailler dans toutes sortes de circonstances. Les possibilités de travailler, le lieu, la forme ou les modalités peuvent changer en fonction des circonstances extérieures.(… En Argentine,) même dans des circonstances extérieures difficiles, parfois très dangereuses, certains psychanalystes continuaient toujours de soigner ; par exemple en situation d’urgence, dans des jardins publics – donc sans le cadre traditionnel. (…) le processus analytique, la compréhension de l’inconscient n’ont pas toujours besoin des instruments traditionnels : le cadre, le cabinet de consultation, le fauteuil, le divan, etc. C’est-à-dire de tous ces instruments « complémentaires » au travail intersubjectif entre un psychanalyste et son patient.(…) Je soutiens (…) qu’il est possible de travailler dans des circonstances difficiles, avec une certaine dose de danger. Il ne faut pas oublier que la subversion du psychanalyste c’est de s’immiscer dans ce qui ne doit pas être révélé. L’accès à l’inconscient subvertit la dissociation qui permet à une personne de croire que s’appeler Jean Dupont c’est tout ce qu’il est. Or, nous savons bien qu’il y a un autre Jean Dupont, qui est le véritable maître de Jean Dupont. »68

Faire

Mais au-delà de coder, d’autres mouvements, par exemple celui des « makers » proposent d’acquérir patiemment une compétence. Souvent en groupes, dans un « repair café », un jardin partagé, un atelier de cuisine, une fanfare, une chorale émerge ce que l’on dénomme aujourd’hui une « écologie de l’attention ».

Un des premiers à avoir sensibilisé le grand public à cette démarche est Matthew Crawford avec son livre « L’éloge du carburateur ». Après un diplôme de physique et un PhD en philosophie politique, il devient directeur exécutif d’un think tank, produit des notes de synthèse et estime rapidement que cet emploi n’a aucun sens. Rapidement, il donne sa démission et travaille comme mécanicien moto.

Il est savoureux de l’entendre dire que « Selon Freud, le narcissique s’exclut symboliquement du monde pour ne pas s’y confronter. La technologie n’est pas censée lui résister. Il ressent une réelle frustration quand la machine ne lui obéit pas, elle doit lui être complètement asservie, lui qui est si grandiose. »69 Crawford évoque tout l’intérêt de mettre les mains dans le cambouis autant pour se réapproprier la technique, relier travail intellectuel et manuel que pour nourrir des relations sociales chaleureuses avec ses clients. Dans le même état d’esprit, plus récemment, Arthur Lochmann a cessé son cursus universitaire (philosophie et droit) car il ne voyait pas ses études le mener jusqu’à un métier. Dans « La vie solide, la charpente comme éthique du faire » (éd. Payot), il narre sa découverte d’une spécialité (la charpente) qui lui a apporté davantage qu’une carrière.

Remise en question de la séparation Nature/Culture

On assiste à une très profonde remise en question des algorithmes, du capitalisme au travers de la remise en question d’une vision occidentale du vivant. De la même manière que l’on a pu penser que la terre était au centre de l’univers, que l’homme blanc était supérieur, la séparation nature/culture a permis une exploitation, un pillage des ressources naturelles dont les conséquences s’avèrent désastreuses. On a vu précédemment en quoi les algorithmes réduisaient la diversité. Aujourd’hui, nous assistons à la fois à une reformulation conceptuelle et à des mouvements concrets (parfois extrêmes tels le véganisme) qui tentent de repenser le vivant dans son ensemble et suggèrent une séparation humain/non-humain nettement plus humble et ajustée que celle, anthropocentrée, qui n’est d’ailleurs pas partagée par toutes les cultures. En effet, de nombreuses cultures sont le fruit d’une co-construction entre les populations humaines et les animaux, végétaux ou esprits avec lesquels ils vivent des relations de « personne à personne ». Si les travaux de Philippe Descola ont de plus en plus d’échos auprès d’un public assez large, on peut s’étonner du fait que les cliniciens aient négligé Searles qui, déjà en 1960, relevait à quel point « L’environnement non-humain » jouait un rôle dans notre construction psychique. Ses travaux, qui sont redécouverts aujourd’hui70, dénonçaient déjà notre vision anthropocentrée qui grâce à la technique avait acquis la suprématie sur le vivant, aveuglement risquant de nous faire perdre notre humanité.

Le droit

Les options légales sont embrouillées dans la mesure où les médias évoquent le plus souvent la question de la taxation des GAFAM, ou le fait que le montant de la fortune de leurs patrons dépasse le PIB de bien des pays. Nous laisserons cette question de côté, elle a peu à voir avec les algorithmes et doit être replacée dans le cadre de l’évasion fiscale de toutes les multinationales. Par contre, les points soulevés précédemment peuvent être abordés d’un point de vue juridique en reprenant les trois « métadroits » suggérés par Antoinette Rouvroy et Thomas Berns71 : droits à l’oubli, à la désobéissance, à la possibilité de (se) rendre compte.

Le droit à l’oubli, celui qui correspond à la mémoire humaine, est relativement aisé à comprendre. En Europe, si ce droit a été consacré par la Cour de Justice de l’Union européenne (2014) et repris dans le RGPD (2018), dans les faits les choses sont nettement plus compliquées. Ainsi, si nous en faisons la demande, Google respectera la réglementation à sa manière ; en opérant au déréférencement, mais uniquement pour le site qui correspond à la nationalité du plaignant. Les données ne seront plus accessibles sur .be ou .fr mais les resteront sur .com et toutes les autres extensions72.

Le droit à la désobéissance ou très simplement celui de contester la norme est à penser en regard du fait que l’ensemble des dispositifs policiers tendent à prévenir l’acte délictueux ; il n’y aurait plus de délit, le juge n’aurait plus à intervenir. Voilà qui vient clairement changer l’agencement de la répartition des pouvoirs (législatif, judiciaire, exécutif). Intégrerait-on un jour le Ministère de la justice à celui de l’intérieur ?

Dans la mesure où le savoir produit par les algorithmes est opaque, il n’est plus possible d’expliquer, d’interpréter, de se rendre compte des décisions de l’algocratie, ni de rendre compte du bien fondé de nos choix.

La résistance par le droit a certainement toute son importance et le RGPD constitue une avancée certaine. Néanmoins quand on voit la difficulté de le mettre en place, les contournements incessants, les non-réponses… on se remémore l’adage « Un fait vaut plus qu’un Lord maire ». Exemple : Nous visitons tous des sites qui nous invitent à accepter les cookies. Où donc est passé le bouton « Je refuse » ?

L’obfuscation

C’est bien pourquoi, dans les frémissements repérés, l’obfuscation prend tout son sens et serait un peu du registre du jeu du chat et de la souris. L’obfuscation « consiste à produire délibérément des informations ambiguës, désordonnées et fallacieuses et à les ajouter aux données existantes afin de perturber la surveillance et la collecte des données ».73 Plutôt que de se cacher, il s’agit de produire du bruit pour ne pas être repéré au milieu des données. Ainsi, à la fin de la seconde guerre mondiale, des avions alliés lâchaient parfois des milliers de petits papiers argentés. Du coup, l’opérateur radar était incapable de diriger son canon anti-aérien.

De même, il y a quelques années un groupe de hackers proposait un système dans lequel après encodage de notre nom, la moulinette nous construisait une série de pages web avec des informations, centres d’intérêts et autres données complètement bidon. Aujourd’hui, il faut savoir que nous pouvons être repérés uniquement sur base du paramétrage de notre navigateur. Tenant compte de cela, l’extension « Track me not » lance de constantes recherches sur plusieurs sites avec des requêtes plus fantaisistes les unes que les autres. Nous serons alors repérés comme amateur de golf, de Pamela Anderson, de cuisine indienne et autres voyages en Abyssinie… AdNauseam nous évite à la fois de voir les pubs mais en plus clique sur chacune d’entre elle, laissant croire qu’elles nous intéressent. Contre la reconnaissance faciale, l’artiste Leonardo Selvaggio vendait à prix coûtant des masques prothétiques à son effigie. Ainsi, une foule de manifestants pourrait lui ressembler.

De nombreux autres systèmes similaires voient le jour, leur particularité étant de partir de l’idée que l’anonymat étant impossible, la seule parade consiste à produire un nombre suffisant de leurres pour ne pas être repéré.

Très humain, plutôt que transhumain

L’algocratie, externalisant à l’extrême les fonctions humaines, ouvre au transhumanisme : muscles rénovés, cerveau connecté, rêves d’immortalité… Se prendre pour Dieu, ici encore vouloir asservir la nature, quitter l’humain. L’inverse ne devrait-il pas être notre boussole ? Humblement humain, au sein du vivant.

Dès lors, et cela rejoint notre titre, il y a lieu de résister à l’algocratie. Non pas aux algorithmes tant que l’homme peut en garder le contrôle, mais bien à ce mouvement qui lui échappe et se soustrait au contrôle démocratique.

La résistance de groupe est sans doute la plus efficiente. Nous avons évoqué précédemment le mouvement Pas de zéro de conduite ou celui des enseignants contre l’école numérique. Quand une équipe, un groupement, un syndicat estime que l’algorithme entraîne une perte de sens du travail et s’y oppose ouvertement, il provoque le débat et repolitise une question que l’algorithme masque. L’avis du Conseil Supérieur de la Santé relatif au DSMV offre un bon exemple de ce travail, d’autant qu’il est scientifiquement étayé. Parmi ses nombreuses conclusions, on lira notamment pour rejoindre notre propos : « Sur le plan organisationnel, nous conseillons de ne pas faire des catégories du DSM un élément central de l’aménagement des soins. Nous conseillons aussi de ne pas organiser la prévention des plaintes psychiques et la promotion de la vigilance à la santé mentale dans une perspective essentialisante et médicalisante ».74

La résistance individuelle est plus compliquée. Nous pourrions citer Edward Snowden, qui mit à jour la surveillance généralisée dont nous sommes l’objet, mais nous préférons inviter à la lecture de son livre (Mémoires vives) et évoquer la figure de René Carmille, dont l’action remonte à la préhistoire de l’algocratie : à la mécanographie. Dans les années 1940-42, René Carmille, responsable des services statistiques et des recensements de l’époque n’a de cesse de camoufler, au sein de ses services, des registres utiles à la résistance et à éviter de répondre aux demandes permettant de recenser les juifs. « Pour cela, il donna parfois des consignes de ralentir les travaux commencés, tantôt, il introduisait dans la chaîne d’exploitation une opération inutile et longue, tantôt des instructions orales se substituaient aux instructions officielles (actuellement archivées) lorsqu’il s’agissait d’effectuer les travaux relatifs à la mobilisation clandestine »75.

Avec courage, Snowden et Carmille disent à quel point la technique n’est jamais neutre. Hélas, l’un est en exil et l’autre mourut au camp de Dachau. Bien souvent nous n’avons pas l’étoffe des héros, mais il nous reste toujours l’éternelle option de résistance des petites gens. Celle, par exemple, du Brave soldat Chvéïk. Le héros de Jaroslav Hašek, enrôlé dans l’armée impériale allemande, offre une illustration jusqu’à l’absurde de ce que les systémiciens dénomment intervention paradoxale : plutôt que de s’opposer à la puissance militaire, il la vénère profondément et fait preuve d’un patriotisme flamboyant, ce qui l’entraîne dans une série d’épisodes plus foutraques les uns que les autres, mais il ne sera pas broyé par la guerre.

Chacun peut prendre au pied de la lettre l’onctueux langage marketing qui accompagne l’algocratie et ses représentants de commerce, que ce soit le téléopérateur qui assure que nous avons « été soigneusement sélectionnés pour cette offre spéciale de vins de qualité » ou le présentateur du programme destiné à la communauté éducative qui « nous libérera des tâches administratives pour nous permettre de mieux nous consacrer à notre mission pédagogique ». Allons-y, prenons le temps d’examiner ensemble le sens de cette mission pédagogique, de cette aide sociale, de ce soutien, de ces soins aux patients… et, joyeux supporters des algorithmes, voyons comment ils peuvent nous apporter ce surplus de sens qui nous est vendu.

60. « Se salir les mains » - Entretien avec Alain Damasio - 3/4 -19 octobre 2017 Ballast – Cette « pluralité d’îlots, d’archipels, la seule manière de retourner le capitalisme » est au coeur de son dernier roman, Les furtifs - éditions La Volte, avril 2019

61. A Silicon Valley School That Doesn’t Compute - Matt Richtel - Oct. 22, 2011 - New York Times

62. Former Facebook exec says social media is ripping apart society-‘No civil discourse, no cooperation; misinformation, mistruth.’James Vincent Dec 11, 2017 - The verge

63. Billionaire tech mogul Bill Gates reveals he banned his children from mobile phones until they turned 14 - Emily Retter - 21 APR 2017 – Mirror

64. Par exemple : « La surexposition des jeunes enfants aux écrans est un enjeu majeur de santé publique » Collectif – Le Monde - 31 mai 2017

65. Audrey Tang : « La création collaborative de jeux vidéo est très utile pour les élèves de primaire » Isabelle Arvers - 15/08/2019 - Usbek & Rica

66. Hugues Bersini - « Il est grand temps de reprendre la main sur les algorithmes qui nous gouvernent » - Le Monde le 22 juin 2019

67. Erica Chenoweth et Maria J. Stephan Why Civil Resistance Works - The Strategic Logic of Nonviolent Conflict- Columbia University Press (2012)- Conférence TED ici

68. La psychanalyse est-elle compatible avec n’importe quel régime politique? -  Gilda Sabsay Foks - 16 janvier 2006 – Squiggle.be 

69. « Trop souvent la machine fait tout pour toi » Entretien avec Matthew Crawford - Vincent Edin et Thierry Keller - 21 décembre 2016 - Usbek & Rica

70. La crise environnementale sur le divan - Luc Magnenat (dir)- Éditions in Press 2019 ou encore le mouvement de l’écopsychologie.

71. Le nouveau pouvoir statistique - Antoinette Rouvroy et Thomas Berns - Multitudes 2010/1

72. Le droit à l’effacement : ce que Google oublie de vous dire dans son rapport de transparence - Nathalie Devillier - 6 mars 2018 - The conversation

73. Helen Nissenbaum & Fin Bruton – Obfuscation – C&F Editions 2019

74. Conseil Supérieur de la Santé : DSM(5) : Utilisation et statut du diagnostic et des classifications des problèmes de santé mentale - Juin 2019CSS - N° 9360

75. Dans la mesure où les archives ne gardent pas traces des instructions orales, il fallut un certain temps pour démêler les fils et reconnaître les mérites de Robert Carmille. Même s’il s’agit d’un plaidoyer pro domo, le document le plus documenté (disponible sur Wikisource.) fut rédigé par son fils en 2 000 « Robert Carmille. Les services statistiques français pendant l’Occupation »

Pour approfondir le sujet

Déjà paru du même auteur « Prévenir la maltraitance »

Livre disponible en téléchargement en version pdf et epub

· Les métiers de l’éducation et du soin, témoins d’une crise de civilisation, avec Roland Gori

· Quand un parent change de sexe…, avec François Ansermet

· L’impact de la culture managériale sur la fonction éducative ?, avec Roland Gori

· Quels sont les effets du risque zéro sur la posture éducative ?, avec Gérard Neyrand

· Le « divin marché », délire occidental, avec Dany-Robert Dufour

· Quand nos fantasmes ne sont plus limités par le réel ?, avec Dany-Robert Dufour

· …

· Être porté pour grandir, Pierrre Delion

· Le travail social animé par la « volonté artistique »,
David Puaud

· Soutien à la parentalité et contrôle social, Gérard Neyrand

· Du déclin au réveil de l’intérêt général, Dany-Robert Dufour

· Engagement, décision et acte dans le travail avec les familles, Yves Cartuyvels, Françoise Collin, Jean de Munck, Jean-Paul Mugnier, Marie-Jean Sauret, Jean-Pierre Lebrun

· …

· La permanence des équipes éducatives aide à se construire

· Comment comprendre mon émotion face à ce parent,
à cet enfant ?

· …

sur yapaka.be 

Temps d’Arrêt/Lectures – Déjà parus

1. L’aide aux enfants victimes de maltraitance – Guide à l’usage des intervenants auprès des enfants et adolescents. Collectif.*

2. Avatars et désarrois de l’enfant-roi. Laurence Gavarini, Jean-Pierre Lebrun et Françoise Petitot.

3. Confidentialité et secret professionnel: enjeux pour une société démocratique. Edwige Barthélemi, Claire Meersseman et Jean-François Servais.*

4. Prévenir les troubles de la relation autour de la naissance. Reine Vander Linden et Luc Rœgiers.*

5. Handicap et maltraitance. Nadine Clerebaut, Véronique Poncelet et Violaine Van Cutsem.*

6. Malaise dans la protection de l’enfance: La violence des intervenants. Catherine Marneffe.*

7. Maltraitance et cultures. Ali Aouattah, Georges Devereux, Christian Dubois, Kouakou Kouassi, Patrick Lurquin, Vincent Magos, Marie-Rose Moro.*

8. Le délinquant sexuel – enjeux cliniques et sociétaux. Francis Martens, André Ciavaldini, Roland Coutanceau, Loïc Wacqant.*

9. Ces désirs qui nous font honte. Désirer, souhaiter, agir: le risque de la confusion. Serge Tisseron.

10. Engagement, décision et acte dans le travail avec les familles. Yves Cartuyvels, Françoise Collin, Jean-Pierre Lebrun, Jean De Munck, Jean-Paul Mugnier, Marie-Jean Sauret.*

11. Le professionnel, les parents et l’enfant face au remue-ménage de la séparation conjugale. Geneviève Monnoye avec la participation de Bénédicte Gennart, Philippe Kinoo, Patricia Laloire, Françoise Mulkay, Gaëlle Renault.*

12. L’enfant face aux médias. Quelle responsabilité sociale et familiale? Dominique Ottavi, Dany-Robert Dufour.

13. Voyage à travers la honte. Serge Tisseron.*

14. L’avenir de la haine. Jean-Pierre Lebrun.*

15. Des dinosaures au pays du Net. Pascale Gustin.

16. L’enfant hyperactif, son développement et la prédiction de la délinquance: qu’en penser aujourd’hui? Pierre Delion.

17. Choux, cigognes, «zizi sexuel», sexe des anges… Parler sexe avec les enfants? Martine Gayda, Monique Meyfrœt, Reine Vander Linden, Francis Martens – avant-propos de Catherine Marneffe.*

18. Le traumatisme psychique. François Lebigot.

19. Pour une éthique clinique dans le cadre judiciaire. Danièle Epstein.

20. À l’écoute des fantômes. Claude Nachin.

21. La protection de l’enfance. Maurice Berger, Emmanuelle Bonneville.*

22. Les violences des adolescents sont les symptômes de la logique du monde actuel. Jean-Marie Forget.

23. Le déni de grossesse. Sophie Marinopoulos.*

24. La fonction parentale. Pierre Delion.*

25. L’impossible entrée dans la vie. Marcel Gauchet.*

26. L’enfant n’est pas une «personne». Jean-Claude Quentel.*

27. L’éducation est-elle possible sans le concours de la famille? Marie-Claude Blais. *

28. Les dangers de la télé pour les bébés. Serge Tisseron.*

29. La clinique de l’enfant: un regard psychiatrique sur la condition enfantine actuelle. Michèle Brian.*

30. Qu’est-ce qu’apprendre? Le rapport au savoir et la crise de la transmission. Dominique Ottavi.*

31. Points de repère pour prévenir la maltraitance. Collectif.*

32. Traiter les agresseurs sexuels? Amal Hachet. *

33. Adolescence et insécurité. Didier Robin.*

34. Le deuil périnatal. Marie-José Soubieux.

35. Loyautés et familles. L. Couloubaritsis, E. de Becker, C. Ducommun-Nagy, N. Stryckman.*

36. Paradoxes et dépendance à l’adolescence. Philippe Jeammet.*

37. L’enfant et la séparation parentale. Diane Drory.*

38. L’expérience quotidienne de l’enfant. Dominique Ottavi.*

39. Adolescence et risques. Pascal Hachet.*

40. La souffrance des marâtres. Susann Heenen-Wolff.

41. Grandir en situation transculturelle. Marie-Rose Moro.

42. Qu’est-ce que la distinction de sexe? Irène Théry.*

43. L’observation du bébé. Annette Watillon.*

44. Parents défaillants, professionnels en souffrance. Martine Lamour.*

45. Infanticides et néonaticides. Sophie Marinopoulos.

46. Le Jeu des Trois Figures en classes maternelles. Serge Tisseron.

47. Cyberdépendance et autres croquemitaines. Pascal Minotte.

48. L’attachement, un lien vital. Nicole Guedeney.

49. L'adolescence en marge du social. Jean Claude Quentel

50. Homoparentalités. Susann Heenen-Wolff.

51. Les premiers liens. Marie Couvert.

52. Fonction maternelle, fonction paternelle. Jean-Pierre Lebrun.

53. Ces familles qui ne demandent rien. Jean-Paul Mugnier.

54. Événement traumatique en institution. Delphine Pennewaert et Thibaut Lorent.

55. La grossesse psychique: l’aube des liens. Geneviève Bruwier.

56. Qui a peur du grand méchant Web?. Pascal Minotte.

57. Accompagnement et alliance en cours de grossesse. Françoise Molénat.

58. Le travail social ou «l’Art de l’ordinaire ». David Puaud.

59. Protection de l'enfance et paniques morales. Christine Machiels et David Niget.

60. Jouer pour grandir. Sophie Marinopoulos.

61. Prise en charge des délinquants sexuels. André Ciavaldini.

62. Hypersexualisation des enfants. Jean Blairon, Carine De Buck, Diane Huppert, Jean-Pierre Lebrun, Vincent Magos, Jean-Paul Matot, Jérôme Petit, Laurence Watillon.

63. La victime dans tous ses états. Anne-Françoise Dahin.

64. Grandir avec les écrans «La règle 3-6-9-12». Serge Tisseron.

65. Soutien à la parentalité et contrôle social. Gérard Neyrand.

66. La paternalité et ses troubles. Martine Lamour.

67. La maltraitance infantile, par delà la bienpensée. Bernard Golse.

68. Un conjoint violent est-il un mauvais parent ? Benoit Bastard.

69. À la rencontre des bébés en souffrance. Geneviève Bruwier.

70. Développement et troubles de l’enfant. Marie-Paule Durieux.

71. Guide de prévention de la maltraitance. Marc Gérard.

72. Garde alternée: les besoins de l'enfant. Christine Frisch-Desmarez, Maurice Berger.

73. Le lien civil en crise ? Carole Gayet-Viaud

74. L’enfant difficile. Pierre Delion

75. Les espaces entre vérité et mensonge. Christophe Adam, Lambros Couloubaritsis

76. Adolescence et conduites à risque. David Le Breton

77. Pour une hospitalité périnatale. Sylvain Missonnier

78. Travailler ensemble en institution. Christine Vander Borght

79. La violence envers les enfants, approche transculturelle. Marie Rose Moro

80. Rites de virilité à l’adolescence. David Le Breton

81. La nécessité de parler aux bébés. Annette Watillon-Naveau

82. Cet art qui éduque. Alain Kerlan et Samia Langar

83. Développement et troubles de l’enfant. 1- 4 ans. Marie-Paule Durieux

84. TDAH - Trouble déficitaire de l’attention avec ou sans hyperactivité. Rita Sferrazza

85. Introduire l’enfantau social. Marie Masson

86. Peut-on encore toucher les enfants aujourd’hui ? Pierre Delion

87. Corps et adolescence. David Le Breton

88. La violence conjugale frappe les enfants. Christine Frisch-Desmarez

89. La violence de jeunes : punir ou éduquer ? Véronique le Goaziou

90. L’évolution des savoirs sur la parentalité. Gérard Neyrand

91. Les risques d’une éducation sans peine. Jean-Pierre Lebrun

92. La vitalité relationnelle du bébé. Graciela C. Crespin

93. Prendre soin du bébé placé. Geneviève Bruwier

94. Les trésors de l’ennui. Sophie Marinopoulos

95. Prévenir la violence par la discussion à visée philosophique. Michel Tozzi

96. Coopérer autour des écrans. Pascal Minotte

97. Les jeunes, la sexualité et la violence. Véronique le Goaziou

98. Evolution du traitement des ruptures familiales. Benoit Bastard

99. L’attachement, un lien revisité à l’adolescence. Frédéric Atger, Claire Lamas, Lauriane Vulliez-Coady

100. Prévenir la maltraitance. Vincent Magos

101. Du déclin au réveil de l’intérêt général. Dany-Robert Dufour

102. La parentalité aujourd’hui fragilisée. Gérard Neyrand

103. L'attention à l'autre. Denis Mellier

104. Jeunes et radicalisations. David Le Breton

105. Le harcèlement virtuel. Angélique Gozlan

106. Le deuil prénatal. Marie-José Soubieux, Jessica Shulz

107. Prévenir la négligence. Claire Meersseman

108. A l’adolescence, s’engager pour exister. Marie Rose Moro

109. Le secret professionnel, fondement de la relation d’aide et d’écoute. Claire Meersseman, André Donnet, Françoise Dubois, Cécile Guilbau

110. La portée du langage. Véronique Rey, Christina Romain, Sonia DeMartino, Jean-Louis Deveze

111. Etre porté pour grandir. Pierre Delion

Retrouvez nos auteurs sur yapaka.be pour des entretiens vidéo, conférences en lignes,….

* Ouvrage épuisé.

Les livres de yapaka

Disponibles gratuitement au 0800/20 000

ou infos@cfwb.be - En Belgique uniquement

UNE VIE DE CHIEN?

Pour les enfants

UNE HISTOIRE COMME PLEIN D’AUTRES

Pour les adolescents de 12 à 15 ans

ÊTRE PARENT C’EST...?

Pour les parents d’enfants

MANUEL DE SURVIE POUR PARENTS D’ADOS QUI PÈTENT LES PLOMBS

Pour les parents d’adolescents

JEU T'AIME

Pour les parents d’enfants

NAÎTRE PARENTS

Pour les parents d’enfants de 0 à 2 ans