Il y a quelques semaines, AlphaGo, un programme informatique de la société Deep Mind, a vaincu le joueur coréen Lee Sedol dans une série de parties de Go. Pour divers observateurs, ce fut un moment marquant, car ce jeu de plateau a pendant longtemps été réputé comme difficile à maitriser par des machines. Au-delà de cette victoire, un aspect du dispositif de jeu a attiré mon attention : ce n'était pas la machine qui poussait les pierres, mais une autre personne. Situé à gauche sur la photographie ci-dessous, une sorte de croupier de l'IA se chargeant de transposer les mouvements de pierres noires et blanches apparues à l'écran sur le plateau (goban) que l'on voit filmé dans le direct.

Hétéromatisation Nom singulier, familier Mot-valise formé du préfixe "hétéro- et "automatisation" qui décrit les programmes automatisés qui font travailler des usagers humains. Un néologisme avancé par Hamid Ekbia (Indiana University) et Bonnie Nardi (UC Irvine) pour décrire une hybridation du travail réalisé par les machines et par les humains.

La lecture de divers témoignages et récits à ce sujet aide à comprendre ce phénomène, et à déconstruire les idées reçues sur l'automatisation. Prenons l'exemple des personnes chargées de supprimer le contenu nauséabond présent sur Facebook, et de faire passer à la trappe les vidéos de décapitation, les images pornographiques, en passant par la profusion d'insultes racistes, de harcèlement et de propositions criminelles. Un reportage d'Adrien Chen pour le journal Wired décrivait en 2014 comment des travailleurs à bas-coût aux Philippines devenaient le centre d'opération mondial pour cette activité. Et sans aller vers le Pacifique, on peut trouver dans nos contrées toutes sortes d'entreprises qui réalisent des tâches similaires. Chaque nouvelle "contribution" doit être analysée rapidement et potentiellement supprimée. Les "modérateurs" sont aux aguets ("“Oh fuck! I’ve got a beheading!"). Ils contemplent de multiples fenêtres sur leurs écrans, certains font un premier tri rapide, et d'autres suppriment ce qui a pu échapper au tamis... Comme le décrit l'article de Chen, la charge à encaisser est rude pour certains. Et du coup, le turn-over est grand dans ces équipes. Le tri se fait au rythme des programmes qui font défiler continuellement les millions de contenus produits par les utilisateurs des réseaux sociaux. Si des outils permettent aujourd'hui d'automatiser une première vague de tri, les modérateurs sont toujours à l'affut.

La plateforme de mise en relation de chauffeurs Uber offre un autre exemple intéressant. Pour l'usager, le service permet de géolocaliser le véhicule le plus proche de soi pour ensuite le réserver. Mais pour le chauffeur, c'est une autre version de l'application qui est utilisée, un service qui leur permet de gérer leurs horaires de travail, la réception des demandes, des paiements et l'évaluation des clients. Comme le montre cette enquête, les chauffeurs reçoivent des informations (nom, distance, adresse et évaluation du/des passager(s)). Des données sur la base desquelles ils peuvent choisir de refuser la course (en prenant le risque d'être pénalisé par l'entreprise s'ils sont trop dédaigneux) et qui peuvent nécessiter de chercher ou d'appeler lesdits clients. Durant la course elle-même, les chercheurs expliquent comme le parcours peut être ponctué de discussions et d'échanges, avec l'idée que cela contribue à la bonne évaluation du conducteur, mais aussi afin de proposer un service supérieur aux taxis. Or, toutes ces activités sont plus ou moins faciles à déléguer à un programme. Par ailleurs, une autre étude publiée dans le Harvard Business Review, nous montre que les humains dans la boucle d'Uber ne sont pas uniquement les chauffeurs puisque l'entreprise elle-même utilise ses algorithmes afin de tester jusqu'à quel point le prix de la course peut être baissé tout en gardant le conducteur intéressé... Une telle pratique conduisant ensuite à des diminutions fortes des tarifs... qui nous font comprendre la nervosité des chauffeurs Uber se mettant à manifester.

Est que l'automatisation est purement le fait d'algorithmes? Non. On voit avec ces exemples les multiples hybridations entre humains et non-humains à l'oeuvre dans la conception, dans la mise en place de ces dispositifs, dans leur régulation, dans le fait de conduire ou de valider des commentaires. Il est d'ailleurs assez ironique de voir des médias tels que Bloomberg, d'habitude plutôt naïf quant aux évolutions technologiques, réaliser que derrière la vague actuelle de "robots conversationnels" et d'"assistants virtuels" il y a l'oeuvre de multiples personnes cachées derrière pour proposer un service de qualité. Comme le dit l'article, "a handful of companies employ humans pretending to be robots pretending to be humans." Derrière M (Facebook) ou l'aide à la prise de rendez.vous X.ai, il y a donc beaucoup plus qu'un sacro-saint "algorithme" (qui n'est jamais seul de toute façon).

Par ailleurs, avec Uber et la modération de commentaires, ce qui frappe c'est plus le découpage en micro-tâches, certaines prises en charge par des humains, d'autres par des non-humains. Ces divers cas témoignent également du caractère "à la demande" du travail. Une demande liée certes aux usagers de ces divers services, mais une demande "médiée" par tout une série d'opérations en partie prises en charge par des machines. Ces divers cas racontent finalement un autre récit de l'automatisation. Comme l'expliquait le chercheur et game designer Ian Bogost à la conférence Lift il y a deux ans, "nous avons tous tendance à croire que toutes nos productions sont automatisées, que tout est produit par des machines sur des chaînes de production continues." Or cette automatisation ne concerne qu'une partie des pratiques actuelles, d'où l'intérêt de trouver des métaphores plus subtiles, même si ce terme d'"hétéromatisation" semble un peu barbare. A ce stade, certains argumenteront que "ce n'est qu'une question de temps" et que toutes ces opérations seront plus tard déléguées à des machines. Certes, mais ce n'est pas le cas actuellement. Et avant qu'une machine prenne notre place, il y a de grandes chances (si l'on peut parler de chance) que nous ressentions le sentiment d'être dirigé par divers programmes informatiques.

🌱🌱🌱 Fragments 🌱🌱🌱

👀 Onglets ouverts dans le navigateur : un  article sur le problèmes de robots acheteurs de Nike vendues en série limitée, un  billet de core77 sur l'esthétique industrielle Modern Mechanical, une vidéo de design spéculatif sur l'archéologie numérique, et un  article sur le fait que les médias ne serons pas sauvés par un "next big thing" technologique improbable aussi curieux soit-il a priori.

🌏 Je suis fasciné ces jours-ci ce constater comment des formules et des concepts circulent, avec parfois une certaine étanchéité entre les communautés humaines qui les produisent. Par exemple, on voit très souvent dans les médias Suisses, et dans la presse économique française ou anglo, le terme de "Quatrième révolution industrielle", une notion poussée par les gens du World Economic Forum et dont le dernier forum à Davos a servi de caisse de résonance... pour se retrouver ensuite dans toutes sortes de chroniques sans qu'elle ne soit bien précisée au-delà d'éléments très généraux. Mais cela n'empêche pas de voir toutes sortes de gens sérieux y faire référence comme s'il s'agissait d'un concept robuste et bien identifié. C'est toute le savoir-faire de ce genre de think tank visiblement. Et, au fond, il semble que dans d'autres sphères, le soft power s'active également. Je pense par exemple à Next Nature qui publiait cette semaine un texte intriguant intitulé "The Enlightenment Is Dead, Long Live the Entanglement"... une sorte de réflexion sur l'absurdité de la séparation nature-culture(technologie). Si cela est également critiquable – tout en étant intéressant puisqu'il y a des intuitions pertinentes là-dedans  – je trouve dommage de voir ces concepts non-discutés les uns avec les autres. Et cela, même s'ils ne sont pas totalement solides.

📙La citation sur le sujet du détournement, une notion voisine, polémique, et un poil cryptique, trouvée chez Giorgio Agamben :
"j’appelle dispositif tout ce qui a, d’une manière ou d’une autre, la capacité de capturer, d’orienter, de déterminer, d’intercepter, de modeler, de contrôler et d’assurer les gestes, les conduites, les opinions et les discours des êtres vivants (...) De quelle manière pouvons-nous donc nous opposer à cette situation, quelle stratégie devons-nous adopter dans notre corps à corps quotidien avec ces dispositifs ? (...) La profanation est le contre-dispositif qui restitue à l’usage commun ce que le sacrifice avait séparé et divisé."
Giorgio AGAMBEN , Qu'est-ce qu'un dispositif ' ?' Paris, Rivages poche, 2007 ,
((Selon lui, l'acte de profaner correspond à remettre à la société et à l'usage commun des choses qui en avaient été éloignées, à l'époque par la religion, aujourd'hui par d'autres forces.))

++
– nicolas
EOF