LUNIK 
138, quai des Chartrons
33300 BORDEAUX
FRANCE

Commanditaire

Conseil National du Numérique (CNNUM) saisi d’une mission d’un an pour réfléchir à une plateforme de mise en discussion des effets des calculs numériques
Judith Herzog, lofred Madzou

Enquête menée pas Marta Jonville & Julien Sipra

 

Comment voulons nous être calculés ? C’est qui le nous qui est calculé ?

Identifier la manière dont les individus perçoivent, se représentent et expriment des troubles à l’égard des calculs numériques.

Y a-t-il des troubles communs capables de transformer ces individus en public?

Identifier la manière dont les algorithmes calculent, représentent et expriment les individus en produisant des collectifs et des regroupements sociaux.

Y a-t-il des pratiques publiques capables de mettre au service des individus des moyennes pour se constituer dans un collectif?

Aujourd’hui, l’audit des algorithmes fait l’objet d’une mobilisation grandissante de la part des experts (informaticiens, journalistes, régulateurs, experts, ONG, etc.). Il a, en revanche, une sensibilité cachée au sein des citoyens, bien que sur certains domaines (prix, sites de notations, publicités personnalisées, etc.) des inquiétudes et parfois des revendications se fassent jour. L’objet de cette enquête exploratoire est, tout d’abord, d’apporter un éclairage synthétique sur la manière dont les interrogations à l’égard des calculs apparaissent dans la société. Dans un second temps, il s’agit d'individuer des pratiques algorithmiques et de les rendre visibles, pour enfin chercher à les re-utiliser pour constituer et faire émerger un public et sa représentation politique. Cela suppose d’enquêter à la fois sur les silences et les expressions des publics.

 

Éléments pour l'enquête

  • Le mot-clé “rétro-ingénierie” est facilement recyclable dans le paradigme STS/Médialab (reset modernity)

  • Déplacer le débat actuel sur les algorithmes (individu libre et autonome face aux méchants calculateurs) : comment voulons-nous être calculés ? quelles prises, quelles attaches doivent-elles être confiées (ou pas) aux calculateurs ?

  • Se servir du thème “audit des calculs numériques” (un peu à la manière de l’analyse des controverses) pour faire une exploration sociologique de nos sociétés

  • L’analyse du débat de 2014 sur la net neutrality aux Etat-Unis mobilisant des digital methods (notamment la plateforme Media Cloud) : Faris (Robert), Roberts (Hal), Etling (Bruce), Othman (Dalia), Benkler (Yochai”, “The Role of the Networked Public Sphere in the US Net Neutrality Policy Debate”, International Journal of Communication, vol. 10, 2016, pp. 5839-5864.

  • S’appuyer sur des expériences esthétiques en art contemporain et en design pour proposer des simulations tangibles, dans le monde physique, de situations dans lesquelles l’environnement fait l’objet de calculs paramétrables. Projet Glassroom de Tactical Tech avec la fondation Mozilla : voir et explorer ses méta-données.

 

Possibles pistes de l'enquête

C’est quoi un système de calcul?

https://www.facebook.com/quartznews/videos/1668545449845817/

 

“Mais pourquoi on me recommande ça ?”

À partir d’un dispositif de sollicitation des internautes, faire remonter des situations dans lesquelles, lors de leurs navigations, les internautes rencontrent des propositions qui leur semblent étranges, absurdes, choquantes ou incompréhensibles. On pourrait imaginer une sorte de bureau public des interrogations : “Mais pourquoi on me propose cela ?”, “Qu’est-ce que j’ai fait pour que le ciblage publicitaire m’affiche cela ?”, “Pourquoi me recommande-t-on telle musique ?”, “Est-ce qu’ils n’ont pas fait évoluer le prix de ce services/produits depuis hier ?” avec copie d’écrans à l’appui. Cette pratique est fréquente sur Facebook, Tumblr et Twitter - un petit bestiaire commencé ici. Invention d’un genre expressif (mais qu’est-ce que j’ai bien pu faire pour que le calculateur veuillent me faire faire cela ?) qui met en exergue des raisonnements réflexifs instaurant une boucle trace perso/effets. Objet d’ironie, humour, etc.

A partir d’expériences critiques/esthétiques/etc. mettre en scène d’autres manières de calculer à partir de signaux improbables, de métriques incongrues, ou de critères nouveaux. Comment remettre du bruit dans les calculs ou instaurer des perspectives qui modifient sensiblement la manière de calculer ?

 

Alter-metrics

Sur la relation entre sociologie critique et dispositifs esthétiques dans la critique des calculs, voir Bruno (Isabelle), Didier (Emmanuel), Prévieux (Julien), Statactivism. Comment lutter avec des nombres, Paris, Zones, 2014. L’ouvrage présente de nombreuses expériences. Autres expériences :

  • our friends at CML are working,  in the spirit of ornithology, ethology, and ecology, on  A Field guide to Algorithms loosely based on these experiences

  • Julien Prévieux et al. Haunted by algorithms.

  • Reading Algorithms. Queer and transgressive encounters.

  • ADMXI

  • Gabrys' ‘a natural history of electronics’, also available via Monoksop

 

Contre-conduites

Enquêter sur les pratiques de détournements, les ruses et les contre-conduites au sein des univers calculés. Au plus près des usages, les internautes développent des micro-tactiques de tous ordres pour se protéger ou contrecarrer les calculs. Un travail exploratoire intéressant pourrait être de recenser dans la littérature et à travers des micro-enquêtes ces contre-conduites.

Le sujet de la triche a fait l’objet de recherches dans les travaux sur les jeux vidéos, mais aussi sur Foursquare,

 

Parallèlement, un univers très inventif d’outils destinés à équiper les contre-conduites se développe, notamment autour du thème de l’obfuscation et des techniques de masquage/brouillage des signaux.

  • Livre sur la théorie, les pratiques et les outils de l’obfuscation : Brunton (Finn), Nissenbaum(Helen), Obfuscation. A user’s guide for privacy and protest, London, The MIT Press, 2015.

  • Adnauseam (vidéo)  : outil cliquant de façon automatique sur toutes les pub. Actuellement interdit par Chrome.

  • TrackMeNot : Existe depuis 2006, générateur de fausses requêtes. Voir le papier de Daniel C Howe et Helen Nissenbaum.

  • AdDetector : détecteur de native advertising sur les sites du web.

  • Go Rando : simulateur d’émotions aléatoires pour Facebook.

 

Ressources

Google Transparency Project. The Google Transparency Project is a research initiative of Campaign for Accountability, a 501(c)3 project that uses research, litigation and aggressive communications to expose how decisions made behind the doors of corporate boardrooms and government offices impact Americans’ lives. Un projet pour ouvrir les données et tracer les relations entre les entreprises de la Silicon Valley et les décideurs publics américains. Des visualisations originales du lobbying et des rendez-vous avec les pouvoirs publics américains.

 

Code-Dependant: Pros and Cons of the Algorithm Age. Rapport du Pew Internet. Bonne synthèse des débats sur les algorithmes par Lee Rainie et Janna Anderson.

 

Terms of Service didn’t read : Analyse de la conformité des CGU aux standards des droits de l’homme. Le site propose de labelliser les sites en fonction des CGU et de la politique de traitement des données personnelles de “Class A” à “Class E”. Un add-on pour le browser est proposé pour signaler la qualité des sites. Dans le même esprit une étude proposant des critères de vérification de la qualité démocratique des CGU. La recherche est conduite par la Fondation Getulio Vargas.

 

Algorithms Tours Un site de visualisation pédagogique du fonctionnement des algorithmes.

 

Google explique son classement aux utilisateurs : How search works.

 

Microsoft : les algorithmes ne doivent pas être transparents, mais autrement conçus

 

Caroline Delieutraz : projet artistique des Google Adwords en marque-page dans des romans.

 

Tomorrows


 

Les articles académiques sont ici.

 

Network

https://www.theengineroom.org/about/

https://tacticaltech.org/

http://publicdatalab.org/