AI : cartographie des problèmes

Points à retenir de l’Atlas of AI de Kate Crawford (Yale, 2021) :

. les corpus et data training sets forment bien sûr des “généalogies“. Sont des archives, étudiables selon des catégories déjà travaillées. Et les productions contiennent des classiques. Archives, collections, data sets. “Benchmarks”, et “training sets“, dont pratiqués en “compétitions” entre systèmes d’AI, et leurs “performances”. Il y a – il n’y a que – des corpus de datasets, dont certains sont des classiques et des matrices. WordNet (base linguistique pour ImageNet), corpus locaux (projets universitaires) fabriqués de bric et broc avec disjecta membra de données disponibles, souvent excentriques. Il y a, en parallèle et coordination, toute l’inscription des métadonnées, labelling, tagging, hierarchizing categories, annotatings, dont une part faits à la main, saisis, crowdwork. En ignorance, effacement, insignification, des processus sémantiques et sociaux impliqués dans le travail langagier. Pas de langage sans langage, dans AI tech – pour les interfaces et interactions sur le social. Pas de tech.

. une clé est la forme du travail : labour force pour AI d’abord les étudiants, puis les travailleurs de type Mechanical Turk, crowdworkers.

Son Atlas est une proposition très claire d’organisation des problèmes, programmation du travail critique. Immense bibliographie, en soutènement. A éplucher.

La perspective pratique, présentée p. 147-148 : au-delà des solutions techniques, le social: (“justice” is not “fairness”)

The problem for computer science is that justice in AI systems will never be something that can be coded or computed. It requires a shift to assessing systems beyond optimization metrics and statistical parity and an understanding of where the frameworks of mathematics and engineering are causing the problems. (My its.)