Thomas Seiller - Algorythms seminar

Algorythms seminar

The algorythms seminar is organised as part of the AlgoFormI project, financially supported by the CNRS through the MITI interdisciplinary programs. It is meant as a monthly / bi-monthly interdisciplinary seminar gathering invited talks the notion of algorithm in different fields, its use and/or impact.

Mailing list

We created a dedicated mailing list. To subscribe, you can send an email with 'subscribe' in the subject to algorythms-join@seiller.org. Note this mailing list is strictly moderated, and only administrators are allowed to post. You should receive an automatic email asking for confirmation; check your spam folder if it is not the case.

Next meeting

Date: January 15th, 2024.
Location: IHPST.
  • 10h30-11h30: Rayya Romanos (Université Bordeaux Montaigne). Les défis de littératie algorithmique dans le champ journalistique.
    Show Abstract
    Alors que les algorithmes occupent une place de plus en plus importante dans le secteur de la presse, à la fois en tant qu'auxiliaires technologiques indispensables à la production et à la diffusion de l’information et en tant qu’objets d’investigation journalistique, peu de recherches ont été menées sur la capacité des journalistes à saisir leur fonction et leur impact, à les intégrer dans leurs routines professionnelles, à les adopter, à les contourner, ou encore à les didactiser. Ces différentes dimensions de la littératie algorithmique font l’objet d’une étude que nous avons menée auprès de journalistes et de responsables des services informatiques et marketing d’un grand quotidien régional français. L’enquête, intégrée au projet AlgoJ (https://algoj.hypotheses.org), met en lumière une série de freins à l'acquisition de savoirs et de savoir-faire algorithmiques qui varient en fonction du statut des interlocuteurs et dépendent de facteurs aussi bien internes qu’externes à la profession.
  • 12h15: Déjeuner
  • 14h30-15h30: Machine habitus: toward a sociology of algorithms
    Show Abstract
    Machine Habitus: Toward a Sociology of Algorithms (Polity, 2021) articulates a theory of machine learning systems as socialized agents contributing to the (techno-)social reproduction of cultural patterns and inequalities. Building on a multidisciplinary literature in critical algorithm studies, media research and computer science, Airoldi’s book discusses how research on algorithmic bias would benefit from a sociological perspective aimed to unpack the recursive mechanisms linking the “culture in the code” – i.e., the social shaping of machine learning – and the “code in the culture” – i.e., the algorithmic shaping of society. The notion of “machine habitus”, inspired by the influential work of sociologist Pierre Bourdieu, illuminates how socially rooted cultural propensities embedded in data orient the allegedly neutral classificatory behavior of AI systems, with important yet understudied consequences on consumption, public opinion, culture and social life more generally.

Future meeting

The dates for the upcoming meetings are shown below:
  • March 19th, 2024. Speakers: Sonia Desmoulin-Canselier (University of Nantes)

Past meetings

December 8th, 2023

  • 12h30: Déjeuner
  • 14h30-15h30: Florian Jaton (Geneva Graduate Institute). Examiner les algorithmes à l'aune de leurs bases de données référentielles: résultats, critiques, et pistes de réflexion.
    Show Abstract
    Des enquêtes ethnographiques récentes ont montré avec succès que de nombreux algorithmes dérivent de bases de données de référence – souvent appelées 'ground truths' – qui mettent en relation des données d'entrée et des cibles de sorties, établissant ainsi ce qui peut être retrouvé informatiquement et évalué statistiquement. Dans cet exposé, je passerai brièvement en revue cette ligne de recherche et ses résultats les plus récents. J'examinerai ensuite certaines critiques de cette préhension des algorithmes par les 'ground truths' et proposerai quelques pistes de réflexion.
  • 15h30-16h: Pause
  • 16h-17h: Gilles Tredan (CNRS, IRIT). Auditer des algorithmes en boîte noire: mesurer du "bannissement furtif" et des bulles de filtres ?
    Show Abstract
    L'impact grandissant des décisions algorithmiques sur nos vies rend la question de la régulation algorithmique saillante. Cependant une régulation externe se heurte à une difficulté majeure: observé de l'extérieur, un algorithme est une boite noire. Comment alors en qualifier, mesurer et encadrer le comportement ?

    Dans cet exposé, je reviendrai sur deux études expérimentales qui s'intéressent à l'observation in vivo de telles boites noires. Dans le premier, nous nous intéresserons au bannissement furtif (shadowban) sur Twitter [1]; dans le deuxième nous nous intéresserons à l'observation des bulles de filtre sur Youtube [2]. L'exposé débouchera éventuellement sur deux questions ouvertes dépassant largement l'informatique: l'archivage des recommandations et l'utilisation de résultats d'audits algorithmiques devant la justice [3].

    [1] https://dumas.ccsd.cnrs.fr/IRIT-FSL/hal-03234771v1
    [2] https://inria.hal.science/hal-03620039v2
    [3] https://inria.hal.science/hal-03583919>

November 23rd, 2023

  • 14h-15h: Karine Chemla (Université Paris Cité, SPHERE), "Computing Through Reasoning versus Computing Through Reliance on Notations"
  • 15h-15h30: Pause
  • 15h30-16h30: Henri Stephanou (Université Paris 1, IHPST), "La résolution systématique de problème.".

October 12th, 2023

This meeting, joint with the reading group of the ANR GoA, was more informal. It consisted in one working session around our proposed formalisation of the notion of models of computations and programs which provides a foundation to our proposed formalisation of algorithms.

September 7th, 2023

  • 10h-11h: Sarah Lawsky (Northwestern university), "Algorithms in Tax Law".
    Show Abstract
    U.S. tax law sometimes dictates that taxpayers follow a series of computational steps that transform numerical inputs into numerical outputs. In other words, tax law sometimes requires taxpayers to comply with the law by following what might be characterized as algorithms. Taxpayers may then be required to comply with this law using government-created forms that ask the taxpayer to apply a series of computational steps than facially differs from the series of steps required by the law but that always results in the same outputs given the same inputs as the series of steps required by the law. The talk will provide an example of such an algorithm and discrepant implementation, the U.S. capital loss statutes and accompanying forms and worksheets. Transparency and clarity seem to require algorithms that track the language of the statute. But ease of administration and compliance favor efficient algorithms with inputs that are consistent with other forms or implementations.
  • 11h-11h30: break
  • 11h30-12h30: Edwige Cyffers (INRIA & Univ. Lille), "Fairness in Machine Learning: Quantifying Real-world overfitting".
    Show Abstract
    Fairness has attracted a lot of attention in Machine Learning after several failures, where deployed models were not only producing sexist or racist results, but seemed to worsen their bias compared to the data used for training them. The technical solutions to this issue usually rely on metrics to quantify fairness. When added to a model, they are often seen as a degradation of the utility compared to the unconstrained version: we talk about fairness-utility trade-off. Surveying the case of Compas controversy, where a software used in US for predicting re-offenders were accused of racist behavior, we question this approach by discussing the metrics used and the long term effects of algorithmic unfairness.

June 8th, 2023

There will be no Algorithm meeting this month per say. It is replaced by the seminar "Computation and algorithmic methods in human and social sciences", co-organised by Walter Dean (Univ. Warwick and IEA Paris) and Alberto Naibo (Univ. Paris 1, IHPST), and funded by the Institut d'Études Avancés (IEA) Paris and the ANR project « La géométrie des algorithmes » (GoA).
  • Introduction à la journée (Walter Dean et Alberto Naibo)
  • Maël Pégny, « Does the social scientist need to understand the computation? Lessons from topic modeling »
  • Luc Pellissier (Univ. Paris-Est Créteil, LACL), « Amendement, consolidation, codification : le texte juridique, un objet calculatoire ? »
  • Marie Alauzen (LISIS - UMR 9003), « What can sociology say about administrative algorithms? Elements for a political dialogue between the social sciences and logic »
  • Célia Zolynski (Univ. Paris 1, IRJS), « Du calcul du sujet à sa mise en pouvoir d'agir »
  • Benedict Eastaugh (Univ. Warwick), « Social choice in infinite societies »
  • Jérôme Lang (CNRS, LAMSADE - UMR 7243, Univ. Paris-Dauphine, PSL), « Computational social choice »

May 4th, 2023

  • Baptiste Mélès (CNRS, Archives Henri-Poincaré, UMR 7117), « Programmes sans algorithme »
  • Denis Merigoux (INRIA, Équipe Prosecco), « Applying the law by computing its effect with a program : which specification for which algorithm? »
  • Ksenia Ermoshina (CNRS, Centre Internet et Société, UPR 2000), « Algorithmes de chiffrement, architectures de communication : anthropologie sociale des messageries chiffrées »
  • Marylou Le Roy (Univ. Paris 1, Observatoire de l'IA), « Un droit à l'explicabilité et à la "maîtrise" des algorithmes ? »
  • Philippos Papayannopoulos (IHPST, UMR 8590), « Defining algorithms and explicating computations. Some methodological remarks »