PRODUCTION AND COMMODIFICATION OF RISK

[traduction française ci-dessous]

Risk, much like any other product, can be quantified, managed, traded, and ultimately exploited for various ends. The notion of risk as a commodity in the context of machine learning and technocratic governance touches upon critical sociopolitical and economic dimensions of modern technology.

Machine learning (ML) models often perpetuate existing biases present in the training data, leading to discriminatory outcomes. In credit scoring or employment screening, biased data can result in unfair treatment of certain demographic groups. Companies may exploit these biases by targeting specific populations for high-interest loans or predatory marketing practices, thus monetizing the risk associated with biased predictions.

The extensive data collection required for training ML models poses significant risks to individual privacy. This data can be used to track, profile, and predict individual behavior. Organizations and governments can trade this data, turning privacy risk into a lucrative commodity. Data brokers, for instance, sell personal information to advertisers, insurers, and other entities.

Predictive policing algorithms aim to foresee criminal activities but often target marginalized communities disproportionately, increasing their surveillance and policing. The security risks produced by these algorithms are commodified by security firms and law enforcement agencies that sell predictive policing solutions, often justifying their efficacy despite the risks of increased social inequality and injustice.

ML models in finance assess creditworthiness, forecast market trends, and manage investments. While these models can improve efficiency, they also introduce systemic risks, such as market volatility and financial exclusion. Financial institutions commodify these risks through products like subprime mortgages and derivatives, transferring the potential for financial instability to individual consumers and investors.

PRODUCTION ET MARCHANDISATION DU RISQUE

Le risque, à l'instar de tout autre produit, peut être quantifié, géré, échangé et finalement exploité à diverses fins. La notion de risque comme marchandise dans le contexte de l'apprentissage automatique et de la gouvernance technocratique touche aux dimensions sociopolitiques et économiques critiques de la technologie moderne.

Les modèles d'apprentissage automatique (ML) perpétuent souvent les biais existants présents dans les données d'entraînement, conduisant à des résultats discriminatoires. Dans l'évaluation du crédit ou le dépistage de l'emploi, des données biaisées peuvent entraîner un traitement injuste de certains groupes démographiques. Les entreprises peuvent exploiter ces biais en ciblant des populations spécifiques pour des prêts à taux d'intérêt élevé ou des pratiques de marketing prédateur, monétisant ainsi le risque associé aux prédictions biaisées.

La collecte de données extensive requise pour l'entraînement des modèles de ML pose des risques significatifs pour la vie privée des individus. Ces données peuvent être utilisées pour suivre, profiler et prédire le comportement individuel. Les organisations et les gouvernements peuvent échanger ces données, transformant le risque de confidentialité en une marchandise lucrative. Les courtiers en données, par exemple, vendent des informations personnelles à des annonceurs, assureurs et autres entités.

Les algorithmes de police prédictive visent à prévoir les activités criminelles mais ciblent souvent de manière disproportionnée les communautés marginalisées, augmentant leur surveillance et leur contrôle policier. Les risques de sécurité produits par ces algorithmes sont marchandisés par les entreprises de sécurité et les agences de maintien de l'ordre qui vendent des solutions de police prédictive, justifiant souvent leur efficacité malgré les risques d'inégalité sociale et d'injustice accrue.

Les modèles de ML en finance évaluent la solvabilité, prévoient les tendances du marché et gèrent les investissements. Bien que ces modèles puissent améliorer l'efficacité, ils introduisent également des risques systémiques, tels que la volatilité du marché et l'exclusion financière. Les institutions financières marchandisent ces risques à travers des produits comme les prêts hypothécaires à risque et les dérivés, transférant le potentiel d'instabilité financière aux consommateurs et investisseurs individuels.