Ethique des algorithmes, IA et schizophrénie, Punkt et Apostrophy, gouvernementalité algorithmique

Concept et 10 choses que j'ai trouvé intéressantes cette semaine

Concept

La gouvernementalité algorithmique : une nouvelle forme de pouvoir selon Antoinette Rouvroy

Dans un entretien percutant en juin dernier, la chercheuse Antoinette Rouvroy décrypte comment l'IA et le Big Data transforment radicalement les mécanismes du pouvoir dans nos sociétés. Contrairement à la surveillance traditionnelle qui visait à faire respecter des normes, la gouvernementalité algorithmique s'intéresse aux "signaux" plutôt qu'aux individus. Elle ne cherche pas à comprendre ou interpréter, mais à capitaliser sur les comportements imprévisibles via le profilage massif. Cette nouvelle forme de pouvoir présente trois dangers majeurs pour la démocratie :

• L'impossibilité de contester un système qui évite le langage et le débat

• La prétention des algorithmes à représenter directement le réel

• L'émergence de nouveaux "souverains numériques" dont le pouvoir n'est plus territorial

Rouvroy critique également l'AI Act européen, le jugeant inadapté car il traite l'IA comme un simple produit alors qu'il s'agit d'un "mode d'ordonnancement du monde". Cette évolution favorise l'émergence de figures politiques populistes qui, tels des "marques", prospèrent sur les mécanismes d'influence des réseaux sociaux plutôt que sur le débat rationnel.

J’ai particulièrement apprécié ses propos :
”Cela crée une sorte d’absolutisation du pouvoir de ceux qui ont l’algorithme. Ça leur permet, parmi la multitude de possibles, d’optimiser. Mais optimiser, ça veut dire obtenir un seul résultat. Donc cela permet de choisir le possible le plus en adéquation avec l’intérêt – commercial, de notoriété, quel qu’il soit – de celui qui maîtrise l’algorithme.

On a donc de nouveaux souverains dont le pouvoir n’est plus ancré sur un territoire physique, ni articulé à une population d’être humains. Leur souveraineté porte sur la potentialité pure des masses de données qu’ils traitent, sur les espaces spéculatifs qu’ils sont capables de générer et par rapport auxquels ils peuvent agir par avance.

Ça ressemble au fonctionnement du trading à haute fréquence : la volatilité est indispensable au fonctionnement même de ce mode de trading. L’incertitude, ça n’est pas quelque chose qui se limite, mais qui étend à l’infini leurs capacités d’action. Dans un monde algorithmique, les gouvernants agissent comme des spéculateurs : l’enjeu n’est plus de gouverner, mais de réagir de manière agile et opportuniste. On vise la résilience plutôt que la prévention ou la précaution. Cela permet de continuer à tirer profit sans jamais rencontrer aucun obstacle, puisque toute entité susceptible d’objecter est métabolisée par le numérique.”

Et puis elle dit cette chose en laquelle je crois vraiment :

“À mon sens, les dynamiques hyperspéculatives que permettent les traitements de grandes masses de données sont des manières de dé-gouverner, c’est-à-dire de ne plus prendre de décision vis-à-vis de ce sur quoi on a besoin de prendre des décisions communes. La gouvernementalité algorithmique court-circuite les collectifs, l’élaboration de décisions partagées. Ce dont nous avons besoin de manière urgente, c'est d'infrastructures du commun.”

Voici 10 choses que j’ai trouvé intéressantes cette semaine :

1. 💼 Repenser le travail comme un produit : une nouvelle approche managériale. Harvard Business Review propose une réflexion novatrice sur la conception du travail, suggérant de l'aborder comme un véritable produit à développer et améliorer continuellement. Cette approche émerge d'un constat alarmant : malgré un siècle de recherches sur l'organisation du travail, l'expérience employé reste largement insatisfaisante. Les phénomènes post-Covid comme le "quiet quitting" et les tensions autour du retour au bureau en sont la preuve flagrante. Le problème majeur ? De nombreux employés restent dans leur poste par nécessité plutôt que par engagement, créant une situation intenable qui mène à un désengagement prévisible. La solution proposée consiste à appliquer les principes du développement produit au travail lui-même :

   • Design centré sur l'utilisateur (l'employé)

   • Itérations et améliorations continues

   • Mesure régulière de la satisfaction

   • Adaptation aux besoins évolutifs

   Cette nouvelle perspective pourrait révolutionner la façon dont les entreprises conçoivent et gèrent l'expérience professionnelle de leurs employés.

2. Ce qui est si spécial dans le cerveau humain : Cet article de Nature, présenté sous forme d’infographie (le contenu est dense !) explore les dernières découvertes scientifiques sur les caractéristiques uniques du cerveau humain. Les progrès réalisés dans les atlas cellulaires, les organoïdes cérébraux et d’autres méthodes de pointe apportent enfin des réponses à cette question de longue date.

   

   
   L'article examine comment le cerveau humain diffère des autres espèces en termes de composition cellulaire et de processus de développement.

   

   Les principales conclusions comprennent des informations sur la diversité des types de cellules du cerveau humain et sur la manière dont cela se compare à celui d'autres animaux. L'article passe en revue également les implications de ces découvertes pour notre compréhension de la cognition humaine et du fonctionnement du cerveau. A consulter avec un peu de temps devant soi.

3. Cet article sur les algorithmes de recommandation vise à susciter une réflexion sur les considérations éthiques entourant l’utilisation des données. L'article intitulé Spooky Recommendation System Scaling a été publié sur LessWrong . L'auteur discute d'une ébauche d'idée sur le contrôle de l'utilisateur sur les données utilisées par les systèmes de recommandation . L’un des principaux arguments avancés est la nécessité de réglementer les systèmes de recommandation. L’accent est mis sur les implications de la gestion des données utilisateur pour améliorer la transparence du système.
   ”Vous savez probablement aussi que les systèmes de recommandation sont rentables. Ils constituent l’épine dorsale de certaines des entreprises les plus valorisées au monde. Ce qui passe inaperçu, c’est la rentabilité de ces systèmes. Les revenus d’Alphabet, qui s’élèvent à 330 milliards de dollars, représentent 40 dollars par an par homme, femme et enfant sur cette planète, soit un tiers de 1 % du PIB mondial, ou plus que le PIB du Portugal. Ce chiffre d’affaires est principalement dû à la publicité. L’amélioration des revenus publicitaires attirera l’attention de nombreux acteurs de premier plan dans le domaine de l’IA, notamment GDM et Meta Research.”
   
   Sa proposition pour remédier à cela sur Phoropter :
   “Je pense qu'il est possible de définir des ensembles de données sur lesquels les utilisateurs pourraient vouloir avoir un contrôle, ainsi que ce qui se trouve dans ces ensembles. Voici quelques exemples :

   1. Données personnelles - âge, état de santé, origine ethnique, revenu

   2. Données de localisation - localisation explicite ainsi que adresse IP.

   3. Données utilisateur : messages sur le site, interactions des utilisateurs, etc. Cela pourrait bénéficier d'une plus grande granularité.

   Je suis sûr que si quelqu'un se lance réellement dans cette idée, la liste des groupes sera discutée et débattue pendant des siècles.”

4. 🎨 Ken Burns démystifie Léonard de Vinci dans un nouveau documentaire (via BigThink). Le célèbre documentariste Ken Burns s'attaque aux mythes entourant Léonard de Vinci dans son nouveau film diffusé sur PBS. Contrairement aux idées reçues, de Vinci n'était ni un inventeur du tank ou de l'hélicoptère, ni un mystique religieux. Le génie de la Renaissance était avant tout un observateur minutieux de la nature, qui privilégiait l'observation directe plutôt que les livres. N'ayant pas accès à l'université en raison de sa naissance illégitime, il a fait de la nature son principal professeur.

   
   Burns présente de Vinci non pas comme un simple touche-à-tout, mais comme un esprit interdisciplinaire qui voyait l'art, les mathématiques, la géologie et la physique comme des disciplines complémentaires pour comprendre la réalité. Ses découvertes scientifiques, notamment en anatomie, étaient si précises qu'il a fallu des siècles et l'imagerie moderne pour confirmer certaines de ses observations. Le documentaire met en lumière un homme étonnamment moderne et rationnel, dont la curiosité sans limites et la méthode scientifique rigoureuse restent inspirantes cinq siècles plus tard.

5. 🧠 Hallucinations, IA et schizophrénie : une nouvelle perspective sémiotique (via LessWrong). Une analyse fascinante explore les liens entre les hallucinations des IA, la schizophrénie humaine et notre capacité à distinguer le réel de l'imaginaire. L'auteur propose une théorie basée sur les "signes d'ordre supérieur" pour comprendre ces phénomènes. Notre cerveau, comme les IA actuelles, crée constamment des associations et des extrapolations à partir de nos expériences directes. La différence cruciale est que les humains ont développé une fonction régulatrice permettant de distinguer le réel de l'imaginaire, fonction absente chez les IA actuelles. Cette capacité de régulation n'est pas innée : elle s'acquiert par l'expérience et peut dysfonctionner, comme dans la schizophrénie. Les hallucinations des IA actuelles ressemblent ainsi aux symptômes schizophréniques : une incapacité à distinguer les extrapolations valides des invalides. La conclusion est frappante : plus un système (humain ou artificiel) développe des capacités cognitives complexes, plus il a besoin de mécanismes robustes pour distinguer le réel de l'imaginaire. Cette perspective suggère que les futures IA avancées pourraient nécessiter des "garde-fous" similaires à ceux de notre cognition

6. 🌍 L'UE face au défi de l'autonomie stratégique en IA (vie la CE). Un nouveau rapport du Centre Commun de Recherche (JRC) de l'Union Européenne analyse la position de l'UE dans la course mondiale à l'IA et ses perspectives d'autonomie stratégique. L'étude révèle que l'Europe accuse un retard significatif dans plusieurs domaines critiques :

   • La puissance de calcul nécessaire au développement des grands modèles d'IA

   • L'accès aux composants essentiels comme les semi-conducteurs avancés

   • Le nombre de startups et le volume d'investissements privés en IA

   Cependant, l'UE dispose d'atouts majeurs :

   • Une excellence académique reconnue en IA

   • Un cadre réglementaire pionnier avec l'AI Act

   • Une forte capacité d'innovation dans l'IA industrielle

   Pour renforcer son autonomie stratégique, le rapport recommande :

   • Le développement d'infrastructures de calcul européennes

   • L'intensification des investissements publics-privés

   • Le renforcement des partenariats internationaux stratégiques

   • La protection des technologies critiques et des talents

   Cette analyse souligne l'urgence pour l'Europe de consolider sa position dans la course mondiale à l'IA, tout en préservant ses valeurs et sa vision éthique du développement technologique.

7. 🌍 Les BRICS dévoilent leur vision d'un "nouvel ordre mondial" à Kazan (via Grand Continent). Le 16ème sommet des BRICS à Kazan (Russie) a abouti à une déclaration en 12 points, esquissant la vision du groupe pour un "nouvel ordre mondial multipolaire". Points clés :

   • Appel à une réforme de l'ONU et du Conseil de Sécurité

   • Critique des sanctions internationales unilatérales

   • Plaidoyer pour la résolution pacifique des conflits

   • Condamnation de la politique israélienne au Moyen-Orient

   • Position nuancée sur la guerre en Ukraine

   • Engagement pour le désarmement et la non-prolifération nucléaire

   La déclaration utilise paradoxalement le langage des institutions internationales occidentales (droits de l'homme, démocratie, coopération) tout en critiquant leur application hypocrite par l'Occident. Cependant, l’article révèle des contradictions flagrantes, notamment concernant la Russie et son invasion de l'Ukraine (pas surprenant). Ce document illustre la montée en puissance économique des BRICS, dont le PIB combiné dépasse désormais celui du G7, et leur ambition de rééquilibrer l'ordre mondial à leur avantage.

8. 🔓 L'IA open source : un concept en trompe-l'œil ? (via Tante). Une analyse critique remet en question la notion même d'IA "open source", soulignant que la publication du code source ne suffit pas à rendre une IA véritablement ouverte et accessible. Le véritable défi réside dans trois aspects fondamentaux :

   • Les données d'entraînement, souvent inaccessibles ou protégées

   • La puissance de calcul nécessaire, hors de portée pour la plupart des acteurs

   • L'expertise technique requise pour exploiter ces modèles

   Même les projets présentés comme "open source" comme Llama 2 de Meta conservent des éléments critiques sous contrôle propriétaire, notamment leurs données d'entraînement et leur méthodologie complète. Cette situation crée une illusion de transparence alors que les leviers réels de contrôle restent entre les mains des grandes entreprises technologiques. L'auteur suggère qu'une véritable IA open source nécessiterait non seulement le code, mais aussi l'accès aux données d'entraînement et aux ressources de calcul nécessaires à son développement.

9. 📱 Punkt MC02 : Un smartphone minimaliste axé sur la confidentialité (et qui est Suisse) (via Techcrunch). La marque suisse Punkt lance son premier smartphone, le MC02, proposant une alternative intéressante pour les utilisateurs soucieux de leur vie privée. L'appareil fonctionne sous Apostrophy OS, une version personnalisée d'Android intégrant des contrôles de confidentialité avancés et un VPN intégré au niveau du processeur. Les caractéristiques techniques sont modestes mais fonctionnelles : écran 6,7 pouces HD, 6 Go de RAM, 128 Go de stockage et une batterie de 5500 mAh. Le modèle économique est basé sur l'abonnement : après une année gratuite, les utilisateurs devront payer environ 20$/mois pour accéder aux services premium (email, VPN, synchronisation, stockage sécurisé sur serveurs suisses). Commercialisé à 749$, le MC02 se positionne comme une "troisième voie" face au duopole Apple-Google. L'entreprise vise un public de niche mais croissant, préoccupé par la confidentialité des données et prêt à payer pour une alternative aux géants de la tech. Punkt prévoit également d'étendre sa technologie Apostrophy à d'autres fabricants de smartphones, avec l'objectif d'équiper 5 millions d'appareils sous différentes marques d'ici cinq ans.
   Moi ça me tente, j’aimerais bien l’essayer !

10. J’ai adoré cet article de Noema qui conjugue en un raisonnement, les inquiétudes et les espoirs, à distance égale de notre intuition concernant l’avenir : l’impossibilité de prédire vers quoi nous allons. 🌍 Débat sur l'avenir de notre planète : deux visions opposées

    

    La défaite de longue durée

    • Pamela Swanigan, écrivaine de Vancouver, s'inspire du Seigneur des Anneaux de Tolkien pour décrire un combat perdu d'avance contre les "destructeurs du monde"

    • Elle rejette l'espoir naïf d'un retour à la sagesse des peuples autochtones pour sauver la planète

    • Sa vision : accepter "la longue défaite" et faire au mieux face à l'inévitable catastrophe climatique
      
      L'intelligence planétaire émergente

    • L'astrophysicien Adam Frank propose une vision plus optimiste

    • Il compare la Terre à un système complexe où la "technosphère" (créée par l'humain) et la biosphère peuvent coévoluer

    • Sa théorie s'inspire des travaux de James Lovelock sur l'hypothèse Gaïa : la planète comme système autorégulateur

      
      Les enjeux futurs

    • Pour survivre, la technosphère doit "mûrir" et développer des systèmes de feedback similaires à ceux de la biosphère

    • Frank souligne que toute civilisation technologique doit s'adapter aux "règles planétaires" pour perdurer

    • L'émergence d'une "intelligence planétaire" serait la seule façon pour une civilisation technologique de survivre sur des échelles géologiques
      
      Tout cela semble très logique mais l’article en anglais et très bien écrit.

    Merci pour votre lecture !