You are currently viewing Algocracie

Algocracie

Cet article est tiré du livre Algocratie, écrit par Arthur Grimonpont, nommé rapporteur de la Charte de Paris sur l’IA et le journalisme. Il soutient également Reporters sans frontières (RSF) dans son plaidoyer pour la régulation de l’intelligence artificielle. 

L’extractivisme de l’attention

Dans un monde où l’information est omniprésente, notre attention est devenue une ressource rare et précieuse. Comme le politologue Herbert Simon l’avait prédit en 1971, « l’abondance d’informations implique […] une rareté de ce que l’information consomme, et ce que l’information consomme est évident : c’est l’attention de ses destinataires. Par conséquent, une abondance d’informations crée une rareté d’attention ». Cette prédiction sonne juste à l’ère des réseaux sociaux et des algorithmes qui régissent notre accès à l’information.

L’extractivisme, la pratique consistant à s’emparer d’une ressource inexploitée pour en faire une marchandise, s’applique désormais au monde virtuel avec la même voracité qu’au monde réel. Notre attention est devenue la matière première sur laquelle se construisent les empires publicitaires des entreprises les plus puissantes de la planète : Alphabet (Google et YouTube) et Meta (Facebook et Instagram). Ces géants du numérique tirent l’essentiel de leurs revenus de la publicité, rivalisant férocement pour capter notre temps de cerveau disponible.

La marchandisation de la vie sociale

Concrètement, une poignée d’algorithmes pilotés par des intérêts privés structurent l’accès à l’information pour la moitié de l’humanité. Les dirigeants de ces entreprises présentent leurs plateformes comme des « places de village planétaires », mais la réalité est plus prosaïque : elles fonctionnent comme des régimes autoritaires dirigés par des autocrates. Pour étendre leurs empires, ces dirigeants organisent la marchandisation de nos vies sociales, politiques et culturelles, sans égard pour notre santé mentale, le droit à une information fiable ou la démocratie.

En Occident, les moteurs de recherche et les réseaux sociaux fournissent environ deux tiers de l’audience des sites d’information en ligne. Maria Ressa, journaliste philippine et lauréate du prix Nobel de la paix en 2021, a déclaré : « Nos vies sont aspirées dans une base de données, organisées par l’intelligence artificielle, puis vendues au plus offrant. Ce micro-ciblage ultra-rentable est conçu pour saper la volonté humaine. »

Les conséquences de l’économie de l’attention

L’économie de l’attention favorise systématiquement le mensonge, le sensationnalisme et la haine, car ce type de contenu retient mieux l’attention. Sur les réseaux sociaux, les fausses informations se propagent six fois plus vite que la vérité, et les algorithmes nous divisent et nous radicalisent. Ils nous enferment dans des chambres d’écho, des microcosmes numériques où nous n’accédons qu’aux informations qui confirment nos préjugés. Nos connaissances et nos croyances communes s’érodent, et avec elles, le contrat social.

Hannah Arendt a déclaré : « Quand tout le monde vous ment constamment, le résultat n’est pas que vous croyez ces mensonges, mais que plus personne ne croit plus rien. […] Et avec un tel peuple, vous pouvez faire ce que vous voulez. »

La bulle d’information

Grâce à des algorithmes toujours plus sophistiqués, les plateformes numériques proposent des contenus séduisants, divertissants et captivants, surnommés « bonbons cognitifs ». Sans le savoir, nous naviguons à travers les réseaux sociaux dans une bulle d’information sur mesure créée à partir de données collectées précédemment. Les utilisateurs se retrouvent piégés dans des sphères isolées d’informations et d’opinions, renforçant leurs croyances respectives.

Ce phénomène repose sur l’exploitation à grande échelle de nos appétits biologiques et de nos biais psychologiques, tels que le biais de confirmation, l’aversion au risque, le biais d’auto-amélioration et l’effet de simple exposition. Les plateformes sociales automatisent l’exploitation de ces faiblesses à grande échelle, conduisant à la polarisation, à la radicalisation et à la désinformation de masse de la société.

Que faire face au chaos informationnel ?

Face au chaos informationnel, une recommandation fait désormais consensus : l’éducation aux médias et à l’information. Cependant, transférer la responsabilité des multinationales qui structurent le marché de l’information aux individus qui la consomment n’est pas une solution viable. Les problèmes sociétaux ne peuvent être résolus par la vertu individuelle. La prise de conscience ne conduit au changement structurel que si elle se traduit par une action collective.

L’Europe a commencé à s’attaquer à ce problème en adoptant récemment des lois contraignantes telles que la loi sur les services numériques et la loi sur l’IA. Bien que ces lois soient pertinentes, elles ne sont pas assez sévères. Néanmoins, les bases d’une réglementation démocratique des plateformes sont en place.

Un projet remarquable dans ce domaine est Tournesol, une initiative open source visant à créer un système de recommandation démocratique et éthique. Tournesol permet aux utilisateurs de noter et d’évaluer des contenus en ligne en fonction de critères tels que la fiabilité, la pertinence et la qualité. En agrégeant ces évaluations, Tournesol offre une alternative aux algorithmes de recommandation traditionnels, en mettant l’accent sur la transparence et la participation collective. Ce projet démontre comment les solutions basées sur l’intelligence collective peuvent contribuer à une information plus fiable et plus équilibrée.

Vers une démocratie de l’information

L’auteur propose une « méta-solution » à ce « méta-problème » : une réglementation stricte imposée aux plateformes sociales par l’Union européenne et ses États membres, suivie de l’allocation de ressources importantes au développement, au déploiement et à l’exploitation d’un système de recommandation démocratique fondé sur le bien commun.

« Un tel scénario est-il plausible ? », s’interroge l’auteur. « Aujourd’hui, la guerre de l’attention coûte des vies, affaiblit nos démocraties et nous rend incapables de répondre intelligemment aux menaces contemporaines. Mettre fin à cette guerre de l’attention ne nécessite pas de sacrifier la liberté ou de mener des opérations militaires à grande échelle, mais simplement de faire preuve de volonté politique. »

Références: