Excellent article !

Morceaux choisis, mais il y en a beaucoup beaucoup !

Au commencement, il s’agit juste de vendre.
Puis il s’agit de manipuler pour vendre. De manipuler en masse, pour vendre en masse. De contrôler des masses. C’est une histoire qui commence au XIXème siècle, peut-être même avant.
Puis on réalise qu’il faut connaître pour manipuler. Alors on entreprend de mieux connaître pour mieux manipuler et mieux prédire. C’est une bonne partie de l’histoire du XXème siècle, avec Edward Bernays en vedette américaine.
Puis on en arrive à surveiller. Les merveilleuses « nouvelles technologies de l’information et de la communication » qui émergent dans les idéalistes années 1990s en donnent la possibilité technique. Surveiller tout. Tout le temps. Surveiller tout en espérant ainsi pouvoir tout prédire. C’est l’histoire des premières années du XXIème siècle, dont l’épilogue a été écrit par Edward Snowden en 2013.
Et puis on se met à transformer. Plus que juste surveiller, on réalise qu’il est très possible et très avantageux de transformer. Plus que juste manipuler, on réalise qu’on peut rendre manipulable, qu’on a désormais des moyens pour rendre encore plus facilement manipulable. Pour rendre prédictible, complètement prédictible. Cette histoire-là commence quelque part dans la première décennie du XXIème siècle. Je pense qu’elle est encore en train de s’écrire.

Niché dans un bâtiment anonyme du campus de Stanford à Palo Alto, en Californie, se trouve le « Stanford Persuasive Technology Lab », fondé en 1998. Le créateur de ce laboratoire, le Dr B.J. Fogg, est un psychologue et le père de la « technologie persuasive », une discipline au sein de laquelle des machines et des applications numériques – incluant smartphones, réseaux sociaux et jeux vidéos – sont configurés pour altérer les pensées et les comportements humains. Comme le proclame vigoureusement le site Web du laboratoire : « Des machines conçues pour changer des humains. »

La technologie persuasive (également appelée conception persuasive) consiste à créer délibérément des environnements numériques donnant l’impression aux utilisateurs qu’ils satisfont leurs besoins humains basiques — faire partie d’un groupe sociale, ou trouver des buts – mieux que ne le font des alternatives du monde réel. Des gamins passent des heures infinies sur les réseaux sociaux et les jeux vidéos à la poursuite de « likes », d’ « amis », de points et de niveaux – parce que c’est stimulant, ils croient que cela apporte bonheur et succès, et ils trouvent cela plus facile que les activités de l’enfance, difficiles mais importantes pour leur développement.

Dans un de ses travaux académiques, décrivant comment sa formule est efficace pour pousser des gens à utiliser un réseau social, le psychologue explique qu’une motivation clef est le désir des utilisateurs d’ « acceptation sociale », même s’il dit qu’une motivation encore plus puissante est le désir « d’éviter d’être socialement rejeté ».

Les réseaux sociaux et les jeux vidéos utilisent la technique de manipulation du cerveau, très fiable, de la récompense variable (pensez à une machine à sous à Las Vegas). Les utilisateurs ne savent jamais quand ils obtiendront leur prochain « j’aime » ou leur prochaine récompense dans le jeu, et elle leur arrive à un moment idéal pour susciter une stimulation maximale et les garder sur le site. Une énorme puissance de calcul est mise en œuvre pour les AI « apprennent » quels éléments de conception persuasive sont les plus efficaces pour garder les utilisateurs captifs.