Nl
Close

BRANDS

Pourquoi vous ne devez pas regarder "The Social Dilemma", par Fred Bouchar (MM)

Dimanche 27 Septembre 2020

Pourquoi vous ne devez pas regarder

Vous êtes d'humeur maussade, un rien grognon en ce premier dimanche d'automne pluvieux, entouré de ces miasmes viraux ; vous avez décidé de rester en mode plaid et canapé, en vous demandant ce que va bien pouvoir vous proposer l'algorithme de Netflix. 
 
Sans doute, va-t-il vous proposer "The Social Dilemma", parce que dans le top 10 belge des programmes les plus regardés, et parce que l'algorithme sait que vous êtes concerné, voire impliqué dans ce qui se passe "derrière nos écrans de fumée" (l'autre titre du docu en question). L'algorithme a digéré vos données, il sait que vous bossez dans la pub, que vous fréquentez assidument les réseaux sociaux ; il sait que ces "frenemies" vous rendent un brin schizo. Tout comme il sait que ce docudrame ne vous rendra pas nécessairement plus intelligent, ni plus "aware" : vous saviez déjà tout ça. 
 
Vous bossez dans la pub, vous fréquentez assidument les réseaux sociaux. Vous commercez avec eux, de plus en plus, et aussi, encore un peu, avec les médias locaux qui vous ont mis en garde. Du coup, vous savez qu'il est de bon ton de prendre ses distances, s’inquiéter de la brand safety, s'offusquer des discours haineux, des fake news, s'attrister des manquements à la privacy, et pourquoi pas, s'associer de temps à autre à une petite action de boycott. 
 
"The Social Dilemma" ne vous rendra pas nécessairement plus intelligent mais probablement un peu plus déprimé. Peut-être même un peu honteux. 
 
Pas seulement à cause de cette terrible citation de Sophocle qui préface le film de Jeff Orlowski - "Rien d'excessif ne se glisse lentement dans la vie des mortels qui ne les exposent au malheur" - mais justement, parce que… vous savez déjà tout ça. Au demeurant, sans doute aurez-vous un peu de mal à répondre à cette question posée dès l'entame du film de : quel est le problème avec les réseaux sociaux ? 
 
Rassurez-vous : les anciens faiseurs des réseaux sociaux qu'interroge "The Social Dilemma" sont tout aussi embarrassés. « Difficile d'en pointer un précisément, il y a de nombreux problèmes », répond finalement Justin Rosenstein, l'un des inventeurs du bouton Like de Facebook. Pendant plus de 90’, le film va les égrener : l'utilisation de nos données, la nomophobie et l'addiction aux réseaux sociaux, leur impact sur notre santé mentale, leur rôle dans la visibilité donnée aux théories du complot, aux extrémistes, aux discours haineux... Et surtout, la manipulation de nos comportements à des fins publicitaires. 
 
« C'est facile aujourd'hui d'oublier que ces outils nous ont procuré des choses vraiment merveilleuses… Mais nous étions naïfs quant au revers de la médaille », déclare Tim Kendall, l'ancien directeur de la monétisation chez Facebook, qui considérait en 2006 que le modèle publicitaire était « sans doute le plus élégant pour faire rentrer de l'argent ». 
 
« Si vous ne payez pas pour le produit, vous êtes le produit », rappelle Tristan Harris, ancien éthicien du design chez Google et co-fondateur du Center for Humane Technology. Quoique, pour le Computer Scientist Jaron Lanier, « c'est plutôt le changement progressif, léger et imperceptible dans notre comportement et dans notre point de vue qui est le produit ». 
 
« C'est la seule chose dont ils peuvent tirer de l'argent : modifier vos actions, vos pensées, qui vous êtes », précise-t-il. « Et c'est ce que toute entreprise a toujours rêvé d'avoir : la garantie que sa pub sera efficace », poursuit Shoshana Zuboff, professeur à la Harvard Business School. « Leur fonds de commerce, c'est vendre cette certitude. Pour réussir, ils ont besoin de bonnes prévisions, et la condition pour faire de bonnes prévisions, c'est la data. Beaucoup de data. » 
 
C’est ce qu’elle appelle le capitalisme de la surveillance : un capitalisme qui tire bénéfice de l'observation chirurgicale de tout ce que nous faisons par des entreprises dont le business model consiste à assurer le succès des annonceurs : « Une place de marché sans précédent qui fait uniquement commerce du futur des êtres humains à grande échelle et qui a produit les entreprises les plus riches de toute l'histoire de l'humanité. »
 
« On croit à tort que ce sont nos données qui sont vendues, or ce n'est pas dans l'intérêt de Facebook de vendre ses data. Ce qu'ils en font, c'est construire des modèles pour prédire nos actions, et le gagnant est celui qui construit le meilleur modèle », dixit Aza Raskin, l'inventeur du scroll infini. Pour Sandy Parakilas, ex Facebook, « toutes ces données que nous produisons continuellement sont entrées dans des systèmes sans presque aucun contrôle humain, et ces systèmes délivrent des prévisions toujours meilleures sur nous et nos actions. » 
 
Jeff Seibert, fondateur de Crashlytics, va plus loin : « Quand on parle de machine learning, il faut se rendre compte que plus personne ne comprend vraiment ce que font les ordinateurs. » « Il n'y a qu'une poignée de personnes qui comprennent le fonctionnement de ces systèmes et même eux ne savent pas exactement », confirme Sandy Parakilas. « Nous avons presque perdu le contrôle de ces systèmes. Ils nous contrôlent plus que nous les contrôlons. »  
 
Anxiogène ? Pire que ça ! Pour Jaron Lanier, « nous créons une génération qui grandit dans un environnement où l'idée même de communication, l'idée même de culture est la manipulation ». 
 
Face à cette manipulation qui se nourrit des milliards d’utilisateurs des réseaux sociaux, le monde semble impuissant. « D’autant que ces plateformes ont été conçues de façon à nous rendre totalement addictifs. » Et cette citation d’Edward Tufte (le Leonard de Vinci de la data m’apprend Wikipedia) de surgir à l’écran : « Seules deux industries appellent leurs consommateurs "users" : celle de la drogue et des logiciels. » 
 
Les algorithmes de Facebook, Instagram, Twitter, YouTube sont conçus pour apporter au cerveau la dose de dopamine nécessaire pour le rendre accro, explique Anna Lembke, professeur et spécialiste des addictions à Stanford : « Sur les plateformes, tout est fait pour retenir l’attention des utilisateurs le plus longtemps possible et générer un maximum de revenus publicitaires. Les notifications, likes, tags et autres recommandations nous maintiennent toujours en tension, sans que l’on en soit toujours pleinement conscient. »
 
L’addiction crée des manques, avec des conséquences dramatiques chez les plus jeunes. Un psychologue de la NYU Stern School of Business explique que la GenZ est de plus en plus angoissée, surtout les adolescentes : très faible jusque dans les années 2000, aux Etats-Unis, le taux d’hospitalisation pour cause d’automutilation et les suicides au sein de cette population ont explosé entre 2011 et 2013, au moment de l’apogée des réseaux sociaux. Pas étonnant que les pionniers de la Silicon Valley disent en limiter l’accès à leurs enfants ! 
 
Autre problème, et non des moindres : « Les algorithmes sont la raison pour laquelle notre société est si polarisée. Pour nous garder le plus longtemps possible, ils vont nous proposer des contenus qui vont valider notre point de vue. De ce fait, chacun intègre progressivement l'idée fausse que tout le monde est sur la même longueur d'onde », explique Tristan Harris. « Sur Twitter, les fausses infos se répandent six fois plus vite que les vraies. Les vidéos où l'on affirme que la Terre est plate ont été recommandées des millions de fois sur YouTube… A quoi le monde peut-il ressembler lorsque le mensonge se répand plus vite que la vérité ? »
 
Les affranchis ne sont guère optimistes, vous l’aurez compris : si tous expriment leurs regrets sur ce qu’ils ont déclenché, leurs prophéties font froid dans le dos. A quelques semaines de l’élection US, Tim Kendall dit que sa plus grande inquiétude est « la guerre civile ». Pas moins. Jaron Lanier et Tristan Harris évoquent carrément un danger existentiel pour l'humanité… Ils exagèrent sans doute. 
 
Certains gardent espoir, croient qu’une régulation est possible. Beaucoup prônent plutôt des mesures plus énergiques comme une taxe sur les data, un démantèlement, voire une interdiction ; mais personne ne croit une seconde que la solution puisse venir de ces entreprises trop occupées à accumuler des profits pour changer de paradigme.
 
And so what ? 
 
Je vous avais prévenu : vous savez, nous savons déjà tout ça.

Archive / BRANDS