Design éthique : Comment des idées impensables deviennent progressivement acceptables

14 juillet 2024 par
Design éthique : Comment des idées impensables deviennent progressivement acceptables
pedro taveira

Dans le monde du design, en particulier du design comportemental et des plateformes digitales, les décisions prises par les créateurs peuvent avoir un impact profond sur la société. Le concept de la fenêtre d’Overton montre comment des idées qui étaient autrefois impensables peuvent, avec le temps et par un processus graduel, devenir acceptables, voire dominantes dans une société. En tant que designers, il est essentiel de comprendre ce processus pour s’assurer que les produits et les services que nous créons ne contribuent pas à la normalisation d’idées ou de comportements contraires à l’éthique.

La fenêtre d’Overton : un outil pour comprendre le glissement des idées

la fenêtre d’Overton représente la gamme d’idées que l’opinion publique juge acceptables à un moment donné. Ces idées évoluent selon différents degrés d’acceptation :

  1. Impensable
  2. Radical
  3. Acceptable
  4. Raisonnable
  5. Populaire
  6. Politique publique

Le glissement d’une idée d’un niveau à un autre peut se faire de manière subtile et progressive, souvent sous l’influence de campagnes médiatiques, de recherches pseudo-scientifiques ou de figures publiques qui légitiment progressivement ces idées.

Un exemple emblématique: le tabac et la santé publique

Dans les années 1950, l’idée que fumer était nocif pour la santé était loin d’être acceptée par le grand public, en partie grâce aux campagnes de désinformation financées par les fabricants de tabac. Cependant, au fil des décennies, des études scientifiques rigoureuses ont déplacé l’idée de « fumer est inoffensif » d’une position acceptable à une position impensable. Aujourd’hui, la consommation de tabac est largement perçue comme un grave problème de santé publique, ce qui montre comment une idée impensable peut devenir dominante, mais aussi l’inverse.

Un exemple récent: le mariage pour tous

Le mariage homosexuel offre un exemple de changement radical d’une idée impensable à une politique publique. Il y a quelques décennies, l’idée que les personnes du même sexe puissent se marier était considérée comme radicale ou impensable dans de nombreuses sociétés. Grâce à des campagnes de sensibilisation, au militantisme et à des figures publiques influentes, cette idée a progressivement été normalisée, devenant d’abord acceptable, puis raisonnable, avant d’être adoptée dans la législation de nombreux pays.

Mécanismes classiques de déplacement de la fenêtre d’Overton


1. La répétition

L’une des techniques les plus efficaces pour déplacer la fenêtre d’Overton est la répétition constante d’une idée. À force d’être exposé à une idée, même impensable, le public commence à la considérer comme moins choquante. Par exemple, l’idée du transhumanisme, qui consiste à augmenter les capacités humaines par la technologie, était autrefois considérée comme de la science-fiction. Aujourd’hui, elle est de plus en plus discutée comme une possibilité future sérieuse, en grande partie grâce à sa présence répétée dans les médias.


2. Le rebranding

Un exemple notable de rebranding pour déplacer la fenêtre d’Overton est celui du concept de “guerre préventive”. Autrefois, le lancement d’une guerre sans provocation directe était largement considéré comme immoral et contraire au droit international. Cependant, dans le contexte post-11 septembre, l’administration américaine a commencé à parler de “guerre préventive” ou de “frappe préventive” pour justifier des actions militaires contre des États qui n’avaient pas encore attaqué, mais étaient perçus comme une menace future. En rebaptisant ce concept sous des termes qui évoquent la prévention et la sécurité plutôt que l’agression, l’idée d’attaquer un autre pays sans provocation immédiate est devenue plus acceptable pour une partie de l’opinion publique.


3. L’infiltration scientifique

Utiliser des études ou des opinions scientifiques, même controversées ou biaisées, pour soutenir une idée impensable peut légitimer cette idée. Par exemple, des études prétendant prouver que la surveillance de masse est nécessaire pour la sécurité publique ont aidé à faire accepter des pratiques de surveillance autrefois considérées comme intrusives et impensables.

Quelques techniques du design pour déplacer la fenêtre d’Overton

Les interfaces et la conception de l’expérience utilisateur (UX)

Les choix que nous faisons en tant que designers d’interfaces peuvent encourager certains comportements ou en dissuader d’autres. Par exemple, l’interface d’un réseau social peut être conçue pour encourager la polarisation des opinions en mettant en avant les contenus extrêmes ou controversés, ce qui peut déplacer la fenêtre d’Overton vers des idées plus radicales.

Les designers doivent intégrer des principes de conception éthique qui favorisent le dialogue équilibré et la diversité des points de vue. Cela peut inclure des algorithmes de recommandation transparents qui ne favorisent pas systématiquement les contenus les plus clivants, ainsi que des fonctionnalités qui encouragent la réflexion critique et la nuance.

Le Nudging et la manipulation comportementale

Le design comportemental utilise des techniques de « nudging » pour guider les utilisateurs vers des actions souhaitées. Si ces techniques sont mal utilisées, elles peuvent pousser les utilisateurs à adopter des comportements qui déplacent progressivement la fenêtre d’Overton vers des idées ou des pratiques éthiquement discutables.

Les behavior designers doivent s’assurer que les nudges sont utilisés de manière transparente et dans l’intérêt des utilisateurs. Cela signifie éviter toute manipulation cachée et veiller à ce que les choix proposés soient réellement dans le meilleur intérêt de l’utilisateur, plutôt que de servir uniquement des objectifs commerciaux. Tous les projets doivent donc commencer par l'identification des besoins réels des utilisateurs et des valeurs essentielles qui fixeront les limites à ne jamais franchir.

La gamification et la normalisation de comportements

La gamification, ou l’utilisation de mécanismes de jeu dans des contextes non ludiques, peut être un puissant outil de design. Cependant, elle peut aussi être utilisée pour normaliser des comportements qui, autrement, seraient considérés comme extrêmes ou inappropriés. Un exemple est celui des loot boxes dans les jeux vidéo. Les loot boxes sont des coffres virtuels contenant des récompenses aléatoires que les joueurs peuvent acheter avec de l’argent réel. Ce mécanisme, largement adopté dans de nombreux jeux, a été critiqué pour son lien avec des comportements addictifs similaires à ceux des jeux de hasard. Beaucoup de parents dans mon entourage me partagent des expériences de sommes englouties par leur adolescent dans ce type de jeu. Les joueurs sont encouragés à acheter ces loot boxes dans l’espoir d’obtenir des objets rares ou précieux, ce qui peut les amener à dépenser des sommes importantes, parfois sans avoir conscience de la probabilité réelle de recevoir un item de grande valeur.

Les designers doivent pratiquer une gamification éthique, en s’assurant que les systèmes de récompense ne poussent pas à des comportements nuisibles. Il est essentiel de concevoir des systèmes qui favorisent le bien-être des utilisateurs et encouragent des comportements positifs à long terme.

Le cas des réseaux sociaux et la polarisation de la socièté

Les réseaux sociaux ont révolutionné la manière dont les individus consomment l’information et interagissent les uns avec les autres. Cependant, ces plateformes ont également un côté sombre : elles ont contribué de manière significative à la polarisation des opinions. Ce phénomène est en grande partie dû aux algorithmes de recommandation, qui sont conçus pour maximiser l’engagement des utilisateurs. Ces algorithmes favorisent souvent les contenus susceptibles de susciter des réactions fortes, qu’il s’agisse de likes, de partages ou de commentaires. Les algorithmes des réseaux sociaux, tels que ceux de Facebook, X, ou YouTube, sont conçus pour maximiser le temps que les utilisateurs passent sur la plateforme. Pour ce faire, ils recommandent des contenus basés sur les interactions passées de l’utilisateur. Si un utilisateur montre de l’intérêt pour des contenus polémiques ou extrêmes, l’algorithme est susceptible de lui en recommander davantage, créant ainsi une boucle de rétroaction qui amplifie les opinions existantes.

Cela a pour effet de renforcer les convictions personnelles et de réduire l’exposition à des points de vue différents, un phénomène souvent décrit comme étant dans une « bulle de filtre ». En conséquence, les utilisateurs sont de plus en plus exposés à des contenus qui confirment leurs croyances, ce qui peut les amener à adopter des positions plus extrêmes. Ce processus élargit la fenêtre d’Overton, intégrant des idées auparavant marginales ou impensables dans le débat public. Les idées conspirationnistes qui étaient autrefois confinées à des cercles marginaux ont gagné en visibilité et en acceptabilité grâce à leur diffusion massive sur les réseaux sociaux. Des groupes qui adhèrent à ces idées se sont renforcés et ont pu recruter de nouveaux membres, ce qui a poussé ces idées à pénétrer le discours public de manière plus large.

Les conséquences sociétales

Les techniques de design, lorsqu’elles sont mal utilisées ou déployées sans considération éthique, peuvent avoir des répercussions profondes et souvent négatives sur la société. Les décisions prises par les designers, surtout dans le contexte des plateformes digitales, ne se limitent pas à des choix esthétiques ou fonctionnels ; elles influencent directement la manière dont les utilisateurs interagissent, pensent, et se comportent.


Les principales conséquences


1. Renforcement de la polarisation sociale

L’une des conséquences les plus visibles et troublantes des techniques de design dans les réseaux sociaux est la polarisation accrue des opinions. En encourageant les utilisateurs à interagir principalement avec des contenus qui renforcent leurs croyances existantes, les plateformes sociales créent des environnements où les perspectives opposées sont de plus en plus rares. Cette polarisation peut mener à des divisions sociales profondes, rendant le dialogue et le compromis plus difficiles.


2. Désensibilisation aux idées extrêmes

Lorsque des idées autrefois marginales ou extrêmes sont répétées et amplifiées sur les plateformes numériques, elles finissent par devenir normalisées. Cette désensibilisation peut rendre les sociétés plus tolérantes à des comportements ou à des politiques qui auraient été inacceptables dans le passé.


3. Augmentation de l’addiction technologique

Les techniques de gamification et de manipulation comportementale utilisées dans les applications et les plateformes numériques sont souvent conçues pour maximiser l’engagement des utilisateurs, parfois au détriment de leur bien-être. Ces pratiques peuvent conduire à des comportements addictifs, où les utilisateurs passent un temps disproportionné sur des plateformes ou dépensent de l’argent de manière compulsive.


4. Réduction de l'esprit critique

L’un des effets les plus insidieux des techniques de design employées dans les plateformes numériques est la réduction de l’esprit critique chez les utilisateurs. Les algorithmes, en sélectionnant et en présentant uniquement les contenus qui correspondent aux préférences ou aux croyances préexistantes des utilisateurs, réduisent l’exposition à des informations diversifiées et contradictoires. Cela peut affaiblir la capacité des individus à questionner les informations qu’ils reçoivent et à développer un esprit critique. Cette réduction de l’esprit critique a des conséquences sociétales majeures, notamment une vulnérabilité accrue à la désinformation et aux théories du complot, une polarisation croissante, et une diminution de la qualité du débat public.


5. Impact sur la santé mentale

La conception de plateformes numériques et d’applications qui exploitent les vulnérabilités psychologiques des utilisateurs peut avoir un impact négatif sur la santé mentale. L’addiction, la comparaison sociale, et l’exposition constante à des contenus polarisants ou anxiogènes peuvent contribuer à des niveaux accrus de stress, d’anxiété, et de dépression.


Leçon pour les designers : vers un design socialement responsable

Face aux conséquences sociétales potentiellement graves des techniques de design, il est impératif que les designers adoptent une approche éthique et responsable. Cette responsabilité ne se limite pas à la fonctionnalité et à l’esthétique des produits, mais s’étend à l’impact que leurs créations peuvent avoir sur le comportement et le bien-être des utilisateurs, ainsi que sur la société dans son ensemble. Voici quelques approches concrètes pour concevoir des systèmes numériques qui favorisent un environnement en ligne plus sain et équilibré :


1. Favoriser la diversité des points de vue

Les algorithmes de recommandation doivent être conçus pour exposer les utilisateurs à une variété de perspectives, plutôt que de les enfermer dans des bulles de filtre qui renforcent uniquement leurs croyances existantes. En proposant des contenus qui présentent des points de vue différents ou complémentaires, les plateformes peuvent encourager les utilisateurs à élargir leur horizon intellectuel et à développer un esprit critique. Les designers peuvent intégrer des fonctionnalités qui suggèrent activement des articles ou des vidéos d’opinions divergentes, ou créer des “contre-arguments” automatisés pour accompagner les contenus polémiques, afin d’encourager un débat plus équilibré.


2. Transparence des algorithmes

La transparence sur le fonctionnement des algorithmes est essentielle pour rétablir la confiance des utilisateurs et promouvoir un usage plus éclairé des plateformes numériques. Les utilisateurs doivent comprendre comment les contenus leur sont présentés et quels critères sont utilisés pour ces recommandations. Les designers peuvent proposer des outils interactifs permettant aux utilisateurs de personnaliser leurs algorithmes de recommandation.

 

3. Encourager la modération des contenus

Les plateformes doivent offrir des outils efficaces pour la modération des contenus nuisibles, tout en évitant la censure excessive. Un équilibre est nécessaire pour garantir que les discours haineux ou la désinformation sont limités, sans pour autant étouffer la liberté d’expression.


4. Concevoir pour le bien-être des utilisateurs

Les designers doivent prioriser le bien-être des utilisateurs dans la conception des interfaces et des expériences utilisateur (UX). Cela inclut la limitation des mécanismes addictifs, la promotion de comportements sains, et la réduction de la pression sociale liée à l’usage des plateformes. Les fonctionnalités de « temps de repos », qui rappellent aux utilisateurs de prendre des pauses régulières, ou les alertes d’utilisation excessive, peuvent être intégrées pour réduire le risque d’addiction. Les designers peuvent aussi réduire l’importance des systèmes de récompenses virtuelles qui encouragent des comportements compulsifs, et favoriser des interactions plus significatives et moins axées sur la compétition sociale.


5. Promouvoir l’éducation à l’esprit critique

Les plateformes numériques peuvent être conçues pour non seulement informer, mais aussi éduquer les utilisateurs. En intégrant des ressources pédagogiques et des outils qui encouragent la vérification des faits et le questionnement, les designers peuvent contribuer au développement de l’esprit critique.

Les designers pourraient intégrer des modules d’éducation aux médias directement dans les plateformes, proposant par exemple des conseils sur la manière de vérifier l’authenticité des informations ou des quiz interactifs pour aider les utilisateurs à repérer les fake news. Des partenariats avec des institutions éducatives pour offrir des certifications ou des badges en éducation aux médias peuvent également renforcer cette initiative.


6. Évaluation éthique continue

Les designers doivent adopter une approche d’évaluation éthique continue, revisitant régulièrement les impacts de leurs produits et services. Cela implique une auto-évaluation constante et des ajustements en réponse aux nouvelles informations ou aux effets inattendus observés après le lancement.

L’intégration de comités d’éthique dans les processus de conception et de développement peut fournir des perspectives diversifiées et externes sur les choix de design. De plus, les plateformes peuvent adopter des pratiques de révision post-lancement, collectant des retours des utilisateurs et des experts pour identifier les problèmes potentiels et y remédier rapidement.



Le pouvoir du design dans le déplacement de la fenêtre d’Overton ne doit pas être sous-estimé. En tant que product designers et behavior designers, nous avons la capacité de façonner la manière dont les idées et les comportements sont perçus dans la société. Cela impose une responsabilité éthique importante : celle de s’assurer que nos créations ne normalisent pas des idées dangereuses ou contraires à l’éthique. En adoptant une approche de design éthique, en intégrant la transparence, la diversité des perspectives et une réflexion continue sur l’impact social de nos créations, nous pouvons contribuer à un avenir où le design est un vecteur de progrès et non de dérive.

Partager cet article