CE DONT ON VA PARLER :

– Quel est l’effet des algorithmes sur la formation de croyances extrêmes ou sectaires ?

– L’intelligence artificielle peut-elle aggraver l’emprise mentale ?
– Quels sont les risques liés au traçage numérique et à la personnalisation des contenus ?

SOURCES :

– Article 223-1-2 du Code pénal – Réprime les incitations à abandonner un traitement médical ou à adopter des pratiques dangereuses sous influence. – Loi du 10 mai 2024 – Création de cette infraction liée aux dérives médicales dans les contextes d’emprise.

– Loi de 2023 sur l’influence commerciale numérique – Interdit la promotion, par voie électronique, de méthodes prétendant se substituer à des traitements médicaux.

-Plateforme PHAROS – Outil de signalement des contenus dangereux en ligne et de conservation des preuves.

SYNTHESE :

Les plateformes de réseaux sociaux assurent la diffusion de contenu sans contrôle selon des algorithme perfectionnés qui ont pour objectif d’assurer l’adhésion de l’utilisateur en lui fournissant des contenus ciblés. Les contenus sectaires, car sensationnaliste et portant une parole construite pour être attirante assure une diffusion des contenus. Il convient de comprendre le fonctionnement des algorithmes et du risque et de leurs dangerosité intrinsèques (I) avant de se demander les éléments de réglementation permettant de lutter contre les influenceurs déviants (II).

I. ALGORITHME ET INTELLIGENCE ARTIFICIELLE

Les plateformes numériques ne sont pas de simples vitrines : elles orientent activement l’attention, structurent les discours et peuvent enfermer l’utilisateur dans une bulle cognitive. Il est donc essentiel de comprendre comment l’architecture même des algorithmes peut favoriser une dynamique sectaire.

a. L’algorithme comme spirale sectaire

Les algorithmes des plateformes de type Youtube, Tiktok, Facebook, ou autre, fonctionnent selon deux principes similaires. Ils mettent en avant le contenu le plus sensationnel et donc addictif et positionnent le spectateur dans une boucle de contenue : que des contenus similaires aux premiers contenus sont présentés et les contenus différents voire contradictoires sont exclus. La conséquence est de mettre le spectateur dans une boucle qui lui projette que des informations allant dans le même. Quand une part importante de la population, surtout dans la tranche d’âge la plus jeune ne s’informe que par ses plateformes, la conséquence est de livrer une image biaisée du monde et de donner de la validité à des croyances qui se trouvent confirmées par des sources multiples.

A titre d’exemple, la théories platistes qui postulent que la terre est plate, théories soutenues par la flat earth society, une société proche d’une mouvance sectaire, se sont largement répandues au sein de la tranche d’âge des 25-30 ans en raison de leur exposition sur des plateformes de réseaux sociaux. L’exclusion de toute diversité culturelle ou de point de vue créée donc un réel danger.

Le phénomène s’accentue avec les cookies qui permettent de déterminer le profil d’une personne et de le suivre, notamment pour réaliser de la publicité ciblée. Il est dès lors possible d’aller sur un site d’information scientifique sérieux et d’y voir une publicité pour un remède de charlatan. L’effet psychologique est de laisser accroire par ce que les psychologiquement appellent l’effet halot que le médicament peut soigner le cancer, quand il n’en est rien.

b. L’intelligence artificielle : nouvelle frontière sectaire ?

Le développement spectaculaire de l’intelligence artificielle couplée au tracking numérique permettra dans peu de temps la production illimitée de contenus sectaires à destination des intérêts d’une personne. La multiplication des contenus dynamiques créera de plus de boucles informationnelles. Les sites commerciaux pourront auto-générés du contenu en raison d’un tracking numérique qui comportera des traces des contenus vus. Dès lors, certains utilisateurs pourront évoluer sur la toile sur un internet ne leur offrant plus que des informations confirmant les croyances des groupes.

II. REGLEMENTER LES CONTENUS

Face à cette logique de diffusion virale incontrôlée, la réponse juridique s’organise peu à peu pour responsabiliser les intermédiaires techniques et limiter l’impact des discours dangereux.

a. La responsabilité des plateformes

Les plateformes favorisent la radicalisation cognitive et renforcent la sujétion mentale en excluant tout contenu contradictoire.
La publicité ciblée, même sur des sites sérieux, contribue à valider des croyances irrationnelles ou dangereuses. Il s’agit donc d’un enjeu fondamental de régulation, notamment des algorithmes de recommandation et des systèmes publicitaires.

b. Réglementer les influenceurs: l’enjeu des contenus pseudo- thérapeutiques

Les réseaux sociaux sont aussi le vecteur de pratiques pseudo-thérapeutiques ou de conseils de santé diffusés par des influenceurs, souvent dans une logique de substitution à la médecine traditionnelle. La loi du 10 mai 2024 a introduit un nouveau délit de provocation à abandon de traitement médical (article 223-1-2 du Code pénal), visant spécifiquement ce type de contenus.

La loi réprime :

• –  Laprovocation à abandonner un traitement médicalprésentée comme bénéfique alors qu’elle est manifestement dangereuse ;
• –  La promotion de pratiques pseudo-thérapeutiques exposant à un risque immédiat pour la santé.
  Les peines vont jusqu’à trois ans d’emprisonnement et 45 000 € d’amende. La seule défense possible est d’avoir permis un choix libre et éclairé, sauf en cas de sujétion psychologique.
  Ce dispositif vise les influenceurs qui agissent comme relais de discours sectaires en matière de santé. Il complète l’interdiction, prévue par la loi de 2023 sur l’influence numérique, de promouvoir des actes ou produits « présentés comme comparables, préférables ou substituables » à des prescriptions médicales.

Conclusion :

Les plateformes numériques sont devenues des vecteurs majeurs de diffusion de contenus sectaires. Par leur structure algorithmique, leur ciblage publicitaire, et la croissance de l’intelligence artificielle, elles créent des environnements clos, confirmant les croyances des utilisateurs sans contre-discours. La récupération de l’image et des données personnelles, tout comme une régulation plus stricte des contenus et de leurs vecteurs (influenceurs, algorithmes), constitue un enjeu central de lutte contre la manipulation mentale et l’enfermement cognitif.

Infos pratiques :

Plusieurs groupes d’études travail sur la question et l’union européenne est en cours de discussion et de préparation de plusieurs directives ayant pour objet de réglementer ces questions.

– PHAROS permet de signaler les contenus dangereux en ligne : https://www.internet-signalement.gouv.fr

• –  La loi du 10 mai 2024 prévoit des peines pour les influenceurs promouvant l’abandon de soins médicaux.
• –  La loi de 2023 sur l’influence numérique interdit la substitution thérapeutique dans la publicité.