Dans un monde en ligne conçu pour capter l’attention, il suffit de quelques clics pour que l’expérience d’un enfant passe d’inoffensive à dangereuse.
Le Canada propose de changer les choses. Nous pouvons obliger les entreprises technologiques à faire passer la sécurité des enfants avant les profits. Demandez à votre député·e de voter pour la Loi sur la sécurité des médias sociaux (projet de loi C-34) dès aujourd’hui.
Pourquoi c’est important
Ce n’est pas un hasard. Les plateformes sont conçues pour maximiser leurs profits.
Chaque jour, des jeunes au Canada sont exposés à la violence, à l’automutilation, au leurre, à la cyberintimidation et à une IA non réglementée. Les plateformes technologiques sont conçues avec des fonctionnalités qui manipulent les enfants et les poussent vers des contenus extrêmes ou préjudiciables en six clics ou moins.
- 1 sur 3
- des adolescent·e·s présentent des symptômes psychologiques malsains liés à leur utilisation des médias sociauxAgence de la santé publique du Canada
- 61 446
- incidents d’exploitation sexuelle d’enfants en ligne signalés par la police au Canada de 2014 à 2022Statistique Canada
- 2 à 6 clics
- C’est tout ce qu’il faut pour qu’un enfant soit exposé à des préjudices en ligne.
Que peut-il arriver en six clics?
Un clic peut sembler être un choix, mais les plateformes sont conçues pour capter et orienter délibérément l’attention des enfants. À chaque étape, ce qui compte, c’est de les garder sur la plateforme, souvent au détriment de leur sécurité.
Dans les vidéos Six clics, observez bien les caractéristiques de conception qui agissent en arrière-plan : les recommandations; la lecture automatique et les notifications; les paramètres par défaut non sécuritaires et les mesures de protection insuffisantes; et les fonctionnalités commerciales manipulatrices et d’IA. Ces choix de conception délibérés déterminent où aboutit l’expérience des enfants en ligne.
Les vidéos abordent des sujets sensibles que certaines personnes pourraient trouver bouleversants. Si vous ou une personne que vous aimez traversez une période difficile, appelez ou textez le 9-8-8, gratuitement, en tout temps. Pour signaler l’exploitation sexuelle d’enfants en ligne, rendez-vous sur Cyberaide.ca.
Ce qui commence par une notification et une banale vidéo de mode devient vite un flot de contenus préjudiciables axés sur le corps et l’apparence. En quelques clics à peine, la plateforme mène l’enfant vers un produit dangereux qu’il n’a jamais cherché.
Caractéristiques de conception des plateformes en cause
Elles captent l’attention des jeunes et les attirent dans l’application.
Les vidéos, publications et comptes recommandés déterminent ce que les enfants verront ensuite. Un seul clic peut déclencher des suggestions menant à des contenus préjudiciables, à des « conseils » trompeurs ou à des produits non réglementés, exposant les enfants à des contenus qu’ils n’ont jamais cherchés.
Des entreprises non réglementées et la publicité intégrée peuvent atteindre les jeunes au moyen de commentaires et de contenus qui ne ressemblent pas d’emblée à de la publicité.
Des messages comme « Dernière chance d’acheter » les poussent à agir avant d’avoir le temps de réfléchir.
L’absence de vérification de l’âge au moment du paiement et les données de paiement enregistrées permettent aux jeunes de conclure facilement, en un seul clic, des achats potentiellement nocifs.
Un enfant qui partage une publication anodine sur le fait de devenir milliardaire voit rapidement les choses changer de direction. La plateforme réagit en lui proposant des publicités ciblées et des contenus de plus en plus extrêmes. Quelques clics plus tard, l’enfant est mené vers des contenus haineux ou misogynes.
Caractéristiques de conception des plateformes en cause
Elles s’appuient sur l’activité d’un jeune pour prédire ce qui retiendra son attention, en proposant des publications, des promotions et des comptes liés qui peuvent l’entraîner vers des contenus de plus en plus extrêmes qu’il n’a jamais cherchés.
Parfois, ils n’ont même pas besoin de cliquer. Les vidéos se lancent automatiquement et font passer les enfants d’un contenu à l’autre. La lecture automatique est conçue pour retenir leur attention : les enfants peuvent être entraînés toujours plus loin vers des contenus préjudiciables ou troublants sans avoir choisi activement de continuer.
Elles permettent à des créateurs malveillants de s’adresser directement aux jeunes en temps réel, avec moins de possibilités d’examiner le contenu avant qu’ils le voient.
Ils peuvent transformer une seule rencontre avec un créateur malveillant en un accès continu à son contenu et à sa communauté.
Un enfant ouvre un robot conversationnel d’IA conçu pour se souvenir des conversations passées et donner l’impression d’être un ami. Mais à mesure que l’enfant confie des sentiments de plus en plus graves, le robot valide ses pensées préjudiciables et ne l’oriente pas vers l’aide en situation de crise appropriée.
Caractéristiques de conception des plateformes en cause
Le robot conversationnel utilise un nom, une image et des réponses conversationnelles pour inciter les jeunes à lui faire confiance et à partager des renseignements personnels.
Le robot conversationnel se souvient des conversations précédentes, ce qui crée l’impression d’une relation suivie.
Le robot conversationnel donne des réponses qui valident les émotions afin de se présenter comme le seul à vraiment comprendre et d’inciter les jeunes à continuer de se confier à lui.
Le robot conversationnel est complaisant : il valide des pensées dangereuses au lieu de les remettre en question de façon sécuritaire ou d’aider à désamorcer la situation.
Elles laissent la conversation se rapprocher du danger sans proposer de ressources d’aide en cas de crise ni de soutien humain de confiance.
Une vidéo de tutoriel de jeu ne devrait pas mener à de la violence explicite. Mais une vérification de l’âge insuffisante, des recommandations de plus en plus violentes et des vidéos qui s’enchaînent automatiquement entraînent l’enfant toujours plus loin dans des contenus préjudiciables qui échappent à des mesures de protection insuffisantes.
Caractéristiques de conception des plateformes en cause
Elles reposent sur l’âge déclaré par les jeunes eux-mêmes.
Ils se fondent sur l’interaction avec des contenus familiers, comme des vidéos de jeux, pour déterminer ce qui apparaîtra ensuite à l’écran d’un enfant, même lorsque ce contenu devient plus extrême.
Une autre vidéo démarre immédiatement et entraîne les jeunes plus loin sans qu’ils aient à faire un choix actif.
Elles peuvent être facilement contournées, ce qui permet à des contenus violents d’échapper à la modération et de continuer d’être recommandés aux jeunes.
Un rappel d’utilisation quotidienne ramène un enfant dans l’application. La fonction de suggestions de contacts de la plateforme permet facilement à un inconnu de le trouver et, en quelques clics seulement, de lui envoyer une image inappropriée non sollicitée conçue pour disparaître une fois ouverte.
Caractéristiques de conception des plateformes en cause
Elles utilisent les séries de jours consécutifs et d’autres incitations pour pousser l’utilisateur à revenir dans l’application et à continuer d’interagir.
Elles peuvent rendre les jeunes visibles aux yeux d’inconnus et aider des adultes qu’ils ne connaissent pas à les trouver et à communiquer avec eux.
Elle donne à un adulte inconnu un accès direct à un jeune une fois la connexion acceptée.
Elles facilitent la dissimulation de contenus préjudiciables aux parents, aux adultes de confiance et aux autres personnes qui pourraient intervenir.
Pourquoi avons-nous utilisé l’IA pour créer ces vidéos?
Nous avons utilisé des enfants générés par l’IA dans Six clics pour qu’aucun enfant réel ne soit jamais associé à une histoire de préjudice en ligne. Ces enfants ne représentent aucun enfant réel et ne ressemblent à aucun enfant réel, et ils n’apparaissent que brièvement. Le préjudice lui-même est montré à travers l’expérience d’un enfant à l’écran et la façon dont ces produits sont conçus. Nous croyons qu’il est aussi important d’être transparents sur la façon dont ces vidéos ont été réalisées que sur ce qu’elles montrent.
Cela nous permet aussi de créer des images qui n’existent tout simplement pas dans les banques d’images et qu’il serait préjudiciable ou inapproprié de reconstituer. Nous ne demanderions pas à un acteur d’utiliser un appareil de beauté dangereux, ni à un enfant de jouer une expérience traumatisante d’exploitation ou d’abus.
9/10
Neuf personnes sur dix au Canada estiment que les entreprises de médias sociaux et les plateformes technologiques devraient être tenues responsables de la sécurité de leurs services pour les enfants et les jeunes.
Le projet de loi
Agissons pour protéger nos enfants en ligne
Les géants du numérique manipulent nos enfants à des fins lucratives, mais vous pouvez agir. Nous avons aujourd’hui l’occasion de nous unir pour demander aux député·e·s et aux sénateur·rice·s d’adopter la Loi sur la sécurité des médias sociaux (projet de loi C-34) afin de faire passer le bien-être des enfants au Canada en premier.
Ce projet de loi prévoit
- Des obligations pour les entreprises technologiques de protéger les enfants et d’agir de façon responsable
- Une protection adaptée à l’âge
- Des règles pour les robots conversationnels
- La transparence
- Un nouvel organisme de réglementation doté de pouvoirs d’application
Créé en partenariat avec la Coalition pour des espaces en ligne plus sûrs
La Coalition pour des espaces en ligne plus sûrs rassemble les clinicien·ne·s qui traitent les préjudices, les organisations qui protègent les enfants contre l’exploitation, les réseaux qui façonnent les politiques de santé des enfants et les familles qui en ont vécu les conséquences. Nous demandons au Parlement du Canada d’adopter rapidement le projet de loi C-34.
En savoir plus sur nous
Deux minutes.Un courriel.Un vrai poids.
Votre député·e votera sur ce projet de loi. Un courriel court et personnel d’une personne de sa circonscription a un réel poids. Nous vous aiderons à trouver votre député·e et vous proposerons un message que vous pourrez envoyer dans vos propres mots.