MAESE généré ou modifié par IA

L’IA change la vitesse, l’ampleur et le réalisme avec lesquels du matériel sexualisé peut être créé, mais elle n’efface pas la responsabilité humaine. La personne qui choisit une cible, fournit une image, rédige une requête, distribue le résultat ou s’en sert pour menacer un enfant fait des choix pouvant causer un préjudice grave.

Des formes différentes exigent des analyses différentes

• Hypertrucage d’enfant identifiable : le visage, le corps ou l’apparence d’un enfant réel est inséré dans un contenu sexuel fabriqué.
• Dénudation ou modification d’image : une image ordinaire est transformée pour paraître nue ou sexuellement explicite.
• Résultat dérivé d’une image réelle : un système d’IA transforme ou prolonge une image d’abus existante.
• Représentation entièrement synthétique : le résultat ne correspond pas à un enfant connu, bien que des images réelles aient pu influencer le système.
• Coercition assistée par l’IA : un contenu fabriqué sert à manipuler, harceler, usurper l’identité ou faire de la sextorsion.
• Origine non précisée : la preuve n’établit pas si le matériel est réel, modifié ou synthétique.

Le préjudice est réel même si l’image est fabriquée

Un enfant identifiable peut vivre de l’humiliation, de la peur, de l’intimidation, du harcèlement criminel, des perturbations scolaires et une perte de contrôle sur son identité. Le matériel peut être pris pour authentique et rediffusé à répétition. Une image fabriquée peut aussi servir à forcer un enfant à payer, à envoyer du contenu réel ou à rester en contact avec la personne qui menace.

Contexte canadien et ontarien

La définition de l’article 163.1 vise une personne « âgée de moins de dix-huit ans ou présentée comme telle » dans certaines représentations visuelles. Les orientations canadiennes indiquent que des représentations sexuellement explicites de mineurs modifiées par l’IA peuvent engager le droit criminel. La Stratégie provinciale ICE de l’Ontario et le Centre canadien de protection de l’enfance ont conjointement mis en garde contre les hypertrucages sexuellement explicites touchant les jeunes et les écoles. La technologie et la jurisprudence évoluant, les énoncés juridiques publics devraient être vérifiés juste avant la publication.

Si un enfant est ciblé

• Croyez l’enfant et précisez qu’un contenu fabriqué ne le rend pas responsable.
• Préservez le compte, l’URL, les messages de menace, les dates et les renseignements non interdits sur l’image source; ne téléchargez pas et ne rediffusez pas le résultat.
• Signalez à la police locale ou à Cybertip.ca et utilisez AidezMoiSVP.ca pour un soutien pratique.
• Avisez l’école ou l’organisme au besoin pour la sécurité, les mesures contre le harcèlement et la préservation de la preuve, en limitant la circulation inutile.
• Traitez les demandes impliquant une image fabriquée comme de la sextorsion : ne payez pas et n’envoyez pas d’autre contenu.

Ce que les enquêteurs et les institutions doivent distinguer

Les signalements devraient préciser si le matériel est entièrement synthétique, modifié à partir d’un enfant identifiable, dérivé de MAESE réel ou d’origine inconnue, et préserver l’information sur le modèle ou service, la version, les requêtes, les images d’entrée, l’historique du compte et la voie de distribution lorsqu’il est possible de l’obtenir légalement.