La Commission européenne a annoncé qu'elle envisageait de pénaliser les images générées par l'intelligence artificielle (IA) et les deepfakes représentant des abus sexuels commis sur des enfants, afin d'actualiser les lois en fonction des progrès technologiques.
La proposition comprend l'introduction d'une nouvelle infraction pénale pour la diffusion en direct d'abus sexuels sur des enfants. Elle vise également à criminaliser la possession et l'échange de « manuels pédophiles ». La proposition mentionne également les chatbots d'intelligence artificielle utilisés pour la maltraitance des enfants.
La Commission vise à mettre à jour les règles de 2011 avec la proposition, suggérant des changements dans la déclaration obligatoire des délits. Ces mesures font partie d'un ensemble plus large visant à prévenir les abus sexuels sur les enfants, à renforcer la sensibilisation aux risques en ligne, à faciliter le signalement des délits par les victimes et à leur apporter un soutien, y compris le droit à une compensation financière.
Child sexual abuse is a heinous crime which has evolved significantly over the past years.
— European Commission (@EU_Commission) February 6, 2024
Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.
Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy
L'analyse d'impact réalisée par la Commission avant l'adoption de la proposition a mis en évidence l'augmentation de la présence en ligne et les « derniers développements technologiques » comme des facteurs créant de nouvelles opportunités d'abus sexuels sur les enfants. La proposition encourage les États membres à investir dans la « sensibilisation » pour faire face aux risques liés à la sécurité des enfants en ligne.
Certains craignent que la technologie soit utilisée à mauvais escient pour créer du matériel pédopornographique, et que ce contenu artificiel complique l'identification des vraies victimes par les autorités chargées de l'application de la loi, d'où la nécessité de revoir les réglementations en vigueur.
À lire également : Les États membres de l'UE approuvent un accord politique pour faire avancer la loi sur l'IA
Toutefois, la forme finale des propositions sera décidée par le Parlement européen et le Conseil européen. Selon la Commission, si un accord est conclu sur la modification de la directive actuelle relative à la lutte contre la criminalité organisée, il entrera en vigueur 20 jours après sa publication au Journal officiel de l'UE.
Selon la procédure législative ordinaire, lorsque la Commission européenne soumet une proposition, le Parlement européen et le Conseil des ministres peuvent l'approuver ou la modifier. Si des désaccords persistent, les deux institutions peuvent proposer des amendements. Des négociations s'ensuivent et, à l'issue de celles-ci, les deux institutions peuvent voter pour ou contre la version finale.
En mai 2022, la Commission a proposé une législation supplémentaire axée sur l'obligation pour les services numériques d'utiliser des technologies automatisées pour détecter et signaler les actes de harcèlement psychologique et identifier les activités de manipulation psychologique ciblant les enfants. Selon la Commission, la proposition actuelle complète la proposition de réglementation de 2022.
Toutefois, moins de deux ans après l'introduction de la proposition de numérisation des messages privés, la sensibilisation aux dangers des deepfakes et des images générées par l'IA s'est considérablement accrue.