Alors que le Parlement Européen vient d’adopter la proposition de règlement sur l’intelligence artificielle[1], tour d’horizon de la règlementation du deep fake.
1/ Liberté.
Le mot «deepfake», traduit par hypertrucage en français, est formé à partir des termes «deep learning» (apprentissage profond[2]) et fake (faux). Il désigne une technique qui permet de réaliser, grâce à l’intelligence artificielle, des montages d’images, de vidéo, et de son.
Il a par exemple permis de créer de:
- Fausses images du pape François en Doudoune blanche, de Emmanuel Macron en éboueur, de Donald Trump en état d’arrestation, de Taylor Swift à caractère sexuel,
- Fausses vidéos de Barak Obama qualifiant Trump de «sombre merde», de Tom Cruise en train de jouer au golf, de Marine le Pen revêtue d’un foulard islamique et parlant l’arabe etc…
A cette liste, nous devrions aussi ajouter la création de faux textes générés par l’IA, mais curieusem*nt l’écrit échappe pour l’instant à la définition de Deepfake. En effet, dans la proposition de règlement sur l’IA telle qu’adoptée par le parlement européen[3], la définition de l’hypertrucage ne fait référence qu’à l’audio et à la vidéo[4].
Par analogie, nous devrions pourtant considérer ce contenu comme faux puisqu’il est généré artificiellement.
Ensuite le terme de deep fake est à rapprocher de celui de «fake news». Un mot relie en effet les deux: celui de «fake», lequel traduit la fausseté, le mensonge.
De là à penser qu’il s’agit d’une pratique illégale, illicite, il n’y a qu’un pas. Pourtant le «deepfake», à l’instar des «fakenews»[5], n’est pas en principe illégal.
Il ne faut pas en effet confondre la morale avec le droit. Ce qui est moralement interdit ne l’est pas nécessairement d’un point de vue juridique. Or ce qui est faux, mensonger n’est pas en soi juridiquement interdit.
Ce n’est que dans certains cas que le faux, le mensonge est illégal[6]. Hélas, en ces temps un peu trouble, la tendance est à la confusion. Il est donc nécessaire de rappeler que le principe est la liberté[7], et la restriction, l’exception.
Afin de préserver nos libertés, ne faudrait-il pas au contraire reconnaître que l’intelligence artificielle en général, et le «deepfake» en particulier, sont libres?
Cette technique peut en effet être utilisée de manière parfaitement licite:
- Pour générer un texte à partir d’un autre texte (prompt) (du type ChatGPT)
- Pour générer des contenus audios ou vidéos.
Grâce au deepfake, il est désormais possible de se cloner numériquement en utilisant son image et sa voix[8].
Ce qui peut être utilisé comme un moyen au service de la liberté d’expression comme l’a été l’imprimerie, la radio, la télé, le téléphone, et aujourd’hui l’Internet.
Mais il existe une telle crainte vis-à-vis des nouvelles technologies que la tendance est à la méfiance, à la crainte, à la règlementation, à la restriction, plutôt qu’à la liberté.
Il convient par conséquent de reconnaître le principe de liberté applicable au deepfake.
Ce qui n’exclut pas de l’encadrer.
2/ Limites.
Il existe plusieurs limites à la création d’un deepfake:
Obligation de transparence.
Il n’existe pas actuellement une obligation générale d’indiquer le caractère artificiel d’un deepfake. Il existe néanmoins des obligations spécifiques.
La loi du 9 juin 2023[9] prévoit l’obligation pour les influenceurs diffusant des contenus commerciaux comprenant des visages ou des silhouettes ayant fait l’objet de modification par traitement d’image d’indiquer la mention «images retouchées».
En cas de création de cette image par l’intelligence artificielle, ils doivent ajouter la mention «Images virtuelles». Ces mentions doivent être claires, lisibles et identifiables sur l’image ou sur la vidéo, sous tous les formats, durant l’intégralité du visionnage.
De façon analogue, une obligation de transparence existe pour les mannequins[10].
Par ailleurs, le caractère artificiel du contenu doit apparaître en cas de montage réalisé avec les paroles ou l’image d’une personne sans son consentement[11].
Enfin, l’absence de mention sur le caractère artificiel du contenu ne doit pas avoir pour objet de tromper les consommateurs. A défaut, l’infraction de publicité trompeuse[12] pourrait être constituée.
En revanche, la proposition de règlement européen sur l’intelligence artificielle va considérablement élargir cette obligation de transparence.
En effet, elle crée une obligation de transparence[13] pour les fournisseurs et les utilisateurs[14] de certains systèmes d’IA.
Concernant les fournisseurs de systèmes d’IA qui permettent de générer des deep fake, ou des textes générés par IA, ils devront marquer techniquement les contenus produits[15][16]. Si le deepfake est interactif, ils devront en plus en informer les personnes concernées sauf si cela apparaît évident ou dans le cas de lutte contre les infractions pénales[17].
S’agissant des utilisateurs, ils devront mentionner le caractère artificiel du deepfake[18].
Cependant, cette obligation ne leur sera pas applicable:
- S’ils font un usage strictement personnel à caractère non professionnel de l’IA ou,
- Si l’utilisation est autorisée par la loi à des fins de lutte contre des infractions pénales.
Le texte européen distingue ensuite les contenus textuels des contenus audio, image, et vidéo:
- Lorsque le contenu est audio et/ou visuel, l’utilisateur devra indiquer son caractère artificiel. Le texte européen prévoit néanmoins un assouplissem*nt en cas d’utilisation à des fins artistiques[19]: la mention pourra être effectuée de façon à ne pas entraver l’affichage ou la jouissance de l’œuvre.
- Lorsque le contenu produit est textuel, l’utilisateur devra indiquer son caractère artificiel uniquement s’il vise à informer le public sur des questions d’intérêt public. Cette obligation est néanmoins écartée quand le contenu généré par l’IA a fait l’objet d’un contrôle humain et qu’une personne assume la responsabilité éditoriale de la publication du contenu.
- Avec le règlement sur l’IA, l’obligation de transparence va ainsi fortement s’élargir au risque peut être de freiner la création. Sans compter que ce texte prévoit des règles générales ainsi que des interdictions qui pourraient s’appliquer aux systèmes d’IA permettant la création de deepfake.
En attendant, seul notre droit national est applicable.
L’infraction de montage.
Selon l’article 226-8 du Code pénal:
«Est puni d’un an d’emprisonnement et de 15000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention».
L’infraction de montage paraît sans difficulté s’appliquer au deepfake.
Avec cette infraction, ce qui est illégal, c’est d’effectuer, d’une part, un montage sans le consentement de la personne, et d’autre part, de le dissimuler.
A contrario, le montage réalisé avec les paroles ou l’image d’une personne consentante, ou de manière explicite, fusse-t-il avec l’IA, n’est pas en soi illicite.
Le projet de loi LSREN[20] prévoit d’adapter cette infraction à l’hypothèse spécifique du deepfake en l’élargissant au contenu porté à la connaissance du public ou d’un tiers, ce qui inclut non seulement la diffusion mais aussi le partage.
Il prévoit également d’aggraver la peine à deux ans d’emprisonnement et à 45000 euros d’amende lorsque le délit a été réalisé en utilisant un service de communication au public en ligne.
L’infraction d’usurpation d’identité.
Selon l’article 226-4-1 du Code pénal
«Le fait d’usurper l’identité d’un tiers ou de faire usage d’une ou plusieurs données de toute nature permettant de l’identifier en vue de troubler sa tranquillité ou celle d’autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d’un an d’emprisonnement et de 15000 euros d’amende».
Avec cette infraction, le seul fait d’utiliser les données d’une personne ne suffit pas à caractériser l’infraction. Encore faut-il «troubler sa tranquillité» ou encore «porter atteinte à son honneur ou à sa considération».
L’infraction d’atteinte à la vie privée.
Les infractions de montage et d’usurpation d’identité apparaissent ainsi applicables à certains deepfake.
L’infraction d’atteinte à la vie privée[21] est aussi envisageable.
En revanche, celle de «Revenge p*rn»[22][23] est mal adaptée.
Pour que cette infraction soit constituée, il faut en effet que soit utilisé un contenu à caractère sexuel réel. Ce qui n’est généralement pas le cas lorsqu’un deepfake est créé. Ces données sont en effet générées de façon artificielle avec l’IA.
A ce sujet, la création par le projet de loi LSREN d’un nouvel article 226-8-1 du Code pénal apparaît pleinement justifiée[24].
La contrefaçon.
L’infraction de contrefaçon au droit d’auteur est aussi parfois invoquée à l’encontre de l’IA. Un contenu protégé peut en effet être réutilisé par l’intelligence artificielle, soit en amont, soit en aval.
Plusieurs procès en cours concernent l’utilisation en amont de tels contenus par les systèmes d’IA[25]. En défense, il est soulevé la possible application d’exceptions aux droits d’auteur: «fair use» aux Etats-Unis, exception de fouille (data mining)[26], ou d’échantillonnage (sampling)[27] en Europe.
A ce sujet, la proposition de règlement européen sur l’IA reconnaît la possible application de l’exception de fouille[28]. Elle crée en outre une obligation pour les fournisseurs de modèles d’IA à usage général de mettre en place une politique visant à respecter la législation européenne sur le droit d’auteur, et de mettre à la disposition du public un résumé du contenu utilisé pour l’entraînement[29].
La question de la contrefaçon se pose également, en aval, lorsqu’un contenu protégé par droit d’auteur est utilisé pour réaliser un deepfake. Si le contenu est réutilisé comme tel, ou de manière dérivée, la contrefaçon s’applique. Il convient néanmoins, là aussi, de vérifier si des exceptions au droit d’auteur ne sont pas applicables telles que la courte citation, la parodie, le pastiche et la caricature. Un genre qui semble bien se prêter au deepfake.
D’autres limites pourraient être mentionnées, comme l’infraction de faux, l’atteinte aux données personnelles, au respect de la réputation[30], ou encore l’escroquerie, et le parasitisme.
Il conviendra d’analyser, au cas par cas, chaque deepfake. Ces limites ne doivent pas néanmoins être l’arbre qui cache la forêt. Avant de suspecter d’illicéité un deepfake, il conviendra de vérifier s’il ne peut bénéficier du principe de liberté.
