En résumé:
- PCWorld explore le nouvel outil Magic Layers AI de Canva, qui convertit les images en modèles modifiables et peut manipuler le texte dans les chyrons d’actualité et les captures d’écran.
- Cette fonctionnalité présente des risques importants de création de désinformation, car les images modifiées semblent plus propres que les originales tout en préservant les éléments visuels authentiques tels que les logos d’actualités.
- Magic Layers nécessite un abonnement Canva Pro et offre des fonctionnalités similaires à celles de Photoshop, ce qui soulève des inquiétudes quant à une utilisation abusive potentielle par de mauvais acteurs diffusant des informations erronées.
Je sais qu’il y a effectivement quelque chose de bon et d’utile dans l’outil Magic Layers de Canva, qui utilise l’IA pour transformer une image en un modèle modifiable. Mais tout ce à quoi je pense, c’est comment les gens peuvent et vont l’utiliser à des fins néfastes.
L’outil Magic Layers de Canva a été lancé la semaine dernière. C’est l’un de ces concepts extrêmement simples : au lieu d’importer une image dans Canva sous forme de calque, Canva brise le l’image elle-même en couches modifiables : personnes, objets, texte. Canva a ajouté Magic Layers à la page « Modèles » de son site, ce qui est logique ; Magic Layers transforme l’image en un modèle modifiable.
Canva n’a pas vraiment expliqué pourquoi vous devriez cependant utiliser Magic Layers, et j’ai été surpris de constater que j’avais du mal à en trouver une utilisation valable et légitime. Canva propose déjà des tonnes et des tonnes de modèles à utiliser, qui contiennent tous des éléments modifiables qui peuvent être modifiés ou repensés en fonction de vos besoins. Mais Magic Layers fait plutôt bien deux choses : il peut identifier certains objets dans une scène et les traiter comme modifiables ; et il peut identifier et faire correspondre la police utilisée par un élément de texte dans une scène.
Vous pouvez probablement voir où cela nous mène. En tant que personne qui parcourt régulièrement l’actualité et les réseaux sociaux, l’un des obstacles que je rencontre est la montée de la désinformation. Cela se présente sous diverses formes : des générations d’événements fictifs avec Photoshop ou l’IA, des montages trompeurs, des vidéos générées par l’IA et de fausses nouvelles présentées comme étant réelles. Et oui, Magic Layers est malheureusement assez efficace pour vous aider à faire exactement cela. (Un représentant de Canva n’a pas renvoyé d’e-mail demandant des commentaires au moment de la publication.)
Bien sûr, Magic Layers peut être utilisé à bon escient
Tout d’abord, parlons de ce que vous, en tant que bonne personne honnête, pourriez faire avec Magic Layers.
Tout d’abord, vous aurez besoin d’un abonnement Canva Pro (120 $/an) ou Teams, que Canva m’a délivré à titre d’essai. Deuxièmement, vous aurez besoin d’une photo. Canva met en avant la nouvelle fonctionnalité Magic Layers dans sa section Modèles, ce qui facilite le téléchargement et la mise en route de la fonctionnalité.
Puisque Canva comprend la scène, vous comprendrez instantanément les capacités d’édition de base de type Photoshop. Prenez, par exemple, la photo de groupe ci-dessous. Passez la souris sur l’image et vous comprendrez que chaque personne est un objet distinct.
Mettez la personne en surbrillance, appuyez sur le Supprimer clé, et boum ! Cette personne a été supprimée de l’image. Remarquez comment, sur la photo ci-dessous, la fille est supprimée. L’IA remplit automatiquement le motif de la chemise de l’homme à côté de laquelle elle se tenait, ainsi que l’arrière-plan.
Quelles couches magiques de Canva ne peut pas ce qu’il faut faire est d’identifier le chapeau de l’homme au centre de l’image et de l’enlever. C’est quelque chose pour lequel vous aurez toujours besoin d’un éditeur d’images plus sophistiqué.
Naturellement, Canva comprend également très bien le texte et la mise en page. La magie ajoutée par Magic Layers est qu’il peut également très bien correspondre à la police et au style du texte – presque parfaitement, dans certains cas.
Le problème est que (et oui, nous nous dirigeons ici vers un « mauvais » territoire) c’est que vous n’avez pas besoin des modèles de Canva pour créer votre projet parfait. J’ai trouvé une image sur Astyledwedding.com (qui semble avoir été prise sur PaperlessPost.com ?), je l’ai recadrée à l’aide de l’outil Photos de Windows, puis j’ai utilisé l’upscaler IA de Photos pour les PC Copilot+ pour lui donner un peu plus de résolution. Je l’ai ensuite téléchargé sur Canva.
Pour autant que je sache, l’image originale n’a pas été configurée comme modèle, mais Canva l’a facilement transformée en un modèle, avec des champs de texte que j’ai modifiés. Comparez les deux et voyez.
Le côté obscur de Magic Layers
Le problème est que Canva est également très efficace (mais pas parfait) pour appliquer l’IA à d’autres images fixes, telles que des captures d’écran.
L’un des problèmes liés aux événements d’actualité est que les journalistes affluent sur les lieux d’un événement. Une capture d’écran d’un journaliste ou d’une scène peut ne pas transmettre ce qui se passe, mais un chyron pourrait le faire. Un chyron est le texte qui apparaît en bas de l’écran, expliquant le sujet, le décor ou ce que vous voyez. Cela complète ce que le journaliste ou le présentateur vous dit.
Comme vous vous en doutez, Magic Layers rend ce texte modifiable et très rapidement. Il préserve également des éléments visuels, tels que le logo du service d’information. Cela signifie qu’un mauvais acteur peut simplement écrire ce qu’il veut, qu’il soit idiot ou sinistre.
Comme vous pouvez le constater, tout n’est pas reproduit, comme le petit logo paon de NBC News en haut à droite. Mais il y en a suffisamment pour satisfaire un simple aperçu ou un spectateur crédule de Facebook. Canva a également conservé le logo de la BBC dans l’image en haut de cette page.
L’un des « indices » des fausses nouvelles ou du contenu généré est qu’ils peuvent paraître plus nets et plus nets que l’original. Néanmoins, avec un flux vidéo haute définition ou YouTube, le texte net peut être remplacé par quelque chose qui semble pratiquement identique. L’image ci-dessous a été initialement capturée par la chaîne d’information iranienne anglaise PressTV. Le logo est en fait meilleur avec Canva que l’original.
Ce que je n’ai pas réellement essayé de faire, c’est d’utiliser Canva pour générer de l’art IA en remplacement de certains éléments de l’image. En fait, j’ai essayé, mais les outils de Canva ne semblent tout simplement pas suffisamment sensibles pour faciliter le processus. Canva a également du mal à interpréter les lettres et les chiffres physiques réels (comme ceux que vous pourriez trouver sur un gâteau d’anniversaire, par exemple) et à les transformer en champs modifiables.
En fait, j’ai pu le faire avec une seule image, mais elle s’est révélée extrêmement fausse. Canva a fait un bon travail en « effaçant » le gâteau, mais n’a pas pu « écrire » un remplacement dans le glaçage AI.
Tout cela signifie que des outils autrement inoffensifs peuvent être réutilisés pour de mauvais acteurs, dans certaines limites.
Bien sûr, ce n’est pas nouveau. Un feu peut être utilisé pour cuire des aliments ou pour incendier une maison. Pourtant, l’essor de l’IA permet simplement à toute entité de faire plus facilement ce qu’elle veut. Et non (désolé, BBC News), il n’existe pas de vaccin non plus.
