{"id":54773,"date":"2024-03-08T13:43:05","date_gmt":"2024-03-08T13:43:05","guid":{"rendered":"https:\/\/kidslox.com\/guide-to\/ai-deepfakes\/"},"modified":"2024-03-11T13:57:37","modified_gmt":"2024-03-11T13:57:37","slug":"ai-deepfakes","status":"publish","type":"post","link":"https:\/\/kidslox.com\/fr\/guide-to\/ai-deepfakes\/","title":{"rendered":"Deepfakes IA : comment pouvons-nous prot\u00e9ger nos enfants ?"},"content":{"rendered":"

Dans un monde o\u00f9 la technologie progresse rapidement, les parents sont confront\u00e9s \u00e0 de nouveaux d\u00e9fis pour prot\u00e9ger leurs enfants contre les menaces \u00e9mergentes. L\u2019une de ces pr\u00e9occupations est la mont\u00e9e des deepfakes g\u00e9n\u00e9r\u00e9s par l\u2019IA \u2013 des m\u00e9dias synth\u00e9tiques capables d\u2019imiter les voix, les images et les vid\u00e9os de personnes r\u00e9elles avec une pr\u00e9cision alarmante.<\/span><\/p>\n

Imaginez recevoir un appel t\u00e9l\u00e9phonique p\u00e9nible de votre fille, implorant de l’aide alors que de dangereux criminels la kidnappent.<\/span> C’est exactement ce qui est arriv\u00e9 \u00e0 Jennifer DeStefano de l’Arizona en janvier 2023<\/span><\/a>. Terrifi\u00e9e et d\u00e9sesp\u00e9r\u00e9e de sauver son enfant, Jennifer a \u00e9cout\u00e9 avec horreur un homme menacer de faire du mal \u00e0 sa fille si elle n’envoyait pas d’argent imm\u00e9diatement.<\/span><\/p>\n

Mais voici le rebondissement choquant : la fille de Jennifer n’a jamais \u00e9t\u00e9 en danger. Elle profitait d’un voyage de ski en toute s\u00e9curit\u00e9, inconsciente compl\u00e8tement de l’appel traumatisant. La voix que Jennifer a entendue n’\u00e9tait pas du tout celle de sa fille : il s’agissait d’un deepfake incroyablement r\u00e9aliste g\u00e9n\u00e9r\u00e9 par l’IA, con\u00e7u par des escrocs pour extorquer de l’argent \u00e0 des parents sans m\u00e9fiance.<\/span><\/p>\n

Malheureusement, l’histoire de Jennifer n’est pas un incident isol\u00e9. \u00c0 mesure que la technologie de l\u2019IA devient plus sophistiqu\u00e9e, les criminels trouvent de nouveaux moyens de l\u2019exploiter \u00e0 des fins financi\u00e8res, ciblant souvent les familles vuln\u00e9rables. M\u00eame les membres du Congr\u00e8s le remarquent,<\/span> explorer comment les deepfakes peuvent porter atteinte aux droits individuels et causer de graves dommages.<\/span><\/a><\/p>\n

En tant que parents, il est essentiel que nous restions inform\u00e9s de ces menaces \u00e9mergentes pour prot\u00e9ger nos enfants et nous-m\u00eames. Jetons un coup d’\u0153il au monde des deepfakes d’IA : ce qu’ils sont, comment ils fonctionnent et, plus important encore, quelles mesures nous pouvons prendre pour prot\u00e9ger nos familles contre leur utilisation malveillante.<\/span><\/p>\n

M\u00eame si les risques sont r\u00e9els et pr\u00e9occupants, notre objectif est de vous fournir des connaissances et des strat\u00e9gies pratiques pour naviguer en toute confiance dans ce nouveau paysage.<\/span><\/p>\n

Que sont les Deepfakes IA ?<\/b><\/h3>\n

Au c\u0153ur du ph\u00e9nom\u00e8ne des deepfakes se trouve une technologie puissante appel\u00e9e IA g\u00e9n\u00e9rative. En termes simples, l\u2019IA g\u00e9n\u00e9rative fait r\u00e9f\u00e9rence \u00e0 des algorithmes d\u2019intelligence artificielle capables de cr\u00e9er de nouveaux contenus \u2013 tels que des images, des vid\u00e9os, de l\u2019audio ou du texte \u2013 sur la base de mod\u00e8les tir\u00e9s de donn\u00e9es existantes.<\/span><\/p>\n

Pour comprendre le fonctionnement de l\u2019IA g\u00e9n\u00e9rative, imaginez un enfant apprenant \u00e0 dessiner. Au fur et \u00e0 mesure que l\u2019enfant \u00e9tudie divers exemples d\u2019art, il commence \u00e0 reconna\u00eetre des mod\u00e8les communs, comme la fa\u00e7on dont les yeux, le nez et la bouche sont g\u00e9n\u00e9ralement dispos\u00e9s sur un visage. Avec la pratique, l’enfant apprend \u00e0 combiner ces motifs de nouvelles fa\u00e7ons pour cr\u00e9er ses propres dessins uniques.<\/span><\/p>\n

L\u2019IA g\u00e9n\u00e9rative fonctionne sur un principe similaire, mais \u00e0 une \u00e9chelle bien plus grande. En analysant de grandes quantit\u00e9s de donn\u00e9es, ces algorithmes apprennent \u00e0 identifier et \u00e0 reproduire des mod\u00e8les, ce qui leur permet de g\u00e9n\u00e9rer un nouveau contenu qui imite les donn\u00e9es originales avec un r\u00e9alisme saisissant.<\/span><\/p>\n

Comment ces mod\u00e8les d\u2019IA se moquent-ils de vraies personnes ?<\/b><\/h4>\n

L’un des types d’IA g\u00e9n\u00e9rative les plus populaires s’appelle<\/span> un r\u00e9seau contradictoire g\u00e9n\u00e9ratif (GAN)<\/span><\/a>. Dans un GAN, deux mod\u00e8les d\u2019IA travaillent ensemble dans une sorte de comp\u00e9tition.<\/span><\/p>\n

Un mod\u00e8le, appel\u00e9 le<\/span>G\u00e9n\u00e9rateur<\/span><\/i>, cr\u00e9e du nouveau contenu, tandis que l’autre mod\u00e8le, connu sous le nom de<\/span>discriminateur<\/span><\/i>, essaie de faire la distinction entre le contenu g\u00e9n\u00e9r\u00e9 et les exemples r\u00e9els. Au fur et \u00e0 mesure que les mod\u00e8les it\u00e8rent, le g\u00e9n\u00e9rateur apprend \u00e0 cr\u00e9er un contenu de plus en plus convaincant qui peut tromper le discriminateur.<\/span><\/p>\n

Vous pouvez imaginer que ce serait un outil puissant pour d\u00e9velopper la technologie. Mais lorsqu\u2019ils sont appliqu\u00e9s aux deepfakes, les algorithmes d\u2019IA g\u00e9n\u00e9rative peuvent analyser rapidement des images, des vid\u00e9os et des enregistrements audio r\u00e9els d\u2019une personne pour conna\u00eetre les mod\u00e8les uniques de ses traits du visage, de ses expressions, de ses mouvements et de sa voix. L’IA alors<\/span>les usages<\/span><\/i> ces informations apprises (comme l’enfant apprenant \u00e0 copier et \u00e0 dessiner des images) pour synth\u00e9tiser un nouveau contenu qui imite fid\u00e8lement la personne d’origine.<\/span><\/p>\n

Par exemple, pour cr\u00e9er une vid\u00e9o deepfake, l\u2019algorithme d\u2019IA pourrait \u00e9tudier des images du visage d\u2019une c\u00e9l\u00e9brit\u00e9 sous plusieurs angles et dans diverses conditions d\u2019\u00e9clairage. En apprenant les subtilit\u00e9s des traits et des expressions du visage de la c\u00e9l\u00e9brit\u00e9, l’IA peut ensuite g\u00e9n\u00e9rer de nouvelles images vid\u00e9o qui remplacent de mani\u00e8re transparente le visage de la personne d’origine par l’image de la c\u00e9l\u00e9brit\u00e9.<\/span><\/p>\n

Les algorithmes d’IA peuvent analyser les enregistrements de la voix d’une personne pour conna\u00eetre les mod\u00e8les distincts de son discours, notamment son ton, sa hauteur, son accent et ses mani\u00e8res. Avec suffisamment de donn\u00e9es d\u2019entra\u00eenement, l\u2019IA peut alors synth\u00e9tiser un nouveau contenu audio qui ressemble \u00e9trangement \u00e0 la personne originale qui parle.<\/span><\/p>\n

Quels sont les risques potentiels des deepfakes pour les enfants et les adolescents ?<\/b><\/h3>\n

En tant que parents, notre instinct est de prot\u00e9ger nos enfants des dangers, tant dans le monde physique que num\u00e9rique. Cependant, avec la mont\u00e9e des deepfakes g\u00e9n\u00e9r\u00e9s par l\u2019IA, nous sommes confront\u00e9s \u00e0 un nouvel ensemble de d\u00e9fis qui peuvent avoir de graves cons\u00e9quences sur le bien-\u00eatre, le d\u00e9veloppement et m\u00eame la s\u00e9curit\u00e9 de nos enfants.<\/span><\/p>\n

Exposition \u00e0 du contenu inappropri\u00e9, trompeur ou d\u00e9rangeant<\/b><\/h4>\n

\u00c0 mesure que la technologie des deepfakes devient plus accessible, il est plus facile que jamais pour les mauvais acteurs de cr\u00e9er de fausses vid\u00e9os, images ou audio qui semblent r\u00e9els de mani\u00e8re convaincante.<\/span><\/p>\n

Imaginez, par exemple, un enfant tombant sur une vid\u00e9o deepfake qui semble montrer sa c\u00e9l\u00e9brit\u00e9 pr\u00e9f\u00e9r\u00e9e se livrant \u00e0 un comportement explicite ou violent. Ou imaginez une image deepfake qui repr\u00e9sente une personnalit\u00e9 publique de confiance faisant des d\u00e9clarations fausses ou incendiaires.<\/span><\/p>\n

M\u00eame si les adultes peuvent voir le contenu tel qu’il est, les enfants peuvent devenir confus ou boulevers\u00e9s lorsqu’ils voient l’inattendu de personnages de confiance.<\/span><\/p>\n

Difficult\u00e9 \u00e0 distinguer le vrai du faux, conduisant \u00e0 la confusion et aux fausses croyances<\/b><\/h4>\n

En tant qu\u2019adultes, nous avons \u00e9galement du mal \u00e0 distinguer le contenu authentique des faux g\u00e9n\u00e9r\u00e9s par l\u2019IA.<\/span> Une \u00e9tude r\u00e9cente<\/span><\/a> ont d\u00e9couvert que les adultes interrog\u00e9s \u00e9taient capables d’identifier un texte \u00e9crit cr\u00e9\u00e9 par l’IA dans 57\u00a0% des cas, mais ne pouvaient distinguer les images de l’IA des images r\u00e9elles que dans 53\u00a0% des cas.<\/span><\/p>\n

Pour les enfants qui d\u00e9veloppent encore leur compr\u00e9hension du monde et apprennent \u00e0 naviguer dans des paysages informationnels complexes, ce d\u00e9fi est encore plus grand.<\/span><\/p>\n

Lorsqu\u2019ils sont expos\u00e9s \u00e0 des deepfakes, les enfants peuvent avoir du mal \u00e0 faire la distinction entre ce qui est r\u00e9el et ce qui est fabriqu\u00e9. Au fil du temps, une exposition r\u00e9p\u00e9t\u00e9e \u00e0 des deepfakes peut amener les enfants \u00e0 int\u00e9rioriser de fausses informations ou \u00e0 d\u00e9velopper des perceptions fauss\u00e9es de la r\u00e9alit\u00e9.<\/span><\/p>\n

Potentiel de cyberintimidation, d’escroqueries et d’atteinte \u00e0 la r\u00e9putation gr\u00e2ce \u00e0 la technologie Deepfake<\/b><\/h4>\n

Le plus alarmant peut-\u00eatre est que les deepfakes peuvent \u00eatre utilis\u00e9s comme armes pour cibler directement les enfants. Les intimidateurs ou les agresseurs peuvent utiliser la technologie pour cr\u00e9er de faux contenus humiliants ou compromettants mettant en sc\u00e8ne leurs victimes, par exemple en pla\u00e7ant le visage d’un enfant sur le corps d’un adulte dans une image explicite.<\/span> L’IA a \u00e9t\u00e9 utilis\u00e9e pour cr\u00e9er de fausses images de camarades de classe<\/span><\/a> qui portent atteinte \u00e0 la r\u00e9putation et causent de graves dommages.<\/span><\/p>\n

\u00c9rosion de la confiance dans les m\u00e9dias et les sources d\u2019information<\/b><\/h4>\n

Nos enfants connaissent d\u00e9j\u00e0 un monde dans lequel voir n\u2019est plus croire \u2013 et avec la mont\u00e9e en puissance des deepfakes de l\u2019IA, les enfants pourraient d\u00e9velopper une profonde m\u00e9fiance \u00e0 l\u2019\u00e9gard des m\u00e9dias et des sources d\u2019information.<\/span><\/p>\n

Alors qu\u2019ils ont du mal \u00e0 distinguer le vrai du faux, ils peuvent remettre en question la cr\u00e9dibilit\u00e9 de tous les contenus qu\u2019ils rencontrent, m\u00eame ceux provenant de sources r\u00e9put\u00e9es telles que les parents, les enseignants et les figures d\u2019autorit\u00e9.<\/span><\/p>\n

Cette \u00e9rosion de la confiance peut avoir des cons\u00e9quences consid\u00e9rables sur le d\u00e9veloppement intellectuel et social des enfants. Cela peut conduire \u00e0 une vision cynique du monde, dans laquelle les faits sont constamment mis en doute et les opinions sont davantage fa\u00e7onn\u00e9es par la peur et la suspicion que par les preuves et la raison.<\/span><\/p>\n

Conseils pour aider les enfants \u00e0 identifier les deepfakes et le contenu g\u00e9n\u00e9r\u00e9 par l’IA<\/b><\/h3>\n

Bien s\u00fbr, toutes les IA ne sont pas mauvaises ! L\u2019IA a rendu plus facile que jamais la cr\u00e9ation de contenu \u00e9ducatif sur un large \u00e9ventail de sujets et a ouvert de nouvelles opportunit\u00e9s de cr\u00e9ativit\u00e9 et d\u2019expression. Cependant, la mont\u00e9e des deepfakes et autres contenus g\u00e9n\u00e9r\u00e9s par l\u2019IA signifie que les parents et les \u00e9ducateurs doivent \u00eatre plus vigilants que jamais pour aider les enfants \u00e0 naviguer dans ce paysage m\u00e9diatique complexe.<\/span><\/p>\n

Voici quelques conseils pour aider les enfants \u00e0 identifier et \u00e0 comprendre les deepfakes et autres contenus g\u00e9n\u00e9r\u00e9s par l\u2019IA\u00a0:<\/span><\/p>\n

Recherchez les probl\u00e8mes visuels et les incoh\u00e9rences<\/b><\/h4>\n

Expliquez aux enfants que m\u00eame si les deepfakes peuvent \u00eatre tr\u00e8s convaincants, ils contiennent souvent de subtils probl\u00e8mes visuels ou des incoh\u00e9rences. M\u00eame si l\u2019IA parvient de mieux en mieux \u00e0 les dissimuler, cela reste assez \u00e9vident dans de nombreuses escroqueries et deepfakes tr\u00e8s m\u00e9diatis\u00e9s.<\/span><\/p>\n

Encouragez-les \u00e0 regarder attentivement les vid\u00e9os ou les images \u00e0 la recherche de signes de mouvements non naturels, d\u2019\u00e9clairage incompatible ou de flou sur les bords des visages. Soulignez des exemples d’artefacts visuels, comme un scintillement ou une distorsion, qui peuvent indiquer un deepfake.<\/span><\/p>\n

Faites attention aux signaux audio<\/b><\/h4>\n

Aidez les enfants \u00e0 comprendre que le son deepfake peut sembler l\u00e9g\u00e8rement robotique, d\u00e9form\u00e9 ou contre nature. Encouragez-les \u00e0 \u00e9couter attentivement les prononciations \u00e9tranges, le ton de la voix incoh\u00e9rent ou les bruits de fond qui ne correspondent pas aux visuels.<\/span><\/p>\n

Insistez sur l\u2019importance de prendre en compte la qualit\u00e9 audio ainsi que les \u00e9l\u00e9ments visuels lors de l\u2019\u00e9valuation de l\u2019authenticit\u00e9 d\u2019une vid\u00e9o ou d\u2019un clip audio. Cela peut \u00eatre plus difficile pour les jeunes enfants, mais les enfants plus \u00e2g\u00e9s peuvent facilement savoir quand quelque chose ne va pas dans un contenu ou un m\u00e9dia.<\/span><\/p>\n

V\u00e9rifiez la source et les informations de r\u00e9f\u00e9rence crois\u00e9e<\/b><\/h4>\n

Apprenez aux enfants \u00e0 se m\u00e9fier du contenu provenant de sources inconnues ou peu fiables. Encouragez-les \u00e0 v\u00e9rifier si le contenu appara\u00eet sur des sites d\u2019information r\u00e9put\u00e9s ou sur des cha\u00eenes officielles \u2013 et si c\u2019est trop beau pour \u00eatre vrai, c\u2019est probablement le cas !<\/span><\/p>\n

Montrez-leur comment croiser les informations en recherchant la m\u00eame histoire ou la m\u00eame revendication dans plusieurs sources fiables. Si une histoire ou une vid\u00e9o ne peut pas \u00eatre v\u00e9rifi\u00e9e ailleurs, il peut s’agir d’un deepfake ou d’une d\u00e9sinformation.<\/span><\/p>\n

Favoriser un \u00e9tat d\u2019esprit curieux mais critique<\/b><\/h4>\n

La meilleure fa\u00e7on d\u2019aider les enfants \u00e0 comprendre la technologie des deepfakes est de favoriser un \u00e9tat d\u2019esprit curieux. Encouragez les enfants \u00e0 aborder le contenu en ligne avec une bonne dose de scepticisme curieux. Apprenez-leur \u00e0 poser des questions telles que\u00a0:<\/span><\/p>\n