{"id":54786,"date":"2024-03-08T13:43:05","date_gmt":"2024-03-08T13:43:05","guid":{"rendered":"https:\/\/kidslox.com\/guide-to\/ai-deepfakes\/"},"modified":"2024-03-11T14:13:41","modified_gmt":"2024-03-11T14:13:41","slug":"ai-deepfakes","status":"publish","type":"post","link":"https:\/\/kidslox.com\/pt-pt\/guide-to\/ai-deepfakes\/","title":{"rendered":"Deepfakes de IA \u2013 como podemos proteger nossos filhos?"},"content":{"rendered":"

Num mundo onde a tecnologia avan\u00e7a rapidamente, os pais enfrentam novos desafios na prote\u00e7\u00e3o dos seus filhos contra amea\u00e7as emergentes. Uma dessas preocupa\u00e7\u00f5es \u00e9 o aumento de deepfakes gerados por IA \u2013 meios de comunica\u00e7\u00e3o sint\u00e9ticos que podem imitar vozes, imagens e v\u00eddeos de pessoas reais com uma precis\u00e3o alarmante.<\/span><\/p>\n

Imagine receber um telefonema angustiante de sua filha, implorando por ajuda enquanto criminosos perigosos a est\u00e3o sequestrando.<\/span> Foi exatamente isso que aconteceu com Jennifer DeStefano, do Arizona, em janeiro de 2023<\/span><\/a>. Aterrorizada e desesperada para salvar o filho, Jennifer ouviu horrorizada um homem amea\u00e7ar prejudicar a filha se ela n\u00e3o enviasse dinheiro imediatamente.<\/span><\/p>\n

Mas aqui est\u00e1 a reviravolta chocante: a filha de Jennifer nunca esteve em perigo. Ela estava aproveitando uma viagem de esqui com seguran\u00e7a, completamente inconsciente do chamado traum\u00e1tico. A voz que Jennifer ouviu n\u00e3o era a de sua filha \u2013 era um deepfake incrivelmente realista gerado por IA, criado por golpistas para extorquir dinheiro de pais desavisados.<\/span><\/p>\n

Infelizmente, a hist\u00f3ria de Jennifer n\u00e3o \u00e9 um incidente isolado. \u00c0 medida que a tecnologia de IA se torna mais sofisticada, os criminosos encontram novas formas de a explorar para obter ganhos financeiros, muitas vezes visando fam\u00edlias vulner\u00e1veis. At\u00e9 os membros do Congresso est\u00e3o percebendo,<\/span> explorando como os deepfakes podem infringir os direitos individuais e causar danos graves.<\/span><\/a><\/p>\n

Como pais, \u00e9 crucial que nos mantenhamos informados sobre estas amea\u00e7as emergentes para proteger os nossos filhos e a n\u00f3s mesmos. Vamos dar uma olhada no mundo dos deepfakes de IA \u2013 o que s\u00e3o, como funcionam e, o mais importante, quais medidas podemos tomar para proteger nossas fam\u00edlias contra seu uso malicioso.<\/span><\/p>\n

Embora os riscos sejam reais e preocupantes, o nosso objetivo \u00e9 capacit\u00e1-lo com conhecimentos e estrat\u00e9gias pr\u00e1ticas para navegar neste novo cen\u00e1rio com confian\u00e7a.<\/span><\/p>\n

O que s\u00e3o Deepfakes de IA?<\/b><\/h3>\n

No centro do fen\u00f4meno deepfake est\u00e1 uma tecnologia poderosa chamada IA \u200b\u200bgenerativa. Em termos simples, IA generativa refere-se a algoritmos de intelig\u00eancia artificial que podem criar novos conte\u00fados \u2013 como imagens, v\u00eddeos, \u00e1udio ou texto \u2013 com base em padr\u00f5es aprendidos a partir de dados existentes.<\/span><\/p>\n

Para entender como funciona a IA generativa, imagine uma crian\u00e7a aprendendo a desenhar. \u00c0 medida que a crian\u00e7a estuda v\u00e1rios exemplos de arte, ela come\u00e7a a reconhecer padr\u00f5es comuns, como a disposi\u00e7\u00e3o t\u00edpica dos olhos, narizes e bocas em um rosto. Com a pr\u00e1tica, a crian\u00e7a aprende a combinar esses padr\u00f5es de novas maneiras para criar seus pr\u00f3prios desenhos exclusivos.<\/span><\/p>\n

A IA generativa opera segundo um princ\u00edpio semelhante, mas numa escala muito maior. Ao analisar grandes quantidades de dados, estes algoritmos aprendem a identificar e replicar padr\u00f5es, permitindo-lhes gerar novos conte\u00fados que imitam os dados originais com um realismo impressionante.<\/span><\/p>\n

Como esses modelos de IA zombam de pessoas reais?<\/b><\/h4>\n

Um dos tipos mais populares de IA generativa \u00e9 chamado<\/span> uma Rede Adversarial Generativa (GAN)<\/span><\/a>. Numa GAN, dois modelos de IA trabalham juntos numa esp\u00e9cie de competi\u00e7\u00e3o.<\/span><\/p>\n

Um modelo, chamado<\/span>gerador<\/span><\/i>, cria novos conte\u00fados, enquanto o outro modelo, conhecido como<\/span>discriminador<\/span><\/i>, tenta distinguir entre o conte\u00fado gerado e exemplos reais. \u00c0 medida que os modelos s\u00e3o iterados, o gerador aprende a criar conte\u00fado cada vez mais convincente que pode enganar o discriminador.<\/span><\/p>\n

Voc\u00ea pode imaginar que esta seria uma ferramenta poderosa para expandir a tecnologia. Mas quando aplicados a deepfakes, os algoritmos generativos de IA podem analisar rapidamente imagens, v\u00eddeos e grava\u00e7\u00f5es de \u00e1udio reais de uma pessoa para aprender os padr\u00f5es \u00fanicos de suas caracter\u00edsticas faciais, express\u00f5es, movimentos e voz. A IA ent\u00e3o<\/span>usa<\/span><\/i> esta informa\u00e7\u00e3o aprendida (como a crian\u00e7a aprendendo a copiar e desenhar) para sintetizar novo conte\u00fado que imite de perto a pessoa original.<\/span><\/p>\n

Por exemplo, para criar um v\u00eddeo deepfake, o algoritmo de IA pode estudar imagens do rosto de uma celebridade de v\u00e1rios \u00e2ngulos e em v\u00e1rias condi\u00e7\u00f5es de ilumina\u00e7\u00e3o. Ao aprender as complexidades das caracter\u00edsticas e express\u00f5es faciais da celebridade, a IA pode ent\u00e3o gerar novos quadros de v\u00eddeo que substituem perfeitamente o rosto da pessoa original pela imagem da celebridade.<\/span><\/p>\n

Algoritmos de IA podem analisar grava\u00e7\u00f5es da voz de uma pessoa para aprender os padr\u00f5es distintos de sua fala, incluindo tom, tom, sotaque e maneirismos. Com dados de treinamento suficientes, a IA pode ent\u00e3o sintetizar novo conte\u00fado de \u00e1udio que soa estranhamente como a pessoa original falando.<\/span><\/p>\n

Quais s\u00e3o os riscos potenciais dos deepfakes para crian\u00e7as e adolescentes?<\/b><\/h3>\n

Como pais, o nosso instinto \u00e9 proteger os nossos filhos de perigos, tanto no mundo f\u00edsico como no digital. No entanto, com o aumento dos deepfakes gerados por IA, enfrentamos um novo conjunto de desafios que podem ter consequ\u00eancias graves para o bem-estar, o desenvolvimento e at\u00e9 a seguran\u00e7a dos nossos filhos.<\/span><\/p>\n

Exposi\u00e7\u00e3o a conte\u00fado impr\u00f3prio, enganoso ou perturbador<\/b><\/h4>\n

\u00c0 medida que a tecnologia deepfake se torna mais acess\u00edvel, \u00e9 mais f\u00e1cil do que nunca para os malfeitores criarem v\u00eddeos, imagens ou \u00e1udio falsos que pare\u00e7am convincentemente reais.<\/span><\/p>\n

Imagine, por exemplo, uma crian\u00e7a que se depara com um v\u00eddeo deepfake que parece mostrar a sua celebridade favorita envolvida em comportamento expl\u00edcito ou violento. Ou imagine uma imagem deepfake que retrata uma figura p\u00fablica confi\u00e1vel fazendo declara\u00e7\u00f5es falsas ou inflamadas.<\/span><\/p>\n

Embora os adultos possam ver o conte\u00fado como ele \u00e9, as crian\u00e7as podem ficar confusas ou chateadas ao verem o inesperado de personagens confi\u00e1veis.<\/span><\/p>\n

Dificuldade em distinguir o real do falso, levando \u00e0 confus\u00e3o e \u00e0s falsas cren\u00e7as<\/b><\/h4>\n

Como adultos, tamb\u00e9m temos dificuldade em discernir o conte\u00fado genu\u00edno das falsifica\u00e7\u00f5es geradas pela IA.<\/span> Um estudo recente<\/span><\/a> descobriram que os adultos entrevistados conseguiam identificar textos escritos criados pela IA 57% das vezes \u2013 mas s\u00f3 conseguiam distinguir as imagens da IA \u200b\u200bdas reais 53% das vezes.<\/span><\/p>\n

Para as crian\u00e7as que ainda est\u00e3o a desenvolver a sua compreens\u00e3o do mundo e a aprender a navegar em paisagens informacionais complexas, este desafio \u00e9 ainda maior.<\/span><\/p>\n

Quando expostas a deepfakes, as crian\u00e7as podem ter dificuldade em distinguir entre o que \u00e9 real e o que \u00e9 fabricado. Com o tempo, a exposi\u00e7\u00e3o repetida a deepfakes pode fazer com que as crian\u00e7as internalizem informa\u00e7\u00f5es falsas ou desenvolvam percep\u00e7\u00f5es distorcidas da realidade.<\/span><\/p>\n

Potencial para cyberbullying, golpes e danos \u00e0 reputa\u00e7\u00e3o usando tecnologia Deepfake<\/b><\/h4>\n

Talvez o mais alarmante seja o fato de que os deepfakes podem ser usados \u200b\u200bcomo armas para atingir diretamente as crian\u00e7as. Os agressores ou abusadores podem usar a tecnologia para criar conte\u00fados falsos, humilhantes ou comprometedores, apresentando as suas v\u00edtimas, como colocar o rosto de uma crian\u00e7a no corpo de um adulto numa imagem expl\u00edcita.<\/span> IA tem sido usada para criar imagens falsas de colegas de classe<\/span><\/a> que prejudicam reputa\u00e7\u00f5es e causam danos graves.<\/span><\/p>\n

Eros\u00e3o da confian\u00e7a na m\u00eddia e nas fontes de informa\u00e7\u00e3o<\/b><\/h4>\n

Nossos filhos j\u00e1 conhecem um mundo onde ver n\u00e3o \u00e9 mais acreditar \u2013 e com os deepfakes de IA assumindo o controle, as crian\u00e7as podem desenvolver uma profunda desconfian\u00e7a na m\u00eddia e nas fontes de informa\u00e7\u00e3o.<\/span><\/p>\n

\u00c0 medida que lutam para distinguir o real do falso, podem questionar a credibilidade de todos os conte\u00fados que encontram, mesmo de fontes respeit\u00e1veis, como pais, professores e figuras de autoridade.<\/span><\/p>\n

Esta eros\u00e3o da confian\u00e7a pode ter implica\u00e7\u00f5es de longo alcance para o desenvolvimento intelectual e social das crian\u00e7as. Pode levar a uma vis\u00e3o de mundo c\u00ednica, onde os factos est\u00e3o constantemente em d\u00favida e as opini\u00f5es s\u00e3o moldadas mais pelo medo e pela suspeita do que pelas provas e pela raz\u00e3o.<\/span><\/p>\n

Dicas para ajudar as crian\u00e7as a identificar deepfakes e conte\u00fado gerado por IA<\/b><\/h3>\n

Claro, nem toda IA \u200b\u200b\u00e9 ruim! A IA tornou mais f\u00e1cil do que nunca a cria\u00e7\u00e3o de conte\u00fado educacional sobre uma ampla variedade de t\u00f3picos e abriu novas oportunidades para criatividade e express\u00e3o. No entanto, o aumento de deepfakes e outros conte\u00fados gerados por IA significa que pais e educadores devem estar mais vigilantes do que nunca para ajudar as crian\u00e7as a navegar neste complexo cen\u00e1rio medi\u00e1tico.<\/span><\/p>\n

Aqui est\u00e3o algumas dicas para ajudar as crian\u00e7as a identificar e compreender deepfakes e outros conte\u00fados gerados por IA:<\/span><\/p>\n

Procure falhas visuais e inconsist\u00eancias<\/b><\/h4>\n

Explique \u00e0s crian\u00e7as que, embora os deepfakes possam ser muito convincentes, eles geralmente cont\u00eam falhas ou inconsist\u00eancias visuais sutis. Embora a IA esteja melhorando em escond\u00ea-los, ainda \u00e9 bastante \u00f3bvio em muitos golpes e deepfakes de alto perfil.<\/span><\/p>\n

Incentive-os a olhar atentamente para v\u00eddeos ou imagens em busca de sinais de movimentos n\u00e3o naturais, ilumina\u00e7\u00e3o incompat\u00edvel ou desfoque nas bordas dos rostos. Aponte exemplos de artefatos visuais, como tremula\u00e7\u00e3o ou distor\u00e7\u00e3o, que podem indicar um deepfake.<\/span><\/p>\n

Preste aten\u00e7\u00e3o \u00e0s dicas de \u00e1udio<\/b><\/h4>\n

Ajude as crian\u00e7as a compreender que o \u00e1udio deepfake pode soar ligeiramente rob\u00f3tico, distorcido ou n\u00e3o natural. Incentive-os a ouvir atentamente pron\u00fancias estranhas, tom de voz inconsistente ou ru\u00eddo de fundo que n\u00e3o corresponda ao visual.<\/span><\/p>\n

Enfatize a import\u00e2ncia de considerar a qualidade do \u00e1udio juntamente com os elementos visuais ao avaliar a autenticidade de um v\u00eddeo ou clipe de \u00e1udio. Isso pode ser mais dif\u00edcil para as crian\u00e7as mais novas, mas as crian\u00e7as mais velhas podem facilmente perceber quando algo parece \u201cerrado\u201d em um determinado conte\u00fado ou m\u00eddia.<\/span><\/p>\n

Verifique a fonte e as informa\u00e7\u00f5es de refer\u00eancia cruzada<\/b><\/h4>\n

Ensine as crian\u00e7as a serem cautelosas com conte\u00fado de fontes desconhecidas ou n\u00e3o confi\u00e1veis. Incentive-os a verificar se o conte\u00fado aparece em sites de not\u00edcias ou canais oficiais confi\u00e1veis \u200b\u200b\u2013 e se for bom demais para ser verdade, provavelmente \u00e9!<\/span><\/p>\n

Mostre-lhes como fazer refer\u00eancia cruzada de informa\u00e7\u00f5es pesquisando a mesma hist\u00f3ria ou afirma\u00e7\u00e3o em diversas fontes confi\u00e1veis. Se uma hist\u00f3ria ou v\u00eddeo n\u00e3o puder ser verificado em outro lugar, pode ser uma falsifica\u00e7\u00e3o ou desinforma\u00e7\u00e3o.<\/span><\/p>\n

Promova uma mentalidade curiosa, mas cr\u00edtica<\/b><\/h4>\n

A melhor maneira de ajudar as crian\u00e7as a compreender a tecnologia deepfake \u00e9 promover uma mentalidade curiosa. Incentive as crian\u00e7as a abordar o conte\u00fado online com uma boa dose de curioso ceticismo. Ensine-os a fazer perguntas como:<\/span><\/p>\n