En un mundo donde la tecnología avanza rápidamente, los padres enfrentan nuevos desafíos para proteger a sus hijos de las amenazas emergentes. Una de esas preocupaciones es el aumento de los deepfakes generados por IA: medios sintéticos que pueden imitar voces, imágenes y videos de personas reales con una precisión alarmante.
Imagínese recibir una angustiosa llamada telefónica de su hija, pidiendo ayuda mientras peligrosos delincuentes la están secuestrando. Eso es exactamente lo que le pasó a Jennifer DeStefano de Arizona en enero de 2023.. Aterrorizada y desesperada por salvar a su hija, Jennifer escuchó con horror cómo un hombre amenazaba con hacerle daño a su hija si no le enviaba dinero de inmediato.
Pero aquí está el giro sorprendente: la hija de Jennifer nunca estuvo en peligro. Ella estaba disfrutando tranquilamente de un viaje de esquí, sin darse cuenta por completo de la traumática llamada. La voz que escuchó Jennifer no era en absoluto la de su hija: era un deepfake increíblemente realista generado por IA, elaborado por estafadores para extorsionar a padres desprevenidos.
Desafortunadamente, la historia de Jennifer no es un incidente aislado. A medida que la tecnología de inteligencia artificial se vuelve más sofisticada, los delincuentes encuentran nuevas formas de explotarla para obtener ganancias financieras, a menudo apuntando a familias vulnerables. Incluso los miembros del Congreso se están dando cuenta, explorando cómo los deepfakes pueden infringir los derechos individuales y causar daños graves.
Como padres, es fundamental que nos mantengamos informados sobre estas amenazas emergentes para proteger a nuestros hijos y a nosotros mismos. Echemos un vistazo al mundo de los deepfakes de IA: qué son, cómo funcionan y, lo más importante, qué medidas podemos tomar para proteger a nuestras familias contra su uso malicioso.
Si bien los riesgos son reales y preocupantes, nuestro objetivo es brindarle conocimientos y estrategias prácticas para navegar este nuevo panorama con confianza.
¿Qué son los deepfakes de IA?
En el corazón del fenómeno deepfake se encuentra una poderosa tecnología llamada IA generativa. En términos simples, la IA generativa se refiere a algoritmos de inteligencia artificial que pueden crear contenido nuevo (como imágenes, videos, audio o texto) basado en patrones aprendidos de los datos existentes.
Para comprender cómo funciona la IA generativa, imaginemos a un niño aprendiendo a dibujar. A medida que el niño estudia varios ejemplos de arte, comienza a reconocer patrones comunes, como la disposición típica de los ojos, la nariz y la boca en una cara. Con la práctica, el niño aprende a combinar estos patrones de nuevas maneras para crear sus propios dibujos únicos.
La IA generativa funciona según un principio similar, pero a una escala mucho mayor. Al analizar grandes cantidades de datos, estos algoritmos aprenden a identificar y replicar patrones, lo que les permite generar contenido nuevo que imita los datos originales con un realismo sorprendente.
¿Cómo se burlan estos modelos de IA de personas reales?
Uno de los tipos más populares de IA generativa se llama una red generativa adversaria (GAN). En una GAN, dos modelos de IA trabajan juntos en una especie de competencia.
Un modelo, llamadogenerador, crea contenido nuevo, mientras que el otro modelo, conocido comodiscriminado, intenta distinguir entre el contenido generado y ejemplos reales. A medida que los modelos se repiten, el generador aprende a crear contenido cada vez más convincente que puede engañar al discriminador.
Puede imaginarse que esta sería una herramienta poderosa para expandir la tecnología. Pero cuando se aplican a deepfakes, los algoritmos de IA generativa pueden analizar rápidamente imágenes, videos y grabaciones de audio reales de una persona para aprender los patrones únicos de sus rasgos faciales, expresiones, movimientos y voz. La IA entoncesusos esta información aprendida (como que el niño aprenda a copiar y hacer dibujos) para sintetizar contenido nuevo que imite fielmente a la persona original.
Por ejemplo, para crear un vídeo deepfake, el algoritmo de IA podría estudiar imágenes del rostro de una celebridad desde múltiples ángulos y en diversas condiciones de iluminación. Al aprender las complejidades de los rasgos y expresiones faciales de la celebridad, la IA puede generar nuevos cuadros de video que reemplazan sin problemas el rostro de la persona original con la imagen de la celebridad.
Los algoritmos de inteligencia artificial pueden analizar grabaciones de la voz de una persona para aprender los distintos patrones de su habla, incluidos su tono, tono, acento y gestos. Con suficientes datos de entrenamiento, la IA puede sintetizar nuevo contenido de audio que suena asombrosamente como la persona original hablando.
¿Cuáles son los riesgos potenciales de los deepfakes para niños y adolescentes?
Como padres, nuestro instinto es proteger a nuestros hijos de cualquier daño, tanto en el mundo físico como en el digital. Sin embargo, con el aumento de los deepfakes generados por IA, nos enfrentamos a una nueva serie de desafíos que pueden tener graves consecuencias para el bienestar, el desarrollo e incluso la seguridad de nuestros hijos.
Exposición a contenido inapropiado, engañoso o perturbador
A medida que la tecnología deepfake se vuelve más accesible, es más fácil que nunca para los malos actores crear videos, imágenes o audio falsos que parezcan convincentemente reales.
Imagine, por ejemplo, un niño que se topa con un vídeo falso que parece mostrar a su celebridad favorita participando en un comportamiento explícito o violento. O imagine una imagen deepfake que muestre a una figura pública confiable haciendo declaraciones falsas o incendiarias.
Si bien los adultos pueden ver el contenido tal como es, los niños pueden confundirse o molestarse al ver lo inesperado de personajes confiables.
Dificultad para distinguir lo real de lo falso, lo que genera confusión y creencias falsas
Como adultos, también nos cuesta distinguir el contenido genuino de las falsificaciones generadas por IA. Un estudio reciente descubrió que los adultos encuestados podían identificar texto escrito creado por IA el 57% de las veces, pero solo podían distinguir las imágenes de IA de las reales el 53% de las veces.
Para los niños que todavía están desarrollando su comprensión del mundo y aprendiendo a navegar en paisajes de información complejos, este desafío es aún mayor.
Cuando se exponen a deepfakes, los niños pueden tener dificultades para distinguir entre lo real y lo inventado. Con el tiempo, la exposición repetida a deepfakes puede hacer que los niños interioricen información falsa o desarrollen percepciones sesgadas de la realidad.
Potencial de ciberacoso, estafas y daños a la reputación mediante el uso de tecnología deepfake
Quizás lo más alarmante es que los deepfakes pueden convertirse en armas para atacar directamente a los niños. Los acosadores o abusadores pueden usar la tecnología para crear contenido falso humillante o comprometedor en el que aparezcan sus víctimas, como colocar la cara de un niño sobre el cuerpo de un adulto en una imagen explícita. Se ha utilizado IA para crear imágenes falsas de compañeros de clase que dañan la reputación y causan daños graves.
Erosión de la confianza en los medios y las fuentes de información
Nuestros niños ya conocen un mundo en el que ver ya no es creer, y con las falsificaciones de IA adquiriendo el control, los niños pueden desarrollar una profunda desconfianza hacia los medios y las fuentes de información.
Mientras luchan por distinguir lo real de lo falso, pueden cuestionar la credibilidad de todo el contenido que encuentran, incluso el de fuentes confiables como padres, maestros y figuras de autoridad.
Esta erosión de la confianza puede tener implicaciones de gran alcance para el desarrollo intelectual y social de los niños. Puede conducir a una visión del mundo cínica, en la que los hechos están constantemente en duda y las opiniones están determinadas más por el miedo y la sospecha que por la evidencia y la razón.
Consejos para ayudar a los niños a identificar deepfakes y contenido generado por IA
¡Claro, no toda la IA es mala! La IA ha hecho que la creación de contenido educativo sobre una amplia gama de temas sea más fácil que nunca y ha abierto nuevas oportunidades para la creatividad y la expresión. Sin embargo, el aumento de los deepfakes y otros contenidos generados por IA significa que los padres y educadores deben estar más atentos que nunca para ayudar a los niños a navegar por este complejo panorama mediático.
A continuación se ofrecen algunos consejos para ayudar a los niños a identificar y comprender los deepfakes y otros contenidos generados por IA:
Busque fallos visuales e inconsistencias
Explíqueles a los niños que, si bien los deepfakes pueden ser muy convincentes, a menudo contienen sutiles fallas visuales o inconsistencias. Si bien la IA está mejorando a la hora de ocultarlos, sigue siendo bastante obvio en muchas estafas y deepfakes de alto perfil.
Anímelos a mirar de cerca videos o imágenes en busca de signos de movimientos antinaturales, iluminación no coincidente o bordes borrosos de las caras. Señale ejemplos de artefactos visuales, como parpadeos o distorsiones, que pueden indicar un deepfake.
Presta atención a las señales de audio.
Ayude a los niños a comprender que el audio deepfake puede sonar un poco robótico, distorsionado o antinatural. Anímelos a escuchar atentamente para detectar pronunciaciones extrañas, tonos de voz inconsistentes o ruidos de fondo que no coincidan con las imágenes.
Enfatice la importancia de considerar la calidad del audio junto con los elementos visuales al evaluar la autenticidad de un video o clip de audio. Esto puede ser más difícil para los niños más pequeños, pero los niños mayores pueden darse cuenta fácilmente cuando algo se siente “mal” en un contenido o medio.
Consulta la fuente y la información cruzada.
Enseñe a los niños a tener cuidado con el contenido de fuentes desconocidas o poco confiables. Anímelos a comprobar si el contenido aparece en sitios de noticias o canales oficiales de buena reputación, y si es demasiado bueno para ser verdad, ¡probablemente lo sea!
Muéstreles cómo hacer referencias cruzadas de información buscando la misma historia o afirmación en múltiples fuentes confiables. Si una historia o un vídeo no se puede verificar en ningún otro lugar, es posible que se trate de un deepfake o de desinformación.
Fomente una mentalidad curiosa pero crítica
La mejor manera de ayudar a los niños a comprender la tecnología deepfake es fomentar una mentalidad curiosa. Anime a los niños a abordar el contenido en línea con una buena dosis de curioso escepticismo. Enséñeles a hacer preguntas como:
- “¿Quién creó este contenido y por qué?”
- “¿Qué evidencia respalda esta afirmación?”
- “¿Podría ser contenido deepfake o manipulado?”
Ayúdelos a comprender que el hecho de que algo parezca o suene real no significa necesariamente que lo sea. Reforzar la importancia de verificar los hechos y verificar la información antes de aceptarla como verdadera.
Manténgase informado sobre la última tecnología deepfake
Como padre, manténgase actualizado sobre los últimos avances en tecnología deepfake y las formas en que se puede utilizar indebidamente. Siga fuentes acreditadas de noticias tecnológicas y organizaciones de seguridad en línea para mantenerse informado.
Cuando sea posible, intente compartir actualizaciones y ejemplos apropiados para su edad con sus hijos para ayudarlos a comprender el panorama cambiante del contenido generado por IA y sus riesgos potenciales. Esto les ayudará a sentirse mejor preparados para identificar y manejar cualquier contenido cuestionable que encuentren en línea.
Enseñe a comprometerse con la curiosidad, no con el miedo
La IA llegó para quedarse, y es seguro decir que nuestros hijos probablemente crecerán sabiendo más sobre ella que nosotros. Pero eso no cambia los riesgos que plantean los actores nefastos que quieren aprovecharse de las poblaciones vulnerables con herramientas poderosas.
Al enseñar a los niños estas habilidades prácticas y fomentar una mentalidad crítica, podemos ayudarlos a navegar con confianza en el mundo de los deepfakes y el contenido generado por IA.
Recuerde, el objetivo no es asustar a los niños ni disuadirlos de involucrarse con la tecnología, sino brindarles las herramientas y el conocimiento que necesitan para mantenerse seguros, informados y en control de sus experiencias en línea. Cuando podemos ayudarlos a desarrollar la curiosidad por la tecnología y sus capacidades en lugar del miedo, podemos prepararlos para el éxito en el mundo digital.
¿Quiere obtener más información sobre la última tecnología y cómo mantener seguros a los niños en línea? Consulte nuestras otras guías y recursos en Kidslox – y tome las medidas necesarias para crear un entorno de aprendizaje en línea seguro y próspero para su familia.
