Origen de los deepfakes

Aunque hay quien sitúa su origen en las manipulaciones fotográficas o algunos programas de radio del siglo pasado, lo cierto es que hasta 1997 con el programa Video Rewrite no podemos hablar de deepfakes como tal. Este programa informático permitía generar la imagen en movimiento de una persona al audio generado en una pista diferente. En definitiva, se trataba de una manipulación de la imagen de vídeo de una persona para hacerle decir unos contenidos de audio que no fueran emitidos por ella, es decir, falsos (fake).

Sin embargo, no fue hasta 2013 con el desarrollo de la tecnología GAN  (Red Generativa Antagónica), que utiliza machine learning para generar un contenido sintético que imita a uno real. Esto se hace mediante dos redes neuronales antagónicas. La red generadora se utiliza para proponer el contenidos sintético y la red discriminadora para determinar si es real.   Mediante este proceso de ida y vuelta la imagen sintética se vuelve más indistinguible de una real.

Fuente: https://www.ibm.com/es-es

Desde entonces, la tecnología ha permitido llegar a un 86,6% de seguridad y consistencia, es decir, de lo que hace a un deepfake indistinguible de la realidad, y se calcula que pronto alcanzará el 99%.

¿Para qué se están usando?

En 2017, un usuario malintencionado de Reddit utilizó el nombre “Deepfakes” como identificación (origen por cierto de este término, fusión de Deep learning  y Fake). Este usuario utilizó  la tecnología GAN para combinar la imagen de mujeres famosas con vídeos pornográficos, simulando  que eran ellas las que los protagonizaban, produciendo vídeos deepfake. Desde entonces, el uso de la tecnología para realizar deepfakes explícitos ha sido  por desgracia predominante. Según estudios de Security hero en 2023 los vídeos deepfake pornográficos eran el 98% de todos los vídeos deepfake online, siendo además las mujeres objeto de ellos en un 99%. Por último, el 94% de las personas que figuran en estos vídeos falsos eran personas del mundo del entretenimiento (cantantes, actrices…). El estudio también indicaba que una de cada tres herramientas que permitía hacer deepfake, permitía ese uso para pornografía, llevando de media 25 minutos hacer un vídeo de estas características con simplemente una imagen clara del rostro de la persona.

Fuente: https://www.securityhero.io

Aunque esto es lo que dicen los datos, también se han dado otros usos no maliciosos de esta tecnología. En 2019 se creó  Dalí Lives, una exposición de arte permanente en el Dalí Museum en San Petersburgo (Florida). En ella, un avatar tridimensional que emula la imagen y la voz de Dalí interactúa con los visitantes. Para que Dalí Lives simulara ser el Dalí original, es decir, para que pudiera interactuar con los visitantes independientemente del contexto de la conversación, hicieron falta 6.000 fotogramas de entrevistas suyas y 1.000 horas de aprendizaje automático.  Es un ejemplo de que la tecnología que permite hacer deepfakes no está destinada intrínsecamente a un uso malicioso, aunque haya sido el más habitual hasta nuestros días.

¿Cuál es el peligro de los deepfakes?

Hemos visto que proliferan los vídeos falsos con usos maliciosos, siendo en su mayoría las víctimas las mujeres de la industria del entretenimiento, cuya imagen se usa ilegítimamente para generar vídeos explícitos. Por supuesto nadie está a salvo de este uso malicioso, si bien quienes realizan estas prácticas se fijan  sobre todo como objetivos mujeres con cierto grado de exposición pública.

Pero también está el uso de la tecnología de los deepfake por los ciberdelincuentes que buscan obtener ganancias ilegítimamente, o manipular la política o la actualidad.

Hasta la fecha se han detectado diversos usos maliciosos:

• Los audios deepfake se han utilizado para suplantar la identidad de las personas y realizar vishing (una modalidad del phishing, técnica maliciosa para suplantar la identidad de una persona o entidad con el objetivo de obtener datos, dinero o una conducta determinada). Se ha suplantado la identidad de políticos con objetivos de voto, de CEOs de importantes compañías para simular la autorización para una operación fraudulenta (en 2019 una empresa británica de energía perdió así 243.000 dólares),  o de personas que son autoridades en su campo para estimular la compra de un determinado producto (desde criptomonedas a complementos alimenticios).
• Los vídeos deepfake se han utilizado para reforzar con vídeos falsos de cargos de las empresas para autorizar operaciones millonarias fraudulentas (en 2024 una empresa de Hong Kong perdió 25 millones de dólares de este modo).
• Vídeos o audios deepfake se han utilizado para atacar la reputación y el honor de las personas manipulando su imagen para que simular que hicieron declaraciones racistas o extremistas que nunca habían hecho.O bien para hacerles protagonizar escenas explícitas, lo que en el caso de los menores es doblemente grave.
• La propagación de noticias falsas recibe un gran impulso si aparece un audio o vídeo deepfake que las avalan. Un vídeo deepfake de Barack Obama fue viralizado por el director Jordan Peele para alertar del peligro de esta tecnología.

¿Como detectar los deepfakes?

Si bien, como hemos dicho, la tecnología actual logra un 86,6% de consistencia y seguridad de la imagen, todavía hay algunos detalles que nos permiten identificar un deepfake:

• Dado que un vídeo falso está construido por diversas imágenes, a veces puede fallar en la consistencia global, y aparecer elementos irreales. esto es especialmente notorio en la coherencia lumínica, a veces hay sombras que no deberían aparecer.

Fuente: https://www.dw.com/es/c%C3%B3mo-reconocer-un-deepfake/g-60268891

• Hay detalles reveladores como el conjunto de la boca de la persona cuando habla, dado que la tecnología a veces no reproduce fielmente lengua, dientes o cavidad bucal.
• Hay otros detalles en el rostro como los reflejos oculares, vello facial poco realista, piel demasiado lisa o arrugada, lunares ficticios o los pendientes pueden delatar un deepfake.

Los reflejos oculares son especialmente difíciles de simular para la IA

• La frecuencia del parpadeo: normalmente en los deepfake el parpadeo se produce con mucha menos frecuencia que en un vídeo real.
• Muchos vídeos deepfake están hechos simplemente encajando el rostro de una persona sobre un cuerpo que no es el suyo. Se puede ver la incongruencia entre la proporción del rostro y del cuerpo. Otras veces fallan al realizar los ajustes morfológicos entre rostro y figura (por ejemplo, bordes fuertes, incoherencias o zonas difuminadas en los límites de la “máscara”).

Fuente: https://www.vicomtech.org/es/

• En cuanto a los audio, el tono monótono o carente de emoción con que se pronuncian las palabras pueden delatar un audio falso. También puede haber entonación o pausas inusuales.
• Un audio auténtico suele tener ruido ambiental. Si el audio no ha sido grabado en estudio, pero suena perfectamente “limpio” o se corta de forma antinatural, puede ser indicativo de fake audio.
• Las IA fallan a veces también en reproducir determinados sonidos. Por ejemplo, La combinación de consonantes fricativas con ruido de fondo puede ser difícil de reproducir, así que hay que prestar especial atención a ellas (en español serían la “f”, la “z”, la “y” no utilizada aisladamente, la “s” y la “j”). También puede haber siseos o brillos en las terminaciones de palabras.

Con esto, esperamos haberte dado algunas herramientas para hacer falso el enunciado de que los deepfakes generan imágenes indistinguibles de la realidad, si bien a medida que avance el tiempo tendremos que recurrir a herramientas tecnológicas, con la IA a la cabeza, para desmontar la falsedad de este tipo de imágenes.  Esperemos que, para entonces, usuarios e instituciones estén suficientemente concienciados.

Un gemelo digital (Digital Twin) es una réplica virtual de un objeto o sistema que nos permite simular, predecir y optimizar su rendimiento en tiempo real. Abarca el ciclo de vida del objeto y utiliza la simulación, el machine learning y el razonamiento para ayudar a tomar decisiones.  Los gemelos digitales son un medio muy potente para reproducir  un modelo virtualmente y tienen gran impacto en la transformación digital.

CONTENIDOS

¿Cómo funciona un gemelo digital?

Aplicaciones de los gemelos digitales en la industria española

Ejemplos de uso de los gemelos digitales en distintos sectores

Diferencias entre gemelos digitales y simulaciones

El futuro del gemelo digital

La idea de usar un gemelo digital como medio para estudiar un objeto físico fue idea de la NASA, quien resultó pionera en el uso de la tecnología de gemelos digitales durante sus misiones de exploración espacial en la década de 1960, cuando cada nave espacial en viaje se replicaba exactamente en una versión terrestre que el personal de la NASA, que formaba parte de las tripulaciones de vuelo, utilizaba con fines de estudio y simulación.

Hoy en día, la tecnología de los gemelos digitales se considera una pieza fundamental de la Industria 4.0, que aprovecha tecnologías como la Inteligencia Artificial (IA), el Internet de las Cosas (IoT) y el análisis de datos, para predecir comportamientos, realizar pruebas virtuales y optimizar operaciones sin tener que alterar un entorno físico. En esencia, el gemelo digital actúa como un espejo digital del mundo real, ofreciendo una visibilidad y un control sin precedentes en los procesos industriales y comerciales.

Los gemelos digitales ofrecen a las empresas el poder experimentar con nuevos productos, procesos y estrategias antes de implementarlos, acelerando el ciclo de innovación. Al permitir la simulación y la optimización de procesos, los gemelos digitales ayudan a mejorar la eficiencia. Con un gemelo digital, las empresas pueden tener una visión más clara de sus operaciones y tomar decisiones más informadas basadas en datos en tiempo real. Al optimizar el uso de recursos y reducir el desperdicio, también contribuyen a objetivos de sostenibilidad, como la reducción de la huella de carbono y el consumo de energía.

¿Cómo funciona un gemelo digital?

Si el objeto estudiado fuera por ejemplo una turbina eólica, el gemelo digital está equipado con varios sensores relacionados con áreas vitales de funcionalidad. Los sensores producen datos sobre diferentes aspectos del rendimiento del objeto físico, como la producción de energía, la temperatura, las condiciones climáticas, etc.

El sistema de procesamiento recibe esta información y la aplica activamente a la copia digital. Tras recibir los datos pertinentes, el modelo digital puede utilizarse para realizar diversas simulaciones, analizar problemas de rendimiento y crear posibles mejoras. El objetivo último es obtener conocimientos valiosos que puedan utilizarse para mejorar la entidad física original.

Aplicaciones de los gemelos digitales en la industria española

En el contexto de la transformación digital de España, los gemelos digitales juegan un papel fundamental para mejorar la eficiencia, la competitividad y la innovación en sectores industriales clave. Este impacto se enmarca dentro de políticas y estrategias nacionales como la Agenda España Digital 2026 y el Plan de Recuperación, Transformación y Resiliencia, que buscan impulsar la digitalización y la sostenibilidad económica.

En esta era de la digitalización, los gemelos digitales se han convertido en una herramienta fundamental para la transformación tecnológica de diversos sectores industriales españoles. Están siendo aplicados especialmente en la industria 4.0 (o fabricación inteligente) y están dirigidos, principalmente, a mejorar la eficiencia y a reducir costos. Se utilizan en la monitorización remota de máquinas, en el mantenimiento predictivo y en la optimización de la producción.

Ejemplos de uso de los gemelos digitales en distintos sectores

Grandes sectores como la automoción, la fabricación y la energía están adoptando esta tecnología para mejorar la calidad y reducir el tiempo de inactividad. Así, por ejemplo, en la industria energética, se utilizan para monitorizar y optimizar el rendimiento de las plantas de energía, incluidas las renovables como la eólica y la solar. En este entorno, ayudan a predecir fallos y a gestionar mantenimientos predictivos, reduciendo costos y mejorando la fiabilidad del suministro energético.

En el sector del transporte y la logística, los gemelos digitales pueden modelar rutas de transporte y cadenas de suministro, identificando cuellos de botella y optimizando la logística mejorando la eficiencia y reduciendo el consumo de combustible. Por ejemplo, una empresa de logística puede utilizar los gemelos digitales para simular diferentes escenarios de distribución y luego elegir la opción que le resulte más eficiente.

En la construcción, se usan para diseñar y simular proyectos antes de su construcción. Esto ayuda a identificar posibles problemas de diseño y a optimizar el uso de recursos, reduciendo tanto el tiempo como los costes asociados a los proyectos de infraestructura.

En el ámbito de la fabricación, los gemelos digitales permiten a las empresas simular y optimizar líneas de producción, reduciendo tiempos de inactividad y mejorando su eficiencia.

Y también en el sector de la salud, se pueden crear gemelos digitales para simular ensayos clínicos y la personalización de tratamientos médicos.

Diferencias entre gemelos digitales y simulaciones

Aunque tanto las simulaciones como los gemelos digitales utilizan modelos digitales para replicar los diversos procesos de un sistema, un gemelo digital es en realidad un entorno virtual, lo que hace considerablemente más rico el estudio.

La diferencia entre un gemelo digital y una simulación es en gran medida una cuestión de escala, pues mientras que en una simulación generalmente se estudia un proceso en particular, el gemelo digital puede ejecutar cualquier número de simulaciones útiles para estudiar múltiples procesos.

Ahí no acaban las diferencias. Por ejemplo, las simulaciones no suelen beneficiarse de tener datos en tiempo real. Pero los gemelos digitales están diseñados en torno a un flujo de información bidireccional que se produce cuando los sensores de objetos proporcionan datos relevantes al procesador del sistema, y más tarde vuelve a ocurrir cuando los conocimientos creados por el procesador se comparten con el objeto de origen. Al contar con datos constantemente actualizados y relacionados con una amplia gama de áreas, combinados además con la potencia informática adicional que acompaña al entorno virtual, los gemelos digitales pueden estudiar las cuestiones desde muchos más puntos de vista que las simulaciones estándar, con un mayor potencial final para mejorar productos y procesos.

El futuro del gemelo digital

En la actualidad se está produciendo un cambio fundamental en los modelos operativos existentes. El futuro de los gemelos digitales es casi ilimitado porque cada vez se dedican más recursos a su uso. Así, los gemelos digitales aprenden constantemente nuevas habilidades y capacidades, lo que significa que podrán seguir generando los conocimientos necesarios para mejorar los productos y hacer que los procesos sean más eficientes. Todo esto les predice un futuro en el que su uso será generalizado a todo tipo de industrias.

El auge de las herramientas de IA ha transformado la manera en que niños, jóvenes y adultos, interactúan con la tecnología. Y las plataformas conversacionales, como ChatGPT, son cada vez más accesibles y atractivas por su facilidad de uso y su capacidad para resolver dudas, crear contenidos e incluso ayudar a los niños en sus tareas escolares.  Sin embargo, esta misma accesibilidad plantea desafíos en materia de seguridad digital. El control parental de ChatGPT es por tanto herramienta esencial para los padres y educadores, garantizando un uso responsable y adecuado de estas tecnologías

CONTENIDOS

¿Qué es el control parental del ChatGPT?

¿Qué cosas pueden los padres controlar dentro de ChatGPT?

Guía para configurar el control parental de ChatGPT

1. Inicia la vinculación

2. Envía la invitación

3. Ajusta las llaves de seguridad

No hace mucho tiempo, el mayor dilema digital de un padre era decidir a qué edad debía regalarle el primer móvil a su hijo o cómo bloquear ciertas páginas en Google. Pero el tablero ha cambiado. Hoy en día, nuestros hijos no solo navegan por la red, sino que también conversan con ella. Aplicaciones de IA, como ChatGPT, se han convertido para nuestros hijos en un compañero de estudios omnipresente, un oráculo que responde en segundos a cualquier tipo de pregunta, desde cómo resolver una ecuación de segundo grado hasta pedir consejo sobre las  relaciones personales.

Sin embargo, este compañero digital no tiene una brújula moral. Por eso, implementar herramientas de control parental no es un acto de desconfianza, sino una medida de seguridad esencial, tan necesaria como tener un cinturón de seguridad en un coche de carreras. El control parental es una herramienta esencial para proteger a los menores sin limitar su aprendizaje.

¿Qué es el control parental del ChatGPT?

El control parental aplicado a los sistemas de inteligencia artificial (IA) busca asegurar que el contenido generado por la IA sea apropiado para cada edad. Permite a padres y tutores supervisar la interacción de los menores con el ChatGPT.

El funcionamiento se basa en filtros automáticos que limitan la exposición a temas o expresiones inadecuadas. La supervisión permite controlar no solo las respuestas, sino también el tiempo de uso y los temas consultados. Además, padres y tutores pueden revisar historiales y establecer configuraciones específicas según la edad del usuario.

¿Qué cosas pueden controlar los padres dentro de ChatGPT?

Los padres pueden ajustar los parámetros que regulan el tipo de contenido y también el lenguaje utilizado, así como el nivel de profundidad de las respuestas. También pueden desactivar funciones que impliquen el registro de datos personales o geográficos. Este tipo de control sobre ChatGPT, proporciona una supervisión flexible que protege al menor sin restringir su autonomía digital.

El acceso sin filtros a ChatGPT puede exponer a los menores a información falsa, a lenguaje inapropiado o a temas delicados. Aunque las plataformas cuentan con sistemas de moderación, estos no siempre son capaces de detectar todas las posibles desviaciones. Además, la dependencia excesiva de la inteligencia artificial puede afectar la autonomía y la capacidad de razonamiento crítico de los niños.

Guía para configurar el control parental de ChatGPT

Afortunadamente,  OpenAI ha lanzado funciones específicas de control parental en ChatGPT que permiten vincular cuentas para recibir alertas de seguridad y gestionar ajustes de privacidad. Al activar estos controles, nos aseguramos de que nuestros hijos aprovechen el potencial de esta revolución tecnológica sin perderse en el camino. No se trata de prohibir, sino de acompañar. OpenAI ha diseñado un sistema de vinculación de cuentas muy similar al que usan las consolas de juegos o las plataformas de entretenimiento como Netflix.

Si quieres activar el control parental, debes seguir estos pasos desde tu propia cuenta de ChatGPT (desde la web o la app del móvil):

1. Iniciar la vinculación:

• Haz clic “Icono de perfil” (abajo a la izquierda en la web o arriba a la derecha en la app)
• Entra en “Configuración” (Settings)
• Busca la pestaña “Controles parentales”
• Selecciona “Añadir miembro de la familia”

2. Envía la invitación:

• Introduce el correo electrónico o número de teléfono que tu hijo usa para su cuenta de ChatGPT
• Confirma que es “Mi hijo/a” (My child)
• Tu hijo debe entrar en su correo o en su propia app de ChatGPT para aceptar la invitación. Sin este paso, las cuentas no estarán conectadas

3. Ajusta las llaves de seguridad

• Una vez aceptada la invitación, verás el nombre de tu hijo/a bajo el apartado “Miembros de la familia”. Ahora puedes personalizar su experiencia en el “FILTRO DE CONTENIDO SENSIBLE (REDUCE SENSITIVE CONTENT)”. Asegúrate de que esté activado para reducir la exposición a temas violentos o no aptos para su edad
• “HORARIOS DE SILENCIO (QUIET HOURS)”: Puedes establecer franjas horarias en las que la IA no responderá para evitar distracciones durante el estudio o el descanso
• “ALERTAS DE SEGURIDAD (NOTIFICACIONES”: Configura si quieres recibir notificaciones por email o SMS si la IA detecta que tu hijo está tratando temas de riesgo (como autolesionarse o buscar contenido extremadamente inapropiado)

Recuerda que estos controles no te permiten leer los chats privados de tus hijos, sino gestionar su seguridad y los límites de uso.

Finalmente, la protección digital avanza hacia modelos cada vez más sofisticados, donde la personalización y la seguridad se equilibran con la autonomía de los usuarios más jóvenes. Las empresas tecnológicas ya están desarrollando herramientas predictivas que serán capaces de detectar patrones de riesgo en tiempo real. En el futuro, ChatGPT pretende llegar a ajustar sus niveles de control de manera automática, según la edad y el comportamiento del usuario.