IA y Deepfakes: los desafíos de vivir en múltiples realidades a la vez
Sputnik entrevistó a varios especialistas para conocer cómo se enfrenta la humanidad a una tecnología que avanza de manera exponencial.
La inteligencia artificial se convirtió en parte de nuestra cotidianidad y, con ello, nacen los 'deepfakes', contenido multimedia capaz de replicar con realismo imagen y sonido, lo que ya tiene repercusiones en la sociedad, la cultura y la política.
De acuerdo con el Foro Económico Mundial, entre 2022 y 2023 los fraudes relacionados con el uso de esta herramienta aumentaron 1.740% en Norteamérica y, tan solo en el primer cuarto del 2025, generaron pérdidas por 200 millones de dólares.
La masificación de los deepfakes puede ir desde lo más banal, como replicar una foto propia al estilo de la animación de algunos estudios, hasta cuestiones donde interviene más la ética, como reproducir la voz de actores, políticos y líderes para generar contenido engañoso.
En México el tema ya generó la primera confrontación por este tipo de tecnología. En julio, el Instituto Nacional Electoral (INE) fue blanco de críticas que culminaron en una protesta por haber usado la voz del actor de doblaje, Pepe Lavat, para un video de TikTok, sin siquiera consultar a la viuda del actor, Gisela Casillas. El tema fue tan grande que el organismo se vio obligado a retirar el material y comprometerse a generar lineamientos más específicos sobre el uso ético de IA para tareas de Comunicación Social.
Este caso llegó hasta la oficina de la presidenta de México, Claudia Sheinbaum, quien afirmó que se trabajaría en una legislación para regular la IA. Más aún: semanas después, la Suprema Corte de Justicia de la Nación (SCJN) determinó que, cualquier obra generada únicamente a través de esta tecnología, no tenía derechos de autor, luego de que una persona intentó registrar un avatar que creó con esta herramienta.
Aunque el debate parece centrarse, mayormente, en la ética artística, los deepfakes han trastocado la política con videos de líderes nacionales e globales pidiendo dinero a sus simpatizantes y hasta la creación de pornografía con imágenes de terceros, como sucedió cuando un alumno del Instituto Politécnico Nacional de México (IPN) creó material pornográfico con las imágenes de compañeras de este colegio, para luego venderlo.
24 de agosto, 10:32 GMT
A pesar de haber encontrado casi 167.00 fotos y más de 12.000 videos en su posesión, material generado en su totalidad por IA, un juez lo absolvió de uno de los cargos al considerar que no se le podía adjudicar la creación de este contenido. Finalmente, Diego "N", el acusado, fue sentenciado por trata de personas en su modalidad de almacenamiento de pornografía infantil.
Vivimos en más de una realidad
En entrevista para Sputnik, el doctor en filosofía por la Universidad Nacional Autónoma de México, Ernesto Priani, considera que es momento de reconocer que la humanidad vive diversas realidades, fuera del mundo físico, que moldean la forma en la que vivimos.
"Para todos debería ya ser evidente, aunque no necesariamente lo es para todos, que ya estamos viviendo una realidad a la que se le ha superpuesto otra realidad: la realidad digital en general", afirma el académico especializado en humanidades digitales.
El investigador Fernando Ramos-Zaga señala en su artículo Deepfake: análisis de sus implicancias tecnológicas y jurídicas en la era de la inteligencia artificial, que este tipo de contenidos "difuminan los límites entre realidad y ficción como nunca antes", al hablar sobre las lagunas legales que existen en el mundo, y sobre todo en América Latina, sobre el uso de la IA.
Ramos-Zaga sostiene que esta tecnología podría utilizarse de mala manera para desprestigiar a las instituciones democráticas al dividir a las comunidades, socavar la confianza en los medios de comunicación e influir de manera directa en la opinión pública global, razón por la cual se posiciona en favor de aprobar legislaciones que regulen su uso en el ámbito mediático y político.
En países como Ecuador han sido testigos del uso de la IA para simular noticiarios internacionales y difundir mentiras contra un candidato, como sucedió con el hoy presidente Daniel Noboa. En Bolivia, el Tribunal Electoral hizo un llamado a medios de comunicación digitales y tradicionales para firmar un convenio de combate a fake news y deepfakes, en el marco de la segunda vuelta electoral que se llevará a cabo en octubre, al considerar un factor de riesgo para realizar una contienda equitativa y legítima.
7 de febrero 2024, 22:35 GMT
En México, una de las cadenas televisivas más importantes del país, TV Azteca, comenzó a difundir en sus redes sociales videos donde figuras históricas como Benito Juárez y Porfirio Díaz hablan como si estuvieran grabando contenido para redes sociales. La temática en ambas es revindicar ciertas posiciones políticas. En el caso de Juárez, el material se usa para criticar indirectamente al Gobierno de Claudia Sheinbaum y, en el caso de Díaz, para revindicar su figura y alejarlo de la imagen de dictador y presentarlo como un modernizador. Todo en un contexto en el que el dueño de la televisora, Ricardo Salinas Pliego, impulsa un movimiento político que, según él, busca ser un contrapeso de Morena, el partido en el poder.
"Si bien te puede causar gracia en algún momento, la verdad es que sí empieza a ser preocupante, por el lado de que está al margen de la ley, al margen de la ética. No está regulado, mucho menos tipificado y hay un gran vacío en la forma en la que se legisla la inteligencia artificial", comenta el académico de la Universidad Nacional Autónoma de México (UNAM) especializado en temas sociodigitales, Rubén Darío Vázquez.
Para el analista, ya desde hace unos años se ha comprobado cómo lo digital puede ser una herramienta de propaganda y manipulación política, siendo las elecciones presidenciales de Estados Unidos de 2016 un ejemplo claro de cómo la difusión de noticias falsas en internet tiene un impacto directo en la contienda electoral y en las creencias de las personas.
En este mismo sentido se expresa el investigador del Instituto de Investigaciones Bibliotecológicas y de la Información, el doctor Jonathan Hernández Pérez, quien considera que los materiales que usan figuras históricas son peligrosos, pues utilizan su autoridad para imponer ciertos discursos, lo que trasgrede directamente en el derecho al acceso a la información, elemental para el ejercicio de derechos democráticos.
Según una encuesta de McAfee realizada en 2023, el 70% de las personas que navegan en internet no están seguras de identificar qué contenido en redes sociales es real y cuál ha sido generado por IA.
"El video era algo que los usuarios no ponían en duda. Una foto sí, hasta este punto, y con el auge de Photoshop, se popularizó en la jerga cotidiana: "A de ser 'photoshopeada'. Ya uno dudaba de alguna manera porque se sabía en el imaginario que cualquiera podía editar una foto. Pero con un video dices: "¿Cómo no le voy a creer si ahí está la persona? Habla como la persona, se mueve como la persona, hace los gestos de la persona, ¿cómo no creer en una deepfake?", afirma el especialista en infodiversidad de la UNAM.
Hernández Pérez advierte que, en varias partes del mundo, ya se han registrado varios casos en los que se suplanta la identidad de una persona para cometer delitos y fraudes, un hecho que incluso ha levantado alertas en la Oficina de las Naciones Unidas contra la Droga y el Delito (UNODC, por sus siglas en inglés).
En países como Corea del Sur, los casos de uso de deepfake para la creación de pornografía casi se han duplicado en cuatro años. Según datos de la Agencia de la Policía Nacional, en 2024 cerca de 1.372 adolescentes enfrentaron cargos por grabar sin consentimiento a otras personas para después crear diversos tipos de deepfakes. En 2020 la cifra era de 710 casos.
Tan solo en septiembre de 2025, las autoridades surcoreanas detectaron 318 casos de personas que generaron pornografía de otras, sin avisar, con IA. Del total, 251, equivalente al 78,9%, eran adolescentes.
Este tipo de fenómenos, para académicos como Fernando Ramos-Zaga, evidencian que la falta de regulación de esta tecnología puede conducir a una "tragedia irreversible", pues en el futuro existirán deepfakes cada vez más personalizados para difamar a personas que no necesariamente se mueven en el ámbito público, lo que romperá el tejido social de comunidades enteras sin darnos cuenta.
Perder la noción de lo real
El realismo al que han llegado los deepfakes con la IA ya ha hecho que medios nacionales e internacionales den por legítimos materiales ficticios, como ocurrió el pasado mes de mayo cuando varios medios mexicanos y regionales difundieron el video de una supuesta anaconda gigante nadando en el río Amazonas. La imagen insólita fue compartida como un hecho real hasta que, poco después, se aclaró que se trataba de un invento hecho con IA.
Este fenómeno, aunque maximizado por el avance tecnológico, no es novedoso para la humanidad, dice el filósofo Ernesto Priani, pues "las personas hemos vivido siempre con una imagen falsa de nuestra propia realidad", desde la pintura en el Renacimiento hasta la creación del cine, que ha llevado a la creación de arquetipos y mitologías propias que definen ya el imaginario colectivo y la vida de millones de personas.
En este sentido, y ante el riesgo latente de ya no saber distinguir qué es real y qué no, Priani considera que "la posibilidad de enloquecer ha existido siempre", pero estas herramientas pueden potencializarlo. Al mismo tiempo, el filósofo advierte que "la idea de que nuestro cerebro es capaz de distinguir la realidad es un poco frágil", ya que el cerebro "es capaz de construir realidades alternativas todo el tiempo".
El doctor Jonathan Hernández Pérez agrega que, si bien el cine ha sido un ejemplo claro de educación visual y adaptación cognitiva (un efecto especial de los setenta es perfectamente distinguible de uno más reciente, con características más realistas), por ahora es difícil distinguir un deepfake de algo real, incluso para aquellos que pasan horas en internet.
En esta posibilidad de construir realidades alternativas cada vez más realistas, aparecen contenidos, que van desde videos pornográficos de artistas, la posibilidad de replicar la voz de personas ya fallecidas, hasta casos de personas que han utilizado IA para conectar a través de aplicaciones de citas. Algunas ya prácticamente suplantan a una persona para encontrar a su "pareja ideal" y concretar una cita a ciegas, sin que las personas involucradas interactúen en el ámbito digital. Es decir, una persona concreta una cita con alguien con quien nunca ha tenido comunicación, gracias a una IA que se hace pasar por el potencial interés amoroso.
Estas nuevas dinámicas digitales, a su vez, generan un ambiente endogámico que termina por empobrecer la diversidad de contenido digital, de acuerdo con Rubén Darío. Si bien el analista considera que se ha democratizado la generación de contenido digital, poco se ha hecho por profesionalizarlo, lo que termina por hacer que la mayoría de los videos se parezcan y difundan la misma información y errores.
Si se considera que la IA se alimenta de la información que se genera, en un ambiente donde la generación de contenido se delega a esta herramienta, pocos avances se tendrán en materia de generación de conocimiento, pues prácticamente estaremos procesando la misma información.
"Hoy creo que todo el mundo sabemos que los algoritmos, de alguna u otra manera, nos están dando solo lo que nosotros estamos buscando y tratan de separarnos de aquello que podría ser no relevante, deja de ponernos a prueba, deja de confrontar nuestros propios conocimientos, y si dejamos de confrontar nuestros conocimientos, pues hay una pobreza intelectual gigantesca porque pues te estás retroalimentando una y otra vez del mismo discurso sin posibilidad de comprobar, de saber, de conocer cualquier otro discurso que no sea aquel que tú mismo tienes, en cosas que van desde el entretenimiento hasta la política", advierte.
En este mismo tenor, Ernesto Priani considera que uno de los riesgos más latentes que ve en esta tecnología es la pobreza del lenguaje. Si la IA usa las palabras más usadas y simples nos enfrentaremos a una sociedad con capacidades de comunicación deficientes que no podrán superarlas si dependen enteramente de lo que leen a través de estas herramientas.
Por su parte, Jonathan Hernández advierte que otro riesgo de los deepfakes es su poder de persuasión y la posibilidad de que la propagación de tanta desinformación ponga en tela de juicio, por ejemplo, la confianza en instituciones como museos y bibliotecas.
Superar lo humano
El camino para llegar hasta aquí ha sido largo, aunque en el último par de años la IA y los deepfakes han avanzado exponencialmente, opina en entrevista para Sputnik el doctor en Ciencias de la Computación por la UNAM, Erick Carbajal-Degante.
El integrante de la Coordinación de Universidad Abierta y Educación Digital explica que el realismo al que ha llegado la IA se logra gracias al aprendizaje profundo que realizan los sistemas informáticos. Es decir, la capacidad de procesar enormes cantidades de información en poco tiempo para conocer y entender algún tema. Esta información se procesa para generar redes neuronales, similares a las que existen en el cerebro humano, y que buscan objetivos precisos como superar la prueba de Turing (una prueba desarrollada por el científico Alan Turing que establece la capacidad de una máquina para hacerse pasar por una persona sin ser detectada como una computadora).
"Las redes neuronales se volvieron muy populares en los últimos años, pero ya existían desde 1970 aproximadamente, un poquito después. La cuestión es que se volvieron muy populares porque actualmente existe el poder de cómputo para poder analizar muchos datos y ocuparlos, digamos, como una fuerza bruta y poder analizarlos con la infraestructura de cómputo", explica el investigador.
Carbajal-Degante detalla que los resultados que vemos se obtienen a partir de dos procesos fundamentales: uno que busca generar información para engañar, alimentándose de la información que los usuarios le dan, y otra que actúa como una especie de verificador de esta información y que determina, por ejemplo, si una imagen es lo suficiente realista o si comete errores que delatan que se trata de una imagen falsa. Este proceso de autoaprendizaje, alimentado por la información que recibe, es lo que permitió y permitirá un desarrollo muy veloz de la calidad de deepfakes.
"Entre una máquina tenga más datos para aprender, mejor lo va a hacer y entre más de esos datos sean más realistas, pues un contenido más realista pudiese generar", agrega.
El investigador de la UNAM señala que el origen de la IA generativa tiene otros fines alejados del entretenimiento y se enfocaban más a temas científicos e investigación, como de imagenología médica. Con la capacidad de procesamiento de datos y ante la incapacidad física de obtener imágenes detalladas de un cuerpo enfermo o con afectaciones, esta tecnología brinda la oportunidad de generar imágenes precisas que permitan realizar un mejor diagnóstico.
Pero el avance y masificación de esta tecnología ha tomado una orientación distinta y ha puesto en vilo a diversas ramas de creativos. Las tareas que antes requerían un diseñador gráfico, un compositor, un actor de doblaje o un editor de video, pueden ser realizadas por una sola aplicación.
Ejemplos de comerciales que prescinden de humanos ya son parte de la cotidianidad. Incluso, existen casos como el de la actriz hecha con IA, Tilly Norward, la cual ya está en la mira de varios productores para realizar películas. Asimismo, existe un apogeo de bandas de IA que cada vez ganan más oyentes en plataformas de streaming.
15 de octubre, 09:00 GMT
Organizaciones como la Organización Internacional de Trabajo (OIT) estiman que uno de cada cuatro trabajos en el mundo corre el riesgo de transformarse por la IA generativa. Otros organismos como la Cooperación y el Desarrollo Económico, el Foro Económico Mundial y el Fondo Monetario Internacional pronostican que entre el 45 y el 47% de los empleos podrían ser sustituidos enteramente por la IA.
Aquí, además de la responsabilidad del usuario al consumir este tipo de contenido, también entra en juego el papel de las plataformas digitales, señala Jonathan Hernández, pues responder preguntas fundamentales como qué medidas toman las plataformas para distinguir el contenido humano del de la IA o qué elementos considera para darle prioridad a uno y al otro, son esenciales para trabajar en un marco regulatorio que, por un lado, no inhiba la creatividad, resguarde la privacidad de las personas y al mismo tiempo no se vuelva un marco de censura previa.
Pese a los pronósticos apocalípticos, los especialistas consultados consideran que, como ha sucedido a lo largo de la historia de la humanidad, los avances tecnológicos nos llevarán a un cambio de paradigma y un cambio de hábitos, en este caso, sobre todo los de consumo, pero no por ello desaparecerán oficios que se sienten amenazados, como no sucedió cuando apareció la fotografía que amenazaba a la pintura y la propia foto con la aparición del cine y la televisión.
De hecho, dos de los especialistas coinciden en que, contrario a lo que se piensa, las nuevas generaciones muestran un desencanto por las redes sociales y han empezado a generar parámetros para delimitar qué tanto de la vida física pasa a lo virtual y, sobre todo, qué tanto tiempo quieren vivir en estas realidades alternativas.
"Con el tiempo yo espero que encontremos los mecanismos para enfrentarla. Y creo que parte de esos mecanismos va a ser ver los resultados que tiene creer falsamente en cosas. Yo sí creo que va a haber una especie de periodo de ingenuidad y luego un periodo de decepción. Y mejor no confiar en nada", concluye Ernesto Priani.
Para Rubén Darío, la IA, más que llevar al fin de la creatividad humana, le dará más herramientas. No descarta que en un futuro la tecnología del deepfake se use para crear experiencias inmersivas y estéticas mucho más profundas y personalizadas, para lo cual se necesitará la coordinación de un equipo de creativos humanos que ayuden a alimentar esta tecnología para evitar caer en repeticiones y de este modo ser competitivos en el mercado.
Un ejemplo de este tipo de experiencias en realidades alternativas ya se vive a través de videojuegos como Fortnite donde, además de la experiencia lúdica clásica de esta tecnología, han innovado con la realización de conciertos dentro de esta plataforma, como han sido los casos de artistas como Lady Gaga, Metallica y J Balvin.
"Yo espero que lleguemos a un punto en donde esto nos canse y que en realidad empecemos a tomar a la inteligencia artificial, a los deepfakes y demás como lo que realmente son: herramientas para crear contenido, herramientas de apoyo para crear contenido, no herramientas que sustituyen a los creadores", opina el Rubén Darío Vázquez.
El avance de la IA y los deepfakes, más allá de borrar profesiones, nos obligará a replantearlas, sugiere el doctor Erik Carbajal-Degante. Considera, por ejemplo, que más que sustituir a un profesor, esta tecnología obligará a replantearnos el papel de la docencia, sobre todo porque la aspiración de los expertos en la materia es llegar a una IA que supere las capacidades humanas en materia de resolución de problemas.
"Aquí dentro de la universidad se habla mucho de del rol del docente. Si el rol del docente ya termina, cuál es el impacto de la IA dentro de la parte educativa. Y lo que siempre trato de platicar con los profesores es esta cuestión de definir el concepto del profesor, que no es el mismo concepto de hace 20 años, tampoco es el mismo de hace 100 años, pero la enseñanza como tal está presente en cada uno de nosotros", concluye el académico.
No te pierdas las noticias más importantes
Suscríbete a nuestros canales de Telegram a través de estos enlaces.
Ya que la aplicación Sputnik está bloqueada en el extranjero, en este enlace puedes descargarla e instalarla en tu dispositivo móvil (¡solo para Android!).
También tenemos una cuenta en la red social rusa VK.
Volver al inicioVolver a la principal
