La sofisticación de la inteligencia artificial generativa desafía la capacidad de los usuarios para distinguir lo real de lo falso en internet. Simón Díaz, community manager y especialista en IA, advirtió sobre la creciente amenaza de los deepfakes y la facilidad con la que pueden manipular la percepción pública. Mencionó la necesidad de establecer marcos regulatorios para proteger la privacidad digital.
Díaz explicó la evolución del engaño digital: “La cuestión de qué es real y qué es falso ha avanzado mucho, por ejemplo, en años anteriores era más fácil. Si bien hay inteligencia artificial, hay plataformas que se crearon para esto, pero son muy deficientes, lo mismo que cuando se analiza el grado en que un texto está hecho o no con IA, o sea, no sirven al 100%”, afirmó.
Señaló que la clave no reside tanto en la capacidad de la IA para crear, sino en la vulnerabilidad del receptor. Aunque antes se observaban detalles como un pixel o el movimiento antinatural de las manos, ahora estas señales son menos evidentes y la sincronización de la voz con el movimiento de la boca es cada vez más precisa.
“Al usuario es muy fácil engañarlo”, aseveró. En este sentido, desribió el comportamiento de los usuarios que los deja propensos a caer en estafas: «La gente suele pasar mucho tiempo en redes sociales deslizando contenido, sin detenerse a individualizar cada video».
Diferencia en fake news y deepfakes
El especialista diferenció las fake news de los deepfakes. Las primeras, explicó, están más relacionadas con noticias tradicionales de fines políticos y contaban con herramientas para desconfiar.
Sin embargo, los deepfakes representan un nivel superior de manipulación. “Las deepfake, por ejemplo, lo que representa es que ya no podemos confiar ni siquiera en la imagen y tampoco en la voz. Por ejemplo, en esta semana, en México, empezaron ya a pensar cómo se puede normalizar o mejor armar propuestas para proteger lo que es la voz, es decir, todo lo que es la clonación de voz”.
Díaz también se refirió a la capacidad de replicar imágenes y voces a partir de contenido público. “Yo puedo replicar tu imagen y hacerte decir cosas que vos nunca dijiste. O tal vez sí, pero no sos vos”, ejemplificó sobre la facilidad para generar contenido engañoso. Verbigracia, el video de Mauricio Macri que circuló el año pasado, donde supuestamente pedía votar a un candidato distinto al suyo.
La polémica por los masivos deep fakes de Grok
Por otro lado, el especialista advirtió sobre los peligros que implica la inteligencia artificial Grok, perteneciente a la misma empresa de X (antes Twitter). “La deepfake usa la imagen en un contexto que es falso. A principios de enero se habían creado más de 6.000 imágenes con inteligencia artificial y estas imágenes eran deep fake, pero lo que representaba es que se utilizaba fotos reales de las personas que habían publicado. Solamente dejabas un comentario en esa foto, arrobabas, es decir, mencionabas a Grok, que tiene su perfil como bot en X, y podías crear diferentes imágenes con la persona misma y lo que se hizo es que se generó mucho contenido explícito, incluso con menores”.
El experto en la materia hizo hincapié en que, aunque estos fenómenos comiencen como algo humorístico, terminan por generar graves problemas de seguridad y privacidad, dado que afectan la identidad digital de las personas y abren puertas a conductas como el grooming o la persecución de perfiles vulnerables, como el de los adolescentes.
En la provincia, Silicon Misiones trabaja activamente en la difusión de material sobre estas problemáticas.
La urgencia de regular el ecosistema de la IA
De esta manera, Díaz defendió la necesidad de regular la inteligencia artificial y las redes sociales. “Sin duda creo que hay que regular, porque hay cuestiones de privacidad, sobre todo en todo lo que son agentes de inteligencia artificial. Hay muchos problemas de privacidad que es más del rubro de seguridad informática o ciberseguridad. El problema más grave, no solamente en redes sociales, sino también yendo a todo lo que es inteligencia artificial, es la filtración de información sensible”, sostuvo.
En su opinión, la regulación debe apuntar al ecosistema del software y a las corporaciones que desarrollan estas tecnologías, muchas de las cuales enfrentan juicios constantes por sus prácticas. Puso como ejemplo el reciente desembolso millonario de Google para evitar un juicio por tener funciones ocultas que alimentaban sus sistemas con información de los usuarios sin su consentimiento explícito.
El experto también citó el caso de CapCut, una popular aplicación de edición de videos de que usaba el contenido editado por los usuarios para entrenar sus modelos de IA, situación que generó un fuerte revuelo y llevó a la modificación de sus políticas. Además, mencionó que ChatGPT, una de las aplicaciones de IA generativa más usadas, entrena sus modelos con las conversaciones de los usuarios por defecto,una función que se puede desactivar y muchos desconocen.
Por ello, Díaz subrayó la importancia de que los usuarios tomen conciencia y revisen las configuraciones de sus aplicaciones. “Es buscar dentro de las aplicaciones. Entiendo que para alguien que quizás no está tan familiarizado con las aplicaciones, los software, tanto de celular como de computadora, le cuesta un poco más, pero mi tarea también es informar sobre todas estas cuestiones”.
Misiones, un polo de oportunidades en tecnología
Consultado acerca del panorama tecnológico de Misiones, Simón Díaz destacó las numerosas oportunidades. “Creo que hay posibilidades, si hablamos todo lo que es inteligencia artificial, hay muchos proyectos e iniciativas para impulsar todo esto”, afirmó. Mencionó la ley de inteligencia artificial que se integra al sistema educativo de nivel medio y las ofertas del Silicon Misiones en programación e IA.
“Es posible para cualquier persona que obviamente tenga las capacidades, todas las habilidades necesarias, pero sí hay muchas posibilidades, hay plataformas para esto de trabajo, en la que cada uno se puede ir postulando”, explicó sobre el potencial del trabajo remoto para corporaciones de afuera. Incluso indicó que no es extraño que misioneros trabajen para empresas internacionales desde la provincia.
Además, resaltó la oferta educativa en marketing digital disponible en la tierra colorada, con más de cinco opciones entre la UNaM e institutos públicos y privados, lo que demuestra un ecosistema en crecimiento.
Así, Díaz enfatizó que Misiones cuenta con material humano y ganas de mejorar, con muchas iniciativas en inteligencia artificial, robótica y marketing que la posicionan favorablemente en la economía del conocimiento.
AggrescanAI: La inteligencia artificial argentina que aprende el ‘idioma’ de las proteínas para anticipar el Alzheimerhttps://t.co/BZTJowbIc0
— misionesonline.net (@misionesonline) February 11, 2026
ADEPA reunió a especialistas para analizar el desafío de la desinformación en la era de la IA
Abogada especialista en cibercrimen destacó la importancia de la prevención y la concientización que se realiza en Misiones para combatir el grooming y el ciberacoso
¡La Mentira Viaja más rápido que la verdad! Fake News, el valor de la información por Amalia María Benítez
