La Inteligencia Artificial generativa hizo más fácil crear contenidos falsos y más difícil distinguirlos. En Argentina, además, persiste un vacío legal regulatorio
La Inteligencia Artificial reconfiguró el ciclo informativo. Los avances tecnológicos que conllevan su creación y constante crecimiento, así como el uso de modelos que replican sesgos o sintetizan información sin verificar, llevaron a que se profundice la desinformación.
La producción de contenido de manera masiva y veloz fomentó que se amplifiquen la difusión de datos erróneos. La IA generativa facilitó la creación de contenidos falsos los cuales se presentan con apariencia profesional en formato de textos, imágenes o videos.
Una encuesta realizada por Martina Largente a 101 ciudadanos bonaerenses, entre 16 y mayores de 40 años. Confirmó que un 47% recibió varias veces noticias falsas creadas por IA, mientras que solo el 4% nunca recibió contenido de esta índole. A su vez, un 27% no está seguro de haberlo consumido.
Cuando el algoritmo amplifica la desinformación
El bombardeo de información es constante y la viralización de fake news crece diariamente. El contenido creado por IA generativa invade las plataformas desde Instagram, X, hasta TikTok. La Inteligencia Artificial hace mucho más difícil distinguir verdad y falsedad.
Los algoritmos de recomendación, diseñados para maximizar interacciones, tienden a priorizar los contenidos más llamativos o emocionales, justamente los que suelen ser falsos o manipulados, lo que aumenta su alcance y viralidad. El consumo de redes sociales por parte de los usuarios es cada vez mayor, los likes y visualizaciones provocan que el contenido circule con mayor velocidad.
Adrián Pino, experto en desinformación e IA, director de Proyecto Desconfío y coordinador de la Cumbre Global sobre Desinformación destacó que “la distribución de la desinformación se ve afectada porque los algoritmos no solo no colaboran, sino que, al contrario, ayudan a amplificar el contenido desinformante. Antes era más fácil detectar un patrón de contenido ya que, el mismo, se creaba manualmente y se amplificaba a través de bots. Hoy, las estrategias para desinformar constan de la producción de múltiples posteos, todos parecidos, pero con diferentes palabras, para luego distribuirlos de manera masiva con herramientas que también aprovechan de la inteligencia artificial”.
Recalcó que «los algoritmos no están poniendo ningún tipo de freno sino que colaboran con ese proceso. Los cambios en las plataformas, como lo que hizo Meta al eliminar su alianza con las agencias de verificación de fact-checking y reemplazarlas por las notas comunitarias, favorecen a que la distribución de contenido desinformante pueda circular con más libertad, con menos limitaciones y mantenerse visible o publicada por más tiempo del que se mantenía antes”
También afirmó que el hábito de los ciudadanos de preguntar cosas que necesitan entender, aprender o conocer, a las herramientas de inteligencia artificial de manera diaria hace que sea necesaria una vigilancia mucho más estricta sobre el tipo de respuesta que brindan las herramientas generativas, porque sus modelos de entrenamiento son falaces. Es decir, tienen información errónea, contienen datos desactualizados e incluso pueden alucinar, generar contenido inexistente o inventar respuestas, dejando a su paso inconsistencias en el contenido
Deepfakes, sitios engañosos y el nuevo desafío para distinguir lo real
La producción de contenido falso o engañoso aumenta intencionalmente, al respecto Pino expresó que se están llevando a cabo estrategias a nivel global y local, que constan de la creación de sitios web con contenido engañoso, falso o fuera de contexto, generados con inteligencia artificial. Estos son utilizados para validar contenido que se distribuye por redes sociales, redirigen a los usuarios a estos sitios para que, de alguna manera, se les otorgue seriedad o legitimidad al contenido falso.
Por otro lado, existe otra estrategia mucho más compleja, denominada “LLM grooming”, es decir, modelos de lenguaje masivo, que inyectan grandes volúmenes de información falsa, engañosa o contradictoria en distintos sitios webs creados con inteligencia artificial. El propósito de esto es confundir y lograr que las Inteligencias Artificiales más populares, como ChatGPT o Gemini, tomen ese contenido. Esto afecta a sus modelos de entrenamiento, ya que los nutre con información falsa. Esta problemática fue detectada en Europa, en el marco de las elecciones parlamentarias europeas y se atribuyó particularmente a Kremlin, Rusia.
El director de Proyecto Desconfío manifestó que “en Argentina, los usuarios están más expuestos a la creación de Deep Fakes y videos generativos. Estos contenidos son, para aquellas personas poco entrenadas, un camino a la desinformación. El usuario no puede distinguir el contenido falso del verdadero.”
Según la encuesta citada, se demostró que al 43% de los encuestados les resulta más difícil identificar textos falsos creados por IA, dejando a las imágenes generativas en segundo lugar con un 23%, mientras que solamente el 22% no puede reconocer videos sintéticos. A su vez, un 36% confirmó haber compartido un post o noticia que luego descubrió que era falsa.
Una crisis de confianza
La irrupción de la inteligencia artificial en la creación de contenidos marca un punto de inflexión en la credibilidad de las noticias y desafía una de las bases más importantes del ecosistema informativo: la confianza. El equipo de Chequeado, organización sin fines de lucro, expertos en verificación de información falsa y contenido generado con IA, confirmó esto asegurando que “cualquier persona puede producir imágenes, audios o videos extremadamente realistas sin necesidad de conocimientos técnicos avanzados.
Esa facilidad pone en riesgo nuestra capacidad de distinguir entre lo auténtico y lo manipulado, y, por lo tanto, erosiona la percepción de verdad. Si ya era complejo navegar un entorno saturado de información, ahora se suma la incertidumbre sobre el origen y la veracidad de lo que vemos o escuchamos. En ese sentido, sí: la IA puede profundizar la desinformación si se usa sin control ni transparencia”.
Chequeado, ve a la IA como una aliada en innovación: “Desde Chequeado trabajamos para aprovechar su potencial de manera responsable: la usamos para automatizar tareas, detectar patrones de desinformación y verificar más rápido y mejor, siempre con revisión humana y criterios éticos claros. Además, impulsamos la alfabetización mediática e informacional y la tecnología cívica para que la ciudadanía entienda más este contexto y esta nueva tecnología pueda hacerla jugar a su favor. La IA puede amplificar los riesgos, pero también las oportunidades: la diferencia está en cómo decidimos usarla.”
Afirmaron que este fenómeno tiene un impacto directo en la opinión pública: cuando las personas no saben en qué creer, tienden a desconfiar de todo. En esa crisis de confianza generalizada, se debilitan los consensos básicos y se vuelve más difícil sostener conversaciones informadas. Perder la noción de qué es verdadero y qué no, pone en riesgo no solo la credibilidad de las noticias, sino la capacidad de tomar decisiones informadas como ciudadanía. “Por eso, más que nunca, es clave promover el pensamiento crítico, la transparencia en los procesos de producción informativa y el acceso a herramientas que ayuden a identificar contenidos generados o alterados con IA”, manifestaron.
Fábricas de contenido: cuando producir miles de versiones es cuestión de segundos
También, desde la programación, se observa un notable crecimiento de la Inteligencia Artificial que impulsa a que el contenido desinformante circule con mayor velocidad.
Fernando Bande, programador (ORT), experto en algoritmos e IA confirmó que hay tres avances concretos: “Por un lado, modelos de lenguaje avanzados que escriben como una persona, sin errores y con estilo periodístico; herramientas de edición visual y de voz accesibles a cualquiera y la automatización de redes sociales que permite publicar masivamente y simular consenso. Hoy, ya no se trata de hackers aislados, sino de verdaderas fábricas de contenido automatizadas. Lo peligroso es que muchos usuarios no pueden distinguir qué es real y qué no”
Un modelo generativo no copia, sino que aprende patrones: cómo se escribe una nota de prensa, cómo suena un discurso o cómo se ve una foto. Entonces, cuando se le pide algo, lo produce con naturalidad y sin errores evidentes. Puede generar miles de versiones en segundos y se vuelve casi imposible frenar la difusión: “La IA democratizó la creación, pero también el ruido: ahora hay mucha más información circulando, aunque no toda es confiable” afirmó y agregó que el mayor riesgo es la falta de control sobre la fuente de los datos.
Nadie puede garantizar al 100% que los modelos no aprendieron de bases filtradas o material protegido. Además, el uso masivo de datos personales sin consentimiento puede violar normas locales. Hay que cuidar qué información se comparte con herramientas de IA y mantener políticas claras de ciberseguridad.
Argentina, ante un vacío regulatorio
En Argentina todavía no existe un marco regulatorio específico sobre Inteligencia Artificial, aunque se registran algunos intentos aislados que no lograron consolidarse. Paula Bande, abogada, experta en IA y Libertad de Expresión, ex directora de Asuntos Jurídicos del ENACOM, y actual asesora en la Cámara de Diputados de la Nación explicó que “en materia regulatoria no hay una coordinación o línea definida, sino que cada legislador va presentando propuestas normativas en función de su experticia y equipo de asesores. Actualmente hay muchos proyectos de ley vigentes”
Si bien en los últimos años se impulsaron iniciativas como el Plan Nacional de Inteligencia Artificial (ArgenIA, 2019), el Programa de Inteligencia Artificial o el Centro Argentino Multidisciplinario de Inteligencia Artificial (CAMIA), ninguna derivó en políticas sostenidas. La asesora consideró que “hoy no existe regulación en nuestro país, lo cual por un lado es bueno porque hay todo por hacer, pero también reconoce vacíos legales que afectan derechos personales, como la imagen, el honor o la propiedad intelectual”. Señaló que casos como la clonación de voces o imágenes para generar daño, evidencian la necesidad de que el Estado intervenga.
“En nuestro país se garantiza que los contenidos que circulan por las redes de internet son libres, están amparados por el derecho a la libertad de expresión, pero ciertamente existen casos en los que resulta necesario regular, específicamente lo referente a afectaciones a derechos humanos, cuestiones vinculadas a la pornografía, protección de las infancias, temas de discriminación o adicciones” afirmó.
La abogada declaró que el contenido falso que circula por internet tiene cada vez mayor alcance: “Todos conocemos que existen casos en que se usó IA para clonar imágenes o voces y a partir de ello provocar un daño en las personas, casos en que adolescentes clonaron rostros de compañeras de colegio y luego con uso de la IA armaron imágenes para circular en las redes. Esos son casos en los que el Estado debería intervenir para cuidar los derechos personales, sobre todo en lo referido a protección de niñas, niños y adolescentes.”
Concluyó que la ausencia de una regulación no solo afecta a la difusión de fake news sino que podría aparejar un desarrollo y uso contrario a la ética y, en consecuencia, el riesgo de acentuar desigualdades sociales o reproducir perjuicio y discriminación, amenazas a los Derechos Humanos en función de los sesgos que podrían surgir por la aplicación de diversos algoritmos de IA. Eso es lo que el Estado debería regular, sin bloquear la posibilidad de crecimiento y desarrollo
La expansión de nuevas tecnologías y la ausencia de una regulación específica plantean un escenario de cambio constante para el ecosistema informativo. El aumento de la desinformación y la pérdida de la confianza pública deben combatirse fortaleciendo la alfabetización digital, transparencia en los contenidos y con marcos normativos claros.
Según Bande, la regulación legislativa debería contemplar la privacidad de los datos personales, su manejo adecuado y seguro, que permita que las personas tengan conocimiento sobre el destino y uso de sus datos, brindando protección ante accesos no autorizados: “Haciendo hincapié en el principio de transparencia, explicabilidad y divulgación responsable. Es necesario que los usuarios compendian su interacción con la IA. Otra cuestión a tener en cuenta es la referida a la implementación de estándares técnicos para ofrecer al usuario la posibilidad de conocer cuando se trata o no de contenido realista, como ser los etiquetados o tagueos” declaró.
Todo esto da cuenta del riesgo que conlleva el rápido avance de la Inteligencia Artificial sobre la creación de contenido falso. La audiencia está cada vez más expuesta a la desinformación, provocando una crisis de confianza. No solo fueron afectadas las dinámicas de producción, sino que también la velocidad con la que se propagan el contenido falso.
La capacidad de la IA para producir materiales altamente verosímiles acelera un fenómeno que ya exhibía un crecimiento, dificultando la tarea de discernir entre información legítima y contenidos manipulados. Ante este panorama, es fundamental avanzar en estándares de identificación, protocolos de transparencia algorítmica y mecanismos de verificación sólidos para preservar la confianza pública, en un entorno informativo expuesto a riesgos. Hoy la verdad compite con el algoritmo.
