Dicen que no es IA porque la app no lo detectó. Eso es como decir que un documento no es falso porque la lupa no encontró errores.
Voy a repetirlo para que quede claro, porque esta frase resume todo el problema que voy a desmenuzar en este artículo: el argumento de que una imagen es auténtica porque una aplicación gratuita de internet no la marcó como generada por inteligencia artificial es una falacia lógica. Tiene nombre. Se llama petición de principio. Y es el equivalente digital de decir «este billete es verdadero porque yo lo veo bien.»
Llevo 17 años en informática forense. He formado a más de 1,300 peritos. He analizado evidencia digital en juicios penales, civiles, mercantiles y laborales donde una imagen, un audio o un video era la prueba central. Y les soy franco: la cantidad de veces que he visto a una autoridad — fiscal, ministerio público, abogado, legislador — usar una aplicación gratuita de detección de IA como si fuera un dictamen pericial me ha dejado de sorprender. Ya no me sorprende. Me preocupa.
Me preocupa porque esa lógica se está institucionalizando. Se está convirtiendo en el estándar no escrito de cómo las autoridades «verifican» si una imagen es real o generada. Y ese estándar no tiene sustento técnico, no tiene rigor científico y no debería tener valor probatorio.
Este artículo es para el periodista que investiga un caso donde la autenticidad de una imagen es clave y necesita entender por qué las herramientas de detección de IA no son lo que parecen. Para el abogado que enfrenta una prueba multimedia cuya autenticidad se da por sentada sin verificación forense. Para el legislador que está redactando regulación sobre inteligencia artificial sin entender cómo funciona la tecnología que pretende regular. Y para el ciudadano que vio una imagen en redes sociales, leyó que «no es IA porque pasó el detector,» y quiere saber si eso significa algo.
Anticipemos: no significa lo que creen que significa.
La falacia: «No tiene etiqueta de IA, entonces es real»
Voy a empezar por el argumento más común y más peligroso que circula en discursos oficiales, dictámenes mal hechos y notas periodísticas sin rigor técnico.
El argumento es este: «La imagen no fue marcada como generada por inteligencia artificial por la plataforma donde se publicó. Por lo tanto, la imagen es real.»
Esto es una petición de principio. La conclusión se asume en la premisa. Se está diciendo: la imagen es real porque no se detectó que fuera falsa. Pero la ausencia de detección no es evidencia de autenticidad. La ausencia de detección es, simplemente, ausencia de detección.
Voy a poner una analogía que cualquier persona puede entender.
Un doctor revisa a un paciente. No encuentra nada. Le dice: «Usted está sano.» Pero el doctor solo le tomó la presión y le preguntó cómo se sentía. No le hizo análisis de sangre, no le hizo un electrocardiograma, no le hizo un estudio de imagen. No encontró nada porque no buscó con las herramientas necesarias. Eso no significa que no haya nada. Significa que el examen fue insuficiente.
Las aplicaciones gratuitas de detección de IA son el equivalente de tomarle la presión a un paciente y declararle sano. No es que no sirvan para nada. Es que lo que hacen es insuficiente para emitir un veredicto de autenticidad. Y la diferencia entre «insuficiente» y «definitivo» es la diferencia entre una opinión y un dictamen pericial.
Periodista que investiga un caso donde la autenticidad de una imagen es central: cuando una autoridad te dice «verificamos la imagen con una herramienta de detección y no salió como IA,» la primera pregunta que debes hacer es: ¿qué herramienta? ¿Cuál es su tasa de precisión documentada? ¿Qué porcentaje de falsos negativos tiene? ¿Contra qué modelos generativos fue entrenada? Si no te pueden responder esas preguntas, lo que te están diciendo no tiene sustento técnico. Es una declaración, no una verificación.
La analogía de la lupa: por qué el detector no detecta
Imagina que alguien te da un billete de 500 pesos y te pide que determines si es falso. Tú sacas una lupa. Lo miras. Los colores se ven bien. El papel se siente bien. Las letras están donde deben estar. Dices: «La lupa no encontró errores. El billete es verdadero.»
Pero la lupa no puede ver la marca de agua con luz ultravioleta. La lupa no puede sentir el relieve de la impresión intaglio. La lupa no puede leer el microtext que solo es visible con instrumentos especializados. La lupa no puede verificar la composición química del papel ni comparar la tinta con la especificación del banco central. La lupa te da una inspección visual superficial. No te da una autenticación.
Las aplicaciones de detección de IA son lupas. Algunas son lupas buenas. Otras son lupas de juguete. Pero incluso la mejor lupa sigue siendo una lupa. No es un laboratorio de autenticación.
Y aquí viene lo técnico, porque sin lo técnico esto se queda en analogía y la analogía no se sostiene sola.
Cómo funcionan los detectores de IA (y por qué fallan)
Los detectores de imágenes generadas por inteligencia artificial funcionan, en su mayoría, con modelos de aprendizaje automático entrenados para distinguir entre imágenes «reales» (capturadas por una cámara física) e imágenes «generadas» (producidas por un modelo generativo como Stable Diffusion, Midjourney, DALL-E, o cualquier otro). El modelo analiza patrones estadísticos en la imagen: distribuciones de frecuencia, patrones de ruido, artefactos de compresión, consistencia en texturas, iluminación y perspectiva.
El problema es múltiple. Y cada capa del problema debilita la confiabilidad del resultado.
Problema uno: el modelo generativo evoluciona más rápido que el detector. Los modelos generativos de imágenes se actualizan constantemente. DALL-E 2 generaba imágenes con artefactos visibles en manos y dedos. DALL-E 3 los corrigió. Midjourney v3 tenía texturas artificiales detectables. Midjourney v6 las eliminó. Stable Diffusion XL produce imágenes con un nivel de realismo que hace dos años era impensable. Cada nueva versión del modelo generativo hace que los detectores entrenados con versiones anteriores se vuelvan obsoletos. Es una carrera armamentista donde el atacante siempre va un paso adelante.
Problema dos: los falsos positivos. Un falso positivo es cuando el detector dice «esta imagen fue generada por IA» pero en realidad es una fotografía auténtica. Esto ocurre con frecuencia alarmante cuando la imagen ha sido editada, comprimida, filtrada, redimensionada o procesada de alguna forma. Instagram, WhatsApp, Facebook, Twitter — todas estas plataformas recomprimen las imágenes cuando se suben. Esa recompresión altera los patrones estadísticos que el detector busca. El resultado: el detector marca como «generada por IA» una foto real que simplemente fue compartida por WhatsApp.
Para un abogado, esto es devastador. Imagina que tu cliente presentó una fotografía legítima como prueba y la contraparte la pasó por un detector de IA que arrojó «probablemente generada.» Tu prueba acaba de ser cuestionada con una herramienta que no distingue entre «generada por un modelo» y «comprimida por WhatsApp.»
Problema tres: los falsos negativos. Un falso negativo es cuando el detector dice «esta imagen es real» pero en realidad fue generada por IA. Esto ocurre cuando el modelo generativo que produjo la imagen no está en el set de entrenamiento del detector, cuando la imagen generada fue post-procesada (añadiendo ruido, alterando metadatos, aplicando filtros de cámara), o cuando el generador fue específicamente entrenado para evadir detección.
Los falsos negativos son el escenario más peligroso. Porque son los que le dan a la autoridad la falsa seguridad de que «la imagen pasó el detector, entonces es real.» El checkbox vacío que se convierte en sello de autenticidad.
Problema cuatro: la imagen mixta. ¿Qué pasa cuando alguien toma una fotografía real y usa IA para modificar una parte? Cambiar un rostro. Alterar un texto en un documento fotografiado. Añadir un elemento que no existía. El resultado es una imagen que es parcialmente real y parcialmente generada. Los detectores de IA no fueron diseñados para este escenario. Analizan la imagen completa y emiten un veredicto binario: real o falsa. No dicen «la imagen es real excepto el rostro que fue generado.» No tienen esa granularidad.
Legislador que está pensando en regulación de deepfakes y de inteligencia artificial aplicada a medios: esta complejidad técnica es la que su regulación tiene que contemplar. Si la ley dice «las imágenes deben pasar un detector de IA para verificar autenticidad,» la ley está construida sobre arena. Los detectores no son suficientes. No lo son hoy, no lo van a ser mañana. La regulación efectiva no puede depender de herramientas cuya tasa de error es desconocida o inaceptable para un proceso legal.
El checkbox vacío no es sello de autenticidad
Hay una tendencia que estoy viendo con creciente frecuencia en el ámbito institucional y que necesito señalar con toda la precisión que puedo.
Autoridades, plataformas y organismos están comenzando a implementar «verificaciones» de autenticidad de imágenes que consisten en pasar la imagen por un detector y, si el detector no la marca como generada, declararla auténtica. Es un checkbox. ¿La imagen pasó el filtro? Sí. Entonces es real.
Este checkbox no tiene valor probatorio. No tiene rigor científico. No tiene sustento forense. Es un proceso de descarte superficial disfrazado de verificación.
Lo voy a explicar en términos forenses.
En informática forense, la autenticación de una imagen no se hace pasándola por un detector. Se hace analizando la imagen en múltiples capas de profundidad técnica:
Capa 1: Metadatos EXIF. Toda imagen capturada por una cámara — ya sea la cámara de un celular o una cámara profesional — contiene metadatos EXIF: modelo del dispositivo, fecha y hora de captura, configuración de la cámara (apertura, ISO, velocidad de obturación), y en muchos casos, coordenadas GPS. Una imagen generada por IA no tiene metadatos EXIF de cámara porque no fue capturada por una cámara. Sin embargo, esto no es definitivo: los metadatos se pueden agregar artificialmente y se pueden eliminar de una imagen real. Los metadatos son el punto de partida del análisis, no la conclusión.
Capa 2: Análisis de ruido residual. Toda cámara física — cada sensor CCD o CMOS que existe — produce un patrón de ruido único. Es como una huella digital del sensor. Se llama PRNU (Photo Response Non-Uniformity). Dos fotografías tomadas con la misma cámara comparten el mismo patrón PRNU. Si tengo el dispositivo que supuestamente capturó la imagen, puedo comparar el PRNU de la imagen cuestionada con el patrón del sensor del dispositivo. Si coinciden, la imagen fue capturada por ese dispositivo. Si no coinciden, no fue capturada por ese dispositivo. Las imágenes generadas por IA no tienen PRNU porque no fueron capturadas por un sensor físico. Tienen un patrón de ruido diferente, determinado por el modelo generativo.
Capa 3: Análisis de compresión. Las imágenes digitales pasan por procesos de compresión — JPEG es el más común — que dejan artefactos específicos. Cada vez que una imagen se guarda, se comparte, se sube a una red social, los artefactos de compresión se modifican. Un perito puede analizar las capas de compresión para determinar cuántas veces la imagen fue recomprimida y si la compresión es consistente con el flujo normal de una fotografía (cámara -> almacenamiento -> compartir) o si hay anomalías que sugieran edición o generación.
Capa 4: Análisis de consistencia interna. Iluminación, perspectiva, sombras, reflejos, proporción de elementos. Una imagen generada por IA puede tener inconsistencias que no son visibles a simple vista pero que un análisis forense detecta: sombras que van en direcciones diferentes, reflejos que no corresponden con las fuentes de luz, texturas que se repiten de manera no natural. Este análisis no lo hace una aplicación en 3 segundos. Lo hace un perito con herramientas especializadas y formación en análisis de imagen.
Capa 5: Análisis de modelo generativo. Cada modelo generativo — Stable Diffusion, Midjourney, DALL-E, Firefly — deja una «firma» estadística en las imágenes que produce. Esa firma está en la distribución de frecuencias espaciales, en los patrones de dithering, en la forma en que el modelo maneja bordes y transiciones. Un laboratorio forense con las herramientas adecuadas puede, en muchos casos, no solo determinar que la imagen fue generada por IA sino identificar qué modelo la generó.
Esas cinco capas son lo que un análisis forense serio contempla. Lo que un checkbox en una aplicación gratuita contempla es, en el mejor de los casos, una versión simplificada de las capas 2 y 5. En el peor de los casos, no contempla ninguna.
Ciudadano que vio la noticia de que «la imagen fue verificada y no es IA»: lo que probablemente hicieron fue pasarla por una aplicación y ver que no la marcó. Eso no es verificación. Eso es un filtro superficial. La diferencia es la misma que existe entre hacerte un antidoping casero y hacerte un análisis de laboratorio certificado. Ambos buscan lo mismo. Uno tiene valor legal. El otro no.
Google y Meta no tienen un «detector mágico»
Necesito desmontar esta idea porque la escucho cada vez con más frecuencia en foros, conferencias, declaraciones oficiales y hasta en audiencias judiciales.
La idea es esta: «Google lo detectaría.» O su variante: «Si fuera deepfake, Meta lo habría marcado.» O la más ambiciosa: «Las plataformas ya tienen inteligencia artificial que detecta inteligencia artificial.»
Voy a ser directo: ni Google, ni Meta, ni OpenAI, ni ninguna empresa de tecnología tiene un detector infalible de contenido generado por IA. Ninguna. Y las propias empresas lo reconocen en su documentación técnica, que curiosamente nadie lee.
Google ha publicado investigaciones sobre detección de deepfakes y contenido generativo. En esas investigaciones, los propios autores documentan las limitaciones: los modelos de detección tienen una tasa de precisión que varía entre el 70% y el 95% dependiendo del modelo generativo, la resolución de la imagen, el nivel de post-procesamiento y otros factores. Un 95% de precisión suena alto hasta que entiendes lo que significa: de cada 100 imágenes generadas por IA, el detector identifica correctamente 95 pero deja pasar 5 como si fueran reales. En un contexto judicial, donde una sola imagen puede ser la diferencia entre una condena y una absolución, un 5% de error no es aceptable. No es ni remotamente aceptable.
Meta implementó un sistema de etiquetado de contenido generado por IA en sus plataformas. El sistema funciona detectando metadatos que ciertos generadores incrustan en las imágenes — como los estándares C2PA que Adobe y otras compañías han implementado. Si la imagen tiene esos metadatos, Meta la etiqueta como «generada por IA.» Si no los tiene, no la etiqueta.
Ahora piensa en eso un momento. Si un generador de IA no incrusta esos metadatos — porque es de código abierto, porque el usuario los eliminó, porque fue entrenado antes de que se implementara el estándar –, Meta no lo detecta. No lo etiqueta. Y la ausencia de etiqueta se interpreta como autenticidad.
Es exactamente la falacia de la que hablé al inicio. La ausencia de detección no es evidencia de autenticidad.
OpenAI desarrolló un clasificador de texto generado por IA. Lo lanzó públicamente. Meses después lo retiró porque la tasa de error era demasiado alta. Si la empresa que creó GPT no puede determinar con certeza si un texto fue generado por su propio modelo, ¿qué confianza deberíamos tener en una aplicación gratuita que afirma poder detectar si una imagen fue generada por cualquier modelo?
La respuesta es: ninguna confianza que tenga valor probatorio.
Abogado que enfrenta una prueba multimedia cuya autenticidad se da por sentada: no permitas que el argumento «la plataforma no lo detectó» se convierta en evidencia de autenticidad. Ese argumento es técnica y lógicamente insostenible. Si la autenticidad de una imagen es relevante para tu caso, la única forma de establecerla con rigor es mediante un peritaje forense que analice la imagen en todas las capas que describí arriba. Una etiqueta de plataforma no es un dictamen. Un checkbox no es un análisis. Un filtro automático no es un perito.
La marca de agua como ilusio: por qué las soluciones técnicas de las plataformas no resuelven el problema
Hay una narrativa que está ganando terreno en círculos regulatorios y legislativos: la solución al problema de los deepfakes y las imágenes generadas es obligar a los generadores de IA a incrustar una marca de agua digital invisible en cada imagen que producen. Así, cualquier persona podría verificar si la imagen fue generada con solo buscar la marca de agua.
En teoría suena razonable. En la práctica, tiene agujeros que un primer semestre de ingeniería puede identificar.
La marca de agua se puede eliminar. Las marcas de agua digitales invisibles — watermarks esteganográficos — son datos incrustados en los valores de los píxeles de la imagen. Una recompresión agresiva, una conversión de formato, un redimensionamiento, o un proceso específico de eliminación de watermark pueden destruir la marca de agua. Si la marca de agua desaparece, la imagen generada por IA pierde su «etiqueta» y se vuelve indistinguible de una imagen real para los sistemas de detección basados en marcas de agua.
La marca de agua se puede añadir a imágenes reales. Si el formato de la marca de agua se conoce — y eventualmente se conocerá, porque la seguridad por oscuridad no es seguridad –, un atacante puede incrustarla en una fotografía real para hacer que parezca generada por IA. Imagina las implicaciones: fotografías reales de hechos reales, desacreditadas porque alguien les añadió la marca de agua de «generada por IA.»
Los generadores de código abierto no incrustan marcas de agua. Stable Diffusion es código abierto. Cualquier persona puede descargarlo, modificarlo, eliminar el código que incrusta la marca de agua y generar imágenes sin marca. La regulación puede obligar a las empresas comerciales a incrustar marcas de agua, pero no puede obligar a un modelo que cualquier persona puede ejecutar en su computadora personal.
Esto no significa que las marcas de agua sean inútiles. Significan que no son una solución completa. Son una capa más en un problema de múltiples capas. Y tratarlas como la solución definitiva es el mismo error que tratar al detector de IA como la verificación definitiva.
Legislador que está redactando regulación sobre inteligencia artificial y deepfakes: la regulación que funcione va a ser la que reconozca que no existe una solución técnica única y definitiva para el problema de la autenticidad de medios digitales. La regulación que funcione va a establecer que la verificación de autenticidad de una imagen, audio o video en un contexto legal requiere un análisis forense realizado por un perito con formación y herramientas especializadas. No una aplicación. No una etiqueta de plataforma. No un checkbox. Un peritaje.
Cómo funciona realmente la autenticación forense de medios
Voy a cerrar este artículo con lo que debería ser el estándar — y que en los casos que manejo en Duriva, es el estándar.
Cuando una imagen, un audio o un video es relevante para un caso judicial, la pregunta «¿es real o es generado por IA?» no se responde con una aplicación. Se responde con un proceso forense que tiene pasos definidos, herramientas validadas y un marco metodológico reproducible.
Paso 1: Preservación
Antes de analizar nada, se preserva. Se genera una copia forense de la imagen o del dispositivo que la contiene, con hash SHA-256 que garantiza la integridad. La cadena de custodia se documenta. Si la imagen viene de internet, se certifica su origen con herramientas de archivado forense que registran la URL, la fecha de descarga, los headers HTTP y el contenido completo de la página.
Paso 2: Análisis de metadatos
Se extraen y analizan todos los metadatos disponibles: EXIF, XMP, IPTC. Se verifica si los metadatos son consistentes con el dispositivo de captura que se alega. Se buscan metadatos de modelo generativo — algunos generadores incrustan información identificable. Se detectan metadatos eliminados, modificados o incongruentes.
Paso 3: Análisis de sensor (PRNU)
Si se dispone del dispositivo que supuestamente capturó la imagen, se compara el patrón de ruido residual de la imagen con el patrón del sensor. Coincidencia positiva: la imagen fue capturada por ese dispositivo. Coincidencia negativa: no fue capturada por ese dispositivo. Ausencia de patrón de sensor consistente: posible generación artificial.
Paso 4: Análisis de artefactos de compresión
Se analizan las capas de compresión JPEG para determinar el historial de procesamiento de la imagen. Cuántas veces fue comprimida. Con qué parámetros. Si la compresión es consistente con un flujo natural de captura y distribución o si presenta anomalías.
Paso 5: Análisis de consistencia visual y estadística
Se examina la imagen para detectar inconsistencias en iluminación, perspectiva, sombras, reflejos, frecuencias espaciales y distribuciones estadísticas de valores de píxeles. Se aplican técnicas de ELA (Error Level Analysis), análisis de componentes de frecuencia, y comparación con firmas conocidas de modelos generativos.
Paso 6: Dictamen
El perito emite un dictamen documentando los hallazgos de cada capa de análisis, las herramientas utilizadas, la metodología aplicada y la conclusión fundamentada. Ese dictamen tiene valor probatorio. Es reproducible. Es cuestionable técnicamente en audiencia, lo cual es exactamente lo que un proceso legal requiere: evidencia que pueda ser confrontada, no un checkbox que se acepta ciegamente.
Periodista que está investigando un caso donde una imagen es la pieza central: este proceso es lo que deberías exigir que se haga antes de aceptar cualquier imagen como auténtica o como generada. Si alguien te dice «la pasamos por un detector y es real» o «la pasamos por un detector y es falsa,» en ambos casos la respuesta correcta es: eso no es suficiente. Un detector no es un peritaje. Un porcentaje de probabilidad no es un dictamen.
La conversación que necesitamos tener
La inteligencia artificial generativa no va a desaparecer. Va a mejorar. Las imágenes generadas van a ser cada vez más realistas, los audios sintéticos van a ser cada vez más convincentes, los videos generados van a ser cada vez más indistinguibles. Los detectores van a ir detrás, siempre un paso atrás, porque es infinitamente más fácil generar que detectar.
Eso no es pesimismo. Es la realidad técnica.
Y esa realidad técnica exige que el sistema legal, los medios de comunicación, las autoridades y los ciudadanos actualicen su comprensión de lo que significa «verificar» la autenticidad de un medio digital.
Verificar no es pasar por un filtro. Verificar es someter a un análisis forense riguroso, con herramientas especializadas, realizado por un perito con formación, que emita un dictamen documentado y reproducible.
Mientras sigamos aceptando que «la app no lo detectó, entonces es real» como argumento válido, estamos construyendo un sistema donde la evidencia no se verifica — se asume. Y un sistema donde la evidencia se asume es un sistema donde la verdad no se busca.
Las autoridades confían en detectores gratuitos en línea que no entienden cómo operan los modelos generativos. Los legisladores redactan regulación basada en soluciones técnicas que tienen agujeros documentados. Los abogados aceptan imágenes como auténticas porque «nadie las cuestionó.» Los ciudadanos comparten contenido sin saber si fue generado por una persona o por un modelo.
Y en medio de todo eso, la pregunta fundamental — «¿esta imagen es real?» — sigue sin tener una respuesta confiable fuera de un laboratorio forense.
En Duriva, analizamos medios digitales con todas las capas que describí en este artículo. Metadatos, PRNU, compresión, consistencia visual, firmas de modelo generativo. No usamos una aplicación y emitimos un veredicto. Hacemos un análisis forense y documentamos lo que encontramos. Con rigor. Con metodología. Con la precisión que un proceso legal merece.
Porque la pregunta «¿es real o es IA?» no se responde con una app. Se responde con ciencia. Y la ciencia forense es exactamente eso: ciencia aplicada a la verdad.