Deepfakes: cómo distinguir lo real de lo generado por inteligencia artificial
Los deepfakes ya no se limitan a videos experimentales en los que se sustituye el rostro de una persona. La inteligencia artificial generativa permite producir imágenes, voces y secuencias audiovisuales capaces de imitar con creciente realismo a personas, lugares y acontecimientos. Esto complica una tarea que durante décadas parecía sencilla: observar una fotografía o escuchar una grabación y asumir que constituían algún tipo de evidencia de lo ocurrido.
El problema no consiste únicamente en que existan falsificaciones convincentes. También aparece el riesgo inverso: que una imagen auténtica sea descartada como falsa simplemente porque resulta sorprendente. En situaciones de emergencia, fenómenos meteorológicos extremos, conflictos, accidentes o catástrofes naturales, esa incertidumbre puede adquirir especial importancia. Una fotografía falsa de una inundación, un supuesto mensaje de una autoridad o un audio manipulado que ordene una evacuación podrían difundirse rápidamente antes de ser verificados.
Ir a la guía central
Distinguir contenido auténtico de material generado por inteligencia artificial exige, por eso, algo más que buscar errores visuales. Las anomalías siguen siendo útiles, pero los sistemas generativos mejoran y algunos defectos que antes delataban inmediatamente una falsificación son cada vez menos evidentes. La verificación moderna necesita combinar observación, procedencia del archivo, contexto, fuentes independientes y herramientas forenses.
⚠️ Recibí alertas antes que el resto
Eventos como este pueden repetirse. Enterate antes que se vuelvan noticia.
Qué es realmente un deepfake y por qué resulta cada vez más difícil reconocerlo
El término deepfake se utiliza habitualmente para describir contenidos sintéticos o manipulados mediante técnicas de inteligencia artificial capaces de representar de manera convincente algo que no ocurrió. Puede tratarse de un rostro sustituido en un video, una voz clonada, una fotografía completamente artificial o una grabación en la que una persona parece pronunciar palabras que nunca dijo.
No todo contenido falso es, sin embargo, un deepfake. Una fotografía auténtica publicada con una fecha incorrecta, un video antiguo presentado como actual o una secuencia recortada para eliminar contexto pueden producir desinformación sin utilizar inteligencia artificial. Esta distinción es importante porque verificar una imagen no significa solamente determinar si fue generada por IA, sino establecer también dónde, cuándo y en qué circunstancias fue obtenida.
La Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos explica en su documentación sobre deepfakes y medios sintéticos utilizados en campañas de desinformación que fotografías, videos y audios pueden ser manipulados o fabricados para engañar a la audiencia. El organismo diferencia además estas técnicas de manipulaciones más sencillas, a veces denominadas cheapfakes, basadas en editar, ralentizar, acelerar o sacar de contexto material auténtico.
La capacidad técnica necesaria para generar material convincente también se ha reducido. Herramientas que antes requerían conocimientos especializados pueden producir actualmente imágenes, voces o videos a partir de instrucciones relativamente simples. Como consecuencia, la apariencia realista por sí sola dejó de ser una prueba suficiente de autenticidad.
Las señales visuales y sonoras ayudan, pero ya no ofrecen una prueba definitiva
Los primeros deepfakes solían presentar defectos notorios: parpadeos extraños, dientes deformados, bordes irregulares alrededor del rostro, diferencias de iluminación o movimientos labiales deficientemente sincronizados. Algunos de estos indicios todavía aparecen, especialmente en contenidos generados rápidamente o sometidos a varias etapas de compresión.
Conviene observar manos, dedos, orejas, dientes, anteojos, joyas, sombras y reflejos. También pueden resultar sospechosos los objetos que cambian de forma entre fotogramas, textos ilegibles dentro de una imagen, movimientos físicamente poco naturales o fondos que parecen modificarse mientras la cámara se desplaza. En audio, una entonación demasiado uniforme, respiraciones extrañas, cortes inesperados o determinadas inconsistencias ambientales pueden justificar una revisión adicional.
Pero ninguno de esos elementos constituye una prueba aislada. El informe del FBI sobre mensajes y voces generadas mediante inteligencia artificial advierte que las voces sintéticas pueden llegar a parecerse mucho a las auténticas y recomienda comprobar independientemente la identidad de quien realiza una solicitud sospechosa. El organismo también menciona posibles anomalías visuales, movimientos antinaturales y problemas de sincronización como señales que pueden despertar sospechas.
La recomendación más importante es no convertir estos indicios en una lista infalible. La ausencia de errores visibles no demuestra que un archivo sea auténtico, del mismo modo que una fotografía con artefactos no necesariamente fue creada mediante IA: la compresión, una mala conexión o el procesamiento de una cámara también pueden producir anomalías.
La procedencia puede ser más importante que encontrar un píxel extraño
Cuando una imagen parece sospechosa, la pregunta inicial no debería ser únicamente “¿parece generada por IA?”, sino también “¿de dónde salió?”. Rastrear la primera publicación conocida, identificar quién la difundió y comprobar si existen registros independientes del mismo acontecimiento puede proporcionar información más sólida que una inspección exclusivamente visual.
Una búsqueda inversa puede revelar, por ejemplo, que la fotografía supuestamente tomada durante una inundación de 2026 ya circulaba varios años antes asociada a otro desastre. También puede descubrir que una imagen auténtica fue recortada, modificada o reutilizada con una explicación falsa. En un video, localizar otras grabaciones del mismo acontecimiento desde diferentes posiciones ayuda a reconstruir el contexto.
La tecnología intenta reforzar este proceso mediante datos de procedencia, metadatos, marcas de agua y mecanismos de autenticación del contenido. El estudio de NIST sobre transparencia y autenticidad del contenido sintético analiza precisamente estas técnicas y advierte sobre sus limitaciones. NIST señala que la detección puede apoyarse tanto en señales incorporadas al contenido como en rastros identificados mediante análisis automatizado, pero ninguna técnica resuelve por sí sola todos los casos.
Esto introduce una diferencia fundamental: detectar y autenticar no son exactamente lo mismo. Un detector intenta encontrar características compatibles con generación o manipulación artificial; un sistema de procedencia intenta establecer la historia del archivo. La segunda estrategia puede adquirir cada vez mayor importancia a medida que desaparezcan las imperfecciones visuales evidentes.
Relacionado: Inteligencia artificial 2026: la tecnología que está transformando el mundo
Por qué los detectores de inteligencia artificial también pueden equivocarse
Ante la proliferación de contenido sintético han aparecido herramientas que prometen determinar automáticamente si una fotografía, un audio o un video fueron generados mediante inteligencia artificial. Pueden resultar útiles como parte de una investigación, pero un porcentaje producido por un detector no debería interpretarse como un veredicto definitivo.
Los detectores buscan patrones estadísticos, irregularidades en píxeles, características del proceso de generación u otras señales. El problema es que los modelos generativos evolucionan, las imágenes pueden ser redimensionadas o comprimidas y un archivo puede contener simultáneamente elementos auténticos y artificiales. Una fotografía real, por ejemplo, podría haber sido ampliada mediante IA o modificada únicamente en una pequeña región.
NIST ha señalado que los métodos de detección presentan probabilidades de error y que incluso los metadatos pueden ser incompletos o inexactos. Además, determinar si un contenido es “sintético” puede volverse conceptualmente ambiguo cuando solamente una parte del archivo fue modificada.
El mismo principio se aplica a llamadas telefónicas. Si una voz conocida solicita dinero, credenciales o una acción urgente, es más seguro interrumpir la comunicación y contactar a esa persona mediante un número o canal previamente verificado, en lugar de intentar decidir únicamente por la calidad de la voz si se trata de una clonación.
Relacionado: La seguridad tecnológica como nueva prioridad mundial
Deepfakes durante emergencias y clima extremo: cuando verificar rápido puede ser decisivo
Las emergencias ofrecen condiciones especialmente favorables para la circulación de información falsa. Durante incendios forestales, inundaciones, terremotos o tormentas severas existe una enorme demanda de imágenes y novedades inmediatas. Al mismo tiempo, los datos disponibles pueden ser fragmentarios y miles de usuarios comparten contenido antes de conocer su procedencia.
Una imagen sintética de una represa destruida, un video falso de un tornado acercándose a una ciudad o un audio que imite a una autoridad anunciando una evacuación podrían generar alarma, alterar desplazamientos o desviar la atención de instrucciones oficiales. Esto no significa que cada imagen espectacular de un desastre deba considerarse falsa. Precisamente el peligro consiste en reemplazar la credulidad automática por una desconfianza igualmente automática.
En esas circunstancias conviene comprobar primero si la información aparece en organismos meteorológicos, protección civil, autoridades locales o servicios de emergencia. Después debe revisarse el origen del archivo, su fecha y la existencia de imágenes independientes. Compartir unos minutos más tarde una información verificada suele ser preferible a amplificar inmediatamente un contenido espectacular cuya procedencia se desconoce.
Frente a una imagen, voz o video dudoso, la pregunta decisiva ya no es solamente si parece real. La cuestión es si existen evidencias independientes suficientes para demostrar de dónde proviene, quién lo publicó y qué ocurrió realmente.
- Investigación y verificación de información crítica.
- Infraestructura técnica (hosting, seguridad y velocidad).
- Herramientas de monitoreo y cobertura de eventos extremos.
- Producción de guías prácticas para preparación ciudadana.
Orbes Argentina es un medio independiente especializado en emergencias, clima extremo y ciencia aplicada, con cobertura global y enfoque en riesgos del siglo XXI.
Clúster detectado: Tecnología