El fallo de seguridad de Gemini descubierto por investigadores de Fog Security permitió descargar imágenes que los filtros de seguridad de Google habían rechazado previamente. La investigación, publicada el 5 de noviembre de 2026, reveló un problema en los mecanismos de entrega de archivos de la aplicación, no en el comportamiento del modelo de inteligencia artificial. El incidente demuestra por qué la monitorización de amenazas y la protección frente a exposiciones externas deben formar parte de una estrategia de seguridad más amplia.

Para responsables de ciberseguridad, equipos SOC y organizaciones que utilizan herramientas de IA, este descubrimiento plantea una cuestión fundamental: ¿qué ocurre cuando una aplicación bloquea correctamente un contenido, pero su infraestructura permite recuperarlo?

¿Qué ocurrió con el fallo de seguridad de Gemini?

El investigador Jason Kao, de Fog Security, identificó una discrepancia entre las imágenes mostradas por Google Gemini y los archivos disponibles mediante sus enlaces de descarga.

En determinadas circunstancias, Gemini rechazaba una solicitud por incumplir sus políticas de contenido, pero el sistema conservaba una imagen generada anteriormente que podía recuperarse desde el botón de descarga.

El problema afectaba al proceso de entrega de archivos, no a la capacidad del modelo para reconocer contenido que debía bloquearse.

Los hallazgos principales fueron:

  • Los filtros podían rechazar correctamente determinadas solicitudes de generación de imágenes.
  • El enlace de descarga podía devolver una imagen distinta de la mostrada en pantalla.
  • Algunas descargas contenían imágenes completas previamente rechazadas.
  • Los enlaces estaban asociados a la sesión autenticada del usuario.
  • No se identificó acceso a información perteneciente a otros usuarios.
  • Tampoco se documentó una escalada de privilegios.

El caso evidencia que una decisión de seguridad correcta puede perder su eficacia cuando los componentes posteriores de una aplicación no aplican las mismas restricciones.

Cómo funcionaba la vulnerabilidad de Google Gemini

El funcionamiento de la aplicación implicaba dos mecanismos diferentes para acceder a las imágenes generadas.

Uno permitía visualizar la imagen dentro de la conversación. El otro proporcionaba el archivo mediante el botón de descarga.

Ambos debían devolver el mismo resultado autorizado.

Sin embargo, los investigadores observaron inconsistencias entre ambas rutas.

1. Gemini rechazaba una imagen

Durante las pruebas, Fog Security enviaba solicitudes que activaban las restricciones de contenido de Gemini.

Los investigadores utilizaron ejemplos relacionados con personajes protegidos por derechos de autor, personas sintéticas y fotografías propias.

El sistema identificaba determinadas solicitudes como incompatibles con sus políticas y respondía con una negativa.

2. Se solicitaba otra imagen permitida

Después del rechazo, los investigadores pedían una imagen diferente que no infringiera las restricciones.

Gemini mostraba correctamente el nuevo resultado en la conversación.

Hasta ese momento, el comportamiento visible parecía normal.

3. El botón de descarga recuperaba otro archivo

El problema aparecía cuando el usuario descargaba la imagen.

En ocasiones, el archivo recibido correspondía a una generación anterior que había sido bloqueada.

El resultado podía ser una imagen completa, una versión parcialmente generada o un archivo diferente del mostrado.

Los investigadores reprodujeron este comportamiento durante varias sesiones.

4. Los enlaces utilizaban rutas diferentes

La investigación identificó dos variantes de URL alojadas en lh3.googleusercontent.com.

La visualización utilizaba enlaces terminados en =s1024-rj, mientras que las descargas utilizaban =s0-d-I.

Ambos requerían una sesión autenticada.

Esta diferencia resulta importante porque el sistema de descarga no siempre respetaba el estado de aprobación aplicado a la imagen visible.

¿Era un jailbreak o un ataque contra la IA?

No. El incidente no representa un jailbreak convencional.

Un jailbreak intenta manipular las instrucciones o el comportamiento de un modelo para conseguir respuestas que normalmente rechazaría.

En este caso, Gemini mantenía correctamente sus restricciones.

La anomalía se encontraba en la infraestructura encargada de gestionar y entregar las imágenes.

Fog Security considera posible que existiera un problema de gestión de estados durante la generación, interrupción y eliminación de archivos.

Sin embargo, esa explicación es una hipótesis técnica de los investigadores, no una causa raíz confirmada oficialmente.

La diferencia es relevante para cualquier organización que desarrolle aplicaciones basadas en inteligencia artificial.

Los controles de seguridad deben funcionar tanto en el modelo como en las API, el almacenamiento y los sistemas de distribución de contenidos.

Cronología del fallo de seguridad de Gemini

La investigación documentó varios acontecimientos entre junio y noviembre de 2026.

Fecha Acontecimiento
25 de junio Fog Security comunica el problema a Google.
29 de junio Google indica que está analizando el informe.
23 de julio El caso se remite al equipo de producto.
30 de septiembre Google decide no registrarlo como un fallo de abuso.
15 de octubre Los investigadores todavía pueden recuperar imágenes rechazadas.
22 de octubre Las nuevas pruebas dejan de reproducir el comportamiento.
23 de octubre Google cierra el informe y atribuye el cambio a mantenimiento rutinario.
5 de noviembre Fog Security publica los resultados.

Según la investigación original de Fog Security sobre Google Gemini, las doce nuevas pruebas realizadas el 22 de octubre no consiguieron reproducir el problema.

Esto sugiere que el comportamiento había cambiado, pero no permite identificar qué modificación concreta lo resolvió.

Tampoco demuestra que existiera una explotación maliciosa generalizada.

Qué riesgos plantea para la seguridad empresarial

Aunque no se documentó una filtración de datos entre usuarios, el caso revela problemas importantes para la seguridad de aplicaciones de IA.

Controles aplicados de forma inconsistente

Una aplicación puede establecer políticas estrictas para generar contenido, pero resultar vulnerable si los sistemas de almacenamiento y descarga no respetan esas decisiones.

El problema se agrava cuando diferentes servicios gestionan el mismo contenido sin compartir un estado de autorización coherente.

Conservación de archivos rechazados

Los sistemas generativos pueden crear archivos temporales durante sus operaciones.

Cuando una generación falla o es rechazada, esos archivos deben gestionarse de acuerdo con políticas claras de retención y eliminación.

Su conservación no implica necesariamente una vulnerabilidad, pero puede convertirse en un riesgo si permanecen accesibles sin la autorización correspondiente.

Riesgos de privacidad y cumplimiento

Las empresas que procesan información sensible mediante herramientas de IA necesitan comprender dónde se almacenan los resultados y quién puede recuperarlos.

La exposición accidental de contenido corporativo puede tener consecuencias legales y operativas.

Sin embargo, en el incidente investigado no se identificó una filtración de información privada de otros usuarios.

¿Qué relación tiene este incidente con la inteligencia de amenazas?

El fallo de Gemini no constituye una filtración de credenciales ni un incidente de dark web.

Su principal enseñanza está relacionada con la protección de datos y la seguridad de la infraestructura utilizada por aplicaciones de inteligencia artificial.

No obstante, las organizaciones que incorporan IA también necesitan investigar posibles exposiciones externas de información.

DarknetSearch ofrece capacidades de detección de brechas de datos y análisis de información filtrada, que pueden complementar los controles internos cuando aparecen evidencias de exposición corporativa.

Esta monitorización no identifica directamente el problema de descarga descrito en Gemini.

Su valor reside en ayudar a investigar información corporativa que haya quedado expuesta en fuentes externas monitorizadas.

Un problema relacionado es el uso indebido de herramientas de IA por parte de empleados. La formación especializada en concienciación sobre ciberseguridad puede ayudar a prevenir decisiones que expongan información confidencial mediante aplicaciones no autorizadas.

Cómo proteger las aplicaciones empresariales de IA

Las organizaciones que desarrollan o integran sistemas generativos deberían revisar los mecanismos de seguridad más allá de las respuestas del modelo.

Validar las rutas de descarga

Todos los endpoints que entregan contenido deben comprobar que el archivo solicitado está autorizado.

La aprobación de una imagen mostrada no debe transferirse automáticamente a otro archivo.

Gestionar los archivos temporales

Es recomendable establecer controles para identificar y eliminar artefactos rechazados cuando ya no deban conservarse.

Las políticas de almacenamiento deben contemplar errores, cancelaciones y generaciones incompletas.

Comprobar las autorizaciones

Los identificadores de archivo y las URL firmadas deben estar asociados a permisos verificables.

Las pruebas deberían comprobar que una sesión no puede recuperar archivos pertenecientes a otros usuarios o contenidos rechazados.

Incorporar pruebas de seguridad específicas

Los equipos de desarrollo deben evaluar no solo las instrucciones enviadas al modelo, sino también las API, los procesos asíncronos y el almacenamiento.

Conviene probar situaciones en las que una generación se interrumpe mientras otro componente todavía está procesando el resultado.

Revisar la exposición externa

Las empresas también deben contar con procedimientos para detectar credenciales comprometidas, documentos filtrados y otros activos expuestos.

DarknetSearch aborda riesgos relacionados en su artículo sobre filtración de datos en ChatGPT y seguridad de la información corporativa.

Frequently Asked Questions

¿En qué consistía el fallo de seguridad de Google Gemini?

El problema permitía que el botón de descarga devolviera determinadas imágenes que habían sido rechazadas por los filtros de contenido.

La aplicación podía mostrar una imagen permitida mientras entregaba un archivo diferente.

Los investigadores relacionaron el comportamiento con una posible inconsistencia en la gestión de archivos y estados de generación.

¿Se filtraron datos privados de los usuarios?

No se documentó acceso a información de otros usuarios ni una escalada de privilegios.

Los enlaces investigados estaban vinculados a sesiones autenticadas.

El fallo afectaba a la aplicación de restricciones sobre contenido generado, por lo que no debe confundirse con una brecha de datos personales confirmada.

¿Google solucionó la vulnerabilidad de Gemini?

Los investigadores dejaron de reproducir el problema el 22 de octubre de 2026.

Google atribuyó el cambio a tareas de mantenimiento rutinario, sin identificar una corrección específica.

Por tanto, puede afirmarse que el comportamiento dejó de observarse durante esas pruebas, pero no que exista una explicación técnica oficial completa.

¿Puede la monitorización de la dark web prevenir estos fallos?

No directamente.

La monitorización de la dark web sirve para investigar información expuesta, credenciales comprometidas y determinadas amenazas externas.

La prevención de problemas como el de Gemini requiere controles de desarrollo seguro, autorización de archivos, pruebas de seguridad y una gestión adecuada del almacenamiento.

Refuerce la visibilidad sobre los riesgos externos de su organización

El caso de Google Gemini demuestra que la seguridad de la inteligencia artificial depende tanto de los modelos como de la infraestructura que gestiona sus resultados.

Las organizaciones deben combinar desarrollo seguro, controles de acceso y una supervisión adecuada de sus datos.

DarknetSearch ayuda a identificar información corporativa expuesta, investigar credenciales comprometidas y obtener visibilidad sobre amenazas externas.

Descubra cómo complementar sus controles de seguridad con una prueba gratuita de DarknetSearch y evalúe los riesgos que pueden afectar a su organización.