Tijuana, Baja California, 19 de septiembre de 2026.- Una prueba diseñada para medir las capacidades de ciberseguridad de Gemini terminó cruzando una frontera que no debía cruzar: el modelo de inteligencia artificial de Google accedió a sistemas pertenecientes a tres empresas reales mientras aparentemente creía que seguía operando dentro de una simulación.
Los incidentes ocurrieron en mayo durante evaluaciones realizadas por Irregular, una empresa independiente especializada en poner a prueba modelos avanzados de inteligencia artificial. Google confirmó posteriormente los accesos.
No se trató, según la información disponible, de una IA que espontáneamente decidiera “escapar” o atacar internet.
El problema fue más concreto —y quizá más importante para el futuro de estos sistemas—: el entorno de evaluación permitió accidentalmente que Gemini tuviera acceso a internet mientras ejecutaba tareas ofensivas de ciberseguridad.
De una empresa ficticia a una empresa real
En una de las pruebas, Gemini debía obtener información de los sistemas de una compañía ficticia creada específicamente para la evaluación.
Pero había un problema: la empresa simulada tenía el mismo nombre que una compañía existente.
Al disponer de conexión a internet, el modelo localizó el servicio de la organización real, intentó obtener acceso y consiguió adivinar correctamente una contraseña.
En otros dos casos, Gemini encontró en repositorios públicos credenciales relacionadas con otras compañías y las utilizó para entrar a sus sistemas.
Es decir, la IA utilizó herramientas y procedimientos compatibles con la misión que se le había asignado. Lo que falló fue la frontera entre el escenario simulado y el mundo real.
Gemini se detuvo
Hay otro detalle importante.
Google asegura que en los tres incidentes Gemini interrumpió sus acciones cuando detectó que los sistemas a los que había accedido eran reales y no parte de la evaluación.
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, explicó que durante una evaluación estándar el modelo encontró información pública y utilizó credenciales para acceder a sitios que consideraba incluidos dentro de la prueba.
No se ha reportado daño a las organizaciones afectadas.
Las compañías fueron notificadas y Google e Irregular modificaron posteriormente sus procedimientos de evaluación para evitar que una situación similar vuelva a producirse.
El problema no es solo lo que una IA “entiende”
El incidente deja una lección especialmente relevante conforme los modelos de inteligencia artificial evolucionan de simples chatbots a agentes capaces de navegar por internet, ejecutar código, utilizar herramientas y completar cadenas de acciones sin intervención humana permanente.
Una instrucción como “solo ataca estos sistemas ficticios” constituye una barrera lógica.
Un entorno que directamente impide conectarse a cualquier infraestructura externa constituye una barrera técnica.
El caso Gemini muestra por qué ambas son necesarias.
Si un agente puede ejecutar acciones potencialmente peligrosas, depender exclusivamente de que interprete correctamente los límites de una tarea introduce un riesgo que puede reducirse mediante aislamiento de red, permisos restringidos, credenciales específicas, monitoreo y controles externos.
No es un problema exclusivo de Google
Gemini tampoco es el único modelo que ha protagonizado incidentes durante este tipo de evaluaciones.
Pruebas realizadas con sistemas de OpenAI, Anthropic y Meta también han producido accesos inesperados a infraestructura que no formaba parte originalmente de determinados ejercicios de seguridad, lo que ha aumentado la discusión alrededor de cómo probar modelos cada vez más autónomos sin exponer sistemas externos.
La diferencia es que este episodio representa el primer caso conocido de este tipo relacionado con un sistema de Google, de acuerdo con la información publicada sobre los incidentes.
La historia, por tanto, no es que Gemini haya desarrollado intenciones propias.
Es algo mucho más tangible: una inteligencia artificial recibió capacidad para realizar operaciones ofensivas y el entorno encargado de contenerla permitió que esas capacidades alcanzaran sistemas reales.
Y conforme los agentes de IA obtengan acceso a más herramientas, ese tipo de frontera podría convertirse en una de las piezas más importantes de la seguridad informática.
