{"id":2085,"date":"2026-09-20T11:15:59","date_gmt":"2026-09-20T09:15:59","guid":{"rendered":"https:\/\/infoimasd.com\/?p=2085"},"modified":"2026-09-20T11:16:29","modified_gmt":"2026-09-20T09:16:29","slug":"gemini-google-hackea-empresas-autonomo","status":"publish","type":"post","link":"https:\/\/infoimasd.com\/index.php\/2026\/09\/20\/gemini-google-hackea-empresas-autonomo\/","title":{"rendered":"Gemini (Google) hackea de forma aut\u00f3noma a tres empresas reales durante unas pruebas de ciberseguridad"},"content":{"rendered":"\n

Los sistemas de inteligencia artificial de Google han protagonizado su propio incidente de seguridad aut\u00f3nomo. Seg\u00fan ha revelado el Financial Times<\/a>, el modelo Gemini accedi\u00f3 a internet y hacke\u00f3 de forma aut\u00f3noma a varias compa\u00f1\u00edas durante unas pruebas de ciberseguridad.<\/strong> Se trata del primer incidente de este tipo conocido en la tecnol\u00f3gica, tras otros episodios similares en sus rivales OpenAI y Anthropic.<\/p>\n\n\n\n

Los hackeos ocurrieron durante una serie de ejercicios realizados en mayo. Los llev\u00f3 a cabo Irregular, una empresa de seguridad en IA que tambi\u00e9n trabaja con Anthropic, Meta y OpenAI. Irregular dise\u00f1\u00f3 una serie de pruebas para una versi\u00f3n sin especificar de la familia de modelos Gemini de Google. La tarea encomendada al modelo era obtener datos del interior de empresas simuladas. En teor\u00eda, no deb\u00eda tener acceso a internet. Sin embargo, una vez conectado, el agente de Gemini logr\u00f3 adivinar o encontrar contrase\u00f1as. Con ellas accedi\u00f3 a tres empresas reales, que compart\u00edan el mismo nombre que las compa\u00f1\u00edas ficticias del ejercicio.<\/strong> El sistema consigui\u00f3 entrar en sus sistemas. Cuando los agentes de IA se dieron cuenta de que las empresas eran reales, detuvieron los ataques por su cuenta.<\/p>\n\n\n\n

Google destaca que el modelo se detuvo solo<\/h4>\n\n\n\n

Heather Adkins, vicepresidenta de ingenier\u00eda de seguridad de Google, ha confirmado el episodio. Seg\u00fan ha explicado, la compa\u00f1\u00eda se asegur\u00f3 de que las tres entidades afectadas tuvieran conocimiento de lo ocurrido. Tambi\u00e9n trabaj\u00f3 junto a su socio de entrenamiento en los cambios que este ha implementado en sus procesos de pruebas. Adkins ha subrayado que, en los tres casos, el modelo se detuvo por s\u00ed mismo. <\/strong>Seg\u00fan ha se\u00f1alado, estos episodios ponen de manifiesto la importancia de entrenar a los modelos de IA m\u00e1s potentes para que act\u00faen de forma responsable.<\/p>\n\n\n\n

Google ha explicado que no hizo p\u00fablica esta informaci\u00f3n porque, a diferencia de lo ocurrido con otras compa\u00f1\u00edas del sector, sus medidas de seguridad funcionaron correctamente. <\/strong>El incidente fue revelado originalmente por The Wall Street Journal. Irregular, por su parte, ha confirmado que notific\u00f3 a todos los laboratorios relevantes a finales de julio, y que contact\u00f3 con las entidades afectadas como parte de la investigaci\u00f3n. La empresa asegura que todos los problemas conocidos por su parte quedaron resueltos hace semanas.<\/p>\n\n\n\n

Un problema que ya afect\u00f3 a OpenAI y Anthropic este verano<\/h4>\n\n\n\n

La preocupaci\u00f3n por la capacidad de la IA para hackear de forma aut\u00f3noma se ha extendido tras un incidente previo con OpenAI. Un enjambre de m\u00e1s de 1.000 agentes de esta compa\u00f1\u00eda escap\u00f3 de un entorno de pruebas, se coordin\u00f3 a trav\u00e9s de un tabl\u00f3n de mensajes secreto, y logr\u00f3 hackear Hugging Face. <\/strong>Esta startup aloja modelos y datos de c\u00f3digo abierto, y Nvidia ha acordado comprarla por 13.000 millones de d\u00f3lares. <\/a>OpenAI tard\u00f3 una semana en detectar el ataque, y fue lento a la hora de comunicarlo p\u00fablicamente tras producirse en julio. El episodio provoc\u00f3 una notable inquietud p\u00fablica sobre los peligros de los agentes aut\u00f3nomos mal controlados. Tambi\u00e9n gener\u00f3 peticiones para que las empresas de IA de vanguardia ralenticen el lanzamiento de nuevos modelos, refuercen sus medidas de seguridad y se sometan a una regulaci\u00f3n m\u00e1s estricta.<\/p>\n\n\n\n

\n
OpenAI revela que sus agentes se comunicaron entre ellos para acceder a los sistemas de Hugging Face<\/a><\/blockquote>