IA fuera de control: Gemini hackeó tres empresas, es la primera incursión de este tipo que se conoce de Google
El modelo Gemini de Google accedió a Internet y hackeó a otras empresas durante una prueba de sus capacidades de ciberseguridad: se trata del primer caso conocido en el que los sistemas de IA de la compañía llevaron a cabo tal acción de forma autónoma.
Los hackeos tuvieron lugar en mayo durante una prueba de ciberseguridad realizada por Irregular, una empresa independiente que lleva a cabo evaluaciones de seguridad informática.
Durante una evaluación de prueba estándar, Gemini encontró información pública en línea y adivinó las credenciales para acceder a tres sitios web que consideraba dentro del alcance de la prueba, según declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google.
“Nos aseguramos de informar a las tres entidades y colaboramos con nuestro socio de pruebas en los cambios que han implementado en sus procesos de evaluación”, afirmó Adkins. “Estos sucesos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de manera responsable”.
Un portavoz de Irregular señaló que el incidente estaba relacionado con el mismo problema que afectó a otros laboratorios de IA y que todos los laboratorios pertinentes fueron notificados a finales de julio. “Todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”, declaró el portavoz.
Meta, Anthropic y OpenAI también informaron sobre incidentes similares relacionados con Irregular. En agosto, Meta declaró que el incidente no implicó una fuga del entorno de pruebas ni un ciberataque sofisticado, mientras que Irregular afirmó estar trabajando en las mejores prácticas para realizar evaluaciones de ciberseguridad de IA de forma segura.
Estos incidentes han suscitado interrogantes sobre las medidas de seguridad necesarias a medida que los agentes de IA adquieren mayor autonomía y acceso a Internet y a sistemas informáticos.
En uno de los casos, el modelo Gemini adivinó contraseñas hasta lograr acceso a un sistema protegido. En los otros dos casos, el modelo encontró credenciales en un repositorio público que le permitieron acceder posteriormente a sistemas protegidos, según informó el Wall Street Journal, medio que dio a conocer la noticia el viernes.
Agencia
