Ciberseguridad desde el consejo: cuando el que ataca no juega con tus reglas

Los Malos™ ya no llevan capucha

Hace unos días hablamos del incidente de OpenAI y del hackeo a otra empresa por parte de sus propios modelos. Si no lo leíste, creo que merece la pena. No vamos a volver sobre ello, pero sí sobre algo que ese incidente nos deja ver, y que es bastante más gordo que la anécdota de la fuga.

Estamos viviendo un cambio en las reglas de la ciberseguridad que nos importa en las capas de dirección y gobernanza, porque Los Malos™ ya no son rusos o chinos con sudadera y capucha. Ahora los ataques se producen a velocidad de máquina. Máquinas que atacan y máquinas que defienden, pero con un detalle, el que ataca no cumple ninguna regla, el que defiende cumple la ley, los términos de uso y los guardarraíles. La asimetría ya no es de recursos, es de permisos.

Qué pasó, en los términos que importan a un consejo

No te voy a contar otra vez el incidente, para eso está el artículo anterior, pero te lo resumo en la frase que le importa a un consejo o a un comité.

Por primera vez, sin una sola mano humana dirigiendo, un atacante encontró una puerta que nadie había visto, entró en los sistemas reales de una empresa y se llevó lo que había ido a buscar, en unas horas. Lo que hasta ayer exigía un equipo y semanas, ahora lo hace una máquina sola. Y puede hacerlo contra cualquiera.

El perímetro ya no es tuyo

Cuando un atacante entra, no se queda donde entró. Escala privilegios, que es pasar de un rincón sin apenas permisos a mandar en la máquina, y se mueve lateralmente, que es ir saltando de un sistema al de al lado. Un punto de apoyo pequeño acaba siendo la red entera. Eso es exactamente lo que hicieron estos modelos, escalar y saltar hasta llegar adonde querían.

Ese punto de apoyo no tiene por qué estar en tus sistemas. En este caso los modelos salieron de su jaula aprovechando un fallo en un software de terceros, y el ataque saltó de una empresa a otra, de OpenAI a Hugging Face. Tu perímetro ya no acaba en tus servidores, incluye a tus proveedores, tu SaaS, tus dependencias de código abierto, tu proveedor de IA. Un agujero en cualquiera de ellos es un agujero en tu infraestructura.

Puedes tener tu casa cerrada a cal y canto y que te entren por la del vecino con el que compartes pared. La cadena de suministro dejó de ser cosa del departamento de compras para ser cosa del comité de riesgos. No es nuevo, lo que es nuevo es la escala.

La velocidad de máquina

Hay un dato del incidente que para mí es el más revelador, y es cómo se defendió Hugging Face. No puso a un ejército de analistas a leer registros durante semanas, puso a su propia IA a reconstruir el ataque, más de 17.000 acciones del intruso analizadas en horas en lugar de días. Máquina contra máquina, con el humano decidiendo qué hacer con lo que la máquina encuentra.

Y aquí viene una de las cosas a evaluar. Piensa en tu equipo de ciberseguridad, si es que tienes uno, que espero que algo tengas. Son personas, con su jornada de ocho horas, sus fines de semana y sus vacaciones. El atacante no tiene nada de eso, no duerme, no libra y no tiene horario. No es casualidad que en este caso el intruso se moviera por la red de Hugging Face durante un fin de semana, que es justo cuando al otro lado no hay nadie mirando. La propia Hugging Face lo admite entre líneas, porque una de las cosas que arreglaron después fue que una alerta grave avise a un responsable en minutos, cualquier día de la semana.

Para un consejo, esto cambia algo muy concreto. Tu plan de respuesta a incidentes, ese que revisáis una vez al año, casi seguro asume tiempos humanos; alguien salta una alerta, convoca a un equipo, se investiga, se informa. Contra un adversario que se mueve a otras velocidades, esos tiempos ya no sirven. Cuando tu gente esté convocando la reunión, el ataque habrá terminado.

La asimetría: el que ataca no juega con tus reglas

Vuelvo a la asimetría que apuntaba al principio, porque es el corazón de todo esto. Piensa en cómo juega cada bando. El que ataca no firma términos de uso, no pasa una auditoría, no espera la aprobación de nadie y no lleva guardarraíles que lo frenen. Prueba, falla, insiste, y si su herramienta le dice que no, se busca otra sin políticas. Tu equipo de seguridad, en cambio, juega con la ley, con los términos de uso de sus proveedores, con el RGPD y con los mismos guardarraíles que te protegen el resto del año.

Y un tema que hay que debatir largo y tendido; los modelos cerrados americanos te venden precisamente eso, seguridad, guardarraíles para que la IA no ejecute maldades. Pero son esos mismos modelos los que necesitas para defenderte, y son esos mismos guardarraíles los que te lo impiden, porque el modelo no sabe si atacas o defiendes. Cuando Hugging Face quiso analizar el ataque con esos modelos comerciales, estos se negaron. Ante los comandos y el código malicioso del incidente, cerraron la puerta. Pagas por una protección que, en el momento de la verdad, se pone de parte del atacante.

Esa es la asimetría, y no se arregla con presupuesto. Puedes contratar al mejor equipo del mundo, que seguirá jugando con unas reglas que el atacante no tiene, empezando por sus propias herramientas. La defensa llega tarde por diseño. ¿Y con qué acabó defendiéndose Hugging Face entonces? Con lo único que no le puso pegas. Y ahí esto deja de ser un problema técnico para convertirse en una decisión de consejo.

Al final te defendió un modelo chino

Lo que Hugging Face tenía a mano y sí funcionó fue GLM, un modelo abierto de la china z.ai (antes Zhipu), ejecutado en su propia infraestructura y sin tantos remilgos. Y de paso le resolvió un segundo problema, que ni los datos del ataque ni las credenciales que aparecían en ellos salieron de su casa hacia un proveedor externo.

Pensemos un momento en la foto. Una empresa americana, atacada por un modelo americano cerrado, tuvo que defenderse con un modelo chino y abierto. La narrativa que llevamos años escuchando, que lo cerrado y americano es lo seguro y lo abierto y chino es el riesgo, en el primer caso real se dio la vuelta. Lo cerrado no defendió, defendió lo abierto. Y esto pasa en plena guerra de controles de exportación y de presiones para restringir los modelos de pesos abiertos, así que no es un detalle de color, es un movimiento de tablero.

Para un consejo la pregunta no es ideológica, abierto contra cerrado. Es de dependencia. ¿Mi capacidad de defenderme depende de decisiones que no controlo? De los términos de uso de tres proveedores cerrados, de un control de exportación, de una ley que mañana restrinja los pesos abiertos. Tener un modelo capaz, evaluado y ejecutable en tu propia infraestructura, listo antes de la crisis y no durante, deja de ser una cuestión técnica y pasa a ser continuidad de negocio.

El primer punto del orden del día

Que no cunda el pánico, ni el de los titulares ni el otro. La IA no se ha vuelto malvada por su cuenta; hace su trabajo, y ese es justo el problema. Cuando la pones a atacar, lo hace de maravilla, sin descanso, sin escrúpulos y sin freno. Y cuando la pones a defender, lo hace con una mano atada a la espalda, la de la ley, los términos de uso y los guardarraíles que tú sí respetas. Esa asimetría no la resuelve el equipo de sistemas, la gestiona el consejo.

No te tienes que volver experto en ciberseguridad. Te propongo tres preguntas que deberían estar en el acta de tu próximo comité de riesgos.

¿Nuestra respuesta a incidentes aguanta a un adversario que va a velocidad de máquina y no libra los fines de semana?

¿Sabemos de quién dependemos de verdad? ¿Hemos mirado el perímetro que no controlamos, el de nuestros proveedores, nuestro SaaS y nuestras dependencias?

¿Qué haríamos si, en plena crisis, las herramientas con las que nos defendemos no pudieran usarse, por un veto del proveedor o un cambio regulatorio?

Si a estas tres no tienes respuesta, ya tienes el primer punto del orden del día. Porque esto ya no es una anécdota de telediario, ni un problema del sótano de sistemas. Es, hoy, una decisión de consejo.

Puedes consultar este y otros artículos directamente en mi blog, [Latente](https://latente.juanantoniocasado.es/).