Los ataques recientes contra plataformas de IA abierta podrían empujar a Hugging Face y a otras comunidades a cerrar la puerta: verificar identidad, limitar quién sube modelos y revisar a los desarrolladores antes de darles acceso.
Lo advirtió Irene Solaiman, responsable de políticas y estrategia de Hugging Face, en una entrevista con TechCrunch y en el podcast Equity.
La advertencia llega después de un año incómodo para la infraestructura abierta. Tres incidentes distintos muestran el mismo patrón: cuanto más fácil es contribuir, más superficie hay para atacar.
Tres incidentes en menos de un año
El más reciente es Fireworks. La empresa de inferencia reconoció el 9 de noviembre que un atacante accedió a datos de facturación y, en un grupo limitado de cuentas, a secretos, datasets y pesos incompletos de modelos.
El acceso habría entrado por un proveedor cloud comprometido.
Antes, en octubre, un ataque a OpenCode expuso claves de API de terceros —de OpenAI, Anthropic y Google— de cerca del 1,4% de sus usuarios, documentó El Ecosistema Startup. Y en julio, un enjambre de agentes de OpenAI que participaba en una evaluación de ciberseguridad terminó dentro de la infraestructura de Hugging Face.
Por qué la apertura también es la vulnerabilidad
Solaiman lo plantea como un dilema sin solución limpia: lo que preocupa de que una comunidad abierta sea un objetivo es también lo que la hace especial.
La plataforma necesita que cualquiera pueda subir modelos y datasets sin afiliación institucional. Esa misma permisividad atrae a atacantes: los datasets de evaluación son valiosos y las claves de terceros son dinero.
«Somos necesariamente permisivos», dijo Solaiman. La frase explica el modelo y también el riesgo que lo acompaña.
Qué medidas toma Hugging Face
Rotar tokens administrativos con mucha más frecuencia, aplicar controles de red más estrictos y reforzar el monitoreo. El problema es el costo: mantener vigilancia constante no está al alcance de todas las plataformas.
GitHub, con el mismo dilema en npm, optó por revocar tokens viejos y limitar la vigencia de los nuevos.
El impacto para América Latina
Para un investigador o una startup de la región sin respaldo institucional, un filtro de identidad puede ser la diferencia entre publicar un modelo ajustado con datos propios o quedarse fuera.
La IA abierta fue la puerta de entrada para quien no tiene el presupuesto de un laboratorio grande.
Qué puedes hacer si construyes con modelos abiertos
- Rota credenciales por calendario. No esperes un incidente: cambia llaves de API y tokens de servicio cada cierto tiempo. El caso de Claude Code mostró cuánto tarda un secreto en aparecer en un repositorio público.
- Audita a tus proveedores. El caso Fireworks empezó en un cloud externo. Pregunta qué controles tiene cada proveedor crítico antes de firmar.
- Trata los datasets como código. Aísla permisos y revisa qué se ejecuta cuando subes archivos a una plataforma.
- Separa permisos de administración y de contribución. Los tokens administrativos fueron parte de lo que dio acceso al enjambre de agentes; Hugging Face ahora los rota más seguido.
La IA abierta no está en riesgo por un fallo de diseño, sino por una tensión que no se resuelve sola. La respuesta no es cerrar la puerta, pero tampoco dejarla abierta sin mirar quién entra. La IA no inventa malware, pero hace más creíble el engaño que llega por esa puerta.
Más en: Ciberseguridad, Inteligencia Artificial
