El debate actual alrededor de la inteligencia artificial y la ciberseguridad suele enfocarse de forma casi exclusiva en los modelos, llegando a proponer el control centralizado o la prohibición de modelos open weight. Sin embargo, como se analiza en una columna de opinión publicada en ITSitio, proteger realmente los sistemas de IA requiere un enfoque mucho más amplio que abarque toda la infraestructura y el ecosistema de software.
La seguridad de la IA: Un reto de ingeniería de software
Un agente de IA comprende un stack de software completo y no únicamente un modelo. Su protección integral demanda analizar los siguientes componentes fundamentales:
-
El modelo principal.
-
El agentic harness.
-
Las técnicas de sandboxing.
-
Los mecanismos de protección en tiempo de ejecución.
-
Los controles de datos y la infraestructura subyacente.
Tres de estos cuatro elementos (harnesses, sandboxes y capas de aplicaciones tradicionales) están arraigados en la ingeniería de software. Intentar proteger este entorno mediante barreras cerradas solo traslada el riesgo. Tal como ocurrió con la adopción de Linux en la infraestructura de TI empresarial, la transparencia y el código abierto demuestran ser la base más robusta para el futuro de la computación.
Transparencia y modelos abiertos frente a las amenazas
En ciberseguridad, la seguridad por oscuridad resulta menos efectiva. Limitar la investigación a un grupo reducido de modelos propietarios genera un riesgo sistémico concentrado e impide que los defensores examinen herramientas abiertas enfocadas en la defensa.
Los modelos open weight facilitan el escrutinio científico necesario para corregir vulnerabilidades latentes. Un ejemplo reciente ocurrió durante un incidente de seguridad en Hugging Face: aunque el origen se relacionó con modelos propietarios, las medidas de mitigación fueron impulsadas por modelos open weight. Por esta razón, Red Hat firmó la carta abierta de Microsoft sobre Open Weights and American AI Leadership.
Aprendizaje compartido y colaboración comunitaria
Como parte de la Open Secure AI Alliance, Red Hat colaboró con NVIDIA y la Linux Foundation en una Solicitud de Comentarios (RFC) para el Grupo de Trabajo Shared AI Findings Exchange (SAFE).
Este marco neutral permite recopilar, analizar y compartir de manera confidencial los hallazgos sobre fallas operativas en sistemas de IA, superando el esquema donde cada organización investigaba los incidentes de forma aislada. La propuesta completa de la RFC de SAFE se encuentra disponible en GitHub para revisión y aportes de la comunidad.
El futuro de la resiliencia en la infraestructura de TI
A medida que las herramientas de IA evolucionan a un ritmo acelerado en la ingeniería de software y en las operaciones empresariales, la resiliencia del sistema depende directamente de la integración entre los modelos principales y los harnesses open source que guían su comportamiento de forma segura.
La colaboración abierta y la transparencia constituyen la ruta más rápida y confiable para evolucionar frente a amenazas complejas en el mundo real. Promover un ecosistema abierto —basado en software libre, modelos open weight y componentes transparentes— impulsa la innovación de la mano de la seguridad. Este enfoque colectivo permite que las herramientas maduren más rápido, fortalece las capacidades defensivas globales y protege la infraestructura crítica de las organizaciones.
