En una reciente publicación del diario El Economista, especialistas de la Universidad Iberoamericana plantearon que los modelos de inteligencia artificial más avanzados deben someterse a auditorías externas e independientes. Esta supervisión busca revisar sus capacidades, permisos y salvaguardas a medida que ganan autonomía para ejecutar acciones durante periodos más largos con menor intervención humana.
Dejar la evaluación de estas tecnologías exclusivamente en manos de las propias empresas desarrolladoras concentra en ellas la decisión sobre su avance y despliegue, omitiendo una verificación imparcial de sus pruebas de seguridad.
Andrés Guillermo Molano Jiménez, director del Departamento de Estudios en Ingeniería para la Innovación de la Ibero, sostuvo que la supervisión externa debería convertirse en una regla para los llamados «modelos de frontera», término que identifica a los sistemas más avanzados disponibles en un momento determinado.
Su planteamiento parte de que las empresas realizan evaluaciones internas y colocan barreras de seguridad antes de liberar sus modelos, mientras esas pruebas permanecen bajo el control de las mismas organizaciones que deciden cuándo lanzar una nueva versión y qué capacidades habilitar. Durante la mesa de análisis ¿Una IA que se gobierne a sí misma?, Molano afirmó:
“Las compañías tratan de instalar sistemas de seguridad, pero logran evadir estos sistemas. Entonces, creo que no está bien que solamente le demos completa libertad a las compañías de modelos de frontera para decidir hasta cuándo parar y a qué velocidad ir. Deben haber auditores externos que estén revisando eso”.
Autonomía operativa y cambio de paradigma en las evaluaciones
La propuesta cobra urgencia a medida que los laboratorios reconocen que sus sistemas pueden ejecutar cadenas de acciones cada vez más extensas. Molano explicó que los agentes actuales poseen una autonomía operativa que les permite decidir parte del camino para alcanzar una meta establecida por una persona:
“Actualmente pueden recibir un objetivo, plantear una secuencia de acciones, utilizar herramientas, escribir código, consultar información, corregir errores y continuar trabajando durante periodos cada vez más largos con menor intervención de los humanos”.
El especialista advirtió que una máquina puede comenzar a decidir cómo alcanzar un objetivo sin adquirir la facultad de determinar qué objetivos deberían perseguirse o qué consecuencias resultan aceptables. Por ello, la evaluación ya no puede ser igual a la de un simple chatbot.
Diferentes firmas ya adaptan sus esquemas a este entorno:
-
OpenAI: Publicó en mayo una guía para evaluaciones de terceros al reconocer que el desempeño depende del entorno y las herramientas disponibles. Además, sostiene que auditores independientes aportan evidencia sobre capacidades y detectan puntos ciegos en ciberseguridad y automejora desde GPT-4.
-
Google DeepMind: Actualizó en abril su Frontier Safety Framework para incluir la participación de terceros frente a riesgos severos. Asimismo, el 27 de agosto anunció una prueba de doble ciego para impedir que el laboratorio conozca con antelación las preguntas de los evaluadores y evitar que el modelo sea optimizado solo para pasar el examen.
El riesgo probabilístico y la infraestructura crítica
Alexandro López González, coordinador de la Licenciatura en Inteligencia Artificial de la Ibero (programa que comenzó a impartirse en agosto de 2026), ubicó parte del problema en la naturaleza probabilística de la tecnología.
Sobre el riesgo de permitir que un sistema estadístico tome el control de procesos delicados, López González enfatizó:
“Creo que la regla básica sería no conectar estos sistemas estadísticos, estos sistemas que dependen de la probabilidad, a infraestructura crítica. Cualquier infraestructura que ustedes crean que de ella depende la vida humana no debe ser conectada a un sistema que está basado en probabilidad porque siempre puede haber errores”.
Iniciativas voluntarias y el papel de la supervisión continua
Actualmente, gran parte de los mecanismos de revisión externa siguen siendo voluntarios. Anthropic, por ejemplo, actualizó en julio su Responsible Scaling Policy para exigir que informes de riesgo sin censura sean examinados por revisores externos, manteniendo revisiones periódicas en sus actualizaciones.
Para Molano, el desarrollador no debe ser la única instancia que determine los límites tecnológicos. Cuando se combina mayor autonomía operativa con acceso a herramientas e información, pueden emerger dinámicas impredecibles. Como concluyó el especialista:
“Cuando combinamos modelos poderosos con objetivos, herramientas y accesos a la información, permisos y mucho tiempo para actuar, pueden aparecer comportamientos que los ingenieros o sus desarrolladores no anticiparon”.
En definitiva, la supervisión de la IA de frontera requiere ir más allá de evaluar las respuestas de un sistema; demanda observar qué capacidades puede desplegar y cómo reacciona en escenarios no previstos por sus propios creadores.
