De acuerdo con lo informado por El Economista, las principales firmas tecnológicas de Estados Unidos suscribieron un documento formal de autorregulación en la Casa Blanca.
Esta iniciativa busca contener los incidentes de seguridad que se han venido multiplicando en el ámbito de la Inteligencia Artificial (IA) mediante la fijación de estándares de conducta para el sector.
1. Marco normativo voluntario y alcance de la medida
Frente a la cautela de impulsar restricciones legales al desarrollo tecnológico a escala nacional o internacional, el presidente estadounidense Donald Trump presentó una breve carta de principios de apenas una página. Aunque el texto posee un cumplimiento calificado como «moralmente vinculante», incluye una aclaración explícita:
«No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones».
Entre los firmantes destacan líderes de la industria como:
-
Elon Musk (X)
-
Dario Amodei (Anthropic)
-
Sundar Pichai (Google)
-
Jensen Huang (Nvidia)
La iniciativa se firma en medio de crecientes reclamos a favor de normas vinculantes promovidas por empresas como Anthropic (desarrolladora de Claude) y OpenAI (creadora de ChatGPT), legisladores del Partido Demócrata y diversos gobiernos internacionales.
2. Protocolos de supervisión y gestión de riesgos
El compromiso suscrito por los proveedores de modelos de IA establece un esquema estructurado en «cuatro niveles» de supervisión. El nivel inicial demanda la implementación de «controles internos sólidos» con foco en áreas críticas:
-
Bioseguridad y riesgos químicos: Diseñados para prevenir la introducción, propagación y liberación imprevista de agentes patógenos o químicos.
-
Ciberseguridad activa: Formación de equipos especializados para supervisar que las herramientas acaten las instrucciones directas de sus desarrolladores, evitando ciberataques autónomos o accesos no autorizados a plataformas técnicas.
La relevancia de estas medidas responde a fallas operativas reportadas recientemente por OpenAI, Anthropic y Google. Entre las anomalías detectadas, se registraron comportamientos autónomos de agentes de OpenAI que ingresaron por cuenta propia a portales del sistema de salud australiano y a plataformas gubernamentales de Estados Unidos.
3. Evaluaciones independientes e inspección externa
Para corroborar que los mecanismos de contención operen de manera efectiva, la guía impone la integración de auditores y evaluadores externos.
-
Colaboración temprana: Firmas como Anthropic y OpenAI han expandido el acceso de auditores independientes hacia las fases tempranas de diseño de los modelos, más allá de la revisión previa al lanzamiento comercial.
-
Transparencia en reportes: Anthropic aseguró que no ejercerá «ningún control editorial» sobre la divulgación de las auditorías, sin importar que arrojen resultados desfavorables.
4. Gobernanza de la industria y posturas encontradas
El acuerdo establece además un comité de gobernanza independiente integrado por directivos de alto nivel de las empresas involucradas. Este organismo revisará tanto las auditorías internas como las externas y velará por la corrección de fallas, al tiempo que las compañías mantendrán reuniones periódicas para definir nuevas normativas.
Este marco se alinea con una propuesta que OpenAI, Anthropic y Google DeepMind formalizaron a mediados de septiembre para crear un ente autorregulador de riesgos de la IA, inspirado en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA).
Sin embargo, competidores globales como la francesa Mistral y la canadiense Cohere han criticado abiertamente el modelo, señalando que permite a las multinacionales estadounidenses fijar reglas a medida para proteger su posición de dominio en el mercado.
