La carta abierta firmada por más de 1,000 personalidades del mundo tecnológico, incluyendo a Elon Musk, Steve Wozniak, Jaan Tallinn y Max Tegmark, ha puesto en el centro del debate el rápido avance de los sistemas de inteligencia artificial. En concreto, se pide una pausa de al menos seis meses en el entrenamiento de sistemas de IA más potentes que GPT-4, con el objetivo de centrarse en la fiabilidad y seguridad de estos sistemas.
La petición de la carta no supone una pausa completa en el desarrollo de la IA, sino que se busca un paso atrás en la carrera hacia modelos impredecibles y cada vez con más capacidades emergentes. En lugar de eso, se pide centrarse en mejorar la precisión, seguridad, interpretabilidad, transparencia, robustez, alineación, fiabilidad y lealtad de los sistemas actuales.
Además, se pone sobre la mesa la necesidad de desarrollar nuevos protocolos de seguridad compartidos entre los sistemas de IA, que garanticen su seguridad más allá de toda duda razonable. Se habla también de la creación de autoridades reguladoras en materia de IA, que supervisen y sigan sistemas altamente capaces, y de la regulación legal en términos de posibles daños creados por la IA, rastreo de posibles fugas de datos en estos modelos o sistemas de financiación pública para investigación en materia de seguridad en este campo.
La petición de la carta llega en un momento adecuado, ya que esta parece ser la semana de cuestionar los modelos de IA. Policías del mundo han advertido recientemente sobre el uso de herramientas de IA por redes criminales para fines maliciosos, lo que ha puesto sobre la mesa los efectos en materia de desinformación que puede suponer el uso de estas herramientas.
En definitiva, la petición de la carta abierta busca llamar la atención sobre la necesidad de gestionar y planificar adecuadamente el desarrollo de la IA, para que este represente un cambio profundo en la historia sin que suponga un riesgo para la sociedad. Se trata de una llamada a la reflexión para no avanzar sin un control adecuado, sino de forma segura y responsable.
Para seguir leyendo de lo último en inteligencia artificial haz click aquí.
