La inteligencia artificial llegó hasta la mesa del Consejo de Seguridad de la ONU, porque aparentemente ya no bastaba con que estuviera en los celulares, las oficinas y hasta haciendo tareas.
Directivos de OpenAI, Anthropic y Hugging Face tienen previsto participar en una sesión del Consejo de Seguridad de Naciones Unidas para abordar los riesgos del desarrollo acelerado de la IA y la urgencia de fijar mecanismos de seguridad.
El encuentro se da en el marco de la Asamblea General de la ONU, donde líderes mundiales debaten sobre conflictos armados, seguridad internacional y desafíos globales.
Entre las principales propuestas destacan:
-
Establecer métodos estandarizados para medir las capacidades de los modelos de IA.
-
Evaluar de forma continua las salvaguardas que implementan las empresas tecnológicas en sus desarrollos más avanzados.
El trasfondo es crítico: existe una creciente preocupación internacional ante escenarios donde estos sistemas alcancen capacidades difíciles de supervisar o sean utilizados de formas que vulneren la seguridad global. De hecho, el secretario general de la ONU, António Guterres, ya había urgido a crear normativas internacionales y esquemas de supervisión independiente.
El debate apenas arranca y los gobiernos enfrentan un dilema complejo: aprovechar el potencial de la tecnología sin que esta sobrepase su capacidad de control. Porque una cosa es pedirle a la IA que redacte un correo… y otra muy distinta es coordinar a 15 naciones para definir quién vigila a la máquina que vigila a la máquina.
