El presidente francés, Emmanuel Macron, reunió el 9 de noviembre a representantes de ocho países, Naciones Unidas y la OCDE, empresas de inteligencia artificial, investigadores y organizaciones civiles para tratar la seguridad de los modelos más avanzados. La reunión concluyó con la firma del Llamamiento de París. Este martes, el Foro de París sobre la Paz incorpora la gobernanza de IA a una agenda internacional más amplia.

El texto del Llamamiento plantea evaluaciones comparables, publicación de resultados no sensibles, auditorías de terceros independientes, canales de alerta y responsabilidad de cada actor. La Presidencia francesa publicó la declaración íntegra; en un mensaje público paralelo, Macron resumió el encuentro en tres prioridades: evaluación independiente, intercambio de alertas por incidentes graves y responsabilidad de los desarrolladores.

Qué pone sobre la mesa
Evaluar sistemas avanzados · comunicar incidentes importantes · compartir señales tempranas · aclarar quién responde ante fallos o usos dañinos.

Un acuerdo de cooperación, no una prueba de seguridad

La declaración reúne compromisos de gobiernos y empresas, pero la existencia de una firma no demuestra que un sistema sea seguro ni que los compromisos se hayan implementado. El texto establece orientaciones y acciones de cooperación, pero no fija un calendario común de cumplimiento ni describe un mecanismo sancionador o auditorías ya realizadas. Por eso conviene distinguir el compromiso político de los resultados que todavía habría que comprobar.

Los riesgos que cita EFE incluyen usos maliciosos en ciberseguridad y ámbitos nucleares, radiológicos, biológicos y químicos, además de escenarios de pérdida de control. Son áreas sensibles: no equivalen a afirmar que un modelo concreto pueda ejecutar por sí solo esas acciones. La evaluación requiere expertos, pruebas controladas y criterios públicos que permitan distinguir capacidades demostradas de escenarios hipotéticos.

Quiénes participan también importa

Hay una diferencia entre la lista de asistentes y la de firmantes. El comunicado de la reunión enumera ocho Estados y siete empresas representadas; la declaración publicada detalla seis Estados, diez empresas y cuatro entidades de sociedad civil. La propia página indica que sigue abierta a nuevos apoyos y se actualizará. No es correcto presentar las listas como equivalentes: deberán volver a cotejarse cuando se cierre la versión definitiva. La participación empresarial hace especialmente relevante la independencia de quienes evalúan y la transparencia sobre conflictos de interés.

La gobernanza afecta a personas que suelen quedar al margen de las discusiones técnicas: usuarios con discapacidad que dependen de herramientas automatizadas, comunidades expuestas a decisiones algorítmicas de alto impacto y trabajadores cuyo empleo cambia por la automatización. Su presencia en una lista de asistentes no se puede presuponer; la participación de sociedad civil debe documentarse por nombre, mandato y capacidad de influir en las decisiones.

La reunión se celebró el lunes 9; no debe describirse como si hubiera ocurrido hoy. El seguimiento de este ámbito está en IA y en nuestra información sobre los resultados de las tecnológicas que invierten en IA.

Mensaje del convocante: Macron publicó su propio resumen de la reunión en X. Es una declaración del presidente, no una evaluación independiente de los compromisos. EFE reproduce el mensaje completo en su crónica.

Fuentes y fechas

Fuentes

Elaborado por la redacción de TodoWeb con asistencia de inteligencia artificial a partir de las fuentes enlazadas. ¿Has visto un error? Escríbenos desde correcciones.