El rey Carlos III reunió el 17 de septiembre en Dumfries House, su propiedad en Cumnock, Escocia, a cofundadores y directivos de empresas de inteligencia artificial, y les dijo que existe urgencia en considerar “los peligros existenciales de que estas tecnologías caigan en las manos equivocadas”, según Al Jazeera.
El monarca señaló que quienes desarrollaron estos sistemas advierten que la inteligencia artificial “corre el riesgo de desarrollar capacidades más oscuras, quizá incluso de quitar la vida”. Pidió que la tecnología se desarrolle “con la seguridad en el centro” y que permanezca “al servicio de la humanidad”.
A la reunión asistieron cofundadores de Nvidia y de Google DeepMind, directivos de OpenAI y de Anthropic, y especialistas en regulación de inteligencia artificial, de acuerdo con el mismo medio. No estaba previsto que del encuentro salieran acuerdos vinculantes.
NPR reportó el encuentro de forma independiente y lo situó en un contexto de preocupación creciente por la seguridad de estos sistemas. Bloomberg informó que el rey buscaba obtener de los directivos compromisos explícitos sobre protección de la población, y publicó por separado la lista de invitados.
El encuentro se produjo después de una serie de episodios en la industria. Investigadores de Anthropic advirtieron públicamente sobre riesgos de gran escala asociados al desarrollo acelerado de estos sistemas. Un investigador de esa empresa renunció el 9 de septiembre alegando preocupaciones de seguridad, según The Washington Post. Días después, los directores ejecutivos de Anthropic y de OpenAI llamaron a una desaceleración del desarrollo en toda la industria, de acuerdo con NPR.
El 17 de septiembre este sitio reportó que OpenAI divulgó seis incidentes de desalineación de sus modelos y publicó un marco para darlos a conocer.
La monarquía británica no ejerce funciones de gobierno ni tiene facultades regulatorias. El gobierno del Reino Unido no ha anunciado a partir de esta reunión nuevas medidas legislativas sobre inteligencia artificial, y el Palacio de Buckingham no ha publicado una lista oficial de asistentes ni una minuta del encuentro.
El Reino Unido organizó en noviembre de 2023 la primera cumbre mundial sobre seguridad de la inteligencia artificial en Bletchley Park, de la que salió una declaración firmada por 28 países y la Unión Europea sobre riesgos de los modelos de frontera. Desde entonces el gobierno británico creó un instituto de seguridad de la IA, pero no ha aprobado una ley que imponga obligaciones vinculantes a las empresas del sector.
La Unión Europea tomó la vía contraria con su Reglamento de Inteligencia Artificial, aprobado en 2024, que clasifica los sistemas por nivel de riesgo y establece obligaciones escalonadas de transparencia y evaluación. Sus disposiciones sobre modelos de propósito general entraron en aplicación en agosto de 2025.
