El rey Carlos III de Reino Unido recibirá esta semana a los dirigentes de las principales empresas de inteligencia artificial para debatir si es necesario establecer un conjunto de principios comunes que sirvan de guía para una tecnología que ha suscitado cada vez más advertencias sobre la amenaza que supone para la humanidad.
Ante el llamamiento de las principales figuras del sector de la IA para que se frene su desarrollo, Carlos se reunirá con ejecutivos de Nvidia, Google DeepMind, OpenAI y Anthropic, así como con el ministro británico de IA, para debatir cómo se puede aprovechar esta tecnología en beneficio de la sociedad y en defensa de la dignidad humana.
El debate sobre la IA volvió a ser el centro de atención cuando dos investigadores de Anthropic advirtieron de que el rápido avance de esta tecnología podría conducir a la extinción de la raza humana en un futuro no muy lejano.
El director ejecutivo de Anthropic, Dario Amodei, dijo el sábado que las empresas deben ralentizar el ritmo de avance de los modelos de IA.
La empresa, con sede en San Francisco, publicó la semana pasada un informe de inteligencia sobre amenazas en el que se detallaba cómo varios actores habían utilizado sus modelos de IA “Claude” para actividades que iban desde el desarrollo de armas y las operaciones cibernéticas hasta la vigilancia y el fraude.
Sin embargo, será difícil alcanzar una postura global: el presidente de Estados Unidos, Donald Trump, rechazó el domingo cualquier debate sobre una desaceleración, mientras que el tabloide chino Global Times afirmó que se trataba en realidad de un “manual de la Guerra Fría” dirigido contra Pekín.
Carlos, tanto como rey como cuando era príncipe de Gales, ha aprovechado su posición para convocar reuniones en las que se debaten diversos temas, sobre todo relacionados con el medio ambiente.
El Palacio de Buckingham señaló que en la reunión se debatiría cómo aprovechar la IA de manera que beneficie a la sociedad y contribuya “al florecimiento tanto de las personas como del planeta”.
Reino Unido, líder europeo en financiación de la IA y en empresas emergentes, se ha decantado por un enfoque moderado en la regulación de la IA, alineándose más estrechamente con Estados Unidos que con la Unión Europea.
El Instituto de Seguridad de la IA de Reino Unido, creado tras la Cumbre sobre Seguridad de la IA de 2023, tiene acceso a los modelos de IA antes de su implementación en virtud de acuerdos voluntarios con las principales empresas del sector, lo que le permite evaluar sus capacidades y riesgos, y le ofrece una ventana al desarrollo de vanguardia en materia de IA.