El 22 de septiembre de 2023, el secretario de Estado del Reino Unido, Oliver Dowden, se dirigió al Debate General de la Asamblea General de las Naciones Unidas, en la ciudad de Nueva York. Estos son los puntos clave que abordó durante su discurso:
- El Reino Unido está ofreciendo ayuda humanitaria a Marruecos y Libia, debido a que han sufrido terremotos e inundaciones.
- Los «temas del momento» son el cambio climático, el desarrollo después del Covid-19, la trata de personas y la invasión de Ucrania.
- La «brutal invasión» de Ucrania por parte de Rusia tiene consecuencias en todo el mundo, especialmente en los países en desarrollo afectados por la escasez de alimentos. La guerra podría terminar pronto por parte de Rusia, pero, hasta que suceda, «el Reino Unido permanecerá al lado de Ucrania» todo el tiempo que sea necesario.
- Otro desafío importante es la inteligencia artificial, ya que cambiará todos los aspectos de la vida. La IA podría ser una fuerza para el bien común, ayudando a la ciencia, democratizando la tecnología y haciendo posible resolver los problemas más apremiantes de nuestro tiempo.
- Sin embargo, la IA también plantea ciertos peligros, como facilitar el hackeo y la manipulación electoral mediante perfiles falsos en línea, así como la posibilidad de «perder el control de las propias máquinas».
- En consecuencia, el Reino Unido participa en iniciativas como la Cumbre de Seguridad de la IA, el Proceso de Hiroshima del G7 y la Asociación Global sobre IA. Todos los gobiernos deberían trabajar juntos para regular esta nueva tecnología, ya que sus riesgos y oportunidades aún son mayormente desconocidos. Además, debido a que la tecnología de la IA evoluciona rápidamente, los gobiernos deberían reunirse y discutirla regularmente.
- El Reino Unido está «única y especialmente capacitado» para aprovechar las oportunidades de la IA, gracias a sus «empresas de tecnología de frontera» y «universidades líderes en el mundo».
- El gobierno del Reino Unido también cuenta con un Grupo de Trabajo de IA de Frontera, compuesto por expertos que intentan vulnerar modelos de IA (equipo rojo) para hacerlos más seguros. Es intención del gobierno que este organismo se convierta en uno internacional.
- Muchas «tecnologías líderes en el mundo» se han desarrollado en naciones donde se respeta la libertad de expresión, y una «cultura de reglas y transparencia» es esencial para que la IA sea innovadora y segura.
Análisis del Discurso
Oliver Dowden, a cargo de los asuntos internacionales del Reino Unido, representó al primer ministro Rishi Sunak en la Asamblea General. Como es habitual, comenzó su discurso hablando de eventos muy recientes, a saber, los terremotos e inundaciones en Marruecos y Libia. Luego, mencionó brevemente los «temas del momento», en su opinión. El cambio climático, el desarrollo, el Covid-19 y la invasión de Ucrania probablemente estén en la lista de prioridades internacionales de todos. No obstante, la mención de la trata de personas pareció un poco extraña: después de todo, ¿no es Gran Bretaña una isla aislada?
El problema es que, desde 2022, ha habido un número récord cada vez mayor de migrantes irregulares que intentan cruzar el Canal de la Mancha. Esas son personas que huyen de conflictos como el de Ucrania y terminan moviéndose de un país europeo a otro en busca de una vida mejor. En algunos casos, esos migrantes pagan grandes sumas de dinero a los traficantes de personas para viajar a Inglaterra en barco.
La situación en Ucrania recibió cierta atención de Oliver Dowden, quien la condenó fuertemente como una «brutal invasión» y como el «asalto más atroz imaginable a todo» lo que representan las Naciones Unidas. Lo más importante es que prometió que el Reino Unido continuará financiando los esfuerzos de defensa ucranianos durante todo el tiempo que sea posible.
La mayor parte del discurso de Dowden se centró en la cuestión de la inteligencia artificial, sus oportunidades, sus peligros y su regulación adecuada. El Secretario de Estado no dijo prácticamente nada que la gente ya no sepa, como la naturaleza dual de la IA: buena o mala, dependiendo de las circunstancias. Él parecía ansioso por promocionar al Reino Unido como un actor importante en la IA, ignorando el hecho de que la mayoría de los avances en ese campo se realizan en Estados Unidos. Además, él parecía decidido a promocionar la Cumbre de Seguridad de la IA, que tendrá lugar en suelo británico en noviembre de 2023, quizás como una forma de animar a la gente a asistir.
Al final del discurso, Dowden subrayó la relevancia de una «cultura de reglas y transparencia» para hacer que la IA sea innovadora y segura. Eso puede haber sido una referencia a China, una superpotencia de la IA que ciertamente carece de tal cultura. En cualquier caso, fue un argumento débil, porque los modelos de IA transparentes pueden ser más fácilmente utilizados como armas por aquellos con malas intenciones.
Desafortunadamente, el discurso del Reino Unido se centró tanto en la IA y dijo tan pocas cosas sustanciales sobre ella, que fue superficial. Aunque la relevancia de la IA en tiempos recientes no puede ser exagerada, fue una sorpresa ver a una potencia mundial dedicar la gran mayoría de un discurso a ella. En un mundo plagado de desafíos, uno esperaría que el Reino Unido compartiera sus puntos de vista sobre otras cosas también.
Discurso completo
Señor Presidente,
Mientras nos reunimos aquí esta noche, millones de personas en Marruecos y Libia continúan luchando contra las secuelas de un devastador terremoto y una catastrófica inundación.
Permítanme extender la simpatía del pueblo británico a todos aquellos que han perdido seres queridos.
Nuestros equipos de búsqueda y rescate han sido desplegados en Marruecos y hemos aumentado nuestro apoyo humanitario a Libia.
Continuaremos nuestro apoyo, junto a muchas otras naciones representadas aquí, en las próximas semanas y meses.
Esta semana, las naciones se han reunido aquí para reafirmar su compromiso de abordar los mayores desafíos que enfrentamos.
El cambio climático, con eventos climáticos catastróficos que nos dicen que actuemos, ahora.
Los Objetivos de Desarrollo Sostenible… y cómo volver a encarrilarlos después del Covid.
La migración, con millones cruzando fronteras y mares peligrosos, a merced de los traficantes de personas.
Y la brutal invasión de Ucrania por parte de Rusia… un ataque a un miembro soberano de las Naciones Unidas por un Miembro Permanente de su Consejo de Seguridad.
El asalto más atroz imaginable a todo lo que esta organización representa y fue fundada para prevenir.
Con consecuencias no solo para el valiente pueblo de Ucrania, sino también para millones más en todo el mundo.
Aquellos afectados por la escasez de alimentos, especialmente en los países en desarrollo, también son víctimas de Putin.
Rusia podría terminar esta guerra mañana. Putin podría terminar esta guerra mañana. Eso es lo que el mundo exige.
Pero hasta que eso suceda, el Reino Unido estará al lado de Ucrania.
Cueste lo que cueste.
Por semanas, por meses, si es necesario, por años.
Porque si estas Naciones Unidas, en las que el Reino Unido cree y ayudó a fundar, deben significar algo, es seguramente el principio cardinal de que la agresión no puede ni debe tener recompensa.
Estos son los temas del momento.
Pero quiero centrarme en otro desafío.
Un desafío que ya está con nosotros hoy y que está cambiando, ahora mismo, todos nuestros mañanas.
Va a cambiar todo lo que hacemos: educación, negocios, atención médica, defensa, la forma en que vivimos.
Y va a cambiar el gobierno, y las relaciones entre naciones, fundamentalmente.
Va a cambiar estas Naciones Unidas, fundamentalmente.
Inteligencia Artificial: la mayor transformación que el mundo ha conocido.
Nuestra tarea como gobiernos es entenderla, asimilarla y buscar gobernarla.
Y debemos hacerlo con rapidez.
Piensen en cuánto ha cambiado en pocos meses.
Y luego piensen en cómo se verá este mundo en cinco o diez años.
Nos estamos familiarizando rápidamente con la IA de hoy, pero necesitamos prepararnos para la IA de mañana.
En esta frontera, necesitamos aceptar que simplemente no conocemos los límites de las posibilidades.
Estamos como Edison antes de que se encendiera la luz, o como Tim Berners-Lee antes de que se enviara el primer correo electrónico.
Ellos no podrían, seguramente, haber imaginado respectivamente la iluminación del horizonte de Nueva York por la noche, o las maravillas del internet moderno.
Pero sospechaban el poder transformador de sus invenciones.
La IA de frontera, con la capacidad de procesar la totalidad del conocimiento humano en
Segundos, tiene el potencial no solo de transformar nuestras vidas, sino de reimaginar nuestra comprensión de la ciencia.
Si, como yo, creen que los humanos están en el camino de descifrar los misterios de las partículas más pequeñas o los confines más lejanos de nuestro universo, si piensan que los Problemas del Milenio son en última instancia solucionables, o que eventualmente entenderemos completamente los virus, entonces seguramente estarán de acuerdo en que al sumar al total de nuestra inteligencia a escalas potencialmente vertiginosas.
La IA de frontera desbloqueará al menos algunas de esas respuestas en un calendario acelerado en nuestras vidas.
Porque en tiempo de IA, años son días, incluso horas.
La «frontera» no está tan lejos como podríamos suponer.
Eso trae consigo grandes oportunidades.
Los modelos de IA que se están desarrollando hoy podrían ofrecer la eficiencia energética necesaria para vencer el cambio climático, estimular los rendimientos de cultivos requeridos para alimentar al mundo, detectar signos de enfermedades crónicas o pandemias, gestionar mejor las cadenas de suministro para que todos tengan acceso a los materiales y bienes que necesitan, y mejorar la productividad tanto en empresas como en gobiernos.
De hecho, cada uno de los desafíos discutidos en la Asamblea General de este año, y más, podrían ser mejorados o incluso resueltos por la IA.
Quizás lo más emocionante es que la IA puede ser una herramienta democratizadora, abierta a todos.
Así como hemos visto la adopción digital extenderse por todo el mundo en desarrollo, la IA tiene el potencial de empoderar a millones de personas en todas partes de nuestro planeta, dando a todos, dondequiera que estén, la capacidad de ser parte de esta revolución.
La IA puede y debe ser una herramienta para todos.
Sin embargo, cualquier tecnología que pueda ser utilizada por todos también puede ser utilizada para el mal.
Ya hemos visto los peligros que puede plantear la IA: adolescentes hackeando detalles bancarios de individuos; terroristas atacando sistemas gubernamentales; ciberdelincuentes engañando a los votantes con deep-fakes y bots; incluso estados reprimiendo a sus pueblos.
Pero nuestro enfoque en los riesgos tiene que incluir el potencial de una IA de frontera agente, que a la vez supera nuestra inteligencia colectiva y desafía nuestra comprensión.
De hecho, muchos argumentan que esta tecnología es como ninguna otra, en el sentido de que sus propios creadores ni siquiera saben cómo funciona.
No pueden explicar por qué hace lo que hace, no pueden predecir lo que hará, o no hará.
Los principales riesgos de la IA de frontera vendrán, por lo tanto, del mal uso, la desventura o la desalineación con los objetivos humanos.
Nuestros esfuerzos deben anticipar todas estas posibilidades, y unirnos para acordar una comprensión compartida de esos riesgos.
Esto es lo que la Cumbre de Seguridad de la IA que el Reino Unido organiza en noviembre buscará lograr.
A pesar de las súplicas que vimos de algunos expertos a principios de año, no creo que podamos contener la marea.
No hay futuro en el que esta tecnología no se desarrolle a un ritmo extraordinario.
Y aunque aplaudo los esfuerzos de las principales empresas para poner la seguridad en el centro de su desarrollo, y por sus compromisos voluntarios que proporcionan barreras contra el despliegue inseguro, se ha disparado el pistoletazo de salida de una carrera global competitiva en la que empresas individuales, así como países, se esforzarán por llevar los límites lo más lejos y rápido posible.
De hecho, el objetivo declarado de estas empresas es construir una superinteligencia.
IA que se esfuerza por superar la inteligencia humana en todos los sentidos posibles.
Algunas de las personas que trabajan en esto piensan que está a solo unos años de distancia.
La pregunta para los gobiernos es cómo respondemos a eso.
La velocidad y la escala exigen que los líderes sean clarividentes sobre las implicaciones y el potencial.
No podemos permitirnos quedar atrapados en debates sobre si la IA es una herramienta para el bien o una herramienta para el mal; será una herramienta para ambos.
Debemos prepararnos para ambos e asegurarnos contra este último.
La comunidad internacional debe dedicar su respuesta por igual a las oportunidades y los riesgos, y hacerlo con vigor y entusiasmo.
En el pasado, los líderes han respondido a los desarrollos científicos y tecnológicos con regulaciones retrospectivas.
Pero en este caso, las barreras necesarias, la regulación y la gobernanza deben desarrollarse en un proceso paralelo con el progreso tecnológico.
Sin embargo, en este momento, la regulación global está quedando atrás de los avances actuales.
Los legisladores deben incluir a todos, desarrolladores, expertos, académicos, para entender de antemano las oportunidades y los riesgos que podrían presentarse.
Debemos ser gobiernos de frontera junto a los innovadores de frontera.
El Reino Unido está decidido a estar en la vanguardia, trabajando con aliados afines en las Naciones Unidas y a través del proceso del G7 de Hiroshima, la Asociación Global sobre IA y la OCDE.
Nuestro país está en una posición única.
Tenemos las empresas de tecnología de frontera.
Tenemos universidades líderes en el mundo.
Y tenemos algunas de las inversiones más altas en IA generativa.
Y, por supuesto, tenemos la herencia de la Revolución Industrial y la revolución informática.
Este trasfondo nos da la base para hacer que la IA sea un éxito, y hacerla segura.
Son dos caras de la misma moneda, y nuestro Primer Ministro ha puesto la seguridad de la IA en la vanguardia de sus ambiciones.
Reconocemos que, aunque, por supuesto, cada nación querrá proteger sus propios intereses y ventaja estratégica, las acciones más importantes que tomaremos serán internacionales.
De hecho, debido a que las empresas tecnológicas y los actores no estatales a menudo tienen influencia y prominencia a nivel de país en la IA, este desafío requiere una nueva forma de multilateralismo.
Porque solo trabajando juntos haremos que la IA sea segura para todos.
Nuestra primera Cumbre de Seguridad de la IA en noviembre iniciará este proceso con un enfoque en la tecnología de frontera.
En particular, queremos mirar los riesgos más graves posibles, como el potencial de socavar la bioseguridad, o aumentar la capacidad de las personas para llevar a cabo ataques cibernéticos, así como el peligro de perder el control de las máquinas mismas.
Para aquellos que dirían que estas advertencias son sensacionalistas, o pertenecen al ámbito de la ciencia ficción, simplemente señalo las palabras de cientos de desarrolladores de IA, expertos y académicos, que han dicho, y cito:
«Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto con otros riesgos a escala de la sociedad, como las pandemias y la guerra nuclear».
No me presento aquí como un experto en IA, pero sí creo que los responsables políticos y los gobiernos ignoran este consenso de expertos en peligro de todos nuestros ciudadanos.
Nuestra Cumbre buscará alcanzar un entendimiento común de estos riesgos más extremos y cómo el mundo debería enfrentarlos. Y al mismo tiempo, centrarse en cómo la IA segura puede ser utilizada para el bien público.
La velocidad de este progreso exige que esto no sea un evento único, o incluso una reunión anual.
Los avances nuevos ocurren diariamente, y necesitamos reunirnos con más regularidad.
Además, es esencial que reunamos a gobiernos con los mejores académicos e investigadores para poder evaluar las tecnologías.
Las empresas tecnológicas no deben marcar su propio trabajo, al igual que los gobiernos y los ciudadanos deben tener confianza en que los riesgos se mitiguen adecuadamente.
De hecho, gran parte de este trabajo debe ser asegurar la fe en el sistema, y solo los estados nacionales pueden proporcionar la mayor seguridad nacional de que la preocupación ha sido aliviada.
Es por eso que estoy tan orgulloso de que el Grupo de Trabajo de IA de Frontera líder en el mundo del Reino Unido haya reunido a expertos pioneros como Yoshua Bengio y Paul Christiano, con el jefe de GCHQ y nuestros Asesores de Seguridad Nacional.
Es el primer organismo de su tipo en el mundo que está desarrollando la capacidad de realizar la crítica de red-teaming externa segura que será fundamental para generar confianza en los modelos de frontera.
Y nuestra ambición es que el Grupo de Trabajo evolucione para convertirse en una estructura institucional permanente, con una oferta internacional.
Desarrollar esta capacidad en países liberales y democráticos es importante.
Muchas tecnologías líderes en el mundo se desarrollaron en naciones donde la expresión fluye abiertamente y las ideas se intercambian libremente.
Una cultura de reglas y transparencia es esencial para la creatividad y la innovación, y es igual de esencial para hacer que la IA sea segura.
Así que, damas y caball
eros, esa es la tarea que nos enfrenta.
Es, en su velocidad, escala y potencial, diferente a cualquier cosa que nosotros, o nuestros predecesores, hayamos conocido antes.
Emocionante.
Desalentador.
Inexorable.
Así que ahora debemos trabajar, junto a sus pioneros, para entenderla, gobernarla, aprovechar su potencial y contener sus riesgos.
Tendremos que ser pioneros también.
Puede que no sepamos dónde residen los riesgos, cómo podríamos contenerlos, o incluso los foros en los que debemos determinarlos.
Lo que sí sabemos, sin embargo, es que la acción más poderosa vendrá cuando las naciones trabajen juntas.
La revolución de la IA será una prueba contundente para el sistema multilateral, para demostrar que puede trabajar unido en una cuestión que ayudará a definir el destino de la humanidad.
Nuestro futuro, el futuro de la humanidad, el futuro de nuestro planeta entero, depende de nuestra capacidad para hacerlo.
Ese es nuestro desafío, y esta es nuestra oportunidad.
Ser, verdaderamente, las Naciones Unidas.
Deja una respuesta