Le 22 septembre 2023, le secrétaire d’État du Royaume-Uni, Oliver Dowden, s’est adressé au débat général de l’Assemblée générale des Nations Unies, à New York. Voici les points clés abordés lors de son discours :
- Le Royaume-Uni a apporté une aide humanitaire au Maroc et à la Libye, qui ont été touchés par des tremblements de terre et des inondations.
- Les « questions du moment » sont le changement climatique, le développement post-Covid-19, la traite des êtres humains et l’invasion de l’Ukraine.
- L’« invasion brutale » de l’Ukraine par la Russie a des conséquences ressenties dans le monde entier, en particulier dans les pays en développement touchés par des pénuries alimentaires. La guerre pourrait être terminée par la Russie prochainement, mais tant que cela ne se produit pas, « le Royaume-Uni restera aux côtés de l’Ukraine » aussi longtemps que nécessaire.
- Un autre défi important est l’intelligence artificielle, car elle changera tous les aspects de la vie. L’IA pourrait être une force pour le bien commun, aidant la science, démocratisant la technologie et rendant possible la résolution des problèmes les plus pressants de notre époque.
- Cependant, l’IA présente également certains dangers, tels que faciliter le piratage et la manipulation électorale par de faux profils en ligne, ainsi que la possibilité de « perdre le contrôle des machines elles-mêmes ».
- En conséquence, le Royaume-Uni participe à des initiatives telles qu’un sommet sur la sécurité de l’IA, le processus du G7 d’Hiroshima et le Partenariat mondial sur l’IA. Tous les gouvernements devraient travailler ensemble pour réglementer cette nouvelle technologie, car ses risques et opportunités sont encore largement inconnus. De plus, comme la technologie de l’IA évolue rapidement, les gouvernements devraient se réunir et en discuter régulièrement.
- Le Royaume-Uni est « particulièrement bien placé » pour saisir les opportunités de l’IA, grâce à ses « entreprises de technologie de pointe » et ses « universités de premier plan ».
- Le gouvernement britannique dispose également d’un groupe de travail sur l’IA de pointe, composé d’experts qui tentent de franchir les modèles d’IA (red-teaming) afin de les rendre plus sûrs. L’intention du gouvernement est que cet organe devienne international.
- De nombreuses « technologies de pointe mondiales » ont été développées dans des pays où la liberté d’expression est respectée, et une « culture de règles et de transparence » est essentielle pour rendre l’IA à la fois innovante et sûre.
Analyse du discours
Oliver Dowden, en charge des affaires internationales du Royaume-Uni, a représenté le premier ministre Rishi Sunak à l’Assemblée générale. Comme d’habitude, il a commencé son discours en parlant d’événements très récents — à savoir, les tremblements de terre et les inondations au Maroc et en Libye. Puis, il a brièvement mentionné les « questions du moment », selon lui. Le changement climatique, le développement, le Covid-19 et l’invasion de l’Ukraine figurent probablement sur la liste des priorités internationales de tout le monde. Cependant, la mention de la traite des êtres humains semblait un peu étrange — après tout, la Grande-Bretagne n’est-elle pas une île isolée ?
Le problème est que, depuis 2022, il y a eu un nombre record sans cesse croissant de migrants irréguliers tentant de traverser la Manche. Ce sont des personnes qui fuient des conflits comme celui en Ukraine et finissent par se déplacer d’un pays européen à l’autre, à la recherche d’une vie meilleure. Dans certains cas, ces migrants paient de fortes sommes d’argent aux trafiquants d’êtres humains pour se rendre en Angleterre en bateau.
La situation en Ukraine a retenu l’attention d’Oliver Dowden, qui l’a fermement condamnée comme une « invasion brutale » et comme « l’assaut le plus odieux imaginable contre tout » ce que les Nations Unies représentent et ont été fondées pour prévenir. Plus important encore, il a promis que le Royaume-Uni continuera de financer les efforts de défense de l’Ukraine aussi longtemps que possible.
Le discours de Dowden s’est principalement concentré sur la question de l’intelligence artificielle, ses opportunités, ses dangers et sa réglementation appropriée. Le secrétaire d’État n’a pratiquement rien dit que les gens ne savent déjà, comme la nature duale de l’IA — bonne ou mauvaise, selon les circonstances. Il semblait désireux de promouvoir le Royaume-Uni comme un acteur majeur de l’IA, négligeant le fait que la plupart des avancées dans ce domaine sont menées aux États-Unis. De plus, il semblait déterminé à promouvoir le sommet sur la sécurité de l’IA, qui aura lieu au Royaume-Uni en novembre 2023, peut-être comme un moyen de rallier les gens à y assister.
À la fin du discours, Dowden a souligné la pertinence d’une « culture de règles et de transparence » pour rendre l’IA à la fois innovante et sûre. Cela aurait pu être une référence à la Chine, une superpuissance de l’IA qui manque certainement d’une telle culture. Quoi qu’il en soit, c’était un argument faible, car les modèles d’IA transparents peuvent être plus facilement utilisés à des fins malveillantes par ceux qui ont de mauvaises intentions.
Malheureusement, le discours du Royaume-Uni s’est tellement concentré sur l’IA, et a dit si peu de choses substantielles à son sujet, qu’il était superficiel. Bien que la pertinence de l’IA à l’époque récente ne puisse être surestimée, il a été surprenant de voir une puissance mondiale consacrer la grande majorité d’un discours à cela. Dans un monde rempli de défis, on pourrait espérer que le Royaume-Uni partagerait également ses points de vue sur d’autres sujets.
Texte intégral du discours
Monsieur le Président,
Alors que nous nous réunissons ici ce soir, des millions de personnes au Maroc et en Libye continuent de lutter contre les conséquences d’un tremblement de terre dévastateur et d’une inondation catastrophique.
Permettez-moi d’exprimer la sympathie du peuple britannique à tous ceux qui ont perdu des êtres chers.
Nos équipes de recherche et de sauvetage ont été déployées au Maroc et nous avons augmenté notre soutien humanitaire pour la Libye.
Nous continuerons notre soutien — aux côtés de nombreuses autres nations représentées ici dans les semaines et les mois à venir.
Cette semaine, des nations se sont rassemblées ici pour se réengager à relever les plus grands défis auxquels nous sommes confrontés.
Le changement climatique, avec des événements météorologiques catastrophiques nous incitant à agir, maintenant.
Les Objectifs de développement durable… et comment les remettre sur les rails après le Covid.
La migration, avec des millions de personnes traversant les frontières et des mers dangereuses, à la merci des trafiquants d’êtres humains.
Et l’invasion brutale de l’Ukraine par la Russie… une attaque contre un membre souverain des Nations Unies par un membre permanent de son Conseil de sécurité.
L’assaut le plus odieux imaginable contre tout ce que cette organisation représente et a été fondée pour prévenir.
Avec des conséquences ressenties non seulement par le brave peuple d’Ukraine, mais aussi par des millions d’autres à travers le globe.
Ceux touchés par les pénuries alimentaires — en particulier dans les pays en développement — sont également des victimes de Poutine.
La Russie pourrait mettre fin à cette guerre demain. Poutine pourrait mettre fin à cette guerre demain. C’est ce que le monde exige.
Mais jusqu’à ce que cela se produise, le Royaume-Uni restera aux côtés de l’Ukraine.
Quoi qu’il en coûte.
Pendant des semaines, des mois — si nécessaire, pendant des années.
Car si ces Nations Unies — en lesquelles le Royaume-Uni croit et a aidé à fonder — doivent compter pour quelque chose, c’est sûrement pour le principe cardinal que l’agression ne peut pas, et ne doit pas, être payante.
Ce sont les questions du moment.
Mais je veux me concentrer sur un autre défi.
Un défi qui est déjà avec nous aujourd’hui, et qui change — dès maintenant — tous nos lendemains.
Il va tout changer dans ce que nous faisons – l’éducation, les affaires, la santé, la défense — la façon dont nous vivons.
Et il va changer le gouvernement – et les relations entre les nations – fondamentalement.
Il va changer ces Nations Unies, fondamentalement.
L’intelligence artificielle – la plus grande transformation que le monde ait connue.
Notre tâche en tant que gouvernements est de la comprendre, de la saisir et de chercher à la gouverner.
Et nous devons le faire rapidement.
Pensez à tout ce qui a changé en quelques mois.
Et pensez à quel point ce monde aura l’air différent dans cinq ou dix ans.
Nous sommes rapidement familiarisés avec l’IA d’aujourd’hui, mais nous devons nous préparer pour l’IA de demain.
À cette frontière, nous devons accepter que nous ne connaissons simplement pas les limites des possibilités.
Nous sommes comme Edison avant que la lumière ne s’allume, ou comme Tim Berners-Lee avant l’envoi du premier courriel.
Ils n’auraient sûrement pas pu envisager respectivement l’illumination de la skyline de New York la nuit, ou les merveilles de l’Internet moderne.
Mais ils soupçonnaient la puissance transformatrice de leurs inventions.
L’IA de pointe, capable de traiter la totalité des connaissances humaines en
quelques secondes, a le potentiel non seulement de transformer nos vies, mais de réimaginer notre compréhension de la science.
Si — comme moi — vous croyez que les êtres humains sont sur le chemin du décodage des mystères des plus petites particules, ou des confins les plus éloignés de notre univers, si vous pensez que les problèmes du prix du millénaire sont finalement solubles, ou que nous comprendrons finalement pleinement les virus, alors vous conviendrez sûrement que en ajoutant à la somme totale de notre intelligence à des échelles potentiellement vertigineuses.
L’IA de pointe débloquera au moins certaines de ces réponses selon un calendrier accéléré dans notre vie.
Car en temps d’IA, les années sont des jours, voire des heures.
La « frontière » n’est pas aussi lointaine que nous pourrions le supposer.
Cela apporte de grandes opportunités.
Les modèles d’IA développés aujourd’hui pourraient offrir l’efficacité énergétique nécessaire pour vaincre le changement climatique, stimuler les rendements agricoles requis pour nourrir le monde, détecter les signes de maladies chroniques ou de pandémies, mieux gérer les chaînes d’approvisionnement afin que chacun ait accès aux matériaux et biens dont ils ont besoin, et améliorer la productivité dans les entreprises et les gouvernements.
En fait, chaque défi discuté lors de l’Assemblée générale de cette année – et plus encore – pourrait être amélioré ou même résolu par l’IA.
Peut-être que la chose la plus excitante est que l’IA peut être un outil démocratisant, ouvert à tous.
Tout comme nous avons vu l’adoption numérique se répandre à travers le monde en développement, l’IA a le potentiel de donner du pouvoir à des millions de personnes dans toutes les parties de notre planète, permettant à chacun, où qu’ils soient, de faire partie de cette révolution.
L’IA peut et doit être un outil pour tous.
Pourtant, toute technologie pouvant être utilisée par tous peut également être utilisée à mauvais escient.
Nous avons déjà vu les dangers que l’IA peut poser : des adolescents piratant les détails bancaires de particuliers ; des terroristes ciblant les systèmes gouvernementaux ; des cybercriminels trompant les électeurs avec des deep-fakes et des bots ; même des États réprimant leurs peuples.
Mais notre attention sur les risques doit inclure le potentiel de l’IA agentic frontière, qui dépasse à la fois notre intelligence collective et défie notre compréhension.
En effet, beaucoup soutiennent que cette technologie est comme aucune autre, dans le sens où ses créateurs eux-mêmes ne savent même pas comment elle fonctionne.
Ils ne peuvent pas expliquer pourquoi elle fait ce qu’elle fait, ils ne peuvent pas prédire ce qu’elle fera – ou ne fera pas.
Les principaux risques de l’IA frontière proviendront donc de l’abus, de la mésaventure ou du désalignement avec les objectifs humains.
Nos efforts doivent prévenir toutes ces possibilités – et se rassembler pour convenir d’une compréhension partagée de ces risques.
C’est ce que le Sommet de sécurité de l’IA que le Royaume-Uni organise en novembre cherchera à atteindre.
Malgré les supplications que nous avons vues de la part de certains experts plus tôt dans l’année, je ne crois pas que nous puissions retenir la marée.
Il n’y a pas d’avenir dans lequel cette technologie ne se développe pas à un rythme extraordinaire.
Et bien que j’applaudisse les efforts des entreprises de premier plan pour mettre la sécurité au cœur de leur développement, et pour leurs engagements volontaires qui fournissent des garde-fous contre un déploiement dangereux, le coup de départ a été donné pour une course mondiale compétitive dans laquelle des entreprises individuelles ainsi que des pays s’efforceront de repousser les limites aussi loin et aussi vite que possible.
En effet, l’objectif déclaré de ces entreprises est de construire une superintelligence.
Une IA qui s’efforce de surpasser l’intelligence humaine de toutes les manières possibles.
Certains des personnes travaillant sur cela pensent que c’est à seulement quelques années de distance.
La question pour les gouvernements est de savoir comment nous répondons à cela.
La vitesse et l’ampleur exigent que les dirigeants soient clairvoyants sur les implications et le potentiel.
Nous ne pouvons pas nous permettre de rester pris dans des débats sur le fait que l’IA soit un outil pour le bien ou un outil pour le mal ; ce sera un outil pour les deux.
Nous devons nous préparer pour les deux et nous assurer contre ce dernier.
La communauté internationale doit consacrer sa réponse également aux opportunités et aux risques – et le faire avec vigueur et enthousiasme.
Dans le passé, les dirigeants ont répondu aux développements scientifiques et technologiques par une réglementation rétrospective.
Mais dans ce cas, les garde-fous nécessaires, la réglementation et la gouvernance doivent être développés dans un processus parallèle aux progrès technologiques.
Pourtant, à l’heure actuelle, la réglementation mondiale est à la traîne par rapport aux avancées actuelles.
Les législateurs doivent impliquer tout le monde – développeurs, experts, universitaires – pour comprendre à l’avance les opportunités et les risques qui pourraient être présentés.
Nous devons être des gouvernements frontières aux côtés des innovateurs frontières.
Le Royaume-Uni est déterminé à être à l’avant-garde, travaillant avec des alliés partageant les mêmes idées aux Nations Unies et à travers le processus du G7 d’Hiroshima, le Partenariat mondial sur l’IA, et l’OCDE.
Le nôtre est un pays qui est unique.
Nous avons les entreprises de technologie de frontière.
Nous avons des universités de premier plan mondial.
Et nous avons certains des plus hauts investissements dans l’IA générative.
Et, bien sûr, nous avons l’héritage de la Révolution industrielle et de la révolution informatique.
Cet arrière-plan nous donne les bases pour faire de l’IA un succès, et la rendre sûre.
Ce sont deux faces de la même pièce, et notre Premier ministre a mis la sécurité de l’IA au premier plan de ses ambitions.
Nous reconnaissons que, bien sûr, chaque nation voudra protéger ses propres intérêts et son avantage stratégique, les actions les plus importantes que nous prendrons seront internationales.
En fait, parce que les entreprises technologiques et les acteurs non étatiques ont souvent une influence et une proéminence de la taille d’un pays en IA, ce défi nécessite une nouvelle forme de multilatéralisme.
Car c’est seulement en travaillant ensemble que nous rendrons l’IA sûre pour tous.
Notre premier Sommet sur la sécurité de l’IA en novembre donnera le coup d’envoi à ce processus avec un accent sur la technologie de frontière.
En particulier, nous voulons examiner les risques les plus sérieux tels que le potentiel de saper la biosécurité, ou d’augmenter la capacité des personnes à mener des cyberattaques, ainsi que le danger de perdre le contrôle des machines elles-mêmes.
Pour ceux qui diraient que ces avertissements sont sensationnalistes, ou appartiennent au domaine de la science-fiction, je pointe simplement vers les mots de centaines de développeurs d’IA, d’experts et d’universitaires, qui ont dit – et je cite :
« Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire. »
Je ne me tiens pas ici en prétendant être un expert en IA, mais je crois que les décideurs et les gouvernements qui ignorent ce consensus d’experts le font au péril de tous nos citoyens.
Notre Sommet visera à parvenir à une compréhension commune de ces risques les plus extrêmes, et comment le monde devrait les affronter. Et en même temps, se concentrer sur la manière dont une IA sûre peut être utilisée pour le bien public.
La rapidité de ce progrès exige que cela ne soit pas un événement unique, ou même une réunion annuelle.
De nouvelles percées se produisent quotidiennement, et nous devons nous réunir plus régulièrement.
De plus, il est essentiel que nous réunissions les gouvernements avec les meilleurs universitaires et chercheurs pour être en mesure d’évaluer les technologies.
Les entreprises technologiques ne doivent pas noter leurs propres devoirs, tout comme les gouvernements et les citoyens doivent avoir confiance que les risques sont correctement atténués.
En effet, une grande partie de ce travail devrait consister à assurer la confiance dans le système, et ce sont seulement les États-nations qui peuvent fournir la réassurance la plus significative sur les préoccupations de sécurité nationale qui ont été apaisées.
C’est pourquoi je suis si fier que la Taskforce IA de frontière de pointe du Royaume-Uni ait réuni des experts pionniers tels que Yoshua Bengio et Paul Christiano, avec le chef du GCHQ et nos conseillers en sécurité nationale.
C’est le premier organe de ce type dans le monde qui développe la capacité de mener des tests externes rouges sûrs, essentiels pour renforcer la confiance dans les modèles de frontière.
Et notre ambition est que la Taskforce évolue pour devenir une structure institutionnelle permanente, avec une offre internationale.
Construire cette capacité dans les pays libéraux et démocratiques est important.
De nombreuses technologies de premier plan ont été développées dans des nations où l’expression circule librement et les idées sont échangées librement.
Une culture de règles et de transparence est essentielle à la créativité et à l’innovation, et elle est tout aussi essentielle pour rendre l’IA sûre.
Alors, mesdames et messieurs, voilà la tâche qui nous confronte.
C’est – dans sa vitesse, son ampleur et son potentiel – contrairement à tout ce que nous – ou nos prédécesseurs – avons connu auparavant.
Excitant.
Intimidant.
Inexorable.
Alors maintenant, nous devons travailler – aux côtés de ses pionniers – pour la comprendre, la gouverner, exploiter son potentiel et contenir ses risques.
Nous devrons aussi être des pionniers.
Nous ne savons peut-être pas où se trouvent les risques, comment nous pourrions les contenir, ou même les fora dans lesquels nous devons les déterminer.
Ce que nous savons, cependant, c’est que l’action la plus puissante viendra lorsque les nations travailleront ensemble.
La révolution de l’IA sera un test stimulant pour le système multilatéral, pour montrer qu’il peut travailler ensemble sur une question qui aidera à définir le sort de l’humanité.
Notre avenir – l’avenir de l’humanité – l’avenir de toute notre planète, dépend de notre capacité à le faire.
C’est notre défi, et voici notre opportunité.
Pour être – vraiment – les Nations Unies.
Laisser un commentaire