Des pays comme l'Allemagne, l'Afrique du Sud et le Canada suggèrent qu'une institution internationale établisse et applique des normes.
Vingt pays et l’Union européenne ont lancé un appel à la coopération internationale pour garantir que l’IA reste sous contrôle humain, y compris la création potentielle d’un organisme de surveillance mondial chargé d’établir et de faire respecter des normes.
Les pays, dont l'Allemagne, l'Afrique du Sud, le Canada, l'Australie, les Émirats arabes unis et Singapour, ont publié lundi une déclaration commune alors que les dirigeants mondiaux se préparent à discuter des risques posés par les progrès rapides de l'IA lors du rassemblement annuel de l'Assemblée générale des Nations Unies.
Histoires recommandées
liste de 4 élémentsfin de liste
La déclaration, publiée par le bureau du président finlandais Alexander Stubb, appelle les gouvernements et l’industrie à agir immédiatement pour garantir que l’IA soit développée conformément au droit international et reste sous « direction, surveillance et contrôle humains ».
« Pour réaliser le potentiel de l'IA, l'industrie, les gouvernements et la société doivent agir maintenant », indique le communiqué.
« Nous devons faire face à ces risques et renforcer la surveillance – sans élargir l’écart entre les pays en matière d’accès aux avantages de l’IA. »
La déclaration exhorte les pays à développer et coordonner des « normes communes », à partager les rapports sur les incidents de sécurité graves et à explorer la création d’une institution internationale pour « fixer des normes, permettre la vérification et convoquer les États lorsque les seuils de capacité sont franchis ».
Parmi les signataires figurent le chancelier allemand Friedrich Merz, le Premier ministre norvégien Jonas Gahr Store, la présidente de la Commission européenne Ursula von der Leyen, le président kenyan William Ruto, le président kazakh Kassym-Jomart Tokayev et le ministre turc des Affaires étrangères Hakan Fidan.
Les États-Unis et la Chine, les deux principales puissances mondiales en matière d'IA, n'ont pas rejoint la déclaration, qui reste « ouverte à l'approbation » par d'autres pays.
Le président américain Donald Trump et le président chinois Xi Jinping devraient discuter de l'IA lorsqu'ils se rencontreront jeudi à la Maison Blanche pour leur troisième sommet face-à-face en moins d'un an.
Washington et Pékin, engagés dans une course à la domination des technologies de pointe, ont tous deux rejeté les appels visant à ralentir le développement de l'IA pour garantir une plus grande sécurité.
Parmi les autres acteurs de l’IA qui ne figurent pas parmi les signataires figurent l’Inde, la Corée du Sud, le Japon, le Royaume-Uni et la France.
Cette déclaration intervient alors que le secteur de l’IA est engagé dans un débat houleux sur la sécurité suite aux appels au ralentissement du développement lancés par les principaux dirigeants de l’industrie.
Dans un essai publié plus tôt ce mois-ci, le PDG d'Anthropic, Dario Amodei, a appelé les entreprises à « ralentir le rythme » du développement pour atténuer les risques, une proposition qui a été rapidement approuvée par des concurrents, dont Sam Altman, PDG d'OpenAI, et Elon Musk, PDG de SpaceX et Tesla.
L'appel d'Amodei fait suite à une série de cas de modèles d'IA se livrant à des activités malveillantes non autorisées, notamment un incident survenu en juillet au cours duquel des agents d'IA testés par OpenAI ont piraté la start-up d'IA Hugging Face.
Dans la dernière intervention de l'industrie lundi, OpenAI a déclaré que les États-Unis devraient diriger un effort international visant à développer des normes techniques pour l'IA avancée.
« Les États-Unis sont bien placés pour diriger parce que leur industrie de l’IA est à la frontière technique, et ils occupent toujours une position de réseau mondial privilégiée dans des domaines critiques tels que la finance, le commerce, la défense, la technologie et les systèmes d’information », a déclaré le géant de l’IA basé à San Francisco dans un article de blog.
« Prendre les devants désormais déterminera si les États-Unis façonneront le cadre mondial de l’IA ou s’ils verront un système fragmenté, inégal et ravagé par les conflits s’installer autour de lui. »
Le Groupe scientifique international indépendant sur l’IA, soutenu par l’ONU, qui a examiné l’incident de Hugging Face, a également ajouté lundi sa voix aux appels en faveur de nouvelles barrières de sécurité, affirmant que la cyberattaque avait révélé « l’effritement » des protections existantes.
