Évolution de l’IA : l’Afrique du Sud appelle à un mécanisme international de suivi

L’Afrique du Sud veut que les progrès de l’intelligence artificielle soient soumis à une évaluation scientifique indépendante à l’échelle internationale. À New Delhi, Cyril Ramaphosa a demandé aux BRICS de créer un mécanisme capable de suivre les capacités des systèmes les plus avancés et de renforcer les garde-fous à mesure que celles-ci progressent.

Pretoria veut soumettre les systèmes d’IA à une évaluation indépendante

La proposition a été formulée le 13 septembre, lors du 18e sommet des BRICS en Inde. Devant les dirigeants du groupe et de ses pays partenaires, Cyril Ramaphosa a estimé que la gouvernance devait évoluer au même rythme que l’intelligence artificielle. Pour Pretoria, les entreprises qui développent les systèmes les plus puissants ne peuvent pas être seules à déterminer si leurs technologies présentent un niveau de risque acceptable.

Le mécanisme proposé aurait pour mission d’organiser une « évaluation scientifique indépendante de l’IA ». Ramaphosa souhaite y associer des principes garantissant un contrôle humain significatif, une obligation de déclarer les incidents graves et des mesures de sécurité progressivement renforcées en fonction des capacités des modèles.

« Notre responsabilité est de veiller à ce que la gouvernance humaine progresse aussi rapidement que l’intelligence artificielle elle-même », a déclaré le président sud-africain. Il n’a toutefois présenté ni calendrier ni architecture institutionnelle précise pour mettre en œuvre ce dispositif.

Les risques cyber et biologiques au cœur des inquiétudes

Le dirigeant sud-africain ne plaide pas pour interrompre le développement de l’IA. Son approche consiste plutôt à augmenter le niveau de surveillance lorsque les systèmes deviennent plus performants.

Il a notamment cité les risques liés aux cyberopérations avancées, à l’assistance au développement d’armes biologiques, aux actions autonomes, à la manipulation, à la surveillance de masse et aux perturbations du marché du travail. Certains développeurs d’IA ont eux-mêmes alerté sur la possibilité que des systèmes futurs deviennent difficiles à contrôler.

Ramaphosa a ainsi apporté son soutien à certaines propositions de Dario Amodei, directeur général d’Anthropic. Celui-ci défend notamment des évaluations externes et davantage de coordination entre les laboratoires développant les modèles les plus avancés. Le président sud-africain compare cette surveillance à celle déjà imposée dans des secteurs sensibles comme l’aviation, le nucléaire, la pharmacie ou la finance.

Les BRICS n’ont pas encore adopté le mécanisme proposé par Ramaphosa

Une nuance est essentielle. L’appel de Pretoria constitue pour l’instant une proposition sud-africaine et non la création effective d’un nouvel organisme international.

La déclaration finale du sommet de New Delhi reconnaît les possibilités économiques offertes par l’intelligence artificielle, mais aussi la nécessité d’en réduire les risques. Les BRICS appellent à renforcer la coopération internationale pour rendre les ressources d’IA plus accessibles, sûres, fiables et inclusives, particulièrement pour les pays du Sud global.

Le texte ne reprend cependant pas explicitement la proposition sud-africaine de créer le mécanisme international d’évaluation scientifique présenté par Ramaphosa. Les dirigeants réaffirment plutôt leur engagement à mettre en œuvre leur déclaration de 2025 sur la gouvernance mondiale de l’IA.

Pretoria devra donc convaincre ses partenaires de transformer son idée en dispositif concret. La tâche s’annonce complexe. Les BRICS réunissent des pays dont les stratégies technologiques et les cadres réglementaires diffèrent fortement, notamment la Chine, l’Inde, le Brésil, la Russie et l’Afrique du Sud.

L’Afrique du Sud veut aussi réduire la dépendance technologique du Sud

Pretoria associe la sécurité de l’IA à une autre priorité : permettre aux économies en développement de disposer de leurs propres capacités technologiques. Ramaphosa demande ainsi que les nouveaux garde-fous s’accompagnent d’investissements dans une « capacité souveraine en IA » pour les pays en développement.

Cette position dépasse le sommet des BRICS. Quelques jours auparavant, l’Union africaine avait réuni à Genève des ambassadeurs et représentants africains afin de mieux coordonner la participation du continent aux négociations internationales sur le numérique et la gouvernance de l’intelligence artificielle.

Le ministre sud-africain des Sciences, Blade Nzimande, défend parallèlement une stratégie dans laquelle les pays du Sud global ne seraient plus seulement utilisateurs des technologies conçues ailleurs. Lors du Pujiang Innovation Forum à Shanghai, il a appelé ces États à devenir également « producteurs et propriétaires » des technologies émergentes.

La proposition de Ramaphosa porte ainsi deux ambitions. Pretoria veut renforcer la surveillance des systèmes d’IA les plus puissants, mais aussi éviter que les futures règles mondiales soient définies exclusivement par les grandes puissances technologiques et leurs entreprises. Reste désormais à savoir si les autres membres des BRICS accepteront de transformer cette idée en véritable mécanisme international.