Les dangers de l’intelligence artificielle ne viennent pas uniquement de ses capacités, mais surtout de son utilisation sans précaution, estime Meredith Whittaker, présidente de Signal. Dans un entretien accordé à la BBC le 17 octobre 2026, la dirigeante alerte sur les conséquences potentiellement dramatiques des erreurs de l’IA, notamment dans les décisions militaires.
Pourquoi Meredith Whittaker dénonce-t-elle les risques de l’IA ?
Pour Meredith Whittaker, le débat sur les dangers de l’intelligence artificielle se concentre trop souvent sur des scénarios catastrophes dans lesquels les machines prendraient le contrôle de l’humanité.
La présidente de la Signal Foundation, organisation qui gère l’application de messagerie sécurisée Signal, considère que ces hypothèses détournent l’attention de problèmes beaucoup plus immédiats.
Elle critique notamment les discours alarmistes sur une intelligence artificielle devenue incontrôlable, dont certaines prédictions reposeraient, selon elle, sur des bases scientifiques insuffisantes.
Le véritable danger réside dans la confiance excessive accordée aux systèmes d’IA, particulièrement lorsque leurs réponses servent à prendre des décisions sensibles.
Les modèles génératifs peuvent produire des informations erronées avec une apparence de cohérence et de crédibilité. Ce phénomène, souvent appelé hallucination, devient particulièrement problématique dans les secteurs où une erreur peut avoir des conséquences humaines.
Whittaker insiste donc sur la responsabilité des organisations qui déploient ces technologies sans mécanismes suffisants de vérification.
Son avertissement concerne aussi bien les entreprises technologiques que les administrations publiques et les forces armées.
Comment une erreur de l’IA a failli provoquer une crise entre Washington et Pékin ?
Pour illustrer ses inquiétudes, Meredith Whittaker évoque un incident révélé par CNN en septembre 2026.
Selon cette enquête, un rapport de renseignement militaire américain, préparé avec l’aide d’une intelligence artificielle, affirmait qu’un navire chinois transportait des composants liés à un programme d’armement nucléaire.
Cette information aurait conduit les forces américaines à préparer une opération d’interception du bâtiment dans une zone maritime du Moyen-Orient.
Des avions militaires étaient déjà mobilisés lorsque les responsables américains ont approfondi leurs vérifications.
Ils auraient alors découvert que le chatbot utilisé par un analyste avait incorrectement identifié la cargaison du navire.
L’opération aurait été annulée avant toute confrontation directe avec les forces chinoises.
Les circonstances rapportées par CNN reposent sur des témoignages de sources proches du dossier. Elles ne permettent pas d’affirmer qu’une guerre était inévitable.
Pour Meredith Whittaker, cet épisode montre néanmoins les risques d’une utilisation insuffisamment contrôlée de l’intelligence artificielle dans le renseignement militaire.
L’incident soulève une question essentielle : comment empêcher qu’une information générée par une machine, mais non vérifiée, influence une décision stratégique ?
L’intelligence artificielle peut-elle aggraver les erreurs militaires ?
Les préoccupations de la dirigeante ne datent pas de cette affaire.
Dès 2017, alors qu’elle travaillait chez Google, Meredith Whittaker s’était opposée au projet Maven, une initiative associant l’entreprise technologique au département américain de la Défense.
Ce programme visait notamment à utiliser l’intelligence artificielle pour analyser des images militaires et faciliter l’identification de cibles.
Whittaker craignait qu’une automatisation accrue réduise le temps accordé à l’évaluation humaine avant une intervention.
En 2018, elle a également participé à la mobilisation de milliers d’employés de Google contre certaines pratiques de leur entreprise.
La dirigeante établit aujourd’hui un parallèle entre ces préoccupations et une frappe américaine contre une école à Minab, en Iran, en 2026.
Elle soupçonne l’utilisation de données erronées dans la préparation de cette opération.
Cependant, aucune conclusion officielle rendue publique ne permet d’établir que le logiciel de Palantir ou le projet Maven est responsable de cette frappe.
Palantir conteste toute implication démontrée de ses outils dans cette tragédie.
Quelles précautions prendre face aux dangers de l’intelligence artificielle ?
Au-delà des applications militaires, Meredith Whittaker défend une approche technologique fondée sur la protection des données personnelles et le maintien d’un contrôle humain réel.
Cette position rejoint son engagement à la tête de Signal, application connue pour son chiffrement de bout en bout.
La dirigeante s’oppose notamment aux projets qui imposeraient aux messageries de réduire la confidentialité des communications pour faciliter leur surveillance.
Elle estime que ces mesures pourraient exposer les journalistes, les militants et les personnes vulnérables à des risques supplémentaires.
Les défenseurs de la sécurité des enfants rappellent toutefois que les communications chiffrées peuvent aussi compliquer certaines enquêtes sur les abus en ligne.
Ce débat illustre les arbitrages difficiles entre sécurité publique, respect de la vie privée et responsabilité des plateformes.
Concernant l’intelligence artificielle, le message de Meredith Whittaker reste central : la sophistication d’un système ne garantit ni la fiabilité de ses réponses ni la pertinence des décisions prises à partir de celles-ci.
Son intervention relance ainsi la question de la vérification humaine, de la transparence et de la responsabilité dans les usages sensibles de l’IA.
