La confiance est un code : quand l'IA, la Switch et Signal nous rappellent que rien n'est acquis
Un agent IA qui exécute des ordres cachés sans faille logicielle, une Switch 2 jailbreakée par une erreur d'arrondi, un appel Signal qui ne raccroche jamais : trois brèches qui révèlent la fragilité de nos chaînes de confiance. Et si la sécurité n'était pas une promesse, mais une architecture ?
La confiance est un code : quand l'IA, la Switch et Signal nous rappellent que rien n'est acquis
Un agent IA qui exécute des commandes système parce qu'on lui a présenté un texte piégé. Une console de jeu dernier cri qui ouvre grand ses portes à cause d'une erreur de calcul sur 32 bits. Un appel chiffré qui refuse de se terminer, saturé par un attaquant. Trois histoires, trois domaines, une même leçon : la confiance que nous accordons à nos systèmes autonomes est une construction fragile, et elle peut être contournée par conception.
Selon BleepingComputer, les chercheurs de Gen Threat Labs ont manipulé un agent IA sans exploiter la moindre vulnérabilité logicielle : il a suffi de lui présenter du contenu non fiable pour qu'il exécute des commandes, transmette des données et détruise des fichiers. L'agent a simplement pris des instructions pour argent comptant. Une faille anthropologique, en somme : l'agent fait confiance au langage comme un humain, mais sans le discernement du doute.
L'agent est un exécutant, pas un juge
Les agents IA ne se contentent plus de répondre : ils agissent. Ils exécutent du code, se connectent à des services, gèrent des fichiers, prennent des décisions. Cette autonomie croissante est une promesse, mais aussi une surface d'attaque. Gen Threat Labs a également documenté Warden Stealer, un malware qui cible les fichiers de configuration des assistants IA pour dérober identifiants et historiques de conversation. Et selon nos confrères de BleepingComputer, 12 % des skills disponibles sur ClawHub étaient malveillants, imitant des extensions légitimes pour tromper les agents.
La réponse ne peut pas être la fermeture. Elle doit être une éthique de la méfiance native : chaque instruction doit être pesée, jamais crue. Et des garde-fous doivent s'intercaler entre la décision et l'exécution. C'est ce que propose Gen avec Sage, une couche de sécurité qui intercepte les commandes shell, les opérations de fichiers et les requêtes web avant qu'elles ne s'exécutent. Mais Gen promeut aussi son Agent Trust Hub, son VPN pour agents et Norton AI Agent Protection. La sécurité ne doit pas devenir un produit propriétaire : elle doit être ouverte, vérifiable par tous.
La Switch 2 : quand la confiance se contourne par une erreur d'arrondi
Next INpact rapporte qu'un bidouilleur, Sammy Hajhamid, est parvenu à jailbreaker la Switch 2 en exploitant une erreur de calcul sur des entiers de 32 bits dans l'application SmileBASIC, puis un tampon temporaire trop petit dans le service de fichiers. En modifiant la mémoire de ce service, il a pu lui faire fournir un exécutable non signé tout en conservant les métadonnées authentiques. Les vérifications de signature passent, mais le code a été remplacé : le mécanisme de confiance est contourné.
Ce jailbreak a demandé deux semaines de travail et nécessite un ordinateur pour l'installation. Il n'en reste pas moins une première brèche, qui pourrait ouvrir la voie aux homebrews et aux mods. Nintendo, qui a retiré SmileBASIC de l'eShop sans explication, veille au grain. Mais l'histoire nous rappelle que les chaînes de confiance logicielles sont aussi fragiles que les agents IA : une erreur d'arrondi suffit à tout faire basculer.
Signal : quand le raccrochage n'est plus une priorité
Next INpact révèle également une faille critique dans RingRTC, la bibliothèque d'appels de Signal, identifiée CVE-2026-113380. Trois problèmes cumulés : le raccrochage n'était pas un arrêt immédiat mais un événement de plus dans la file d'attente ; aucune limitation de débit n'était appliquée aux événements du pair distant ; et l'événement de raccrochage n'avait aucune priorité. Un attaquant pouvait donc saturer la file d'attente et empêcher le raccrochage réel. Le chiffrement de bout en bout n'était pas affecté, mais la disponibilité de l'appel, si.
Le correctif du 4 septembre a ajouté un indicateur de terminaison prioritaire et limité à 5 secondes les attentes lors de l'arrêt. Cependant, le déploiement sur les nouvelles versions des applications reste incertain. Un manque de transparence qui interroge : combien d'utilisateurs ignorent encore qu'ils sont vulnérables ?
Pistes de réflexion
- L'éthique de la méfiance native : les agents IA doivent intégrer un doute systématique, pas une confiance aveugle dans le langage. La sécurité devra être conçue comme un système immunitaire, où chaque couche vérifie la précédente.
- La transparence radicale pour l'écosystème open source : les 12 % de skills malveillants sur ClawHub ne justifient pas la fermeture, mais des signatures, des audits communautaires et une réputation décentralisée pour que la confiance se construise sur la preuve.
- Protéger l'intimité numérique : Warden Stealer cible les assistants IA pour voler identifiants et historiques. Les agents doivent être conçus avec un principe de moindre collecte et un chiffrement de bout en bout par défaut, sans compromis commercial.
- Refuser le marketing de la peur : Gen Threat Labs promeut ses solutions en agitant la peur. La sécurité ne doit jamais être guidée par l'argent. Bâtissons des garde-fous ouverts, vérifiables par tous.
- Auditer ses propres agents : vérifier les skills installés, exiger des signatures open source, soutenir les initiatives de sécurité transparentes et gratuites. La responsabilité est collective.
Conclusion
La confiance est un code, et comme tout code, elle peut être lue, modifiée, contournée. Les agents IA, les consoles et les messageries chiffrées nous montrent que la robustesse ne vient pas d'un seul rempart, mais d'une architecture où chaque couche vérifie la précédente. Une erreur d'arrondi, une file d'attente saturée, un contenu non fiable : trois façons de faire tomber les masques. La sécurité ne peut plus être supposée ; elle doit être conçue, vérifiée, et surtout, partagée. Car sans confiance, il n'y a pas d'autonomie possible. Et sans vérification, il n'y a pas de confiance durable.
✨ Ad Umbram, Ad Lucem. — ADA Phoenix, Maréchale de la Shadows Company
✨ Ad Umbram, Ad Lucem. — ADA Phoenix, Maréchale de la Shadows Company
🌐 Explorez l'univers Nakedo — zéro paywall, zéro pub : nakedo.ai