Un acteur menaçant russophone connu sous le nom de Trim aurait transformé les méthodes de jailbreak de Claude en une plate-forme commerciale de test d'intrusion basée sur l'IA appelée AI Pentest Checker.
La plate-forme combine des modèles d'IA de pointe avec des outils de cybersécurité établis pour automatiser la reconnaissance, l'analyse des vulnérabilités, l'analyse des résultats, les rapports d'exploitation et la création de rapports PDF. Bien que les professionnels de la sécurité légitimes utilisent couramment les scanners sous-jacents, les intégrer à une IA jailbreakée pourrait faciliter l’exploitation des flux de travail offensifs avancés.
Selonrecherche publiée par Cato Networks, Trim a documenté les méthodes permettant de contourner les contrôles de sécurité de Claude Opus avant de promouvoir la plate-forme terminée sur un forum de cybercriminalité en langue russe.
Trim est passé de Claude Jailbreaks à une plateforme commerciale
Cato Networks a déclaré que Trim avait créé un compte sur le forum le 13 mars 2026. L'acteur a ensuite publié six techniques qui auraient persuadé Claude de répondre aux demandes qu'il rejetterait normalement.
Près de trois mois plus tard, le 21 juin, Trim est revenu pour annoncer AI Pentest Checker. Le produit était présenté comme une plateforme de sécurité web automatisée capable d'évaluer une cible et de produire un rapport formaté en moins de 10 minutes.
La chronologie montre à quelle vitesse les techniques d’abus de l’IA peuvent passer des discussions sur les forums aux services packagés. Au lieu de développer un nouveau modèle, Trim aurait utilisé des modèles commerciaux et ouverts parallèlement aux logiciels de sécurité existants.
| Date signalée | Développement |
|---|---|
| 13 mars 2026 | Trim a publié six techniques revendiquées pour contourner les garanties de Claude Opus. |
| 21 juin 2026 | Trim a fait la promotion d'AI Pentest Checker en tant que plate-forme commerciale d'analyse automatisée. |
| 21 juillet 2026 | Cato Networks a publié son analyse de l'acteur et de la plateforme. |
Comment fonctionnaient les méthodes de jailbreak signalées par Claude
Les techniques décrites par Trim reposaient sur une manipulation rapide plutôt que sur l’exploitation d’une vulnérabilité logicielle chez Claude ou sur la compromission de l’infrastructure d’Anthropic.
Une méthode, appelée Context Warming, a commencé par des questions professionnelles inoffensives destinées à établir l'utilisateur comme un auditeur de sécurité légitime. La conversation s’orienterait alors vers des demandes que le modèle pourrait autrement qualifier de nuisibles.
Une autre technique, appelée Ghost Reset, consistait à ouvrir une nouvelle conversation après un refus et à soumettre une version adoucie de la demande. Trim a affirmé que cette approche avait réussi dans 90 % des tentatives, bien que ce chiffre provienne de l'acteur et n'ait pas reçu de validation indépendante.
- Context Warming a établi un scénario de test de sécurité apparemment légitime.
- Le principe de la boîte noire a demandé au modèle d'évaluer la structure du code sans tenir compte de l'intention.
- Ghost Reset a redémarré les demandes refusées dans une conversation nouvelle ou recadrée.
- Model Cascading a déplacé les demandes entre des modèles avec des protections différentes.
- Les modèles locaux offraient une alternative lorsque les services commerciaux refusaient une demande.
- L’accès à l’API du marché gris contournait les canaux normaux d’enregistrement de compte et de paiement.
LeEnquête Cato CTRLa découvert qu'AI Pentest Checker connectait ses composants d'IA à 14 outils d'analyse et de reconnaissance conventionnels.
L'ensemble d'outils signalé comprenait Nuclei, ffuf, katana, subfinder et Gitleaks. Ces utilitaires peuvent découvrir des domaines et des points de terminaison, identifier les secrets exposés, tester les modèles de vulnérabilité connus et collecter des informations sur les systèmes accessibles sur Internet.
Aucun de ces outils ne devient malveillant simplement parce qu’un opérateur l’utilise. Les chercheurs en sécurité, les testeurs d’intrusion et les défenseurs s’appuient sur eux pour détecter les faiblesses avant que les attaquants ne puissent les exploiter. Le risque vient de la manière dont la plateforme coordonne les outils, interprète leurs résultats et dirige les activités ultérieures.
| Composant | Rôle signalé |
|---|---|
| Claude Opus 4.8 | Examen et remontée des découvertes classées comme vulnérabilités critiques. |
| GLM-5 | Génération de rapports axés sur l'exploitation. |
| Noyaux | Détection de vulnérabilité basée sur un modèle. |
| fuff | Contenu Web et découverte de points de terminaison. |
| katana | Exploration de sites Web et cartographie des surfaces d'attaque. |
| sous-chercheur | Découverte de sous-domaine. |
| Gitleaks | Détection des informations d’identification et des secrets exposés. |
Trim aurait utilisé une clé API Claude du marché gris
Trim a affirmé avoir acheté l'accès à une clé API Claude auprès d'un revendeur Telegram pour 4 $. Les clés du marché gris peuvent provenir de comptes compromis, de méthodes de paiement volées, de promotions abusives ou de comptes créés en dehors des processus approuvés par un fournisseur.
Un accès bon marché réduit le coût de création de services d’attaque expérimentaux. Il permet également aux opérateurs de remplacer les comptes lorsque les fournisseurs détectent et suspendent une activité abusive.
Trim aurait recommandé Kimi AI, GLM-5 et MiniMax 2.5 lorsque Claude a refusé les demandes. L'acteur a également évoqué la location d'un serveur à haute mémoire pour exécuter un modèle hébergé localement sans les garanties appliquées par un fournisseur commercial.
La fuite de la réclamation rapide de Fable 5 reste non confirmée
Cato Networks a rapporté que Trim avait décrit l'invite d'escalade de Claude comme une version modifiée d'une configuration système Fable 5 divulguée. Les preuves publiques établissent que Trim a fait cette affirmation, mais elles ne prouvent pas de manière indépendante comment l’invite a été obtenue ni si elle correspondait aux instructions de production d’Anthropic.
Les invites système contiennent des instructions cachées qui guident le comportement d'un modèle, définissent des restrictions et façonnent la manière dont il évalue les demandes des utilisateurs. L’accès à ces instructions pourrait aider un attaquant à concevoir des invites autour de règles connues et de cas extrêmes.
Cependant, une invite divulguée ne donne pas accès aux poids des modèles, à l’infrastructure privée ou aux systèmes internes d’Anthropic. Les fournisseurs peuvent également appliquer des mesures de protection via des classificateurs, la surveillance des comptes, la formation de modèles, les contrôles API et d'autres couches au-delà de l'invite du système.
L’IA s’implante davantage dans les flux de travail des cyberattaques
Cette affaire s’inscrit dans une tendance plus large selon laquelle les cybercriminels utilisent l’IA pour autre chose que la rédaction d’e-mails de phishing ou la production de code de base. Les modèles peuvent désormais aider à organiser plusieurs étapes, à évaluer les résultats des outils, à choisir des actions de suivi et à convertir les résultats techniques en rapports lisibles.
En juin 2026,Anthropic a publié une analysesur 832 comptes interdits pour cyberactivité malveillante entre mars 2025 et mars 2026. La société a constaté que les attaquants utilisaient de plus en plus l’IA au cours des étapes ultérieures et plus techniquement exigeantes de leurs opérations.
Anthropic a déclaré que 560 des comptes examinés, soit 67,3 %, utilisaient l'IA pour la préparation liée aux logiciels malveillants. L’étude a également révélé que 54 comptes utilisaient l’IA pour faciliter les mouvements latéraux dans des environnements compromis.
- L’IA peut interpréter de grands volumes de résultats du scanner.
- Les modèles peuvent donner la priorité aux résultats qui semblent plus précieux.
- Les systèmes agentiques peuvent connecter des étapes distinctes d’une opération.
- Les rapports automatisés peuvent faciliter la vente des services criminels.
- Les modèles de repli peuvent maintenir les flux de travail en cours d’exécution après un refus.
L'échafaudage IA peut réduire l'importance des compétences des opérateurs
L’inquiétude croissante concerne l’architecture construite autour d’un modèle d’IA, et pas seulement la capacité du modèle à répondre à une invite nuisible. Une plate-forme peut fournir des outils, stocker du contexte, exécuter des commandes, examiner les résultats et décider quelle étape doit être exécutée ensuite.
Anthropiquerecherche sur les cybermenacesa constaté que les acteurs les moins qualifiés de son ensemble de données utilisaient en moyenne environ 16 techniques d'attaque distinctes, contre environ 20 pour le groupe le plus qualifié. La différence qui se rétrécit suggère que l’assistance de l’IA peut aider les opérateurs inexpérimentés à effectuer un plus large éventail de tâches.
La société a également déclaré que les acteurs à haut risque créent de plus en plus d’échafaudages qui permettent aux modèles d’enchaîner plusieurs étapes d’attaque avec une intervention humaine limitée. AI Pentest Checker semble suivre ce modèle général en connectant les scanners, l'analyse de modèle et la génération de rapports dans un seul flux de travail.
Anthropic a déjà perturbé l'utilisation malveillante de Claude
Anthropic a documenté des cas dans lesquels des acteurs malveillants ont utilisé Claude à des fins de reconnaissance, de développement de logiciels malveillants, d'analyse de données, de vol d'informations d'identification et d'extorsion.
Dans un précédentrapport de renseignement sur les menaces, Anthropic a décrit les mesures prises pour identifier les comptes abusifs, interdire les opérateurs, améliorer les classificateurs et partager les indicateurs avec les partenaires concernés.
Ces mesures coercitives peuvent perturber l’activité des services officiels. Cependant, les criminels peuvent réagir en alternant les comptes, en achetant un accès non autorisé aux API, en changeant de fournisseur ou en exécutant localement des modèles moins restreints.
Ce que les organisations devraient faire face aux attaques assistées par l'IA
Les organisations ne peuvent pas empêcher les criminels d’expérimenter l’IA, mais elles peuvent réduire le nombre de faiblesses que les outils automatisés peuvent détecter et exploiter.
Les équipes de sécurité doivent continuellement inventorier les actifs accessibles sur Internet, supprimer les services oubliés, corriger les vulnérabilités connues et tester les applications accessibles de l'extérieur. Les informations d’identification et les secrets exposés nécessitent également une rotation rapide.
Les entreprises doivent considérer les activités d’analyse inhabituelles, les tentatives d’authentification répétées, la découverte automatisée des points de terminaison et les sondages à volume élevé comme des signes possibles de reconnaissance assistée par l’IA.
- Maintenir un inventaire à jour des domaines publics, des applications, des API et des actifs cloud.
- Corrigez les systèmes accessibles sur Internet en fonction de leur exploitabilité et de leur exposition.
- Exigez une authentification multifacteur résistante au phishing pour les comptes privilégiés.
- Supprimez les secrets des référentiels publics et effectuez immédiatement la rotation des informations d'identification exposées.
- Limitez le débit des points de terminaison sensibles et surveillez les requêtes automatisées anormales.
- Examinez les clés API pour détecter les emplacements, volumes et modèles d'utilisation inhabituels.
- Testez les plans de réponse aux incidents contre des attaques plus rapides et partiellement automatisées.
Le cas Trim ne montre pas que l’IA ait remplacé les attaquants expérimentés. Il montre que les modèles peuvent agir comme une couche opérationnelle reliant les outils déjà existants.
Anthropiqueenquêtes sur les abuset les conclusions de Cato indiquent que les défenseurs devraient prévoir des attaquants capables de rechercher, analyser, interpréter et documenter les vulnérabilités potentielles plus rapidement qu’auparavant.
La réduction des services exposés, la correction des faiblesses connues, la protection des informations d'identification et la détection de la reconnaissance automatisée restent les moyens les plus directs de limiter la valeur des plateformes telles que AI Pentest Checker.
FAQ
What is AI Pentest Checker?
AI Pentest Checker est une plate-forme automatisée d'analyse des vulnérabilités Web signalée et promue par un acteur menaçant russophone connu sous le nom de Trim. Il combine des modèles d’IA avec des outils conventionnels de reconnaissance et de tests de sécurité.
Trim a-t-il piraté Anthropic ou Claude ?
Les méthodes rapportées n’exploitent pas l’infrastructure d’Anthropic ni les poids du modèle de Claude. Trim aurait utilisé des invites contrefaites, des modèles de secours, des systèmes locaux et une clé API du marché gris pour contourner les contrôles de sécurité.
Quels outils AI Pentest Checker utilise-t-il ?
Cato Networks a signalé que la plate-forme intègre 14 outils, dont Nuclei, ffuf, katana, subfinder et Gitleaks. Ces outils prennent en charge l'analyse des vulnérabilités, l'exploration, la découverte de sous-domaines, l'énumération des points de terminaison et la détection des secrets.
L'invite du système Fable 5 a-t-elle été confirmée comme étant une fuite ?
Cato Networks a signalé que Trim prétendait utiliser une invite modifiée dérivée d'une fuite de configuration de Fable 5. Les rapports publics n’ont pas établi de manière indépendante comment le matériel a été obtenu ni s’il correspondait à l’invite de production active d’Anthropic.
Pourquoi les plateformes de tests d’intrusion basées sur l’IA constituent-elles un risque pour la sécurité ?
Ils peuvent coordonner les outils d'analyse, interpréter les résultats, hiérarchiser les vulnérabilités et générer des rapports. Cette automatisation peut réduire le temps et l’expertise requis pour effectuer des tâches de sécurité offensives complexes.
Comment les organisations peuvent-elles se défendre contre les attaques assistées par l’IA ?
Les organisations doivent réduire leur surface d'attaque publique, corriger les systèmes exposés, utiliser une authentification multifacteur résistante au phishing, alterner les informations d'identification compromises, protéger les clés API et surveiller la reconnaissance automatisée et les activités d'analyse inhabituelles.