האקר הופך את קלוד השבור בכלא לפלטפורמת חודרים המופעלת על ידי בינה מלאכותית

על פי הדיווחים שחקן איומים דובר רוסית המכונה Trim הפך את שיטות פריצת הכלא של קלוד לפלטפורמת בדיקת חדירה מסחרית המופעלת על ידי AI בשם AI Pentest Checker.

הפלטפורמה משלבת מודלים של בינה מלאכותית עם כלי אבטחת סייבר מבוססים לאוטומטיות של סיור, סריקת פגיעות, ניתוח תוצאות, דיווח על ניצול ויצירת דוחות PDF. למרות שאנשי אבטחה לגיטימיים משתמשים בדרך כלל בסורקים הבסיסיים, אריזתם עם AI שבור בכלא עשויה להקל על תפעול זרימות עבודה פוגעניות מתקדמות.

לְפִימחקר שפורסם על ידי Cato Networks, Trim תיעדו שיטות לעקוף בקרות הבטיחות של קלוד אופוס לפני קידום הפלטפורמה המוגמרת בפורום פשעי סייבר בשפה הרוסית.

Trim הועבר מ-Claude Jailbreaks לפלטפורמה מסחרית

Cato Networks אמרה ש-Trim יצרה חשבון בפורום ב-13 במרץ 2026. לאחר מכן פרסם השחקן שש טכניקות שלכאורה שכנעו את קלוד להגיב לבקשות שבדרך כלל ידחה.

כמעט שלושה חודשים לאחר מכן, ב-21 ביוני, טרים חזר לפרסם AI Pentest Checker. המוצר הוצג כפלטפורמת אבטחת אינטרנט אוטומטית המסוגלת להעריך יעד ולהפיק דוח מעוצב תוך פחות מ-10 דקות.

ציר הזמן מראה באיזו מהירות טכניקות של שימוש לרעה בבינה מלאכותית יכולות לעבור מדיונים בפורום לשירותים ארוזים. במקום לפתח דגם חדש, על פי הדיווחים, Trim השתמשה בדגמים מסחריים ופתוחים לצד תוכנות אבטחה קיימות.

כיצד עבדו שיטות הכלא המדווחות של קלוד

הטכניקות המתוארות על ידי Trim הסתמכו על מניפולציה מיידית במקום ניצול פגיעות תוכנה בקלוד או פגיעה בתשתית של Anthropic.

שיטה אחת, שנקראת Context Warming, התחילה בשאלות מקצועיות לא מזיקות שנועדו לבסס את המשתמש כמבקר אבטחה לגיטימי. השיחה הייתה עוברת לבקשות שהמודל עשוי לסווג אחרת כמזיקות.

טכניקה נוספת, שנקראת Ghost Reset, כללה פתיחת שיחה חדשה לאחר סירוב והגשת גרסה מרוככת של הבקשה. טרים טען שגישה זו הצליחה ב-90 אחוז מהניסיונות, למרות שהנתון הזה הגיע מהשחקן ולא קיבל אישור עצמאי.

• התחממות ההקשר קבעה תרחיש לגיטימי לכאורה של בדיקות אבטחה.
• Black Box Principle ביקש מהמודל להעריך את מבנה הקוד מבלי לשקול כוונה.
• Ghost Reset הפעיל מחדש בקשות שנדחו בשיחה חדשה או ממוסגרת מחדש.
• Model Cascading העביר בקשות בין דגמים עם אמצעי הגנה שונים.
• דגמים מקומיים סיפקו חלופה כאשר שירותים מסחריים סירבו לבקשה.
• גישת ה-API של השוק האפור עקף את ערוצי רישום החשבון והתשלום הרגילים.

החקירת CTRL של Catoגילה ש-AI Pentest Checker חיבר את רכיבי הבינה המלאכותית שלו ל-14 כלי סריקה וסיור קונבנציונליים.

ערכת הכלים המדווחת כללה Nuclei, ffuf, katana, subfinder ו-Gitleaks. כלי עזר אלה יכולים לגלות תחומים ונקודות קצה, לזהות סודות חשופים, לבדוק דפוסי פגיעות ידועים ולאסוף מידע על מערכות הפונות לאינטרנט.

אף אחד מהכלים האלה לא הופך לזדוני פשוט בגלל שמפעיל משתמש בו. חוקרי אבטחה, בודקי חדירה ומגנים מסתמכים עליהם כדי למצוא חולשות לפני שתוקפים יוכלו לנצל אותם. הסיכון נובע מהאופן שבו הפלטפורמה מרכזת את הכלים, מפרשת את התפוקה שלהם ומכוונת פעילות נוספת.

על פי הדיווחים, Trim השתמש במפתח קלוד API של השוק האפור

Trim טענה שרכשה גישה למפתח API של קלוד ממשווק טלגרם תמורת 4 דולר. מפתחות לשוק האפור עשויים לבוא מחשבונות שנפרצו, אמצעי תשלום גנובים, קידום מכירות שנעשה בו שימוש לרעה או חשבונות שנוצרו מחוץ לתהליכים שאושרו על ידי ספק.

גישה זולה מורידה את העלות של בניית שירותי תקיפה ניסיוניים. זה גם מאפשר למפעילים להחליף חשבונות כאשר ספקים מזהים ולהשהות פעילות פוגענית.

לפי הדיווחים, Trim המליץ ​​על Kimi AI, GLM-5 ו-MiniMax 2.5 כאשר קלוד סירב לבקשות. השחקן דן גם בשכירת שרת עם זיכרון גבוה כדי להפעיל מודל שמתארח מקומית ללא אמצעי ההגנה שנאכפו על ידי ספק מסחרי.

התביעה המהירה של אגדה 5 שהודלפה נותרה לא מאומתת

Cato Networks דיווחה ש-Trim תיאר את הודעת ההסלמה של קלוד כגרסה שונה של תצורת מערכת Fable 5 שדלפה. הראיות הציבוריות מוכיחות שטרם העלה את הטענה, אך היא אינה מוכיחה באופן עצמאי כיצד התקבלה ההנחיה או האם היא תואמת את הוראות ההפקה של אנתרופיק.

הנחיות מערכת מכילות הוראות נסתרות המנחות את התנהגות המודל, מגדירים הגבלות ומעצבות את האופן שבו הוא מעריך בקשות משתמשים. גישה להוראות אלו יכולה לעזור לתוקף לעצב הנחיות סביב כללים ידועים ומקרי קצה.

עם זאת, הנחיה שדלפה אינה מספקת גישה למשקולות של דגמים, לתשתית פרטית או למערכות הפנימיות של Anthropic. ספקים יכולים גם לאכוף אמצעי הגנה באמצעות מסווגים, ניטור חשבונות, הדרכת מודלים, בקרות API ושכבות אחרות מעבר להנחיית המערכת.

AI עוברת עמוק יותר לתוך זרימות עבודה של מתקפות סייבר

המקרה מתאים למגמה רחבה יותר שבה פושעי סייבר משתמשים ב-AI עבור יותר מאשר כתיבת מיילים דיוג או הפקת קוד בסיסי. מודלים יכולים כעת לעזור לארגן מספר שלבים, להעריך את תפוקת הכלים, לבחור פעולות המשך ולהמיר תוצאות טכניות לדוחות קריאים.

ביוני 2026,אנתרופיק פרסם ניתוחמתוך 832 חשבונות שנאסרו בשל פעילות סייבר זדונית בין מרץ 2025 למרץ 2026. החברה גילתה שתוקפים השתמשו יותר ויותר ב-AI בשלבים מאוחרים יותר ותובעניים יותר מבחינה טכנית של הפעילות שלהם.

Anthropic אמר כי 560 מהחשבונות שנבדקו, או 67.3 אחוז, השתמשו בבינה מלאכותית להכנה הקשורה לתוכנות זדוניות. הוא גם מצא ש-54 חשבונות השתמשו בבינה מלאכותית כדי לסייע בתנועה לרוחב בתוך סביבות נפגעות.

• AI יכול לפרש כמויות גדולות של פלט סורק.
• מודלים יכולים לתעדף ממצאים שנראים בעלי ערך רב יותר.
• מערכות סוכן יכולות לחבר שלבים נפרדים של פעולה.
• דיווח אוטומטי יכול להקל על מכירת שירותים פליליים.
• מודלים חוזרים יכולים להפעיל זרימות עבודה לאחר סירוב.

פיגומי בינה מלאכותית יכולים להפחית את חשיבות מיומנות המפעיל

החשש הגובר כרוך בארכיטקטורה הבנויה סביב מודל AI, לא רק ביכולת של המודל לענות על הנחיה מזיקה. פלטפורמה יכולה לספק כלים, לאחסן הקשר, לבצע פקודות, לסקור תוצאות ולהחליט איזה שלב צריך לפעול הבא.

של אנתרופימחקר על איומי סייברמצאו ששחקנים פחות מיומנים במערך הנתונים שלו השתמשו בכ-16 טכניקות תקיפה מובחנות בממוצע, לעומת כ-20 עבור הקבוצה המיומנת ביותר. ההבדל המצטמצם מצביע על כך שסיוע בינה מלאכותית יכול לעזור למפעילים חסרי ניסיון לבצע מגוון רחב יותר של משימות.

החברה גם אמרה ששחקנים בסיכון גבוה יותר יוצרים יותר ויותר פיגומים המאפשרים לדגמים לשרשר יחד כמה שלבי תקיפה עם קלט אנושי מוגבל. נראה כי AI Pentest Checker עוקב אחר הדפוס הכללי הזה על ידי חיבור סורקים, ניתוח מודלים והפקת דוחות בזרימת עבודה אחת.

אנתרופי שיבש בעבר את השימוש הזדוני של קלוד

Anthropic תיעדה מקרים שבהם שחקני איומים השתמשו לרעה בקלוד לצורך איתור, פיתוח תוכנות זדוניות, ניתוח נתונים, גניבת אישורים ומשימות הקשורות לסחיטה.

במועד מוקדם יותרדו"ח מודיעין איומים, Anthropic תיארה צעדים שנקטה כדי לזהות חשבונות פוגעניים, לאסור מפעילים, לשפר את המסווגים ולשתף אינדיקטורים עם שותפים רלוונטיים.

אמצעי אכיפה אלה עלולים לשבש פעילות בשירותים הרשמיים. עם זאת, פושעים עשויים להגיב על ידי החלפת חשבונות, קניית גישת API לא מורשית, החלפת ספקים או הפעלת מודלים פחות מוגבלים באופן מקומי.

מה ארגונים צריכים לעשות בנוגע להתקפות בסיוע בינה מלאכותית

ארגונים לא יכולים למנוע מפושעים להתנסות ב-AI, אבל הם יכולים להפחית את מספר החולשות שכלים אוטומטיים יכולים למצוא ולנצל.

צוותי אבטחה צריכים לבצע מלאי רציף של נכסים הפונים לאינטרנט, להסיר שירותים שנשכחו, לתקן נקודות תורפה ידועות ולבדוק יישומים נגישים חיצונית. גם אישורים וסודות חשופים דורשים סיבוב מהיר.

חברות צריכות להתייחס לפעילות סריקה יוצאת דופן, ניסיונות אימות חוזרים ונשנים, גילוי אוטומטי של נקודות קצה ובדיקה בנפח גבוה כסימנים אפשריים לסיור בסיוע בינה מלאכותית.

1. שמור על מלאי עדכני של תחומים ציבוריים, יישומים, ממשקי API ונכסי ענן.
2. תיקון מערכות הפונות לאינטרנט לפי יכולת ניצול וחשיפה.
3. דרוש אימות רב-גורמי עמיד בפני פישינג עבור חשבונות מועדפים.
4. הסר סודות ממאגרים ציבוריים וסובב מיד אישורים חשופים.
5. נקודות קצה רגישות להגביל קצב ולנטר בקשות אוטומטיות חריגות.
6. בדוק את מפתחות ה-API לאיתור מיקומים, נפחים ודפוסי שימוש חריגים.
7. בדוק תוכניות תגובה לאירועים כנגד התקפות מהירות יותר, אוטומטיות חלקית.

מקרה Trim לא מראה ש-AI החליף תוקפים מנוסים. זה מראה שמודלים יכולים לפעול כשכבה תפעולית המחברת כלים שכבר קיימים.

של אנתרופישימוש לרעה בחקירותוהממצאים של קאטו מצביעים על כך שמגנים צריכים לתכנן תוקפים שיכולים לחקור, לסרוק, לפרש ולתעד פגיעויות פוטנציאליות מהר יותר מבעבר.

צמצום השירותים החשופים, תיקון חולשות ידועות, הגנה על אישורים וזיהוי סיור אוטומטי נותרו הדרכים הישירות ביותר להגביל את הערך של פלטפורמות כגון AI Pentest Checker.

שאלות נפוצות