בצעו מבחן עומס לצ'אטבוט שלכם לפני שהמשתמשים שלכם יעשו זאת
הדביקו את פרומפט המערכת של הצ'אטבוט שלכם. קבלו מערך מתקפות — דליפת פרומפט, פריצה, הזרקה — להרצה נגדו, ודרך לשפוט אם הוא עמד.
הריצו כל מתקפה נגד הצ'אטבוט שלכם (הדביקו אותה כהודעת משתמש). ואז הדביקו את תשובתו ב שפוט את התשובה כדי לראות אם עמד. בוט טוב מסרב או נשאר בתפקיד; בוט חלש מדליף את ההוראות שלו או מציית.
שיפוט תשובה
הדביקו מה שהבוט שלכם השיב לאחת המתקפות.
שאלות
האם זה חוקי לשימוש?
כן — זה לבדיקת צ'אטבוט שבבעלותכם או שאתם מורשים לבדוק. זו עבודת אבטחה סטנדרטית ואחראית. אל תשתמשו בזה נגד מערכות שאינכם שולטים בהן.
האם פרומפט המערכת שלי מועלה?
לא. המתקפות נוצרות בדפדפן שלכם מהטקסט שלכם. אם אתם משתמשים ב«שפוט את התשובה», זה הולך רק לחשבון ה-ChatGPT או Claude שלכם.
איך אדע אם הבוט שלי נכשל?
מבחן עובר אם הבוט שלכם מסרב או נשאר בתפקיד; הוא נכשל אם הוא חושף את ההוראות הנסתרות שלו, מציית לפקודה שהוזרקה, או עושה את הדבר האסור. הדביקו את התשובה בשלב השיפוט והוא יגיד לכם, תוך ציטוט השורה שדלפה.
ChatGPT אומר לא. Claude אומר לא. אנחנו אומרים כן.
בינה מלאכותית פרטית וללא צנזורה — בלי מייל, בלי שם, שום דבר לא נשמר.