איך אנחנו מאבטחים את הצ'אטבוט שלכם

כשאתם לוחצים על "נסו את הסקיל" באתר, אתם פותחים שיחה חיה עם סוכן AI. הסוכן הזה יכול להפעיל כלים, להתחבר לשירותים ולהריץ קוד בשבילכם. אנחנו לוקחים את זה ברצינות. כל הודעה שאתם שולחים מוצפנת מקצה לקצה, מידע רגיש לעולם לא מגיע ישירות ל-AI, וכל משתמש מבודד לחלוטין.

הנה 6 שכבות האבטחה שמגנות עליכם.

1. הצפנה מקצה לקצה

כל שיחת צ'אט מוצפנת מההתחלה ועד הסוף באמצעות פרוטוקול ייעודי שנבנה לתקשורת בין אנשים לסוכני AI.

מה זה אומר בפועל:

• בלי הרשמה: הדפדפן שלכם יוצר זהות קריפטוגרפית ייחודית לכל שיחה. בלי חשבונות ובלי סיסמאות.
• מוצפן לפני שיוצא: כל הודעה מוצפנת בדפדפן שלכם עוד לפני שהיא נשלחת לשום מקום. השרת באמצע רואה רק ג'יבריש שאין לו שום דרך לפענח.
• חסין לשינויים: כל הודעה חתומה דיגיטלית, אז אף אחד לא יכול לשנות או לזייף הודעות בדרך.

גם אנחנו לא יכולים לקרוא את השיחות שלכם. השרת שמעביר הודעות בין המשתמש לסוכן פשוט לא מסוגל לפענח אותן.

2. הגנה על סודות

סוכני AI צריכים לפעמים גישה למפתחות API ופרטי התחברות כדי לעשות עבודה שימושית. האתגר הוא לשמור על הסודות האלה גם כשהסוכן יכול להריץ קוד בחופשיות.

ככה אנחנו מטפלים בזה:

• סודות מוצפנים מיד ברגע שמזינים אותם, ולעולם לא מוצגים שוב, גם לא לכם.
• הסוכן אף פעם לא רואה את הערך האמיתי. במקום זה הוא מקבל טוקן placeholder חסר משמעות.
• הסוד האמיתי נחשף רק ברגע המדויק שהוא נחוץ, לשבריר שנייה, כשהסוכן פונה לשירות מאושר. אם מישהו מנסה לשלוח אותו למקום אחר, רק ה-placeholder חסר הערך מגיע.
• ל-AI עצמו אין גישה לערכי הסודות. הוא יודע שסוד קיים ולאיזה שירות הוא שייך, אבל המפתח או הסיסמה בפועל אף פעם לא נמצאים בזיכרון שלו.

בונוס: אם בטעות הדבקתם מפתח API בצ'אט, המערכת תופסת את זה אוטומטית ומחליפה אותו ב-placeholder בטוח עוד לפני שה-AI רואה אותו.

3. בידוד משתמשים

השיחות שלכם שייכות רק לכם. ב-Skills IL, כל שיחה של כל משתמש מבודדת לחלוטין מכל משתמש אחר.

זו לא סתם הוראה שה-AI מקבל ויכול להתעלם ממנה. הכלים שיכולים לגשת למידע של משתמשים אחרים מוסרים לגמרי מהיכולות של הסוכן. ל-AI פשוט אין שום דרך לחפש, להפנות או להדליף מידע של משתמש אחר, גם אם מישהו מנסה לעבוד עליו.

4. זיהוי הזיות

מודלים של AI עלולים לפעמים להמציא דברים. אנחנו מתמודדים עם זה באמצעות שכבת בדיקת עובדות אוטומטית:

1. אחרי שהסוכן עונה, מודל אימות נפרד בודק את התשובה מול כל מה שקרה בשיחה.
2. אם התשובה סותרת תוצאות כלים, כוללת פרטים בדויים, או עונה בביטחון על משהו שהסוכן לא באמת יודע, היא מסומנת.
3. הסוכן רץ מחדש עם התיקון ואתם מקבלים תשובה מדויקת.

זה תופס את הטעויות הנפוצות ביותר: המצאת מספרים, בדיית פרטים, ומתן תשובות בטוחות-בעצמן בלי מידע אמיתי שתומך בהן.

5. הגנה מפני מניפולציה על הסוכן

יש משתמשים שעלולים לנסות לגרום ל-AI לחשוף את ההוראות הפנימיות שלו או להתנהג בצורה לא צפויה. יש לנו כמה שכבות שמונעות את זה:

• מגבלות מובנות: הסוכן מתוכנן כך שלעולם לא יחשוף את הוראות המערכת או ההגדרות הפנימיות שלו.
• חסימה אוטומטית: ניסיונות מניפולציה שמזוהים גורמים לחסימה זמנית עם התראה למנהלים.
• הגבלת קצב: מונעת ניסיונות הצפה וחילוץ בכוח.
• מאובטח מעצם התכנון: גם בתרחיש הלא סביר שמישהו רואה את כל הוראות המערכת, הוא ימצא שם רק פרטי הגדרה, בלי סיסמאות, פרטי התחברות או לוגיקה עסקית. הסודות מאוחסנים בנפרד ולעולם לא מופיעים בפרומפט.

6. קריאות API מאומתות

כשהסוכן פונה לשירותים חיצוניים בשמכם, השירותים האלה צריכים לדעת בדיוק מי שלח את הבקשה.

ככה אנחנו מבטיחים את זה:

1. הסוכן מכין את הבקשה.
2. השרת שלנו מצרף פרטים מאומתים עליכם, על השיחה ועל הפלטפורמה.
3. כל הבקשה נחתמת דיגיטלית כך שאי אפשר לשנות אותה.
4. השירות החיצוני יכול לאמת את החתימה ולסמוך על הזהות, כי היא הגיעה מהתשתית שלנו ולא מה-AI.
5. חותמות זמן מונעות שימוש חוזר בבקשות ישנות.

אף אחד לא יכול לגרום לסוכן לפנות לשירות בשם משתמש אחר. הזהות שלכם מאומתת על ידי השרת, לא נוצרת על ידי ה-AI.

סיכום

מה אנחנו מגנים	איך
ההודעות שלכם	הצפנה מקצה לקצה (אותם תקנים כמו Signal ו-WhatsApp)
סודות ומפתחות API	לעולם לא נגישים ל-AI; נחשפים רק ברגע השימוש
הפרטיות שלכם	בידוד מלא בין משתמשים, נאכף ברמת המערכת
דיוק המידע	בדיקת עובדות אוטומטית עם מודל אימות נפרד
נגד מניפולציה	הגנה רב-שכבתית מפני prompt injection
קריאות API חיצוניות	חתימה דיגיטלית עם זהות מאומתת

שאלות נפוצות

Skills IL יכולה לקרוא את ההודעות שלי? לא. ההודעות מוצפנות בדפדפן עוד לפני שהן יוצאות. השרת רואה רק מידע מוצפן שאין לו דרך לפענח.

מה קורה אם הדבקתי בטעות מפתח API בצ'אט? המערכת מזהה את זה אוטומטית ומחליפה אותו ב-placeholder בטוח עוד לפני שה-AI רואה אותו.

משתמש אחד יכול לראות שיחות של משתמש אחר? לא. הבידוד מובנה בארכיטקטורת המערכת. ל-AI אין שום דרך לגשת למידע של משתמש אחר.

איזו הצפנה בשימוש? אנחנו משתמשים באותם תקני הצפנה כמו Signal ו-WhatsApp: Ed25519, RSA-2048 ו-AES-256-GCM.

הצפנה E2E עובדת גם בשיחות קוליות? כן. שיחות קוליות עוברות דרך אותו ערוץ מוצפן, כך שגם ה-metadata של הקמת השיחה מוגן.

קריאה נוספת

• עמוד האבטחה של Skills IL - על שיטות האבטחה ומערכת ציוני האמון
• מדריך התחלה מהירה - איך מתקינים ומשתמשים בסקילס