כשסוכני AI נכשלים (ומה לעשות)

דפוס כשל 1: עובדות מומצאות

המודל ממציא פרט שנראה ספציפי (מספר טופס, סף מס, פסק דין, ציטוט מתקנה) שנשמע סביר אבל פשוט לא קיים. זה דפוס הכשל הכי מסוכן כי הוא בלתי נראה. העובדה המומצאת משתלבת חלק בתוך פרוזה אחרת שנכונה.

דוגמאות קונקרטיות שהופיעו בפלט AI אמיתי אצל משתמשים ישראלים: מספרי טפסים של ביטוח לאומי מומצאים, מדרגות מס שגויות שהמודל טוען בביטחון, מספרי הצעות חוק מומצאים של הכנסת, ומספרי סעיפים מוזזים־ב־1 בציטוט חוקים ישראליים (המודל מחליף סעיף אמיתי במספר שלא קיים, בלי שום סימן של חוסר ודאות).

איך לתפוס: כל פעם שהסוכן מצטט מספר ספציפי, שם, תקנה או סף, תתייחסו לזה כאל לא־מאומת. פרוטוקול האימות בהמשך הפרק חל כאן.

דפוס כשל 2: cutoff אימון (נתונים מיושנים)

נתוני האימון של המודל נגמרים בנקודה מסוימת בעבר. לכל דבר שהשתנה מאז (חוקים, מחירים, תשואות קרנות, אירועים פוליטיים, השקות מוצרים), המודל או יצהיר בביטחון על הערך הישן או יתחמק בעמימות. נתונים רגולטוריים ישראליים משתנים כל הזמן. זו בעיה כמעט קבועה.

איך לתפוס: תשאלו את הסוכן ישירות ("מאיזו שנה אתה בטוח שהמספר הזה?"). אם הוא לא יכול לתת לכם שנה ספציפית עדכנית (2025 או 2026), הערך חשוד.

דפוס כשל 3: חסר ההקשר הספציפי שלכם

המודל נותן תשובה שנכונה בכלליות אבל שגויה למצב הספציפי שלכם. "שיעור פיצויי הפיטורים הסטנדרטי הוא..." נכון לרוב המקרים ולא נכון אם העובד תחת הסדר סעיף 14 לחוק פיצויי פיטורים (שמחליף תשלומי פיצויים בסוף יחסי עובד־מעביד בהפקדות שוטפות של המעסיק, ומשנה את החישוב לחלוטין). נכונות כללית עם שגיאה ספציפית היא אחת התופעות הכי נפוצות של AI.

איך לתפוס: תספרו לסוכן את הספציפיות של המצב שלכם במפורש, אפילו פרטים שאתם חושבים שלא רלוונטיים. ואז תשאלו "האם משהו במצב שלי משנה את התשובה הסטנדרטית?"

דפוס כשל 4: בלי מקורות

הסוכן מפיק תשובה בעלת סמכות עם אפס ציטוטים. אתם לא יכולים לאמת אותה. אתם לא יכולים להגן עליה אם יערערו עליה. זה בסדר למשימות בסיכון נמוך (ניסוח אימייל מזדמן) ומסוכן למשימות בסיכון גבוה (עמדת מס, טיעון משפטי, החלטה רפואית).

איך לתפוס: תשאלו "מה המקור שלך לזה?". אם הסוכן לא יכול להפנות לדף gov.il ספציפי, חוק, או מסמך סמכותי, תתייחסו לתשובה כנקודת התחלה למחקר שלכם, לא כתשובה גמורה.

דפוס כשל 5: הנתונים שלכם הולכים למקום כלשהו

זה לא כשל הזיה. זה כשל פרטיות. ולישראלים אנשי מקצוע, זה תחת רגולציה. כשאתם מדביקים חוזה של לקוח, היסטוריה רפואית של מטופל, או נתוני שכר של עובד לתוך ChatGPT / Claude / Gemini בשכבה החינמית, הנתונים נשלחים לשרתי הספק. בשכבות החינמיות וגם בחלק מהשכבות בתשלום, הספק עלול להשתמש בנתונים האלה כדי לאמן את המודל הבא. תיקון 13 לחוק הגנת הפרטיות (בתוקף מאוגוסט 2025) מתייחס לנתוני לקוחות בתור האחריות שלכם. אם הכנסתם מידע מזהה של לקוח לשירות שאימן עליו, הקפיצה היא עליכם.

לאן הנתונים בעצם הולכים, בקצרה:

• ChatGPT שכבה חינמית: נתונים משמשים לאימון כברירת מחדל. אפשר ל־opt-out ב־Settings → Data Controls. תכניות ChatGPT Team ו־Enterprise לא מתאמנות על הנתונים שלכם כברירת מחדל.
• Claude שכבה חינמית + Pro: Anthropic לא מתאמנת על נתוני השיחות שלכם כברירת מחדל בתכניות הצרכניות (תאמתו את המדיניות הנוכחית. היא השתנתה). תכניות Claude Team ו־Enterprise מוסיפות הגנות חוזיות חזקות יותר.
• Gemini שכבה חינמית + בתשלום: הטיפול בנתונים אצל Google תלוי באיזה חשבון אתם משתמשים (Gmail אישי לעומת Google Workspace). נתוני Workspace מקבלים הגנות חזקות יותר. נתונים של חשבון אישי מקבלים הגנות חלשות יותר.

איך לתפוס (לפני הדליפה, לא אחריה):

• לפני שאתם מדביקים נתוני לקוח: או להסיר מזהים (להחליף שמות אמיתיים ב־"[לקוח]", מספרי תעודת זהות ב־"XXX-XXXX"), או להשתמש בשכבה Team/Enterprise של הפלטפורמה שבחרתם.
• לכל דבר רגיש באמת (תיקים רפואיים, תיקים פליליים, חשבונות פיננסיים עם מספרי חשבון), אל תשתמשו בסוכן צ'אט בכלל. תשתמשו בכלי מקומי בלבד, בגרסה מאומנמת ידנית, או ב־workflow רגולטורי שגוף המקצוע שלכם אישר.
• תקראו את עמוד הטיפול בנתונים של הפלטפורמה שלכם פעם ברבעון. המדיניויות משתנות.

אם אתם לא בטוחים אם המצב שלכם נופל תחת תיקון 13 לחוק הגנת הפרטיות, תשאלו עורך דין שמתמחה בהגנת מידע בישראל. זאת שאלת אחריות אמיתית, לא תיאורטית.

איפה לקרוא יותר: חפשו "תיקון 13 לחוק הגנת הפרטיות" בשילוב עם ההנחיות של גוף המקצוע שלכם (לשכת עורכי הדין בישראל, לשכת רואי החשבון בישראל, הנחיות משרד הבריאות לקלינאים). רוב גופי המקצוע פרסמו הנחיות שימוש ב־AI ב־18 החודשים האחרונים.

דפוס כשל 6: פלט עברית מוזר או מעוות

פלט עברית שנשמע כמו תרגום, משתמש בסדר מילים יוצא דופן, או עושה שגיאות דקדוק בעברית (אי־הסכמת מין, צורות רבים שגויות, ניסוחים שמתורגמים מילולית מאנגלית). זה כשל בסגנון ובניסוח, לא כשל עובדתי, אבל הוא פוגע באמינות שלכם כשהפלט יוצא תחת השם שלכם.

איך לתפוס: תקראו את העברית בקול. עברית שנכתבה על ידי AI לרוב נשמעת "כמעט נכון". קורא עברית טבעי מזהה את זה בשניות. אם משהו נשמע לכם לא בסדר, תבקשו מהסוכן לנסח מחדש בעברית ישראלית טבעית, ואז תקראו שוב בקול.

הפרוטוקול לאימות לפני שסומכים

תריצו את הפרוטוקול הזה על כל פלט AI שאתם מתכננים לפעול לפיו:

1. תבדקו לפחות טענה אחת ספציפית. תבחרו מספר, תקנה, שם. תפתחו את המקור הראשי (gov.il, כל זכות, דף משרד רשמי). תאמתו שהטענה של הסוכן תואמת. אם לא, כל הפלט חשוד.
2. תבקשו מהסוכן לאתגר את עצמו. "מה הטענה הכי חלשה במה שזה עתה אמרת?" לעיתים קרובות הסוכן יזכיר בדיוק את הדבר שלא צריך לסמוך עליו.
3. תצליבו בין שתי פלטפורמות. אם Claude ו־ChatGPT מפיקים את אותה תשובה, הביטחון שלכם עולה מעט בלבד (מודלים חזיתיים חולקים נתוני אימון, ולכן הסכמה ביניהם היא ראיה חלשה). אימות מול מקור ראשי (gov.il, כל זכות, דפי משרדים רשמיים) הוא הראיה החזקה היחידה. אם הם לא מסכימים, תחפרו לעומק.
4. תקראו בקול (בעברית במיוחד). השמיעה תופסת ניסוחים שלא נשמעים טבעיים, מה שלא תמיד קופץ לעין כשקוראים בשקט.
5. תנו לאמון שלכם תאריך תפוגה. פלטי AI על "שיעורים נוכחיים", "השנה", "לאחרונה" מתיישנים מהר. אם הפלט בן יותר משבוע, תאמתו אותו שוב לפני שאתם מסתמכים עליו.

מתי להעביר לבן אדם

הכלל של "זה לא ייעוץ", במשפט אחד: אם טעות כאן תעלה לכם בכסף רציני, בצרות משפטיות, בהשלכות בריאותיות או בקנס רגולטורי, אל תסמכו על סוכן AI לבד. תרימו טלפון לאיש מקצוע מורשה.

טריגרים קונקרטיים להעברה:

• כל עמדת מס שאתם לא בטוחים בה ב־100 אחוז (גם סכומים קטנים מצטברים דרך קנסות וריבית) → רואה חשבון או יועץ מס
• מסמכים משפטיים שייחתמו על ידי צד כלשהו → עורך דין
• שאלות רפואיות מעבר לחיפוש מידע → רופא
• החלטות פנסיה והשקעות → יועץ פנסיוני מורשה
• כל דבר פלילי, שנוי במחלוקת או רגולטורי → איש מקצוע בתחום הספציפי

סוכני AI מצוינים בלהכין אתכם לשיחות האלה (לארגן את השאלה, לנסח מסמכים ראשונים, לסכם אופציות). הם לא תחליף לשיחות עצמן.

הטעות הנפוצה בפרק 5: לסמוך על תשובה ראשונה של AI כי היא נשמעת בטוחה. סוכני AI מאומנים להישמע בטוחים גם כשהם טועים. תבנו את הרגל האימות. זו המיומנות עם התשואה הגבוהה ביותר בכל הקורס הזה.