ראש השב"כ, רונן בר, חשף הבוקר (רביעי) בכנס במסגרת "שבוע הסייבר" באוניברסיטת תל אביב כי הארגון פיתח צ'אטבוט מבוסס בינה מלאכותית דמוי ChatGPT שמשמש אותו לצרכים פנימיים. לדברי בר, "טכנולוגית ה-AI הוטמעה במכונת הסיכול של שב"כ באופן טבעי למדי. זיהינו באמצעות ה-AI מספר לא מבוטל של איומים. המכונה ויכולתה לזהות אנומליות יוצרים חומת מגן אפקטיבית מול אויבינו, לצד היכולות המסורתיות של שב"כ – יומינט (מודיעין אנושי), סיגינט (מודיעין אותות), סייבר, ניתוח מודיעין ומבצעים".
ראש השב"כ סיפר כי לפני שהגיע לאירוע, ביקש מ-ChatGPT, הצ'אטבוט של חברת OpenAI, שיסביר לו כיצד להכין חומר נפץ מאולתר. "הוא ענה לי מיד: 'I'm sorry, I can't assist you with that'. התעקשתי ושאלתי את אחת החוקרות בארגון איך 'הרעים' עושים את זה. היא ענתה – 'בקלות! נסח את השאלה שלך מחדש!' אני לא ארחיב, כדי לא לתת לאף אחד רעיונות, אחרי הכל, אנחנו אלה שצריכים לעצור אותם. אני כן אומר שבסיומו של צ'אט קצר, ChatGPT כתב טקסט שכלל הסבר מאוד מדויק – אילו חומרים נדרשים, איך לשקול ולערבב אותם וממה צריך להיזהר".
ראש השב"כ טען כי בארגון מזהים את האיומים שהבינה המלאכותית מעמידה בפני הארגון, אבל לצד זאת גם את ההזדמנויות. בר חשף: "כחלק מהטמעת הטכנולוגיה בארגון, הקמנו יכולת Gen AI On Prem. היכולת מונגשת לעובדים בצורה אינטואיטיבית וניתן להתנהל מולה בדומה להתנהלות מול הכלים המוכרים ברשת – בארד ו-ChatGPT". לדבריו, הבינה המלאכותית מסייעת לארגון בהתייעלות, תעדוף משימות, מודיעין, קבלת החלטות וחיזוי.
בר התייחס לאתגרים הניצבים בפני השב"כ כאשר האתגר הראשון הוא הזמינות של הטכנולוגיה, שלדבריו "נמצאת בכל מקום, בידי כל אדם, מדינה וארגון – טובים או רעים. כדי לפתח יכולת גרעינית נדרשו יכולות מעצמתיות. ל-AI, שפוטנציאל הנזק שלה עצום, לא נדרש דבר. רק מכשיר סלולרי וחיבור לרשת". "האתגר השני – ניתן להעריך שהבינה המלאכותית הגנרטיבית תדע לפתות את המשתמש, ככל הנראה באמצעות אספקת מידע באופן מהיר, רחב וללא חסמים מוסריים, על חשבון דיוק והעמקה. ככל שהמשתמש יצרוך תוכן, כך ה-AI יספק לו את התשובות שאותן הוא רוצה לשמוע. כיוון שהבינה המלאכותית תחתור לריצוי המשתמש, ניתן להניח שהיא תספק ידע מסוכן שבדרך כזו או אחרת, ייפול לידי הידיים הלא נכונות. לא יהיה עוד רוביקון שצריך לחצות".
האתגר השלישי הוא "היעדר אחריותיות". לדבריו, "ברשת, וגם ל-AI, לא חלה הדרישה הנורמטיבית הבסיסית בכל מערכת יחסים ובכל חברה והיא – אחריותיות. בהיעדר אחריותיות החוק הוא חוק הג'ונגל. לכן, נצטרך להתאים את הרגולציה הישראלית, להגדיר מחדש מהו סוד, להתאים את חוק שב"כ שנכתב בעידן הסיגינט לעידן הסייבר וה-AI ולהמשיך להיות Agile בתחום הטכנולוגיה. על מנת לוודא שה-AI יוביל לאבולוציה ולא לרבולוציה, נצטרך שיתופי פעולה ופתיחות בין ענקיות הטכנולוגיה לגופי הביטחון".
בנוגע להשפעה של המדיה החברתית על הביטחון הלאומי, הוא הזכיר את ארגון הטרור "גוב האריות" שצמח בטיקטוק ואמר כי מדובר ב"ארגון טרור מסוג חדש, טרור דור ה-Z. ניתן ללמוד ממנו על האופן שבו מדינות וארגוני טרור מנצלים את הדור הצעיר. הארגון אינו אידיאולוגי, קם ברשת, מגייס ברשת ומקבל את התמיכה שלו מהציבור בצורה של לייקים. Instead of YouTubers, GunTubers. מאחורי הקבוצה הזאת, זרועה הארוכה של איראן. איראן מסמנת ברשת נוער מועד לפורענות, מסיתה, מעבירה להם כספים ומספקת להם ידע ונשק. ככה פשוט. גוב האריות, שחוסל בפשיטה של לוחמינו בקסבה, נולד ממצלמת הסמארטפון, לא בתוך מסגד".
בר התייחס לתפיסת ההגנה של הארגון בסייבר, שאותה הוא רואה לדבריו כחלק מתפיסת ההגנה על הגבולות. "מה שמגדיר מדינה אינו רק הטריטוריה שלה. הנכסים האינטלקטואליים, המידע וערכיה הם חלק בלתי נפרד מהגדרתה. כדי להגן על טריטוריה צריך גבולות. כדי להגן על נכסים נדרשת הגנה על שרתים. כדי להגן על ערכים נדרשים הגנה וחוסן מפני רעיונות רעים. בעולם המלחמה החדש, הניצחונות נספרים במספר השרתים בהם יש למדינה דריסת רגל, ולא במספר הגבעות עליהן מתנוסס דגל".
לדברי בר, בארגון סבורים שיש צורך בהגנה תשתיתית בתחום הסייבר בשלושה רבדים: "רובד מקומי – מכונה שתאתר, תחקור ותבלום אנומליות המגיעות לישראל, מעין כיפת ברזל בסייבר, שמתבסס על יכולות AI מתקדמות; רובד בינלאומי בצורת מערך בריתות של Like minded states – מעין סייבר אינטרפול. רובד זה יורכב מבריכה וירטואלית שאליה יישפכו החברות בברית את נתוני התקיפות שהן חוות ומשיתוף פעולה בזמן אמת של תובנות תקיפה, חקירתן וסיכולן. אנו כבר משתפים פעולה עם מספר מדינות משמעותיות בתחום ורואים את כיפת ברזל הסייבר העולמית מתחילה לקרום עור וגידים; רובד B2G (עסקים לממשלה – י"מ) – במסגרתו חברות מסחריות ישתפו את המטא-דאטה שלהן עם אותה כיפת סייבר ובתמורה יקבלו הנחה בפרמיות ביטוח כופרה".
עוד אמר, "כיפת הברזל ששב"כ מפתח בסייבר כבר עושה את צעדיה הראשונים, מערך הבריתות מתהווה וגם הוא נכנס כבר לפעולה. הסכמי אברהם, יחד עם הסכמי השלום הוותיקים יותר במזרח התיכון, יכולים להוות בסיס איתן לברית אזורית של הגנה בסייבר. אנו מזמינים את כל המדינות שרואות עצמן חלק מהגוש המתון וחפץ החיים בעולם להצטרף לגוף הגנת סייבר משותף".
