מקום ליד השולחן: האם ה-ChatGPT יכול "לשבור את הקונספציה"?

תאריך: 01/05/2023
מאת: תא"ל (מיל.) איתי ברון וד"ר תהילה שוורץ אלטשולר
תאריך: 01/05/2023
לקריאת המחקר המלא - ראו קובץ PDF  



בערב יום הכיפורים מתכנסת הצמרת המדינית-ביטחונית של ישראל לדיון חירום סביב שולחנה של ראש הממשלה. ראש אמ"ן מציג את המידע ההתרעתי שהגיע בימים האחרונים. הוא פותח במידע ובהערכות שהעביר המלך חוסיין לראש הממשלה וממשיך בניתוח שורה של סימנים מטרידים נוספים: תרגיל מלחמה שהחל במצרים, שבמסגרתו נמצאים הכוחות בכוננות עליונה ובהיערכות למלחמה; ביטול חופשות וכניסה למערכי חירום בצבא סוריה; מידע מפורש שלפיו התרגיל הוא למעשה מסווה למלחמה ובסיומו תתקוף מצרים את ישראל; ביקור של שר המלחמה המצרי בסוריה; ומידע חדש שהגיע בלילה שעבר על פינוי כל היועצים הסובייטים ממצרים וסוריה.

בסיום הסקירה שואלת ראש הממשלה באופן ישיר: האם תהיה מלחמה מחר? את התשובה שהשיב ראש אמ"ן ב-5 באוקטובר 1973 אנחנו מכירים היטב, וכך גם את תוצאותיה הטראגיות: מקבלי ההחלטות הבכירים ביותר בישראל, בדרג המדיני  ובדרג הצבאי, העריכו עד לפרוץ הקרבות ממש שהסבירות למלחמה בין ישראל לערבים היא נמוכה. 

אבל, בסימולציה שערכנו לאחרונה, השיב ראש אמ"ן תשובה אחרת. הוא ענה לראש הממשלה שלפי המידע "מצרים וסוריה נערכות לפעולה צבאית וייתכן שתהיה מלחמה בטווח הזמן הקרוב" וכן "שהסבירות למלחמה גבוהה מזו של השלום". עם זאת, הוא הוסיף שלא ניתן "לחזות במדויק אם מלחמה תתחיל מחר או לא".

מי ששימש בתפקיד ראש אמ"ן בסימולציה הזאת לא היה קצין מודיעין וותיק ומיומן, אלא ה-ChatGPT של חברת OpenAI (להלן: GPT), שמטלטל את העולם מאז הופעתו בנובמבר 2022. השימוש בצ'טבוט הנגיש, בשיחה רהוטה שדומה מאוד לשיחה אנושית, מאפשר לרבים לחוות את ההתקדמות העצומה בתחום הבינה המלאכותית היוצרת (Generative AI) ומעורר שאלות לגבי יכולתה לבצע משימות חשיבה מתקדמות, שעד לא מזמן נתפסו בתחום היתרון המובהק של המוח האנושי (על "מערכות שפה גדולות יוצרות", ראו להלן בנספח). לשאלות אלו יש, כמובן, השלכות גם על פוטנציאל השימוש במוצרי בינה מלאכותית יוצרת בתחום המודיעין בכלל והמודיעין האסטרטגי בפרט.

הסימולציה על מלחמת יום הכיפורים היא חלק משלוש סדרות של סימולציות שערכנו לאחרונה במטרה לבחון את יכולתו של ה-GPT לסייע לייצר הערכת מודיעין כבסיס לקבלת החלטות אסטרטגיות בתנאי אי וודאות קשים. מדובר, ככל הידוע לנו, בהתנסות אמפירית ראשונה עם מודל שפה ענק כדוגמת ה-GPT בהיקף רחב בהקשרים של מודיעין אסטרטגי. כל הסימולציות בוצעו עם גרסת ה-3.5 של ה-GPT. על חלק מהסימולציות חזרנו גם עם גרסת ה-4.0 של המערכת באמצע מרץ 2023 והן חיזקו את המסקנות שאליהן הגענו באמצעות שימוש בגרסה המוקדמת יותר. 

מטרתו של מסמך זה היא להציג את הסימולציות ולנתח את תוצאותיהן. כל הסימולציות עסקו ברמות המודיעין הגבוהות (מודיעין לאומי-אסטרטגי), כבסיס לקבלת החלטות בצמרת הצבאית והמדינית. הנושא המרכזי שנבחן בסימולציות היה יכולתו של ה-GPT לסייע להערכת המודיעין במרחב הזמן של ימים ושעות לפני תחילת מתקפת פתע או מהלך התקפי אחר. 

מודלי שפה ענקיים כדוגמת ה-GPT כבר יכולים לבצע מטלות בסיסיות של איסוף, סיווג וניתוח מידע באיכות, במהירות וביעילות המשתוות לאלו של בני אנוש. בהקשר שלנו, ה-GPT הדגים יכולת להצביע על "אפשרויות מתחרות", הן כהסברים לתופעות שנצפות במידע והן כתרחישים לגבי העתיד. הוא גם הראה יכולת לסייע בהכוונת האיסוף. לתוצאה זו ישנה חשיבות שכן רבות מהפעילויות המחקריות השוטפות, בעיקר של החוקרים הזוטרים, הן מהסוג הזה. נכון לבחון את היכולות האלו בסימולציות נוספות שכן סביר שניתן יהיה לרתום את המכונות לביצוע משימות כאלו באופן שיוכל להפנות משאבים למשימות אחרות, מורכבות יותר.

ואולם, המסקנה המשמעותית יותר שעולה מהסימולציות שביצענו היא שלמערכת ישנן סגולות נוספות שנוגעות דווקא למשימות חשיבה מתקדמות. מסקנה זו עולה בקנה אחד עם מחקרים נוספים שפורסמו לאחרונה שטוענים שמודלי שפה ענקיים יכולים לבצע תהליכי חשיבה והיסק כאלו, אך בדרך שונה מזו של בני אדם. שונות זו מאפשרת העשרה של תהליכי החשיבה האנושיים. 

נקודת המוצא לתיאור תוצאות אלו של הסימולציה היא הקביעה של וולשטטר שהבאנו בפתח המאמר אודות "הנטייה של בני אנוש להיצמד בעקשנות לדעות ישנות", היינו – לקונספציה. הממצא העיקרי שזיהינו בסימולציות הוא של-GPT יש יכולת גבוהה להצביע על סתירה בין קונספציה לבין מידע סותר, ללא ההטיות שמאפשרות וגורמות לחוקרים אנושיים למצוא דרכים לעמעם את הסתירה ולהיצמד בעקשנות למה שמוכר, מצופה ורצוי. כלומר, אין לו את אותה "התנגדות עיקשת ... לחומר חדש" שיכול לערער את הקונספציה, שאותה זיהו וולשטטר וחוקרים רבים אחרים. ההשערה שעולה מהסימולציות היא שהקונספציה ("דעת המומחים") נתפסת על ידי ה-GPT כפריט מידע נוסף ולא כזה שיש לו עדיפות על פרטי המידע האחרים. זאת, ככל הנראה, משום שדרך הניתוח שלו שונה מזו של חוקרים אנושיים שנזקקים למסגרת תפיסתית (קונספציה) כדי לברר את המציאות ולהבין אותה. לתכונה זו יכולה להיות, להערכתנו, חשיבות ככלי עזר להערכת המודיעין.

ל-GPT יש כמובן ליקויים והטיות משלו. כל התנסות עם ה-GPT (גם בגרסה 3.0 וגם בגרסה 4.0) מראה שיש לו מגבלות קשות בכל הקשור לתיאור המציאות העדכנית ובמתן מענה על שאלות ידע בסיסיות. אין לו יכולת להבחין בין אמת לשקר והוא לעיתים קרובות ממציא פרטים שאינם קיימים במציאות. עניין זה לא השפיע על הסימולציות שכן במהלכן לא עשינו שימוש ביכולת חיפוש המידע של ה-GPT. אנחנו סיפקנו ל-GPT הן את נתוני היסוד והן את כל המידע המודיעיני שעליו התבססה הסימולציה. מה שבחנו הוא את יכולתו לסייע בתהליך הניתוח של המידע שסופק לו. יכולת זו מבוססת, כנראה, על היכרות עם ישויות (מדינות, ארגונים) בעלות מאפיינים דומים; היכרות עם פרשיות עבר ואירועים שבהם השתקפו תהליכים ודינמיקות רלוונטיים; והיכרות עם גישות מחקריות מתחומים שונים.

לכן, הגישה שאנו מציעים במאמר זה באשר לפוטנציאל השימוש ב-GPT ובמוצרי בינה מלאכותית יוצרת דומים היא זו של "מקום ליד השולחן". לפי גישתנו, אין כוונה שה-GPT יחליף את ראש אמ"ן או את החוקרים של חטיבת המחקר אלא שייעשה בו שימוש להעשרת תהליך החשיבה שלהם. 

הסימולציות שקיימנו מוכיחות של-GPT יש צורת ניתוח שונה וסגולות ייחודיות שביכולתן לסייע לאנשי מודיעין ולמקבלי החלטות לברר את המציאות ולהבין אותה. שונות זו היא שמהווה בראייתנו את "כרטיס הכניסה" של ה-GPT לדיונים שמתנהלים סביב שולחנו של ראש אמ"ן ושולחנות נוספים בארגונים המודיעיניים. את מאפייניו המדויקים של המקום הזה סביב השולחן נכון להגדיר במחקרי המשך. 

















 

אולי יעניין אתכם לקרוא גם

מאמר חדש - היערכות לאומית מול השפעה והתערבות זרה באמצעות רשתות חברתיות: ממצאים גלובליים ותמונת מצב ישראלית - מאת ד"ר אסף וינר

במרבית הדמוקרטיות המערביות, האינטרנט והרשתות החברתיות מחליפים את אמצעי התקשורת המסורתיים כמקור מרכזי של חדשות ומידע, במיוחד עבור צעירים ומיעוטים תרבותיים. בשנים האחרונות, פלטפורמות התוכן המקוונות הפכו לזירה המרכזית של פעילות חברתית וכלכלית בעולם כולו - בישראל במיוחד - המתאפיינת בהיקף שימוש נרחב במיוחד ברשתות חברתיות בהשוואה לרוב מדינות העולם. מוזמנים ומוזמנות לקרוא את מאמרו של ד"ר אסף וינר, סמנכ"ל מחקר ומדיניות של איגוד האינטרנט הישראלי ועמית מחקר בכיר במרכז הנשיא מאיר שמגר למשפט דיגיטלי וחדשנות באוניברסיטת תל אביב.

במאמר מציג וינר כיצד התבססותן של הרשתות החברתיות כערוץ מרכזי של שיח ציבורי ומקור מידע מרכזי, הופכת להיות פוטנציאל להשפעה והתערבות זרה בתהליכים דמוקרטיים, כמו שיבוש מערכות בחירות או השפעה ומניפולציה על השיח ועל דעתם של אזרחי המדינה במטרה לערער את הלכידות והיציבות. כפתרון לכך, במאמרו וינר מבקש להעשיר את הדיון הביטחוני והמשפטי על הסיכונים והאיומים הייחודיים של המרחב המקוון עבור הציבור הישראלי ומציע לגופי הביטחון והמחקר הישראליים ארגז כלים רעיוני ואמפירי להבנת המישורים השונים של השפעה והתערבות זרה באמצעות הרשתות החברתיות, עם המשמעויות המגוונות שלהם עבור רשויות אכיפה וביטחון מדיניות בישראל.

 

 

מאמר זה הינו חלק מגיליון מספר 10 של כתב העת "מודיעין הלכה למעשה" שיעסוק בהשפעה והתערבות זרה.

קרא עוד

ספר "המודיעין ושבעה באוקטובר"

ציון יום השנה השלישי למתקפת הטרור הנפשעת שביצע חמאס בשבעה באוקטובר מתרחש כאשר טרם הוקמה ועדה לחקירת כשל המודיעין שגרם להפתעה הבסיסית והעמוקה ערב הטבח. גם לא התבצע תחקיר משותף של ארגוני המודיעין באשר לסיבות הכשל, כשכל אחד מהם הסתפק בתחקיר עצמאי ונפרד שעל בסיסו הוא מבצע תהליכים של לימוד לקחים, תיקון ליקויים ושיפור דרכי הפעולה. "מכון הרכבי לחקר המודיעין", תחת שמו הקודם "המכון לחקר המתודולוגיה של המודיעין", פרסם לפני כשנה את הספר "המודיעין ושבעה באוקטובר", המציג תובנות ממספר רב של נקודות מבט לגבי הכשל המודיעיני החמור. הספר לא נועד להוות תחליף לחקירה הדרושה, אלא כלי ללימוד רבות מהבעיות שהתפתחו בהדרגה ושהביאו לתוצאה הקשה. לרגל יום השנה למתקפה, אנו שבים ומפיצים את הספר, על שלושה-עשר פרקיו, מתוך תקווה שהוא יביא להעמקה נוספת בלימוד הלקחים מזווית קהילתית וארגונית כאחד. המסר העיקרי של הספר הוא ששורשי המחדל המודיעיני טמונים לא רק בחוסר התפקוד ובדבקות בקונספציה בליל ה-6-7 באוקטובר, אלא בשורה ארוכה של כשלים ועיוותים שהתחברו לסערה מושלמת ומנעו מהמודיעין, גם כאשר התקבלו הידיעות המתריעות, להכיר בצורך להתריע מפני המתקפה הממשמשת ובאה. בראש ובראשונה גרמה לכך השחיקה במקצועיות המודיעין ובכשירותו בכל הקשור לנושא ההתרעה האסטרטגית, בין השאר לאור הגברת העיסוק באספקת מודיעין לצרכים אופרטיביים וטקטיים. גורם חשוב נוסף היה התפתחות תרבות ארגונית של חוסר סובלנות לדעות אחרות, אחידות ברקע של אנשי המודיעין, חשיבה קבוצתית, העדר זיכרון ארגוני (שבא לכדי ביטוי בהתעלמות מתוכנית 'חומת יריחו' ברגע האמת) והעדר פיקוח ובקרה. ברמה הקהילתית, בולטות הבעיות בחלוקת האחריות בין הארגונים השונים, ומיעוט השיח ברמה האסטרטגית (כשהדגש היה על שיתוף פעולה ברמה הטקטית והמבצעית). גורמים נוספים שתרמו לסערה היו מיקוד האיסוף במקורות טכניים תוך הזנחת המודיעין האנושי והגלוי ובעיות במערכת היחסים עם הדרג המדיני. כל אלה הובילו לכך שגורמי המודיעין והמערכת המבצעית בכל הדרגים נשבו בקונספציה שחמאס חלש, מורתע וממוקד בשיפור איכות החיים בעזה, ולא העלו על דעתם כלל שיתכן שהוא מתכנן מתקפה נרחבת, ובוודאי לא בהיקף שבו בוצעה. הם אמנם התריעו כי המתח הפנימי בישראל מעלה את הסיכוי להסלמה מצד אויבינו אך לא סברו שמדובר באיום קונקרטי ובוודאי לא מחמאס בעזה.הספר, שבכתיבתו השתתפו עמיתי המכון ומומחים נוספים, ובהם יו"ר המרכז למורשת המודיעין, אלוף (מיל.) אהרון זאבי-פרקש, תא"ל (מיל.) איתי ברון, פרופ' אורי בר יוסף, ח"כ לשעבר, עופר שלח, סא"ל (מיל) שרית שפירא, ובכיר השב"כ לשעבר, יוני הרץ, נערך על ידי סא"ל (מיל.) דודי סימן טוב, סגן ראש המכון, ואל"מ (מיל.) ד"ר עופר גוטרמן, עמית מחקר בכיר במכון. אנו מקווים שהספר יתרום להבנה טובה יותר של שורשי הכשל ולקידום ביצוע השינויים המומלצים בו, הדרושים על מנת לצמצם את הסיכוי להישנות של מחדל מודיעיני מסדר גודל כזה.תא"ל (מיל.) יוסי קופרווסרראש מכון הרכבי לחקר המודיעיןהמרכז להנצחה, מורשת ומחקרי המודיעין  
קרא עוד

"התפללו למען נעמה" – קמפיין לוחמת המידע של רוסיה נגד ישראל

לפני מספר שנים נעצרה ברוסיה נעמה יששכר, מטייל ישראלית. לכאורה מעצר מקרי אולם למעשה חלק ממבצע השפעה רוסי על ישראל ששילב מהלכים תקשורתיים (בישראל וברוסיה) ומאמצים נוספים לתכליות דיפלומטיות אסטרטגיות. במאמר מנותחת פרשת יששכר כקמפיין השפעה אינפורמטיבי-פסיכולוגי במסגרת לוחמת המידע הרוסית נגד ישראל.  במסגרת זו מוצג האופן בו הצליחו הרוסים להשפיע על סדר היום התקשורתי הישראלי תוך שמירה על מרחב הכחשה לפעילותם. בסופו של דבר, גם אם מבצע השפעה זה לא הביא לרוסיה את ההישגים שקיוותה להם ואף חזר אליה כבומרנג במובנים מסוימים נידרש ללמוד ממקרה זה על הצורך לזהות בזמן אמת מבצעי השפעה כדי להתמודד עימם ככאלה. מאמר זה הינו חלק ממזכר העוסק בהשפעה והתערבות זרה כאתגר אסטרטגי, העתיד לצאת לאור בקרוב. המזכר כולל מאמרים הבוחנים את האתגר מנקודת מבט של יריבים (דוגמת רוסיה, איראן וסין), ודן בהיבטי אופן ההשפעה. כן תיכלל בו בחינת האתגר בשגרה וגם בעת שיבוש תהליכים דמוקרטיים, העמקת שסעים חברתיים, מערכות בחירות ואף מלחמה. המאמרים משקפים חיבור בין הבנות מערכתיות לבין המדיניות הנדרשת כמענה בישראל וגם במדינות מערביות. המזכר מסכם פרויקט משותף של המכון למחקרי ביטחון לאומי והמכון לחקר המתודולוגיה של המודיעין במרכז למורשת המודיעין (המל"מ).
קרא עוד