סיכום כנס של ה-ICSB בנושא מהפכה בענייני מודיעין

תאריך: 28/05/2021

כנס של ה-1ICSB בנושא מהפכה בענייני מודיעין

ענבל קארו 


הכנס הראשון על המהפכה בענייני מודיעין בסדרה של שלושה, מבית האקדמיה הלאומית האמריקאית למדעים נערך ב-28 מרץ. את כל ההרצאות אפשר לראות בקישור הבא, (אני ממליצה במיוחד על שתי הראשונות). 
במאמר זה מוצגות מספר נקודות עיקריות שעלו במהלך היום, על פי הדוברים שהעלו אותן. כמה מהנקודות עלו יותר מפעם אחת כמובן או בדיונים בין הדוברים. 

המהפכה המתקרבת בענייני מודיעין – ד"ר אנתוני (טוני) וינצ'י3  


וינצ'י דיבר בעקבות מאמר4 שפרסם על עתיד המודיעין ובו תיאר מציאות שבה המודיעין מתבצע בידי מחשבים המתמודדים עם מחשבי היריב  על ההתקדמויות הגדולות שייעשו ב-AI, על swarming (מערכות רבות שמתקשרות ישירות אחת עם השניה, לצרכי איסוף, תקיפה ועוד), והתזה העיקרית שלו היא שנדרשים שינויים מעמיקים בעבודת ארגוני המודיעין מן המסד ועל הטפחות. 
ככלל, עד עכשיו קיומם של אנשים בלולאת ה-AI היה טיעון חשוב להרגעת המתנגדים, הן כי אנשים יכולים לקבל החלטות מוסריות והן כדי להבהיר שאין הכוונה להחליף את האנשים ב-AI. מכיוון שקרוב היום שבו כבר אי אפשר יהיה להשאיר אנשים בלולאה - בעיקר משיקולי קבועי זמנים - יש להתארגן בהתאם. 
בנוסף, כבר היום יש לנו, אפקטיבית, אינסוף מידע, וקרוב מאד היום שבו אפשר יהיה להיות נגישים לצילום מתמשך של כל נקודה על פני כדור הארץ. לטענתו, לא לגמרי עשינו את השינוי המחשבתי הנדרש. בנוסף לכך, הוא מאמין שנדרש שינוי במבנה של קהילת המודיעין עצמה, שמאורגנת עדיין בעיקר לפי סוג סיגנל. 
בהסתכלות על תהליך העבודה המודיעיני, ציין וינצ'י שכניסת ה-AI לחיינו משנה את תמונת המציאות וצריכה להשפיע עמוקות על קהילת המודיעין: 
  • לשאלות הקלאסיות מצטרפות שאלות לגבי AI היריב (למשל, המודל של מערכות AI והמידע שעליו התאמנו הופך להיות צי'ח משמעותי, כמו גם האופן שבו היריב עושה שימוש במערכת)
  • אופני איסוף המידע וניתוחו משתנים כמובן, בגלל היתרונות הגדולים של מערכות ממוחשבות בתחומים האלה. 
  • הצרכנים הופכים, בחלק מהמקרים, להיות מערכות AI - המערכת שלנו תצטרך נתונים מסוימים על היריב (ומערכות ה-AI שלנו יאספו אותם עבורה). 
  • התוצרים כמובן משתנים אף הם, מתוצרים יותר חכמים עבור מקבלי החלטות ועד ביטים מאד ספציפיים עבור מערכות AI. 
בנוסף, גם עולם התודעה וההשפעה משתנים ומתרחבים מאד. AI מספק הרבה יותר אפשרויות בתחום, ובנוסף, מערכות AI הופעות יעד להשפעה (ולעתים - מערכות שמנסות להשפיע ולסכל אחת את השנייה). 

מתן אבטחה והגנה על הפרטיות ב-5Instrumented Planet  - רוברט קרדיו6  


קרדיו דיבר בעיקר על שאלות מוסריות ופילוסופיות שעולות מהשינויים במבנה המידע בעולם. בבסיסן, המידע בעולם הולך ורב, ואנחנו עדים למהפכה בבעלות על המידע. בעוד שמי שהחזיקו בעבר ברוב המידע היו גופים מדינתיים, כיום מי שמחזיקים בו הם בעיקר תאגידים וחברות גדולות. המשמעות היא שיש הרבה פחות רגולציה על מה הגופים האלה יכולים לעשות עם המידע, הרבה יותר חשדנות (לעתים מוצדקת!) של הציבור, וסכנה אמיתית לפגיעה נרחבת בזכויות יסוד. 
הדיון העקרוני ביכולת של החברה לנצל את המידע ליצירת תועלת ולהתמודד עם התוצאות של אבדן החירות והפרטיות הוא דיון חשוב מאד שכרגע לא בדיוק מתקיים, ולעתים מונח לפתחו של בית המשפט העליון. מכיוון שאנחנו כבר חיים בעולם שבו הסוגיות האלה מאד בעייתיות, ואלה לא סוסים שאפשר להחזיר לאורווה, אנחנו צריכים לקדם את הדיון שיאפשר חיים במדינה דמוקרטית, במתח שבין פרטיות לשקיפות לבעלות תאגידית.
אלה שלוש הנקודות שהוא מציע לדיון ציבורי: 
  • מי רשאי להחזיק במידע
  • מי רשאי להשתמש במידע
  • מה מותר לעשות עם המידע
לעניינים אחרים (בשאלות) קרדיו דיבר על חשיבות התוצר האינטראקטיבי והחכם, בייחוד מול קברניטים שמסתובבים בעולם ומגבשים דעה גם ללא גופי המודיעין. 

הגדלת האינטליגנציה: העתיד של AI בקהילת המודיעין - דין סוללז7  


ככלל, סוללז נוקט בגישה יותר שמרנית: למחשבים אין שיקול דעת והם גם לא יוכלו לזהות את השאלה הבאה. האנשים תמיד יישארו בלולאה. 
הוא מעיר שאנחנו מתקיימים בעולם כשילוב של אנשים ומכונות, ולכן גם חיי המחשוב של אנשים הופכים להיות צי'ח חשוב. ההתייחסות המודיעינית של ימינו צריכה להסתכל על אנשים כמערכת משולבת עם המערכות הממוחשבות שלהם. למשל, מה מנהיגת מדינה מחפשת בגוגל או איזה חדשות היא צורכת - זה מודיעין חשוב.

מודיעין אוטונומי: "אוזניים ועיניים" בכל מקום - לוק שברו8  


עיקר ההרצאה דיבר על חידושים טכנולוגיים שנכנסים לצבא ולקהילת המודיעין. 
בנוסף, שברו ציין שהאנשים בלולאה  ((humans in the loop שכרגע נהוג להתהדר בהם כמצפן המוסרי של כל הענין ("המערכת רק תסייע לקבל החלטות!") יהפכו לא רק בלתי-ישימים (בגלל הקצבים הנדרשים) אלא בשלב מסוים אולי אפילו מזיקים (כשיוכח שמערכת ממוחשבת טועה פחות ושומרת יותר, למשל, על חיי אדם). מכיוון שכך צריך להתחיל להתכונן ליום הזה ולבנות את המערכות בהתאם - וגם את ארגוני המודיעין.
ה-AI לא יתקן בעיות של חוסר אמון ותיאום בין גופים. להפך, זה רק יגרום לחוסר התיאום לעבוד מהר יותר. 
התוצר המודיעיני חייב להשתנות, גם כאשר הוא מוגש לקברניטים. למשל, סביבה שבתוכה אפשר לשחק תרחישים עשויה להיות הרבה יותר שימושית מאשר סיכום כתוב. 
לסיכום הרצאתו ברצוני לציין שזה כנראה התפקיד עם השם הכי מגניב בעולם. 

הסתגלות למהפכה בענייני מודיעין - הת'ר ויליאמס9

  

ויליאמס דיברה על התפקיד, בעת הזאת, של all source analysts - סוג של מה שאנחנו קוראים חוקרים. היא גם דיברה הרבה על עולם המידע הגלוי. 
ויליאמס הציעה טקסונומיה מעניינת למידע גלוי, שמסווגת לא רק את מידת היותו של המידע נגיש אלא גם את המוטיבציה של מי שיצר אותו, את מידת המחויבות של הגוף היוצר לאמינות ולדיוק במידע (למשל, אוניברסיטאות או גופים ממשלתיים לעומת חברות מסחריות או אנשים פרטיים), את מידת המומחיות שנדרשת כדי לדעת שהוא קיים ולחפש אותו, ואת סוגי השימוש בו (למשל, מאגרי מידע לעומת רשתות חברתיות). 
ויליאמס מאמינה שיש הרבה מאד מודיעין שאפשר להפיק ממידע גלוי ומצרה על כך שמסורתית גופי המודיעין לא נוטים להשתמש בו. בנוסף, למרות חיבתם של גופי המודיעין למידע בלתי-גלוי בלבד, הם חייבים להניח שהקברניטים כבר מעודכנים מהחדשות (ורשתות חברתיות, ועוד ועוד), כמו גם מחייהם בעולם האמיתי, ואם המודיעין רוצה להיות יותר מאשר תוספת נחמדה אחרי שהקברניט כבר גיבש את דעתו על בסיס כל השאר, הוא חייב לשלוט גם במידע שבכל אלה ולדעת לתת תוצר מקיף ומוקדם יחסית בתהליך. 
כמו כן, כדי להישאר רלוונטיים יש לשנות את המדדים שלפיהם עובדים, וגם את השאלות ששואלים - להפסיק להתמקד בכאן ועכשיו ולשים דגש על ייצור תובנות מעמיקות, שעונות על השאלות שהקברניטים ישאלו בעתיד, או שראוי שישאלו.
ויליאמס גם ציינה שמדברים הרבה על כך שנדרש שינוי תרבותי בקהילת המודיעין, אבל יתכן שהשאלה היא לא תרבות אלא כישורים. כרגע האנליסטים המדוברים הם בעלי כישורים טכנולוגיים מאד בסיסיים, ועל כן נדרשת הכשרה טכנולוגית מסוימת לכל אנשי המודיעין. בנוסף לכך, נדרשת התייחסות לאתיקה בכל ההכשרות. 

צפויים השנה עוד שני אירועים בסדרת הכנסים על מהפכה בענייני מודיעין, ביוני ובאוגוסט. 

הערות:
1. המועצה ללימודי קהילת המודיעין באקדמיה הלאומית אמריקאית למדעים. 
2. עמיתת מחקר בכירה במכון לחקר המתודולוגיה של המודיעין.
3. עמית מחקר בכיר במכון המחקר CNAS ובכיר לשעבר ב-NGA. 
4.  Vinci, A. The Coming Revolution in Intelligence Affairs. Center for a New American Security (en-US). https://www.cnas.org/publications/commentary/the-coming-revolution-in-intelligence-affairs. 
5. עולם שמתבסס על שילוב בין בינה מלאכותית ל-IOT (Internet of things) וכך מאפשר עולם חכם, בטוח, יעיל ואפקטיבי יותר.
6. כיום עמית בכיר במרכז לביטחון וטכנולוגיות מפציעות באוניברסיטת ג'ורג'טאון. לשעבר כיהן כראש ה-NGA. 
7. יועץ טכנולוגי בכיר. בעבר כיהן כמנהל המייסד של מרכז ה-AI והחדשנות של קהילת המודיעין והיועץ הטכנולוגי הבכיר ל-ODNI. 
8. סגן המנהל ליוזמת המדען המטורף הראשי של צבא ארה"ב.
9. 
חוקרת בכירה במדיניות בינלאומית וביטחונית במכון המחקר RAND.