מה בין דיפ-פייק לעבודת גופי המודיעין?

תאריך: 05/06/2022
לזרקור בקובץ PDF

תופעת הדיפ-פייק מדאיגה ומעוררת שאלות ברחבי העולם כבר כמה שנים. לאור האתגרים שהתופעה מציבה, ארגוני המודיעין בארה"ב, ה-NSA, ה-CIA וה-FBI, הגדירו את הדיפ-פייק כאחת הסכנות המשמעותיות ביותר לביטחון הלאומי בשנת 2019.[1]
בחודשים האחרונים דיפ-פייק חזר לכותרות בעקבות סרטון שככל הנראה הוכן והופץ על-ידי רוסיה, ובו נראה נשיא אוקראינה, זלנסקי, קורא לצבא האוקראיני להיכנע לרוסים. אמנם הסרטון התגלה במהרה כמזויף ולא השיג את מטרתו, אך הוא המחיש את הסכנות בשימוש בדיפ-פייק.[2] רק שנתיים קודם לכן, בשנת 2020, ראש המודיעין הלאומי האמריקאי הזהיר מפני השפעה של דיפ-פייק על הבחירות לנשיאות ארה"ב, חשש שלא התממש.[3]

השימוש בדיפ-פייק עלול להיות מסוכן, והמקרים הנ"ל ממחישים את ההשפעה של התופעה על עבודת גופי המודיעין.



אתגר הדיפ-פייק

המונח דיפ-פייק ("deep fake"), ובתרגום לעברית "זיוף עמוק". מתייחס לסרטונים ותמונות מזויפים שנוצרו באמצעות כלים טכנולוגיים, לדוגמה בינה מלאכותית (AI), ונועדו להיראות אמיתיים. כאשר הדיפ-פייק איכותי הוא מאוד קשה לזיהוי, שכן התמונות והשמע נראים אמיתיים. ככל שהטכנולוגיה מתפתחת יהיה יותר קל לייצר דיפ-פייק איכותי, וכבר היום יש באינטרנט כלים ליצירתו, ולכן ככל שיעבור הזמן סביר שנראה יותר סרטונים כאלה.
קיימת גישה לפיה דיפ-פייק הוא רק נדבך נוסף וחדש של פייק-ניוז ושל פוסט-אמת, ושהוא לא מוסיף אתגרים חדשים או מעצים אתגרים קיימים. עם זאת, דיפ-פייק עשוי להיות מסוכן יותר, כי אנשים נוטים לזכור יותר טוב דברים שהם רואים, לעומת דברים שהם קוראים, והם גם נוטים להאמין להם יותר.[4]
התגברות השימוש בדיפ-פייק עלולה לחזק  תיאוריות קונספירציה ולהגביר את חוסר-האמון במידע נכון. בנוכחות דיפ-פייק יהיה קשה להאמין אפילו לתמונות וסרטונים – אם בעבר מראה עיניים היה הוכחה מספקת, כעת גם זה מוטל בספק.[5]
המידע השקרי עלול לפגוע בביטחון המדינה, ולכן מעסיק גופי מודיעין בעולם. דיפ-פייק אף עשוי לערער יציבות שלטונית או יציבות של המערכת הבינלאומית והמערכת הפוליטית המדינתית, מהלכים שגופי מודיעין מנסים למנוע. הדבר עלול להתבצע על-ידי יצירת סרטונים מזויפים בהם מנהיגים עושים או אומרים לכאורה דברים שלא קרו במציאות.[6] 


דיפ-פייק הוא תופעה שרלוונטית הן לשגרה והן לחירום, אך יש הטוענים שבחירום יש לה חשיבות גדולה יותר. לגישתם, בחירום לדיפ-פייק קל יותר לרכוש תשומת לב, שכן בזמנים מתוחים אנשים נוטים להיאחז בכל פיסת מידע ולחשוב פחות בהיגיון.[7] בנוסף, בשגרה ניתן לבחון בנחת כל סרטון או תמונה חשודים. לצד זאת, במלחמות השפעה למסרים המוטעים יש השלכות משמעותיות גם בשגרה. השימוש בדיפ-פייק במסגרת מלחמות השפעה מאתגר את גופי המודיעין, המנסים לסכל את מבצעי ההשפעה.

דיפ-פייק בעולם

דיפ-פייק כבר היה בשימוש בצורות מגוונות, ועל-ידי מגוון גורמים. להלן מספר דוגמאות לכך:
  1. המלחמה בין רוסיה לאוקראינה סיפקה כמה דוגמאות לשימוש בדיפ-פייק, המוכרת מבניהן היא הסרטון שבו זלנסקי קורא לכאורה לצבא האוקראיני להיכנע לרוסים. דוגמה נוספת היא סרטון שבו פוטין מכריז על הפסקת אש.[8] לו היו הסרטונים נתפסים כאמינים, הם יכלו לשנות משמעותית את מהלך המלחמה.
  2. בשנת 2019 התגלה פרופיל לינקדאין מזויף, שעשה שימוש בדיפ-פייק ליצירת תמונת פרופיל מזויפת. הפרופיל התחבר לבכירים אמריקאים, כנראה כחלק ממבצע ריגול. השימוש בדיפ-פייק מונע את היכולת לזהות את הזיוף באמצעות חיפוש היסטוריית השימוש בתמונה.[9]
  3. בשנת 2018 מפלגה פלמית בבלגיה פרסמה סרטון דיפ-פייק שבו טראמפ נראה בז לבלגיה. אמנם בסוף הסרטון "טראמפ" אומר שהסרטון מזויף, אך שורה זו לא תורגמה מאנגלית.[10]
קיימות בעולם דוגמאות רבות נוספות, וככל שהטכנולוגיה תתפתח ויצירת הדיפ-פייק תהפוך לפשוטה יותר, כך נראה יותר דוגמאות כאלה והן עלולות להיות אפקטיביות יותר.

משמעויות למודיעין

מטרת הדיפ-פייק היא להציג דברים שלא קרו במציאות, בעוד אחד מתפקידי המודיעין הוא בירור המציאות. לכן, טבעי שהדיפ-פייק יעסיק את המודיעין. ואכן, ה-NSA מפנה משאבים להתמודדות עם דיפ-פייק בנוגע למלחמה בין רוסיה לאוקראינה.[11] אמנם, גופי המודיעין תמיד היו צריכים להחליט איזה מהמידע שמגיע אליהם נכון, אך דיפ-פייק מקשה על זיהוי המידע האמיתי ולכן מהווה אתגר משודרג. זאת משום שמדובר באתגר טכנולוגי משמעותי עבור גופי מודיעין יריבים ואנשים פרטיים כאחד.
לצורך התמודדות יעילה עם הדיפ-פייק גופי המודיעין צריכים להגיב במהירות רבה, כדי לבלום את הזיופים והשקרים במהירות האפשרית לפני שיגרמו נזק, לא רק אצל מקבלי ההחלטות אלא גם בציבור ובפרט בקרב קהלי יעד אליהם מכוונים מסרי הדיפ פייק.[12]
מעבר לתגובה המהירה לאחר הפצת דיפ-פייק, גופי המודיעין נדרשים להתריע על הפצת דיפ-פייק. לדוגמה אזהרות שפרסם המרכז לתקשורת אסטרטגית של אוקראינה בתחילת הלחימה, ואזהרה שראש ה-FBI הוציא במרץ 2021 לגבי דיסאינפורמציה סינית ורוסית, בכללה דיפ-פייק.[13] לא מדובר בציפייה חדשה לחלוטין, אך הצורך להעביר את ההתרעה לציבור הרחב חריג.

התמודדות בחברות אזרחיות

הניסיון להתמודד עם הדיפ-פייק לא פסח על גופים אזרחיים – ענקיות טכנולוגיה וסטארט-אפים כאחד. ברקע לכך, הציפייה שגופי התקשורת יזהו דיפ-פייק ויימנעו מלפרסם אותו, והחשש הפגיעה של דיפ-פייק גם בגופים עסקיים. חברת מיקרוסופט השיקה שני כלים להתמודדות עם דיפ-פייק, ואף פועלת להנגיש אותם לארגונים שמגנים על ההליך הדמוקרטי.[14] גם פייסבוק הצטרפה למאמץ, ובשנת 2021 הודיעה שהיא פיתחה יכולת לזהות דיפ-פייק איכותי, ואפילו את המקור שלו.[15]
בנוסף לענקיות הטכנולוגיה, סטארט-אפים רבים מתמודדים עם אתגר הדיפ-פייק. ביניהן חברת DeepWare שמציעה ממשק אינטרנטי שניתן להעלות אליו סרטון ולקבל ניתוח של הסתברות לזיופים, וחברת Sensity.ai שמציעה כלי שמתמקד בזיהוי פרצופים שעברו שינוי.[16] היכולות של גופים אלה מרשימות, ויתכן שגופי המודיעין יכולים ללמוד מהם.
במקביל, הדיפ-פייק מוביל גם לשיתופי-פעולה לא שגרתיים. לעתים מועבר מידע מגופי מודיעין לגורמים שונים במגזר הפרטי, ומתבצעת הפצה של המידע לציבור הרחב. המידע מועבר לציבור כדי להעלות את מודעותו לדיפ-פייק וכדי למנוע את ההשפעה וההפצה של המידע המוטעה.

איתור דיפ-פייק

ניתן לזהות דיפ-פייק במגוון אמצעים, הזול שבהם הוא זיהוי ידני. זאת באמצעות תשומת לב לפרטים הקטנים – לדוגמה שפת גוף מוזרה, תאורה שמשתנה באופן לא הגיוני, דפוסי מצמוץ חריגים, ועוד. כמו כן, בסרטונים באיכות נמוכה חשודים כדיפ-פייק הסוואת הבעיות נעשית באיכות ירודה.[17]
דרך נוספת היא באמצעות שימוש באלגוריתמים המסוגלים להצביע על הזיוף. קיימים מגוון כלים לצורך זה, וגופי מודיעין יכולים לפתח כלים ייעודיים למטרה זו. עם זאת, לכלים הקיימים כיום נדרשות כמה שעות כדי לבצע את הניתוח, ובזמן הזה הסרטון עלול להפוך לוויראלי. בנוסף, ככל שדיפ-פייק משתפר כך נהיה קשה יותר לפתח אלגוריתם יעיל.
לגופי המודיעין יש יתרון על-פני שימוש אזרחי באמצעים אלה, והוא כוח האדם והמידע המסווג שיש להם. במקרים בהם יש לאנשי המודיעין מידע אמין שסותר את הסרטון, זה עשוי להיות יותר מדויק מזיהוי ידני, ויותר מהיר מאלגוריתמים. עם זאת, זה דורש יותר משאבים וכוח אדם.

סיכום

השימוש בדיפ-פייק במלחמה בין רוסיה לאוקראינה סייע להגברת המודעות בעולם לתופעת הדיפ-פייק, והמחיש את סכנותיה. הדיפ-פייק מעסיק ומטריד גם את גופי המודיעין, ויש לכך סיבות טובות – הוא עלול להגביר את תאוריות הקונספירציה, חוסר האמון של הציבור במידע (גם כשהוא אמיתי), ולערער את היציבות הפנים-מדינתית והבינלאומית.
לכן, על גופי המודיעין ליצור תשתית לקשר עם הרשתות החברתיות והתקשורת המסורתית, כדי להסיר במהירות תוכן מזויף. העברת מידע כזה למגזר הפרטי היא אמנם מהלך חריג עבור המודיעין, אך הוא יכול להיות הכרחי. במסגרת זאת, יש מקום לשיתוף פעולה של גופי המודיעין עם החברות האזרחיות שעוסקות בתחום, כשכל צד מביא את יתרונו היחסי.
גם קהילת המודיעין בישראל צריכה לעקוב אחר התפתחות הדיפ-פייק כדי להיות מוכנה להתמודדות עם האיום אם וכאשר יהפוך לרלוונטי לישראל – אם באמצעות שיתוף פעולה עם המגזר הפרטי, ואם באמצעות הקמת צוותים פנימיים ופיתוח יכולות ייעודיות. שכן, הדיפ-פייק רק מתחיל לצבור תאוצה, ובעתיד אנחנו עשויים לפגוש יותר דיפ-פייק ובאיכות גבוהה יותר ממה שהכרנו עד כה.


[1]Ng, A. (January 29, 2019). Deepfakes, disinformation among global threats cited at Senate hearing. Cnet. https://tinyurl.com/ya3v4rj 
[2]Grady, J. (March 18, 2022). Intel Sharing Between U.S. and Ukraine ‘Revolutionary' Says DIA Director. USNI News. https://tinyurl.com/2p9fu9yh
[3]Metz, R. (March 25, 2022). Deepfakes are now trying to change the course of war. CNN Business. https://tinyurl.com/3vcwrxte
[4]Chesney, R. & Citron, D. K. (2019). 21st Century-Style Truth Decay: Deep Fakes and the Challenge for Privacy, Free Expression, and National Security. Maryland Law Review, 78(4), 882-891. https://tinyurl.com/23tkdpyu
[5]Vavra S. (March 10, 2021). FBI alert warns of Russian, Chinese use of deepfake content. CyberScoop. https://tinyurl.com/v53hhu7b
[6]חלקים מהזרקור מתבססים על המזכר – ענתבי, ל., רחמים, נ. (2022). איום מזויף או אמיתי? דיפ-פייק והאתגרים לביטחון הלאומי. המכון למחקרי ביטחון לאומי. https://tinyurl.com/6zjrez35
[7]Metz, R. (March 25, 2022). Deepfakes are now trying to change the course of war. CNN Business. https://tinyurl.com/3vcwrxte
[8]Grady, J. (March 18, 2022). Intel Sharing Between U.S. and Ukraine ‘Revolutionary' Says DIA Director. USNI News. https://tinyurl.com/2p9fu9yh
[9]Hao, K. (June 14, 2019). Deepfakes may be a useful tool for spies. MIT Technology Review. https://tinyurl.com/h47s3fdn
[10]Parkin, S. (June 22, 2019). The rise of the deepfake and the threat to democracy. The Guardian. https://tinyurl.com/3xdbv7et
[11]ברון, א. ורויטמן, מ. ביטחון לאומי בעידן של פוסט-אמת ופייק ניוז. המכון למחקרי ביטחון לאומי. https://tinyurl.com/mwpwyyjb;Grady, J. (March 18, 2022). Intel Sharing Between U.S. and Ukraine ‘Revolutionary' Says DIA Director. USNI News. https://tinyurl.com/2p9fu9yh
[12] Grady, J. (March 18, 2022). Intel Sharing Between U.S. and Ukraine ‘Revolutionary' Says DIA Director. USNI News. https://tinyurl.com/2p9fu9yh
[13]Carmack, D. (April 28, 2022). U.S. Must Implement Lessons on "Hybrid” Conflict from Ukraine War. The Heritage Foundation. https://tinyurl.com/35acj4wp; Vavra S. (March 10, 2021). FBI alert warns of Russian, Chinese use of deepfake content. CyberScoop. https://tinyurl.com/v53hhu7b
[14] פיאלקוב, ג. (2 בספטמבר, 2020). לקראת הבחירות לנשיאות ארה"ב: מיקרוסופט נלחמת בדיפ-פייק. אנשים ומחשבים. https://tinyurl.com/4zdbkww2
[15]Diaz, J. (June 17, 2021). Facebook Researchers Say They Can Detect Deepfakes And Where They Came From. npr. https://tinyurl.com/vuwz72c2
[16]StartUs insights. Discover 5 Top StartUps Tackling Deepfakes. https://tinyurl.com/498247zp ;https://deepware.ai/;https://sensity.ai/
[17]Britton, D. (14 October, 2021). Best practices to detect and mitigate deepfake attacks. TechTarget. https://tinyurl.com/5n7y4ett; Metz, R. (March 25, 2022). Deepfakes are now trying to change the course of war. CNN Business. https://tinyurl.com/3vcwrxte