איומי סייבר על מערכות ביטחוניות בלתי מאוישות בעידן הבינה המלאכותית - הצעה למסגרת ביקורת מעודכנת להערכה ולבקרה // איתן דהן, משה מורנו, אבישי יהושע ואורן בר

המאמר בקצרה

• מערכות בינה מלאכותית (להלן - AI) משולבות כיום במערכות ביטחוניות בלתי מאוישות, לרבות בתהליכי מודיעין, שליטה ובקרה וזיהוי מטרות, ובכך הן מרחיבות את משטח התקיפה של המערכת מעבר לתשתיות הקלאסיות (חומרה ותוכנה) - אל הנתונים, המודלים ושרשרת האספקה של רכיבי AI.

• מאמר זה עוסק בשאלה כיצד יש לעדכן את עבודת הביקורת בתחום הגנת הסייבר לאור העובדה שרכיב הליבה של המערכות הביטחוניות הבלתי מאוישות - מנגנון קבלת ההחלטות - נשען על מודלים ונתונים דינמיים ומבוסס על  AI.

• המאמר ממפה וקטורי תקיפה מרכזיים ומראה כיצד כשלים אלה עלולים להתגלגל מכשל טכני לכשל מבצעי ולכשל אחריותיות.

• בהמשך המאמר מוצעת מסגרת של הבטחת מוכנות לביקורת (Audit-Ready Assurance) המותאמת לביקורת המדינה, המבוססת על עקרונות הבטחת משימה וחוסן תפעולי: קריטריונים, מדדי ביצוע וסיכון, סט ראיות מזערי, לצד תוכנית בדיקות ודגימות.

• תרומת המאמר היא המעבר מביקורת "ציות לבקרות" לביקורת על "יכולת הוכחה" לשם "הבטחת משימה" - שבה ממצא, מסקנה והמלצה נשענים על ראיות ניתנות לשחזור לאורך מחזור חיי המערכת.

• מילות מפתח: AI (בינה מלאכותית), מערכות בלתי מאוישות (UxV), הבטחת משימה (Mission Assurance), סייבר, ביקורת המדינה, סחיפת נתונים, אחריותיות (Accountability).
  

***

מבוא | מפת האיומים ומשטחי התקיפה במערכות ביטחוניות בלתי מאוישות | השפעת

איומי סייבר ייחודיים בעידן ה-AI | מודל הבטחת משימה וחוסן מבצעי במערכות ביטחוניות

בלתי מאוישות בעידן ה-AI | מסגרת ביקורת להערכה ולבקרה המוכוונת להבטחת משימה

(Audit-Ready Assurance Framework) בעידן ה-AI | יישום המסגרת: מתודולוגיית ביקורת עדכנית והמלצות לשיפור מתמשך | סיכום

***