דבר מבקר המדינה ונציב תלונות הציבור
אני מתכבד להציג לפניכם את הגיליון החדש של "מראות", כתב העת של משרד מבקר המדינה, אשר מוקדש השנה לצומת המרתק והמאתגר שבו נפגשים עולמות הביקורת, הבינה המלאכותית (AI) וההגנה בסייבר.
המהפכה הטכנולוגית מאיצה, והבינה המלאכותית הופכת מחזון למציאות המשפיעה על כל היבט בחיינו, ובכלל זה על המגזר הציבורי. כגוף הביקורת ובירור תלונות הציבור העליון של מדינת ישראל, עלינו לא רק להתאים את עצמנו לעידן החדש, אלא להבטיח שהקדמה הטכנולוגית תשרת את כלל אזרחי המדינה באופן מיטבי, יעיל, שקוף ומוסרי. אנו שואפים להבין כיצד הופכים את "הקופסה השחורה" של הבינה המלאכותית לכלי עבודה שקוף ואפקטיבי על שולחן מבקר המדינה ונציב תלונות הציבור. לצד ההזדמנויות, אנו נדרשים לייחד תשומת לב לאתגרים החדשים שהטכנולוגיה מציבה.
עם כניסתי לתפקיד בשנת 2019 הגדרתי את תחום הסייבר ומערכות המידע כאחד מנושאי הליבה שבהם תעסוק ביקורת המדינה. לנגד עיניי עמד באופן ברור הצורך לבחון את מוכנות הגופים הציבוריים לאתגרי העולם הדיגיטלי, להבטיח את ההגנה על תשתיות קריטיות ועל המידע האישי של כל אזרח ולוודא שמדינת ישראל לא רק תתמודד עם האיומים, אלא גם תממש את ההזדמנויות הגלומות במהפכת הבינה המלאכותית. דאגתי להוביל קו ביקורת הדורש מהממשלה לאמץ אסטרטגיה לאומית ארוכת טווח בתחום הבינה המלאכותית, והתרעתי כי היעדר מדיניות סדורה עלול לגרום לישראל לאבד את מעמדה כמובילה עולמית בתחום זה.
השנים האחרונות הדגישו את תלותה של ישראל במערכות טכנולוגיות ואיששה את הרלוונטיות של ממצאי דוחות ביקורת רבים שפורסמו בשנים אלו. דוחות מרכזיים שעסקו בהגנת הסייבר על מוסדות לאומיים, ביעילותן של מערכות התרעה אזרחיות ובאבטחת הגופים הביטחוניים הצביעו על פערים מהותיים. הממצאים והפערים שהועלו מאשרים את הנחת היסוד ולפיה בסביבה האסטרטגית העכשווית פרצות וחולשות במרחב הסייבר הן ליקוי קריטי.
גיליון זה מספק נקודת מבט ייחודית לגבי התפקיד המתפתח של ביקורת המדינה ונציבות תלונות הציבור והאתגרים העומדים לפניהן, ופרסומו חופף לסיום כהונתי כמבקר המדינה ונציב תלונות הציבור. המאמרים השונים בוחנים את המעבר מתיאוריה למעשה בשילוב כלי AI בעבודת הביקורת - החל מניתוח דוחות כספיים, דרך גיבוש מתודולוגיות וכלים יישומיים שיסייעו להגביר את יעילותה ודיוקה של הביקורת וכלה ברעיון של מטא-ביקורת בשלטון המקומי, הבוחנת את התמונה הגדולה והמערכתית. חלק מהמאמרים בגיליון זה עוסקים בהתאמות הנדרשות בעולם הביקורת, בין היתר כדי לבחון מערכות ביטחוניות בלתי מאוישות, להתמודד עם אתגרי הביקורת מונחית המדדים בתחום הגנת הסייבר ולוודא כי מעמדה של ישראל כמובילת סייבר עולמית נשמר ומתחזק. הביקורת חיונית כדי להבטיח שהטכנולוגיות המתקדמות ביותר יהיו גם בטוחות, מוגנות וחסינות. מעל לכול, עלינו לוודא שהשימוש הגובר בבינה מלאכותית במגזר הציבורי נעשה תוך שמירה על עקרונות הממשל התקין. בגיליון זה אנו מציגים עקרונות מנחים לבחינה מוסדית ונורמטיבית של הטמעת הבינה המלאכותית בגופים ציבוריים. אנו מדגישים את החשיבות של הנשיאה באחריות, השקיפות, הבקרה האנושית ומניעת הפגיעה בזכויות הפרט, כדי שהטכנולוגיה תשרת את האדם, ולא להפך.
המנדט הכפול של משרדי - הן כמבקר המדינה הן כנציב תלונות הציבור - מחייב גישה כוללנית המאזנת בין קדמה טכנולוגית לבין הגנה על זכויות הפרט. שילוב הבינה המלאכותית במינהל הציבורי טומן בחובו הבטחה לייעול, אולם גם מציב סיכונים לשקיפות, לאחריותיות ולזכויות אזרחיות בסיסיות.
כתב עת זה הוא כלי הצופה פני עתיד בנוגע לעיצוב פניה של ביקורת המגזר הציבורי. האתגרים הטכנולוגיים והאתיים שמציבות הבינה המלאכותית והלוחמה הקיברנטית יוסיפו להתעצם. משרד מבקר המדינה ונציב תלונות הציבור מתחייב להוסיף לעמוד בחזית התפתחויות אלה, תוך חידוד מתמיד של מתודולוגיות הביקורת שלו והבטחה שהממשל בישראל יתפתח באופן בטוח, חדשני וערכי.
לסיום, אבקש להביע את תודתי העמוקה לכל הכותבות והכותבים אשר תרמו מפרי עטם ומידיעותיהם להעשרתו של גיליון חשוב זה. תודה מיוחדת שלוחה לחברי המערכת בראשות מנכ"ל המשרד מר ישי וקנין, אשר עמלו במסירות על איסוף המאמרים, עריכתם והבאת כתב העת לדפוס.
אני סמוך ובטוח כי המאמרים בגיליון זה מרימים תרומה משמעותית לשיח המקצועי ומספקים כלים והשראה לעוסקים במלאכת הביקורת ובמינהל הציבורי. גיליון זה מוגש לכם מתוך תחושת אחריות מוסדית עמוקה ואמונה איתנה בחשיבותה המתמדת של ביקורת המדינה לעתיד האומה.
אני מזמין אתכם לקריאה מעמיקה ומעוררת מחשבה.
מתניהו אנגלמן
מבקר המדינה ונציב תלונות הציבור
דבר העורך
המפגש בין בינה מלאכותית (AI), הגנת הסייבר, המגזר הציבורי ותחום ביקורת המדינה ובירור תלונות הציבור אינו עוד פרק באבולוציה הטכנולוגית, אלא נקודת מפנה מתודולוגית ורעיונית. אם בעבר הסתמכו צוותי הביקורת ומבררי התלונות בעיקר על תהליכי קבלת החלטות המבוססים על נורמות כתובות ורשומות סטטיות, הרי שכיום הם ניצבים מול מערכות לומדות ומשתנות הפועלות במהירות מסחררת. טכנולוגיות אלו משנות מן היסוד הן את מושאי הביקורת - הגופים המבוקרים הנעזרים בבינה מלאכותית והחשופים לאיומי סייבר - והן את כלי הביקורת עצמם.
בגיליון מיוחד זה של כתב העת "מראות" אנו מבקשים להניח לרגע בצד את השיח הנלהב המלווה את עולם ה-AI שכן ברצוננו להתמקד בהיבטים המעשיים של השימוש בבינה מלאכותית ולהציע למנהלי הביקורת, למבררי התלונות, למבקרי הפנים ולכלל העוסקים בתחום הביקורת מעטפת מקצועית, המאגדת מתודולוגיה סדורה וארגז כלים יישומי.
מבנה כתב העת
בחלקו הראשון של הגיליון עובדי ביקורת ממשרד מבקר המדינה ונציב תלונות הציבור סוקרים היבטים שונים ביישום ארגז הכלים החדש העומד לרשותם בהווה, תוך מבט צופה פני עתיד על היתרונות והסיכונים הגלומים בו.
המאמר הפותח את הגיליון, "שימוש בכלי AI בביקורת המדינה: מסגרת מושגית-נורמטיבית להליך ביקורת מבוסס ראיות", מציג מתווה המתרגם עקרונות כלליים של שימוש ב-AI לקריטריונים של ביקורת. מתווה זה משרטט מסגרת מושגית-נורמטיבית לשילוב כלי AI בעבודת ביקורת המדינה בלי לפגוע בשיקול הדעת המקצועי-אנושי.
במאמר השני: "פוטנציאל השימוש בסוכני בינה מלאכותית (AI AGENT) המבוססים על הנחיות ומדריכים פנים ארגוניים בעבודת ביקורת המדינה" ובמאמר הרביעי: "הבינה המלאכותית בשירות הביקורת הכלכלית: ניתוח אוטומטי של נתונים כלכליים" נבחנים פיתוחים המשנים את אופי העבודה, ובהם סוכן בינה מלאכותית המבוסס על המדריך המקצועי לביקורת המדינה וכלי AI המשמשים לניתוח דוחות כספיים. המאמר השלישי: "השלם גדול מסך חלקיו: מטא-ביקורת בשלטון המקומי בעידן הבינה המלאכותית" מציג ניתוח מתכלל של ממצאי מאות דוחות ביקורת בשלטון המקומי, במבט רטרוספקטיבי ורפלקטיבי, ככלי אסטרטגי לייעול התכנון של עבודת הביקורת ולטיובה.
המאמרים החותמים את החלק הראשון של הגיליון עוסקים באתגר המורכב של הגנת התשתיות הקריטיות בגופים המבוקרים מפני איומי הסייבר בעידן החדש. המאמר "ביקורת סייבר מונחית מדדים" מבהיר את חשיבותה של ביקורת המדינה בזיהוי פערים ביכולתם של הגופים המאסדרים לנטר סיכונים פוטנציאליים הגלומים בתרחישי הייחוס. כמו כן, במאמר מוצגים כלים המסייעים לגופים אלה בקביעת סדרי עדיפויות לטיפול בפערים במסגרת תהליכי קבלת החלטות מושכלים. המאמר "איומי סייבר על מערכות ביטחוניות בלתי מאוישות בעידן הבינה המלאכותית - הצעה למסגרת ביקורת מעודכנת להערכה ולבקרה" בוחן כיצד יש לעדכן את עבודת הביקורת בתחום הגנת הסייבר לנוכח ההתבססות של מנגנון קבלת ההחלטות - רכיב הליבה של המערכות הביטחוניות הבלתי מאוישות - על בינה מלאכותית ועל מודלים ונתונים דינמיים.
בחלק השני של הגיליון מובאים "קולות מהשטח": אנשים בעלי ניסיון רב בתחומי הבינה המלאכותית והסייבר העלו על הכתב את השקפת עולמם ואת התובנות שהפיקו בתחומים אלה במשך השנים. במישור הלאומי, ממאמרו של ראש מערך הסייבר הלאומי לשעבר, "ישראל כמובילת סייבר עולמית - הדרך לשם, ביטוי ההובלה בפועל וחיוניות הביקורת להמשך ההצלחה", עולה כי שילוב הדוק בין הגנת סייבר מקצועית לביקורת עצמאית ושיטתית הוא תנאי חיוני לשימור יתרונה היחסי של ישראל בתחום הסייבר ולהבטחת עמידותה בפני האיומים הנשקפים במרחב הדיגיטלי.
המאמר הבא בחלק זה, "המבקר האחרון? בינה מלאכותית ועתיד מקצוע הביקורת" הוא אחד ממאמרי המפתח של הגיליון. ייחודו של המאמר אינו במיפוי הטכנולוגיה, כי אם בהיפוך שאלת המוצא. בעוד הדיון הציבורי מתמקד בשאלה כיצד אפשר לשלב את הבינה המלאכותית בפעילותו של המבקר האנושי כדי לשפר את תוצרי עבודתו, המאמר מבהיר כי זוהי שאלה זהירה מדי, כמעט מתחמקת, וכי יש להעז ולהציג שאלה מאתגרת יותר, כיצד המבקר האנושי ישתלב בעידן שכולו מנוהל על ידי בינה מלאכותית. מוסדות הביקורת שיקדימו להיערך למהפכה זו לא זו בלבד שישמרו על הרלוונטיות שלהם אלא שהם יתוו מחדש את אמות המידה שלפיהן תימדד ביקורת המדינה בעשורים הבאים.
בחלק השלישי מאוגדים מאמרים של חוקרים מהאקדמיה בארץ ובעולם. במאמר הראשון, "ביקורת המדינה על שימוש בבינה מלאכותית בגופים ציבוריים: עקרונות לבחינה מוסדית ונורמטיבית" מובהר כי בהיעדר מסגרת חקיקתית רוחבית, ביקורת המדינה עשויה לחרוג מהתפקיד המסורתי של חשיפת ליקויים ולסייע בעיצוב נורמות ציבוריות לשימוש אחראי בבינה מלאכותית. לשם כך נדרשת הקמת תשתית ביקורתית חדשה, המתבססת על שפה מקצועית עדכנית, מומחיות טכנולוגית, שיתוף פעולה בין-מוסדי, גיבוש הנחיות מקדימות למבוקרים ויכולת למידה מן המתרחש בתחום זה בזירה הבין-לאומית.
המאמר השני, של חוקרים מספרד, "בינה מלאכותית וביקורת ציבורית: אתגרים והזדמנויות עבור מוסדות ביקורת עליונים", מנתח את תוצאות הטמעתה של הבינה המלאכותית במגזר הציבורי וכן את האתגרים שהתפתחויות טכנולוגיות אלה מציבות לפני מוסדות ביקורת במסגרת מאמציהם לשיפור האפקטיביות והיעילות של עבודתם.
בסיפה של הגיליון מובא מדריך למבקרי המגזר הציבורי העושים ביקורת על מערכות בינה מלאכותית. המדריך, שגובש במוסדות הביקורת העליונים של ברזיל, פינלנד, גרמניה, הולנד, נורווגיה ובריטניה, תורגם לעברית כדי שכלל העוסקים בנושא בארץ יוכלו להסתייע בו.
מילות תודה והערכה
תודה מיוחדת ועמוקה נתונה למבקר המדינה ונציב תלונות הציבור, מר מתניהו אנגלמן, המסיים בימים אלו את תפקידו. במהלך כהונתו השכיל המבקר לזהות שהבינה המלאכותית הופכת מחזון למציאות ומשפיעה על כל היבט בחיינו, ובכלל זה על המגזר הציבורי. תובנה זו חידדה את הצורך לבחון את מוכנות הגופים הציבוריים לאתגרי העידן הדיגיטלי, להבטיח את ההגנה על תשתיות קריטיות ועל המידע האישי של כל אזרח ולהבטיח שמדינת ישראל לא רק תתמודד עם הסיכונים הכרוכים במהפכת הבינה המלאכותית, אלא גם תנצל את ההזדמנויות הגלומות בה.
נוסף על כך, גיליון זה של "מראות" עולה בקנה אחד תפיסתו המקצועית של המבקר, הגורסת כי יש לפעול להפיכת "הקופסה השחורה" של הבינה המלאכותית לכלי עבודה שקוף, אפקטיבי ונגיש עבור צוותי הביקורת ומבררי התלונות, לצד מתן תשומת לב לאתגרים החדשים הכרוכים במהפכה טכנולוגית זו.
אני מבקש להביע הוקרה עמוקה כלפי מנכ"ל המשרד, מר ישי וקנין, אשר הוביל את מהפכת הטמעתה של הבינה המלאכותית בין כותלי הארגון והפך אותה מחזון רחוק לפרקטיקה חיה בעבודתנו. תודה אישית על האמון המלא שנתת בי עת מינית אותי לתפקיד עורך הגיליון.
תודה מיוחדת לכל כותבי המאמרים בגיליון זה - עובדות ועובדים במשרד מבקר המדינה ונציב תלונות הציבור, אנשי אקדמיה ואנשי מקצוע מהשורה הראשונה - כולם עוסקים בתחומי הבינה המלאכותית והסייבר - על שנענו לבקשתנו ונרתמו ברצון לכתיבת המאמרים ולשיתוף הידע והניסיון המקצועי שצברו.
לעבודה המאומצת של הכנת הגיליון היו שותפים רבים: תודה מקרב לב לעורכת המשנה, גב' טלי כהן, על הניהול המקצועי, העין החדה והתמיכה לאורך הדרך. תודה לצוות המערכת המסור על העבודה הבלתי פוסקת מאחורי הקלעים: גב' אהובה נבו, גב' מאיה נוי, גב' מיכל פריאל, ד"ר האלה אבו חלה, ד"ר אביחי לויט, מר תמיר גזיאל ומר אילן מוריץ. תודה לצוות עריכת הלשון בראשות גב' גיתית עטר ולצוות העיצוב הגרפי - גב' הדר קאפח סייג וגב' שיראל אורנלה אביטל, שהפכו אסופת מאמרים מורכבת לתוצר בהיר, קריא ומהודר, העומד בסטנדרטים המקצועיים הגבוהים ביותר.
אנו מאמינים כי אסופת המאמרים שלפניכם תתרום תרומה של ממש לעיצוב פניה של ביקורת המדינה ולהתאמת כלי הביקורת לאתגרי העתיד. נאחל לכם קריאה מעשירה ומעוררת מחשבה.
צביקה אהל
עורך הגיליון
ומערכת כתב העת