תקציר מנהלים
בינה מלאכותית (AI) איננה עוד נושא של "מדיניות עתידית" - היא כבר משנה את אופן פעולתן של ממשלות, את האופן שבו ניתנים שירותים ואת הדרך שבה אמון הציבור נבנה או מתערער. ביקורת מקבילה זו מראה כי מדינות רבות עוברות במהירות משאיפה לעשייה, אך מידת המוכנות עדיין אינה אחידה: ההתקדמות מואצת כאשר גיבוש האסטרטגיה, הסדרת המימון, גיבוש ממשל AI, הטיפול בנתונים, ההקניה והשימור של הכישורים לפיתוח AI ולשימוש בו והסדרת הבקרות מתקדמים יחד, והיא נבלמת כאשר הם מתקדמים בנפרד.
בהובלת משרד מבקר המדינה ונציב תלונות הציבור של ישראל, על פי יעד אסטרטגי 1 של, EUROSAI איגדה ביקורת מקבילה רב-לאומית זו 12 מוסדות ביקורת עליונים (צרפת, איטליה, שווייץ, פולין, רומניה, סלובקיה, אסטוניה, ליטא, לטביה, אלבניה, צפון מקדוניה וישראל). הביקורת נערכה בין מאי 2024 לדצמבר 2025 באמצעות מסגרת ניתוח משותפת שכללה תשעה נושאים ויותר מ 92- שאלות מובנות, לשם השוואת המוכנות הלאומית בממדים אסטרטגיים, תשתיתיים ויישומיים.
תוכנית אסטרטגית לאומית - בביקורת נמצא כי מדינות נוקטות מסלולים שונים: לחלקן יש אסטרטגיית AI שאישרה הממשלה, ואילו אחרות נשענות על אסטרטגיה רחבה יותר בתחום הדיגיטל, יוזמות עצמאיות או טיוטת אסטרטגיה שלא אומצה רשמית. כאשר ברור מי קובע את ממשל ה- AI, ומנגנוני התיאום הבין-משרדיים ברורים, האסטרטגיה מיתרגמת ביעילות רבה יותר לפעולה ולאמצעים לבניית אמון הציבור, ובייחוד לחיזוק ניכר של מודעות הציבור ל- AI והבנתו. מסקנת הפרק היא כי ההכוונה האסטרטגית היא היעילה ביותר כאשר נלווים לה קביעה ברורה של הגופים האחראיים ליישום וקביעת יעדים מדידים. המלצת הפרק - בחינה תקופתית של האסטרטגיה, כדי לוודא שהמודל שנבחר עדיין תומך בגישה אקולוגית-מערכתית (Ecosystem approach), בתיאום בין-משרדי אפקטיבי וביכולת ביצוע מתמשכת.
תקציבי בינה מלאכותית לאומיים - המימון הוא מבחן מכריע לרצינות, והביקורת העלתה כי מדינות רבות עדיין מתקשות בהצגת התמונה המלאה של התקציב שהוקצה ל-AI. פחות ממחצית דיווחו על תקציב AI מוגדר בבירור, ואילו אחרות משלבות את הוצאות ה-AI בתקציבים רחבים יותר לתחום הדיגיטל או בתקציבים ענפיים, באופן המקשה לעקוב אחר התאמתם של המשאבים המוקצים לסדר העדיפות האסטרטגי. מסקנת הפרק היא כי תקצוב מפוצל מחליש את הפיקוח ומאט את ההרחבה השיטתית והקוהרנטית של השימוש בטכנולוגיות AI. המלצת הפרק היא לשפר את השקיפות באמצעות הבחנה בין מימון ישיר של פרויקטי AI לבין השקעות המאפשרות שימוש ב- AI (ובפרט בתשתיות), ריכוז התמונה התקציבית בכלל המשרדים ותיאום בין מקורות מימון חיצוניים באמצעות חלוקת אחריות ברורה ותכנון רב-שנתי.
אסדרה - אסדרת תחום ה-AI מתפתחת, אך לא באופן עקבי. כמחצית מן המדינות בלבד דיווחו כי פורסמו הנחיות בנושא ה- AI, אף שכל המדינות דיווחו על גוף ייעודי האחראי לפיקוח על הפעילות בתחום זה. חוק הבינה המלאכותית של האיחוד האירופי (EU AI Act) כבר משמש גורם רב-עוצמה המאיץ את האסדרה, אך המדינות צופות שהחוק יטיל עליהן דרישות יישום כבדות ושיִקשה עליהן ליישם אותו בגלל מגבלות הנוגעות לכוח האדם. מסקנות הפרק הן כי הטלת האחריות המוסדית מקדימה את מתן ההנחיה התפעולית, וכי כללי האתיקה נותרים לא אחת בגדר מחויבות עקרונית בלבד, ללא מנגנונים עקביים ובני-בדיקה שיבטיחו את העמידה בכללים אלה. המלצות הפרק הן לפרסם הנחיות מעשיות, לראות בהיערכות ליישום חוק ה-AI האירופי היערכות הנוגעת לפעילות הממשלתית בכלל, ולא לתחום המשפטי בלבד ולחזק מנגנונים אכיפים כגון הגדרת אחריות ברורה, עקיבות 3 ובדיקות קודם הפעלתן של מערכות, במקום שבו הדבר מתאים.
תשתיות - מדינות רבות משקיעות בתשתיות AI, ובייחוד בקיבולת המחשוב, אך הפעילות בתחום זה עדיין בעיצומה, והיכולת להשוות בין המדינות מוגבלת בשל מדידה לא אחידה של היקף התשתיות. סביבות ענן לאומיות שכיחות, אולם כל המדינות נשענות על ספקים חיצוניים, ומכאן שמודל הפעלה היברידי הוא הנורמה. מסקנת הפרק היא כי תשתיות הן חיוניות משום שהן מאפשרות את יישום כל יתר המרכיבים, וכי המחסור בהן עלול להפוך לצוואר בקבוק כאשר הממשל, חיזוי הביקוש והגדרת האחריותיות בסביבות היברידיות אינם ברורים. ההמלצות - למפות את כלל יכולות התשתית הקיימות לצד חיזוי של הצרכים העתידיים הן למשאבים לאומיים והן למשאבים חיצוניים, ולחזק את הממשל בסביבות היברידיות לשם ניהול סיכוני אבטחה, עלות, חוסן ותלות בספקים.
אבטחת מידע - הביקורת העלתה כי יש מודעות גבוהה לסיכוני אבטחת AI, ובפרט לדליפת נתונים ולגישה בלתי מורשית לנתונים, אך קווי הבסיס לתהליכי עבודה מחייבים היו חלשים יותר. לא כל המדינות דיווחו על קיומם של פרוטוקולים מחייבים של אבטחת סייבר ועל מדיניות הגנת הפרטיות ייעודית ל-AI, והניסיון המצטבר באירועי סייבר מסוג זה נותר מצומצם - דבר ההופך את המניעה וההיערכות לחשובות אף יותר. מסקנת הפרק היא כי אבטחת AI היא אתגר ממשלי לא פחות משהיא אתגר טכני. ההמלצות - לקבוע דרישות בסיס והכשרה מבוססת תפקיד, לשפר את העקיבות והתיעוד ולאמץ נוהלי אבטחה לאורך מחזור החיים של מערכות ויישומים שיחולו באופן עקבי על משרדים ועל ספקים.
בשלות דיגיטלית - החולשה של בסיסי הנתונים מוסיפה להיות מגבלה מכרעת בפני הרחבה ניכרת של AI. אף שכל המדינות דיווחו על מתכונת כלשהי של מדיניות לשיתוף נתונים, החסמים התפעוליים נמשכים, ובייחוד קשיים רגולטוריים וממשליים, פערים בתאימות התפעולית ורמות לא אחידות של מוכנות נתונים. השוואות חיצוניות מחזקות דפוס חוזר: קביעת המדיניות והנחת הפלטפורמות עשויות להתקדם מהר יותר מן התוצאות המוכחות. מסקנת הפרק - לממשלות יש לעיתים מעין כללים לשיתוף נתונים, אך לא תמיד קיימים התנאים התפעוליים הדרושים לשיתופם ביעילות, בבטחה ובהיקף רחב. ההמלצה - לשפר את בהירות ממשל הנתונים, לייעל תהליכים, לשפר את התאימות התפעולית ואת נוהלי הבטחת איכות הנתונים ולבסס אפשרות ביקורת ותיעוד, כדי שיהיה אפשר להוכיח שימוש חוזר בנתונים כדין ולא רק להצהיר עליו.
פרויקטים ממשלתיים - בשירות הציבורי במדינות השונות כבר נעשה שימוש מעשי ב-AI, בייחוד בתחומים תפעוליים עתירי היקף, ומדינות רבות מדווחות על שיפור הפריון. עם זאת, מנגנוני ניטור והערכה אינם מוטמעים באופן עקבי, ומדדי ביצוע מרכזיים (KPIs) מתמקדים לעיתים קרובות ביעילות ולא בבחינה כוללת של איכות השירות, איכות הביצועים של מודל ה-AI, קיימות, שימוש חוזר בנתונים וסיכונים. מסקנת הפרק - היישום מתקדם מהר יותר מן היכולת הממשלתית למדוד ולהשוות את ההשפעה של פרויקטי ה-AI על פעילות הממשלה. ההמלצות - לבסס יכולת לראייה כוללת של כלל הפרויקטים, לאמץ מסגרות הערכה מאוזנות ולקבוע דרישות דיווח מינימליות, כדי שהחלטות להרחיב פרויקטים ניסיוניים יתבססו על נתונים אמינים והסיכון יהיה גלוי.
הון אנושי - מחסור בכוח אדם מיומן הוא המגבלה הרווחת ביותר: כל המדינות דיווחו על מחסור במומחי AI, ורבות מהן דיווחו גם על מחסור בחוקרים. הכשרות לשיפור מיומנויות השימוש ב-AI מתבצעות במקומות רבים, אך עדיין אינן אוניברסליות, ושימורם של בעלי תפקידי ממשל והובלה קריטיים נותר נקודת תורפה העלולה להעמיק את התלות בספקים חיצוניים. מסקנת הפרק - המוכנות ל-AI תלויה בראש ובראשונה באנשים, ולא רק בטכנולוגיה. ההמלצה - לקבוע אסטרטגיות לפיתוח ההון האנושי המשלבות מסלולי למידה, הכשרה מבוססת תפקיד, מנגנונים ארגוניים לסיוע ביישום ובהפצת הידע (מרכזי מומחיות ושיתוף ידע) ושיפור תהליכי הגיוס והשימור של בעלי תפקידי פיקוח וביצוע מרכזיים.
עיבוד שפה טבעית (NLP) - מרבית המדינות מפתחות יכולות NLP בשפה המקומית, אך הדבר נעשה בעיקר באמצעות ספקים חיצוניים או בשיתוף איתם, דבר המעורר שאלות ארוכות טווח של תלות בספקים חיצוניים ושל ממשל לאורך מחזור החיים. מסקנת הפרק - יכולות שפה הן נדבך יסוד ל-AI בר-הרחבה בשירותים ממשלתיים ובתהליכים פנימיים, אך עליהן להיות בנות-קיימה ובנות-ממשל לאורך זמן. הוא ממליץ לראות ב-NLP יכולת משותפת הניתנת לשימוש בגופים רבים, ובמקום שבו יש לספקים תפקיד מרכזי - להבטיח חלוקת אחריות ברורה לתחזוקה, ניטור, תיעוד, עדכון הנתונים והמודל וניהול הסיכונים ולאכוף את הנשיאה באחריות.
סיכומו של דבר, המסר של הביקורת ברור: ממשלות יוצרות את התנופה בתחום השימוש ב-AI, ורבות מאבני הבניין הנכונות כבר הולכות ונוצרות. השלב החשוב הבא הוא לחבר בין הלכה למעשה - לעבור מאסטרטגיה ליישום מוסדר, מהשקעה לתיקי פרויקטים לאומיים, מעקרונות לכללים בני אכיפה ומפרויקטים ניסיוניים מצומצמים לשימושים נרחבים שהציבור יפיק מהם תועלת מדידה רחבת היקף.
תוכן העניינים
ביקורת מקבילה רב-לאומית בנושא ההיערכות הממשלתית לבינה מלאכותית
דבר מבקר המדינה ונציב תלונות הציבור ונשיא יורוסאי (EUROSAI)
كلمة مراقب الدولة ومفوض شكاوى الجمهور ورئيس يوروساي (EUROSAI)
Opening Remarks by the State Comptroller and Ombudsman and EUROSAI President
תקציר מנהלים
מפתח מונחים וראשי תיבות
תוכן העניינים
מבוא
תיאום ביקורת מקבילה
מתודולוגיית הניתוח
לוח הזמנים של הביקורת
מועדי הפרסום של דוחות הביקורת הפרטניים
מועדי הגשת הממצאים
התוכנית האסטרטגית הלאומית
מפת התכנון בתחום הבינה המלאכותית
מבנה ממשל ה-AI
תכולת התוכניות
יעדים אסטרטגיים
הלימה לעקרונות ה-OECD
חסמים לאימוץ טכנולוגיות AI
השוואה בין-לאומית
מסקנות
תקציבי AI לאומיים
הקצאת התקציב ורכיביו
מודלים חלופיים למימון
מסקנות
קווים מנחים אסדרתיים
סקירה כללית של הקווים המנחים האסדרתיים
השפעת חוק האינטליגנציה המלאכותית של האיחוד האירופי
סיכונים אתיים בשימוש ב-AI
סיכונים משפטיים והשלכות ליטיגציה
מסקנות
תשתיות
אבטחת מידע
אמצעי הגנה בסיסיים ל-AI מאובטח
התאמת אמצעי הגנה אכיפים לסיכונים בתחום ה-AI
דרכים לצמצום סיכוני אבטחה הקשורים ל-AI
בשלות דיגיטלית
אסטרטגיית נתונים ויסודות לשיתוף נתונים
הערכת הבשלות בתחום הנתונים הפתוחים לשנת 2025
אגם נתונים
מסקנות
מיזמים ממשלתיים
ה-AI בפעולה
שימושים ממשלתיים
הערכת השפעה
מסקנות
ההון האנושי
פער הכישורים
הכשרת כוח העבודה
מסקנות
עיבוד שפה טבעית (NLP)
נספח א' ׀ שאלות הביקורת
תוכנית אסטרטגית לאומית
תקציבי הממשלה
תשתיות
הבשלות הדיגיטלית
הנחיות אסדרה
אבטחת מידע
פרויקטים ממשלתיים
הון אנושי
NLP
נספח ב' ׀ מדדים בין-לאומיים
נספח ג' ׀ המתודולוגיה ששימשה לניתוח המתאמים בין המדדים
נספח ד' ׀ דוגמאות בולטות ליישומים מוצלחים של בינה מלאכותית
נספח ה' ׀ דוחות ביקורת פרטניים
אסטוניה | סקירה של פיתוח פתרונות בינה מלאכותית בארגונים במגזר הציבורי
צרפת | האסטרטגיה הלאומית למחקר בינה מלאכותית
צרפת | האסטרטגיה הלאומית לבינה מלאכותית
ישראל | בינה מלאכותית - מוכנות לאומית
לטביה | היכרות עם בינה מלאכותית והשימוש בה בלטביה
ליטא | ניהול בינה מלאכותית במגזר הציבורי
מקדוניה | הזדמנויות ליישום בינה מלאכותית במגזר הציבורי
שווייץ | ביקורת בין-לאומית מקבילה על בינה מלאכותית