המדריך החדש של מערך הדיגיטל הלאומי נולד מתוך הבנה שהשימוש בבינה מלאכותית כבר כאן. עובדים מסכמים מסמכים, מנסחים תשובות, מנתחים פניות, בודקים קוד ומנסים להבין איך כלים כמו קלוד, ChatGPT או ג׳מיני יכולים לחסוך זמן במערכת ציבורית עמוסה. הבעיה היא ש-AI בממשלה הוא לא עוד כלי פרודוקטיביות. כאשר עובד ציבור מזין מידע למודל, מבקש ממנו לסייע בניתוח פנייה של אזרח, או מחבר אותו למערכת ארגונית, השאלה היא ממש לא אם התשובה טובה. השאלה היא איזה מידע נחשף, מי אחראי לתוצאה, האם נפגעות זכויות, מה קורה כשהמודל ממציא, ואיך מונעים מטכנולוגיה שימושית להפוך לסיכון ציבורי. המדריך, שגובש על ידי מערך הדיגיטל הלאומי, מחלקת ייעוץ וחקיקה במשרד המשפטים והמרכז לרגולציה ומדיניות בינה מלאכותית במשרד החדשנות, מציע לגופים ציבוריים מסגרת עבודה לשילוב מערכות בינה מלאכותית. הוא מוגדר כגרסה ראשונה, לאחר הערות ציבור, ואמור להתעדכן תקופתית בהתאם להתפתחויות הטכנולוגיות והמדיניות.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
החידוש המרכזי במדריך הוא המעבר מחשיבה בינארית של “מותר או אסור” לחשיבה מבוססת סיכון. המסמך קובע כי שימוש אחראי בבינה מלאכותית אינו הימנעות מוחלטת מסיכונים, אלא ניהול שלהם. לכן הוא מציע שלושה מסלולים מרכזיים לפי צבעי רמזור: ירוק, צהוב ואדום, ולצידם מסלול כחול שמיועד להתנסות מבוקרת במצבים שבהם עדיין אין מספיק מידע כדי לסווג את המערכת בביטחון.
מודל הרמזור | מקור: מערך הדיגיטל הלאומי
מיועד למערכות בסיכון נמוך: כלים שאינם משפיעים ישירות על זכויות, חירויות או זכאות לשירותים, אינם משתמשים במידע אישי או במידע מוגן, פועלים בתחום מוגדר, מאפשרים פיקוח אנושי משמעותי ומפיקים פלט פשוט יחסית להסבר. הדוגמאות במדריך כוללות יצירת מצגות, תקצור פרוטוקולים, בדיקת איות, ניתוח מסמכים פומביים, תרגום הודעות פשוטות וכלי OCR (זיהוי תווים אופטי) בהקשרים לא רגישים. גם כאן אין פטור מלא מבקרה: נדרשת תוכנית ניהול סיכונים בסיסית, התייעצות עם מוביל AI, בקרה ודיווח, אך בעצימות נמוכה יותר.
מיועד לסיכונים בינוניים, למשל מערכות שמנתחות פניות אזרחים ומבצעות ניתוב ראשוני, או אלגוריתמים שמאתרים חריגות שעשויות להעיד על טעות או ניסיון הונאה. המסלול הזה אינו פוסל שימוש במערכת, אבל דורש השקעת משאבים ארגונית גבוהה יותר, התייעצות עם מוביל ה-AI וגורמי רוחב כמו אבטחת מידע והגנת פרטיות, ובקרות תכופות יותר.
מיועד למערכות שבהן לפחות אחד הסיכונים מקבל דירוג גבוה במיוחד. כאן כבר נדרשת מעורבות בכירה בהרבה: תיקוף המסלול נעשה על ידי מוביל ה-AI תוך יידוע מנכ"ל הארגון, תוכנית ניהול הסיכונים מאושרת על ידי מוביל ה-AI והמנכ"ל או מי מטעמו, ותדירות הבקרות היא לפחות אחת לרבעון. אם המערכת עלולה לפגוע באופן מהותי בזכויות יסוד, המדריך קובע שיש לבחון אם בכלל יש מקום לקדם את הפרויקט, לרבות התייעצות עם הלשכה המשפטית ועם קובעי מדיניות בדרג נבחר כאשר הדבר רלוונטי.
מפת החום ממחישה איך המדריך משקלל סיכון | מקור: מערך הדיגיטל הלאומי
המסלול הכחול הוא אחד החלקים החשובים במסמך, כי הוא מכיר במציאות של ה-AI. לפעמים אי אפשר לדעת מראש עד כמה מערכת מסוכנת עד שבודקים אותה. לכן המדריך מאפשר התנסות מבוקרת, למשל בשלב הוכחת היתכנות (PoC), בפריסה חלקית או בשימוש מוגבל בפונקציות מסוימות.
אבל זה לא “שטח הפקר”. המסלול הכחול אמור לכלול זמן מוגדר, מדדים ברורים, בקרות מוגברות, דיווח למוביל ה-AI, ובמקרים רגישים גם ליווי משפטי. המדריך מציין דוגמאות לגבולות אפשריים: הגבלת הניסוי ל-3 עד 12 חודשים, הגבלת סוגי הנתונים, הגבלת אוכלוסיית המשתמשים, אפשרות לעצור או להחזיר לאחור את המערכת, וגילוי למשתמשים שמדובר במערכת ניסיונית.
לא כל מערכת AI מתחילה עם סיווג סיכון ברור | מקור: מערך הדיגיטל הלאומי
אחד המסרים החשובים במדריך הוא שהאחריות לשימוש ב-AI אינה יכולה להישאר אצל העובד הבודד. המדריך מציע למנות מוביל AI ארגוני, כברירת מחדל מוביל הדאטה הארגוני (CDO), אך מאפשר גם מינוי של גורם אחר כמו מנמ"ר, סמנכ"ל אסטרטגיה או ועדה משרדית. התפקיד שלו הוא לגבש וליישם מדיניות שימוש אחראי, לנהל סיכוני AI וליצור תמונת מצב ארגונית של המערכות והשימושים.
מבנה ניהול האחריות בארגון | מקור: מערך הדיגיטל הלאומי
תחתיו מופיע “אחראי יישום עסקי”, כלומר הגורם שמוביל תהליך מקצועי מסוים ומבקש לשלב בו AI. הוא זה שצריך לרכז את ניהול הסיכונים של הפרויקט הספציפי. בארגונים גדולים או רגישים המדריך מציע להקים גם פורום משילות AI, אבל מדגיש שהפורום צריך להיות “רזה” ותומך, ולא להפוך לשכבה בירוקרטית עודפת.
החלק המעשי ביותר במדריך נמצא בנספח למשתמשי קצה, כלומר לעובדי ציבור שמשתמשים בכלי AI במסגרת עבודתם. כאן המסר חד: לפני שימוש בכלי, העובד צריך לוודא שהכלי לא נאסר לשימוש על ידי גורמי הסייבר בארגון, לבדוק אם קיימות הנחיות פנימיות, ולהבחין בין כלי חיצוני פרטי לבין כלי שאושר על ידי הארגון לפעולה על דאטה ארגוני.
כאשר מדובר בכלי חיצוני לארגון, כמו חשבון פרטי של Claude או Gemini, חל איסור להזין אליו מידע מוגן. ההגדרה רחבה וכוללת מידע אישי, מידע שאין למסור לפי חוק חופש המידע, מידע שעשוי להיות מוגן בסודיות מסחרית או בקניין רוחני, מידע תחת חיסיון משפטי או מידע מסווג. בנוסף, אין להזין פרומפטים שמעידים על כוונה לבצע פעולה כלפי אדם מזוהה או צעד שלטוני רגיש, ואין ליצור עצמאית ממשק אוטומטי בין כלי AI חיצוני לבין סביבת העבודה הארגונית ללא אישור הגורמים הרלוונטיים.
המדריך גם מזכיר את מה שכל משתמש AI כבר אמור לדעת, אבל רבים עדיין שוכחים והוא שאין להניח שהתוכן נכון. יש להצליב תשובות מול מקורות מידע מוכרים, להתייעץ עם מומחים כאשר מדובר בנושא שאינו בתחום מומחיותו של העובד, ולתעד שימוש משמעותי בבינה מלאכותית כאשר הוא משפיע על תוצר או החלטה.
המדריך לא מניח שמערכות AI יעבדו היטב תמיד. להפך, הוא מתייחס לתקריות כחלק בלתי נפרד ממחזור החיים של מערכת בינה מלאכותית. כבר בשלבי המדיניות הוא ממליץ להתייחס להקמת צוות תגובה לתקריות AI, שנקרא AIRT (AI Incident Response Team), ולקבוע תהליכים להפסקת שימוש, שינוי מודל, דיווח לגורמים רלוונטיים ותחקור.
מחזור החיים לשימוש אחראי ב-AI | מקור: מערך הדיגיטל הלאומי
בתבנית המדיניות הארגונית שמופיעה במדריך מוצע להקים צוות AIRT שיכלול, לפי הצורך, את אחראי היישום העסקי, מוביל ה-AI, גורם טכנולוגי, נציג הלשכה המשפטית וגורם בכיר בהנהלה. הצוות אמור לטפל בתקריות כמו דלף מידע, הטיה, הפרת פרטיות, שימוש לא מורשה, פגיעות אבטחה או תקלה רוחבית. התגובה יכולה לכלול השעיית מערכת, פתרונות זמניים לשמירת רציפות תפקודית, תיקון המערכת, שינוי אופן איסוף או תיוג הנתונים, אימון מחדש של המודל ודיווח לציבור כאשר הדבר רלוונטי.
המדריך חשוב, אבל הוא לא סוף הסיפור. זה לא מסמך משפטי, ומודגש שמחלקת ייעוץ וחקיקה במשרד המשפטים מגבשת מדריך משפטי נפרד שיעסוק בין היתר בשקיפות, שוויון, הטיות, חובת הנמקה וזכויות יוצרים. זו נקודה מהותית, כי בעולם הציבורי AI הוא לא רק שאלה של יעילות אלא גם של סמכות, הנמקה, פרטיות, שוויון ואמון.
האתגר האמיתי יהיה היישום. מסמך מדיניות יכול להגדיר מסלולים, תפקידים ובקרות, אבל הוא לא מבטיח שבכל משרד יהיה מוביל AI בעל ידע, סמכות ותקציב. הוא לא מבטיח שעובדים יימנעו מהדבקת מידע רגיש לכלי חינמי. והוא לא מבטיח שפורום משילות לא יהפוך לעוד ועדה שאינה מצליחה לעצור פרויקט בעייתי בזמן.
ובכל זאת, זה צעד משמעותי וחשוב. המדינה מתחילה להתייחס לבינה מלאכותית לא כאל צעצוע ניסיוני ולא כאל איום שצריך להתגונן מפניו, אלא כתשתית עבודה שדורשת ניהול. כבר אין שאלה האם המגזר הציבורי ישתמש ב-AI. הוא ישתמש. השאלה היא האם הוא יעשה את זה עם גבולות ברורים, אחריות ארגונית, שקיפות, תיעוד ויכולת לעצור בזמן בעת הצורך.
את המדריך הממשלתי המלא, כולל מסלולי הסיכון, הנספחים והקווים המנחים לעובדי הציבור, אפשר למצוא כאן.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!
תוצאות נוספות...
תוצאות נוספות...
