חוק הבינה המלאכותית באיחוד האירופי יוצא לדרך – מה מותר, מה אסור, על מי חל ומה חשוב לדעת

חוק הבינה המלאכותית באיחוד האירופי יוצא לדרך – מה מותר, מה אסור, על מי חל ומה חשוב לדעת.

כחודש וחצי לאחר שמספר חברי פרלמנט באיחוד האירופי הגיע להסכמה על הסדרה בחקיקה של הבינה המלאכותית, החוק עצמו, שאמור בקרוב מאוד לצאת לדרך, החוק עצמו דלף ואישש את מה שחשבנו כל העת – מדובר במהפכה של ממש.
ראשית הקדמה קצרה – מדובר בחוק הראשון בהסטוריה שמסדיר את נושא הבינה המלאכותית ובפרט כלי ה-Generative AI הפופולריים בני זמננו ובהם CHATGPT, MIDJOURNEY ודומיהם, ואת כל זה עשו בקובץ חקיקה עצום בן למעלה מ-250 עמודים שמבהיר בצורה מפורטת ומסודרת (כיאה לאירופאים) מה מותר, מה אסור, מה הקנסות שאפשר לקבל ועוד המון דברים חשובים שעד היום טרם קיבלו התייחסות.

אז אמנם קשה מאוד לסכם קובץ חקיקה כל כך גדול, אבל בכל זאת הצלחתי לעשות סדר בדברים החשובים. בואו נתחיל!

על מי הרגולציה תחול?

שלא במפתיע הרגולציה תחול בעיקר על המפתחים, המפעילים והמשתמשים של מערכות בינה מלאכותית שנמצאים באיחוד האירופי או שיספקו את המערכות למי שנמצא באיחוד האירופי, אך בנוסף היא תחול גם על מי שיפיץ מערכות בינה מלאכותית, עניין שהוא בהחלט חריג, וזה למעשה אומר שאם אתם אנשים מכירות ויציעו לכם למכור מערכת AI לעסקים שנמצאים באיחוד האירופי – יש לכם חובות ואחריות לפעול לפי הרגולציה ולוודא שהיא עומדת בכללים מסוימים.

האם אפשר להשתמש בכל כלי בינה מלאכותית?

לא. הרגולציה קבעה שיש 4 מערכות AI שיהיו אסורות לשימוש אם הן כוללות את אחת או יותר מהעניינים הבאים:

• כלי AI שנועדו להשפיע על שיקול הדעת של אנשים באמצעות מניפולציות (בעיקר דיפ פייק).
• כלי AI נועדו לנצל חולשות ומצוקות של קבוצות מסוימות (למשל קטינים).
• “קטלוג” של אוכלוסיות על סמך מידע ביומטרי לצורך הערכה של דעה פוליטית, נטיה מינית, אמונות ועוד.
• “דירוג” אוכלוסיות שתוצאתו באפליה של אנשים מסוימים.

האם יש הבדל באיזה AI אני משתמש?

הרגולציה קובעת מספר סוגים של כלי AI שמוגדרים כ”סיכון-גבוה” אשר עליהן תחול רגולציה עוד יותר מחמירה, ובהם:

• מערכות זיהוי ביומטרי (למשל לצורך הערכת רגשות).
• מערכות המטפלות בתשתיות קריטיות דוגמת רמזורים ואספקת אנרגיה.
• מערכות בתחום החינוך (למשל זיהוי ובקרה של התנהגות אסורה של תלמידים).
• מערכות בתחום ההשמה.
• מערכות בתחום מתן שירותים חיוניים (למשל שימוש אצל שירותי הצלה ושירותי דירוג אשראי).

על חובת רישום, חובת מינוי נציג, קבלת היתר, חבות גילוי נאות ועוד חובות וכללים

רוצים להפעיל, להשתמש או לפתח AI באיחוד האירופי או אפילו לקהל שנמצא באיחוד האירופי? ובכן האירופאים קבעו שורה של חובות תהליכים ביורוקרטיים שיש לעמוד בהם, אלה הדברים העיקריים:

• עליכם להירשם במאגר מידע מיוחד עוד לפני ההשקה ותחילת השימוש של ה-AI.
• עליכם למנות נציג מקומי באיחוד האירופי שיהיה אחראי על יישום הרגולציה מטעמכם.
• במידה ומדובר בכלי AI שמוגדר ככלי בסיכון גבוה – עליכם למלא טפסים שמתעדים תהליכים שונים ובהם תהליך הפיתוח, מקור התכנים שעליהם אימנו את ה-AI, סיכונים אפשריים ב-AI, תיעוד מידע שהוזן ל-AI ועוד. בנוסף עליכם לוודא שהנציג מטע מכם וכן כל מי שיפקח מטעמכם על ה-AI יעבור הכשרות מתאימות.
• יש לקבל היתר להפעלת מערכות AI לאחר הגשת בקשה מתאימה. ההיתר יהיה תקף למספר מוגבל של שנים שלאחריו יבחנו מחדש האם אפשר להאריך את תוקפו.
• עליכם לשמור את המסמכים הרלוונטיים לפעילות של ה-AI לתקופה של 10 שנים לפחות, ולפי דרישה להעמיד אותם לרשויות המוסמכות (בכל מדינה יוקם משרד ייעודי שיהיה אחראי על אכיפה ויהיה גם משרד אחד עיקרי של כלל האיחוד האירופי).
• יש לקבוע מדיניות אבטחת מידע בנוגע לשימוש ב-AI.
• עליכם לקבוע תנאים וכללים ספציפיים לגבי שימוש במערכות ה-AI ובין השאר לציין אזהרות רלוונטיות.
• יצרתם תוכן באמצעות AI? בין אם זה טקסט, תמונה, קול או סרטון – עליכם לציין זאת בצורה מפורשת.

החטא ועונשו, ולמה זה בכל זאת סביר

למקרה שחשבתם “לעגל פינות” – האירופאים הכינו שלל סנקציות למי שיפר את הכללים הללו, חלק מחמירות אבל חלק דווקא מתחשבות:

• הקנסות המקסימליים יכולים להגיע ל-35 מיליון יורו או 7% מהמחזור הכספי השנתי, הגבוה מביניהם.
• ניתן יהיה להטיל קנסות לא רק על מפעילי ומפתחי מערכות AI שיפרו את הכללים, אלא גם על המשתמשים, הנציגים והמפיצים של כלי AI, אך במקרה כזה הקנסות יהיו נמוכים יותר ויעמדו “רק” על 15 מיליון יורו או 3% מהמחזור הכספי השנתי, הגבוה מביניהם.
• ולמרות זאת – במידה ומדובר בחברה צעירה, עסק קטן או בסטארטאפים – על עבירות מסוימות הקנס יהיה 1% בלבד מהמחזור הכספי השנתי או 7.5 מיליון יורו, הנמוך מהשניים, ובנוסף נקבע שתהיה התחשבות בחברות ועסקים קטנים/צעירים כך שייתכן ויסתפקו באזהרה בלבד במקרים של הפרה.
• בנוסף ניתן יהיה גם לתת צו להפסקת פעילות ה-AI מעבר לקנס הכספי.

מתי כל זה ייכנס לתוקף?

החוק אמור להיות מאושר בקרוב, ולפי הנוסח שהודלף הוא ייכנס לתוקף שנתיים ממועד האישור הסופי (אך יש קולות שקוראים להקדים את הכניסה לתוקף). עם זאת תהיה החרגה לגבי כלי AI של חברות גדולות שכבר פועלות בצורה חזקה ורחבה בשוק, אשר לגביהן נקבע כי החוק יחול עליהן החל מסוף שנת 2030, כפי הנראה כדי לתת להם זמן להיערך.

הערה לגבי זכויות יוצרים

החוק החדש הכיר בכך שפעולות של אימון אלגוריתם על תכנים טעון אישור של בעלי הזכויות בתכנים למעט אם האימון נעשה לצרכי מחקר (להבדיל מצרכים מסחריים). יהיה מעניין לראות איך OPENAI, מידג’רני ודומיהם יסתגלו לכך.

אז איך בדיוק מתחילים להיערך לרגולציה?

עוד מוקדם לדעת כי החוק ממש בתחילת דרכו (או ליתר דיוק נמצא עדיין בהריון מתקדם וטרם נולד, ובוודאי שטרם התחיל ללכת), אך מקריאת הרגולציה נראה שבנוסף לכל החובות והאיסורים – האירופאים יסייעו לחברות להטמיע את הרגולציה אצלן. בין השאר נקבע שהאירופאים יכינו טפסים שיקלו על הטמעת הרגולציה הנדרשת, ונשאר לקוות שהצעדים האלה יעודדו חדשנות ולא יעכבו אותה.

נ.ב. קצת על תמונת הקאבר של מאמר זה: את התמונה יצרתי בעזרת BRIA AI, חברה ישראלית שדרכה אפשר לייצר תמונות שעובדת בצורה “כשרה”. כלומר, הם אימנו את האלגוריתם שלהם רק באישור של בעלי התכנים או על תוכן בנחלת הכלל.