לא רק פרומפט וגמרנו: ה־AI לא נושא באחריות - המשתמשים בו - כן

פסק דין של ביהמ"ש העליון חשף כי תשובה מטעם עיריית רמת גן, איננה קבילה שכן כל המקורות שלה לא קיימים במציאות -והם מהווים "הזיית AI". אלא שמעבר למבוכה שנגרמה, עולה סוגייה עקרונית: חובת ההנמקה כבר לא בהכרח רלוונטית לימינו אנו ולכן יש לעבור לחובת אימות: הליך שבודק הלכה למעשה את תוצרי ה-AI ומגדיר על מי חלה האחריות על השימוש בה

בישראל אוהבים לדבר על חדשנות. על ה-Startup Nation, אקוסיסטם, יזמות, בינה מלאכותית, ופריצות דרך טכנולוגיות. אלא שלצד ההתלהבות, נשכחת שאלה בסיסית בהרבה: מי נושא באחריות כאשר האלגוריתם שבבסיס ה-AI טועה - ובעיקר כאשר הוא מייצר תשובה שנראית נכונה, מנומקת ומבוססת משפטית, אך בפועל היא איננה מבוססת על מקור אמיתי?

פסק הדין שניתן לאחרונה על ידי בית המשפט העליון מפי כב' השופט סולברג בעניין נבו בן כהן נ׳ עיריית רמת גן ממחיש היטב את הסוגייה. העירייה דחתה בקשה של תלמיד בחינוך המיוחד להסעה מבית אביו, תוך הסתמכות על חוזר מנכ״ל, ציטוטים ופסיקה שלכאורה תמכו בעמדתה. אלא שבהמשך התברר כי החוזר אינו קיים, הציטוטים אינם מופיעים בנוהל רלוונטי, והקביעות שיוחסו לפסקי הדין [שהובאו גם במסגרת התשובה לערעור] לא נמצאו בהם. לא הייתה כאן טעות טכנית אלא חוסר אמינות משפטי/מנהלי מובהק: החלטת רשות מנהלית שנראתה משפטית ונשמעה משפטית - נשענה בפועל על מקורות סמכות ומציאות מדומים שלא התקיימו. 

בעיניי, לאחר כ־25 שנים בליטיגציה מסחרית ובנדל״ן, זהו לב העניין: בעידן ה-AI חובת ה"הנמקה" הישנה כבר אינה מספיקה. מסמך החלטה של רשות שיפוטית או מנהלית יכול להיות מנוסח היטב, ומשכנע מאוד, ועדיין להיות חסר בסיס נורמטיבי. לכן המשמעות המעשית של פסק הדין היא מעבר מ״חובת הנמקה״ ל״חובת אימות״. לא די לנמק את ההחלטה; צריך לוודא שההסבר נבדק, שהמקור קיים, שהציטוט אמיתי, ושאדם המוסמך להחליט עמד מאחורי ההחלטה שניתנה.

ואומנם, העליון עסק ברשות מנהלית, אך הלקח בעיני רחב יותר. שימוש ב- AI כבר ניכנס למערכות בנקאים, ביטוח, בריאות, דיני עבודה, רישוי, מכרזים, נדל״ן, הערכות שווי, בדיקת זכויות, חיתום ודירוג אשראי. כאשר בנק מסמן לקוח כ״סיכון״, חברת ביטוח דוחה תביעה, מעסיק מדרג עובד, או מערכת מנתחת זכויות בנכס - נדרשת תשובה פשוטה: מי בדק? מי אישר? מה עמד בבסיס ההחלטה? ובעיקר - מי נושא באחריות אם ההחלטה שגויה וזו גרמה לנזק?

טענה לפיה ״הבינה המלאכותית החליטה״ אינה יכולה להיות קו הגנה משפטי ככל שזו טעתה וגרמה לנזק. אלגוריתם אינו עומד לחקירה נגדית, אינו מפעיל שיקול דעת ואינו נושא באחריות אישית ומקצועית. למעשה, דווקא כאשר השימוש ב-AI רק גובר, מן הראוי לזכור שמאחורי כל מערכת עומדים אנשים: מי שרכש אותה, הטמיע אותה, הגדיר את הפרמטרים שלה, אישר את התוצאות והסתמך עליהן. עליהם, מתוקף השימוש בבינה המלאכותי, חלה האחריות.  

האיחוד האירופי כבר עיגן ב-AI Act (חוק הבינה המלאכותית שמהווה את המסגרת המשפטית הראשונה לנושא) מסגרת רגולטורית מבוססת־סיכון, המבקשת להתמודד עם חלק מהאתגרים הללו באמצעות חובות של ניהול סיכונים, תיעוד, שקיפות ופיקוח אנושי ביחס למערכות מסוימות. בישראל, לעומת זאת, טרם התגבשה מסגרת חקיקתית רוחבית ומחייבת באותו היקף.

חדשנות אמיתית אינה נמדדת רק במהירות אימוץ טכנולוגיה. היא נמדדת גם ביכולת להציב לה גבולות מבוססים בחוק ברור, לבנות בה אמון, ולוודא שכאשר בינה מלאכותית משפיעה על זכויות, כסף, נכסים, פרנסה או שירותים חיוניים עדיין נדרש שיהא אדם אחראי. AI יכול לייעל תהליכים הוא אינו יכול להחליף את האחריות. לכן, בעידן הבינה המלאכותית, מי שמחליט על בסיס מידע חייב לא רק לנמק החלטתו אלא הוא חייב לאמת את מקורות המידע שבבסיס החלטתו.

משרד אביעד, איטח ושות׳ מלווה עסקים, חברות ולקוחות פרטיים בניהול סכסוכים חוזיים ומסחריים מורכבים, ניסוח ומשלוח מכתבי התראה, ניהול משא ומתן, הגשת בקשות לסעדים זמניים דחופים וניהול תביעות ליטיגציה. לייעוץ ראשוני: 03-6236130.

אין באמור משום ייעוץ משפטי, ואין בו כדי להחליף בחינה פרטנית ומקצועית של נסיבות ההסכם והדין החל.