הגולם שקם על יוצרו

כדאי לשים לב, בשולי החדשות לכאורה, לידיעה והחלטה מאוד מעניינת וחשובה:

193 מדינות חברות באונסק"ו, הגיעו להסכמה בדבר טיוטת הסכם, לגבי רגולציה בינלאומית של בינה מלאכותית (AI ).

טוב, אין צורך להעמיק ולחקור ולדרוש ולהסביר, כמה בינה מלאכותית חשובה, ועוד יותר תהא חשובה בחיינו השוטפים. אני מניח, שקוראים פה מבינים החשיבות העצומה.

אבל, כאן הגיעו, ולראשונה, להסכם, או טיוטת הסכם. והטיוטה, קובעת עקרונות חשובים. למשל:

שהחוק הבינלאומי, חוקים הומניטריים הנוגעים לזכויות אדם וכדומה, חייבים להילקח בחשבון בכל חקיקה או מדיניות הנוגעת ליישומים של בינה מלאכותית.מענין לציין, שנושאים של איכות הסביבה מאוד דומיננטיים בטיוטה עצמה.

זה ככה בכללי בגדול להיות מעודכן ולהבין.

כאן אבל, נשמח לשמוע דעתכם, בקשר לדילמה או סוגייה מאוד חשובים ומרכזייים בנוגע לבינה מלאכותית:

דילמה שמזה זמן רב, מאוד מטרידה משפטנים, מומחים, אנשי מקצוע, אנשי רוח וכדומה:

מחד, הבינה המלאכותית, נועדה בין היתר, למה שנקרא : Decision making .כלומר, לקבל החלטות נניח תבוניות ומעין אנושיות במצבים מסויימים. אלא, שלצורך כך, צריך למידה מעמיקה ואוטונומית של הגולם (הבינה המלאכותית). אם אתה קוטע לו האוטונומיה של הלמידה העצמית והמעמיקה, אתה פוגע בתכלית ובמהות:

חיקוי החשיבה האנושית וההתפתחות האנושית. כלומר, התכלית צריכה להיות, מוח של אדם, אבל, עם כוחות מיחשוב עצומים. מוח של אדם, לא יכול להיות מופרע על ידי שליטה באוטונומיה של הישות, נניח לכבות ולהדליק כרצונך. ככה אדם לא יכול להתפתח נניח בגדול.

מאידך:

הבינה המלאכותית, נועדה לשרת את האדם. האדם צריך לשלוט בה. אי אפשר לתת לבינה כזו, לא כל שכן בלי הרבה ניסיון לגביה ולגבי ביצועיה, לקבל החלטות גורפות, שיחרצו גורלות של אנשים.

ועוד נדבך:

אם היא ישות אוטונומית, מי יעמוד לדין ? מכונה תעמוד לדין ? האדם שתכנן המכונה (או כלי הנשק למשל, שפועל עצמאית יעמוד לדין ?) אולי בכלל, אפשר להעמיד מכונה לדין ? איפה זה כתוב בעצם, שאי אפשר( פילוסופית, להבדיל ממשפטית).

או שאולי יטען הטוען, שאף אחד בכלל לא יעמוד לדין. כלומר:

נניח מכונה טעתה במלחמה, והורידה אלפי אזרחים במכה. ואף אחד לא יעמוד לדין !

אפשר לחשוב על המון נימוקים לכאן ולשם.

המסמך של אונסק"ו הוא ברור מאוד בקשר לכך, נצטט ( פסקאות 35-36 לטיוטה, ומיזגתי בינהן למען הנוחות):


Human oversight and determination

It must always be possible to attribute ethical and legal responsibility for any stage of the life cycle of AI systems to physical persons or to existing legal entities. Human oversight refers thus not only to individual human oversight, but to public oversight, as appropriate. It may be the case that sometimes humans would have to rely on AI systems for reasons of efficacy, but the decision to cede control in limited contexts remains that of humans, as humans can resort to AI systems in decision-making and acting, but an AI system can never replace ultimate human responsibility and accountability.


נתרגם בתמצית ספונטנית:

צריך תמיד לייחס אתית ומשפטית את מעשי הבינה המלאכותית, לאדם או לישות טבעית אנושית משפטית. כך בכל שלב של חיי מכשיר בינה מלאכותית. השליטה והפיקוח והבקרה, צריכים להיות ציבוריים על מכשיר כזה. גם אם צריך להשתמש בבינה מלאכותית מחמת שיקולים של יעילות, לא מאבדים שליטה על בינה מלאכותית בקשר לקבלת החלטות. תמיד בסוף, האדם הוא האחראי, הוא השולט, הוא זה הנותן הדין.

עד כאן התרגום:

הדילמות יכולות להיות עצומות במצב כזה, זה ברור.

מענין לציין בשולי הדברים, כלל וכלל אבל לא בשוליים, שמדינת צ'ילי, חוקקה לאחרונה חוק, אשר אוסר מניפולציה על נפש אנושית תוך שימוש בבינה מלאכותית. כאן בכלל, הנושא מורכב ורגיש מאוד.

אבל, כאן עסקינן, בדילמה פשוטה:

מי אחראי משפטית? מי בעל הבית? בעל הבית נניח השתגע עם מבצע הוזלות כמו שאנו קוראים תדיר ? אבל מי הוא ? מכונה?

נשמח, לשמוע דעתכם.

2 תגובות על “הגולם שקם על יוצרו”

  1. הכותרת הגולם שקם על יוצרו הולמת. מצד אחד נתן להגביל מכונה על ידי סייגים. מצד שני הכוונה היא ליצור מכונה שתעלה בביצועיה על בן אדם והסייגים עלולים להגביל את הבצועים שלה והיא גם תלמד לעקוף אותם.
    כבר היו מקרים כאלו. שמעתי על תוכנה שמטרתה הייתה לפענח צילומי רנטגן והיא גילתה ביצועים מעולים בבית החולים בו היא פותחה אבל פחות טובים בבתי חולים אחרים. הסתבר שעל דעת עצמה היא הכניסה לשיקולים שלה את ההרכב האתני של האוכלוסיה באותו איזור ומצבם הכלכלי. זאת אומרת, מכונה יכולה להגיע לכיוונים שאדם לא יחשוב עליהם והפיקוח עליה הוא ממש לא קל.

    בסופו של דבר לא ניתן להתגבר על זה משפטית כמו שלא ניתן להתגבר משפטית על ניסויים גנטים מאחר ובני אדם ימצאו לופ הולס. הקורונה שאנחנו עוברים נבעה מההגבלות שאובמה הטיל על נסיונות גנטיים בוירוס. לכן פשוט העבירו אותם לסין שם אין הגבלות ויצרו אותם שם תחת פיקוח גרוע וזה הביא למגפה הראשונה תוצרת בן אדם.

    אהבתי

  2. עתידן,

    אז אתה קונה התיאוריה או הסברה שזלג ממעבדה בסין הקורונה אם כך עושה רושם ?

    ומה המשמעות שלא ניתן להתגבר על זה משפטית כפי שאתה טוען ?

    האם זה אומר שהאדם מאחורי המכונה אחראי ? מי שתכנן המכונה ובנה אותה ? אף אחד לא אחראי ? המכונה אחראית משפטית ?

    להתראות

    אהבתי

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s

%d בלוגרים אהבו את זה: