יש בינה.אין הסכמה והבנה

פוסט חשוב מאוד, אקטואלי מאוד, עלה בבלוג של צ'ארלי דונלאפ ( Lawfire):

ישנה מחלוקת אקטואלית קשה בקהיליה הבינלאומית בקשר לשימוש בבינה מלאכותית בשדה הקרב ( על ידי שימוש בנשק אוטונומי מה שנקרא, או אוטונומי למחצה וכו…).

יש הקוראים לאמנה האוסרת שימוש בכלי נשק אוטונומיים ובבינה מלאכותית בשדה הקרב, הכל מסיבות אתיות מוסריות שונות ומשונות.

יש הטוענים כמובן, נהפוך הוא: בינה מלאכותית, יש לה פוטנציאל חזק מאוד, לצמצם פגיעות באזרחים כמובן. די ברור למה. קור רוח, ודיוק רב מאוד.

פוסט חשוב. מומלץ. הרבה לינקים חשובים. ארה"ב מתנגדת כמובן לאמנה כזו שתאסור שימוש בבינה מלאכותית ( למותר יהא לציין שישראל בראש אחד בטח תהא). יחד עם זאת, ארה"ב מנסה להיות המובילה הגלובלית באתיקה בתחום הזה.

נעלה בעתיד פוסט יותר מסודר, שיביע השינויים הפוטנציאלים היותר קונקרטיים שזה יביא בשדה הקרב לא עלינו.

11 תגובות על 'יש בינה.אין הסכמה והבנה'

  1. תמונת פרופיל של קורא אצל תמריץ וסובל באידיוטיזם שלו
    קורא אצל תמריץ וסובל באידיוטיזם שלו

    אפשר להשוות מערכת המשפט לתוכנה. היא אמורה לעבוד על פי תוכנה כתובה אבל היא רוצה תכונות של תוכנת אינטלגנציה מלאכותית, לשנות את הכללים ולאט לאט כבר אי אפשר לדעת מה הן שורות הקוד וכיצד היא תגיב.

    אהבתי

  2. קורא אצל תמריץ…. ,

    ברוך בואך לעפר הארץ.

    אין ממש הקבלה. אינטיליגנציה מלאכותית, לא נועדה לשנות כללים. נהפוך הוא, להטמיע כללים של ניסיון אנושי, אבל, להעצים יכולת החישוב וההיקשים.

    מערכת המשפט, היא מערכת שעובדת על אחידות. אחידות, מלמעלה עד למטה. אחידות פרוטוקולית מטורפת לגמרי. אבל, הכרחית פשוט. רק שלא פעם, הפרוטוקול הוא נקודת המוצא, ושופטים יכולים להגיע מכאן, למסקנות שונות ומנוגדות, כי הפרוטוקולים עצמם, מאוד סבוכים.

    מומלץ לקרוא הפוסט שלי פה:

    https://myboudica.com/2021/12/24/שְׁפִיטוּת-פַּסְלוּת/

    להתראות

    אהבתי

  3. רק הערה נוספת:

    אינטיליגנציה מלאכותית, על הנייר לא נועדה ממש לשנות כללים. אבל, בפועל, זה יכול להביא לתפיסות מוזרות. החלטות מוזרות. של יצור מעין אנושי/ דיגיטלי. אבל, לא ממש מתוך כוונה לשנות כללים.

    אהבתי

  4. כאן בלינק הבא, מאוד מומלץ, על מנת להבין, מהי בינה מלאכותית והשלכותיה וכו… מאמר קלאסי בתחום:

    https://ukhumanrightsblog.com/2018/04/18/can-we-build-ai-that-doesnt-turn-on-us-is-it-already-too-late/

    אהבתי

  5. תמונת פרופיל של קורא אצל תמריץ…. ,
    קורא אצל תמריץ…. ,

    ההבדל בין השנים הוא ש AI יכולה לשנות את החוקים, את שורות הקוד על בסיס במידע שהיא מלקטת. כתוצאה מכך היא יכולה להשתנות, בעוד שמערכת שמבוססת על תוכנה שאינה AI אינה יכולה לשנות את הכללים היא תמיד תגיב בצורה שתכנתו אותה. לכן AI תפרש עם הזמן דברים בצורה שונה מהפעם הקודמת בהתבסס על השינויים שהיא יצרה

    אהבתי

  6. תמונת פרופיל של ענק בישל מרק
    ענק בישל מרק

    אהה זכרונות…..

    אלרום,
    חבל , ככה , שרק מעטים יחסית, יהנו מהכישרון שלך לטפל במגיבים סוררים.
    אם תרצה לתת דרור לכישרון זה , לקפוץ גבוה יותר בתודעה הלאומית ולהגיע לקהל
    רחב יותר אזי יש לי חוזה עבודה בשבילך.

    אומנם , מדובר בחוזה עבודה דרקוני ללא שכר ותנאים סוציאלים אך ייתכן
    שאודות לחשיפה הגובהה יבשילו הפירות בהמשך.

    בכל מקרה לשיקולך.
    בברכה.

    אל רום הגיב:
    31 במאי 2016 ב- 18:55
    גיא , כסיל , רפה שכל שכמוך , כל חיך תצבור ותצבור , לא תגיע עדי הטריליונית של הסכומים שתצטרך לשלם לי , זה לא לליגה שלך הסכומים . טיפוס רופף כמוך , נשאר כל חיו עבד נרצע , של איזה רודן בעבודה . מאיפה לך ?

    רייטינג ? תודעה לאומית ? וואלק , הדבר האחרון עלי אדמות , שאשים עליו זיעה מן הביצים .

    אתה פקינג גיק , גיק מפג

    אהבתי

  7. קורא אצל תמריץ…. ,

    אז אתה אכן חוזר על מה שציינתי למעשה. שהרי בינה מלאכותית ( רסמית) מפיקה לקחים ומשתכללת אכן מתוך הניסיון שרכשה ( לעומת תוכנה קלאסית. אם כי יש תוכנות, שמתקנות או עוקבות באופן סטטיסטי אחרי שינויים. אבל, סטטיסטי, זה לא ממש אנושי קלאסי. במובן שזה לא כפי אינטואיציה אנושית).

    ענק….

    אני אכן יודע לטפל במגיבים סוררים. יש לי מומחיות מיוחדת בנושא. זה רק וירטואלית או מעין עד כה. יש מגיבים, שבעולם האמיתי עוד, יסבלו דברים מטורפים לגמרי. אתה התחלת להצטייר לי ככזה. אז אולי כדאי שתפסיק להגיב ולייבב כאן, ויירווח לך הא ….. אין לך מה לחפש כאן. ורייטינג וכדומה, לא מענין אותי.

    הבלוג פה לא מושא לרייטינג. זה בלוג רציני ומעמיק. לא חארטות מהתחת. מי שרוצה, מגיע, קורא, מגיב, מתקבל בברכה ואין בעיות. אבל, אם בן אדם מחפש בעיות, הוא ימצא אותן.

    אז יאללה, תפוס את הרגליים העקומות שלך, ותתחפף מפה…… סלאמת.

    אהבתי

  8. אין אפשרות לשים הגבלות על נשק AI, הרי אין ממש אפשרות לפקח על זה. יש כיום כלי נשק אוטונומים, נשלחים למטרה ואם לא מוצאים מחפשים אחרת. לרוסים יש טנקים אוטונומים שהם ניסו בסוריה בלא הצלחה רבה. יש טילים ממטוסים שבוחרים מטרות על דעת עצמם. היתרון בשימוש בנשק AI כזה גדול שאין סכוי שבעולם שמישהו יוותר עליו.

    אהבתי

  9. היי סוס אחד,

    לזה יש בדיוק אמנה או אמנות.

    נניח אתה יודע על AI טנקים אכן בסוריה של הרוסים. אז אם הרוסים יהיו חתומים על אמנה שאוסרת שימוש ב- AI אוטונומי לגמרי נניח, אזי, זה יתפרסם, ויופעל עליהם לחץ או מנגנון אכיפה כלשהוא להפסיק עם זה. כך הדברים עובדים.

    על כך, גם בלי אמנה, יש מקרים, שבהם איזה איסור, הופך להיות מנהגי ( משפט בינלאומי מנהגי). משמע, מכורח נוהג של מספיק מדינות בעולם, אז משהו נאסר על מדינות, בלי להיות חתומים בכלל על אמנה.

    אז לזה בעיקרון יש אמנות. ברור שגם מפירים אמנות. אבל, לא בגלל שמפירים חוקים, יפסיקו להיות חוקים כמובן.

    אז זה בטח ובטח מייצר רמה מסויימת של אכיפה וכיבוד אמנה.

    נניח איראן:

    חתומה על אמנה למניעת נשק גרעיני וכדומה. אז זה הביא את הסכם הגרעין האיראני (שהופר או ממנו נסוג טראמפ דאז). וההסכם היה טוב. מנע לחלוטין מאיראן כל העשרה מעבר ל- 3.5 אחוז לחשמל וכדומה. אז זה היה אפקטיבי.

    אז זה עובד. כמו כל חוק, לא לגמרי עובד. אסור לגנוב. על הנייר. אבל גונבים. אבל, לא בגלל זה יבטלו חוק לאיסור גניבה כמובן.

    לגבי AI, נראה בכלל מה הסיכוי שתהא אמנה ואיך היא תיראה.

    להתראות

    אהבתי

  10. הנה פה רצ"ב לינק, אפשר לקרוא, על איראן ואמנת ה- NPT, מה שהביא למעשה, להסכם הגרעין האיראני דאז:

    https://iranprimer.usip.org/blog/2020/jan/22/iran-and-npt

    אהבתי

  11. רק תיקון טעות:

    לא 3.5 אחוז (העשרת אורניום כאמור בקשר לאיראן) אלא: 3.67 אחוזים. אפשר כאן לקרוא:

    https://obamawhitehouse.archives.gov/issues/foreign-policy/iran-deal

    אהבתי

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s

%d בלוגרים אהבו את זה: