כיוון חדש - המגזין לאזרח הותיק רעננה מרץ 2020 - גיליון 273

בינה מלאכותית ואתיקה. בצד היתרונות הגלומים בבינה המלאכותית מתעוררות דילמות מוסריות. אחת הדוגמאות הנפוצות היא הדילמה של מחשב הנוהג ברכב, כאשר תאונה עומדת להתרחש. על מי יגן המחשב? אם יעדיף לתמרן כדי להגן על הנוסעים שלו הוא עלול לפגוע באנשים בחוץ ולהפך. בכירים בתעשייה מדברים על זוויות שונות של הדילמה . 2 האתית הכרוכה בשימוש בבינה מלאכותית לאתיקה IBM , סגנית נשיאת פרנצ'סקה רוֹסי אומרת פרופ' של בינה מלאכותית: "אנשים אוהבים את התועלת שבטכנולוגיות החדשות, אך גם חוששים מהן. ריבוי החששות מצריך מענה, למשל החשש מהטיה לעיתים בלתי מודעת. מערכות הבינה המלאכותית אמנם מתבססות על לימוד מכונה, אך אם הנתונים שמהם המערכת לומדת והמודל שסביבו מפתחים אותה סובלים מהטיה, אפילו קטנה, ההחלטות שהיא תעשה עלולות להיות מטעות, לא הוגנות ואף מסוכנות. כמו כן, על המערכת לדעת להסביר כיצד הגיעה לתוצאה, אחרת אף אחד לא יאמין לה". פרופ' או'סאליבן מאוניברסיטת קורק באירלנד, המשמש גם כנשיא קבוצת חוקרים לבינה מלאכותית שמייעצת לנציבות האיחוד האירופי, מציין דוגמה של הטיה, שנגרמת בעת תרגום באינטרנט: "מטופל צריך לקבוע פגישה עם רופא, והמערכת מניחה באופן אוטומטי שרופא הוא גבר. Science אלאשגם אישה יכולה להיות רופאה. בכתב העת " התפרסם מאמר שהראה שבשפות רבות תארים של אנשים בדרגות גבוהות כמו נשיא, מנהיג או מנהל, הם בזכר. לעומת זאת תפקידים אכפתיים או תפקידי תמיכה מקושרים לנשים. זוהי הטיה שמובנית בשפה עצמה וקשה להתגבר עליה כשמדובר בטכנולוגיה ומחשוב". הוא מוסיף ש"יש הטיות שעולות ממערכות שפועלות , לדוגמה, פיתחה מייקרוסופט באינטראקציה זו עם זו. מערכת צ'אטים שמתבססת על ציוצים בטוויטר. תוך שעות הצ'אטים שהתנהלו בה הפכו לגזעניים ומעליבים ומיקרוסופט נאלצה להוריד את המערכת. זאת משום שאנשים משתמשים בטוויטר בשפה פוגענית". "הטיה יכולה להיגרם בהמלצה על מוצר", ממשיך פרופ' ממליצה לצופה על נטפליקס או'סאליבן. "המערכת של סרטים דומים לאלה שהוא צפה בהם, ורק עליהם. כך נוצרת בועה. הדבר מסוכן אף יותר בתחום החדשות. אנשים מקבלים רק את החדשות המתאימות לדעה הפוליטית שלהם". הוא מסכם: "אין הסכמה אודות מה אֶתי משום שאתיקה תלויהבנורמותחברתיות. בבואנו לבנותמערכותטכנולוגיות אתיות, אנחנו בוטחים בתהליכים שבאמצעותם מייצרים אותן, אבל האם ניתן לסמוך על התאגידים שעושים זאת? צריך לחשוב פחות על אתיקה ויותר על החוסן של המערכות ודרכי השימוש בהן". rtalmudi@gmail.com . מבוסס על הרצאה של אלוף במיל', פרופסור יצחק בן ישראל, יו"ר 1 סוכנות החלל הישראלית. 14 , . מבוסס על מאמר של אבי בליזובסקי במגזין אנשים ומחשבים 2 .2018 נובמבר

מהר יותר מהמוח שלנו, למשל כפל של מספרים, אבל זאת משום שכל המשאבים שלו מרוכזים בפעולה הזו. המוח שלנו לעומת זאת מסוגל לבצע אינספור פעולות במקביל. נשאלת השאלה האם זה רק עניין טכני, וככל שתתקדם הטכנולוגיה יגיע המחשב בסופו של דבר להיות אינטליגנטי כמו המוח האנושי או שיש משהו מהותי בבינה האנושית שלא ניתן להעברה למחשב. טענות. 4 נבחן את העניין דרך למחשב יש פחות כוח חישוב מהמוח. המחשב הסטנדרטי של היוםמהיר פי מיליון מהמחשבשביצע חישובים עבור פיתוח פצצות האטום שהוטלו על הירושימה ונגסקי. הוא גם הרבה יותר זעיר מהמחשב ההוא שתפס נפח של אולם גדול. תודות למזעור, כל שנה וחצי עולים ביצועי המחשב פי שניים. המחשבים של היום מבוססים על שבבי סיליקון. מדענים מעריכים שבעוד מספר עשורים המחשבים (מספר 10 30 יתבססו על פיזיקה קוונטית ויהיו מהירים פי אפסים) מהמחשב של היום. כוח חישוב כזה לא ניתן 30 בן לדמיין היום אבל תאורטית יכולה התפתחות הטכנולוגיה ראינו לעיל שבעזרת למידת מכונה המחשב כבר לא עושה רק מה שאומרים לו. הוא מסוגל לקחת החלטות עצמאיות פיתחו מחשב שניצח את אלופי IBM- על פי מה שלמד. ב העולם בשחמט ובמשחק הסיני גוֹ. הוא עשה זאת בעזרת למידת מכונה. גם המחשב הנוהג ברכב האוטונומי לוקח החלטות עצמאיות בזמן אמת. האלגוריתמים של המוח לא מובנים ולכן לא ניתן לחקות אותם. זה נכון היום אבל מושקע הרבה מאוד כסף בחקר המוח ויש סיכוי שבעתיד יותר ויותר אלגוריתמים של המוח יתפענחו. ברגע שזה יקרה אפשר יהיה לתכנת אותם למחשב. המוח איננו מחשב ספרתי. זו טענהשקשה לענות עליה לעומתשלושהטענותהקודמות. מתמטיקאי בשם גֶדֶל הוכיח מתמטית שיש טענות אמיתיות שאינן ניתנות להוכחה כנכונות. מתמטיקאים לפניו סברו שלכל טענה אמיתית יש הוכחה כנכונה אפילו אם עדיין לא מצאנו את ההוכחה. בעזרתהמוחשלנואנו, בני האדם, מסוגליםלהבין משמעויות במישור הסמנטי ולדעת על טענות שונות שהן נכונות למרות שאין לטענות האלה הוכחה (כפי שטען גדל). מכאן משתמע שההבנה של המוח האנושי יותר רחבה מהמתמטיקה. זה אומר שיש דברים שהמוח האנושי יודע שהם נכונים אבל המחשב הספרתי המתבסס על אריתמטיקה בינארית, לא יוכל אף פעם לדעת. ישמדענים הטועניםשהמוח האנושי אכן אינו מחשב ספרתי אבל אולי הוא מחשב אנלוגי או מחשב קוונטי, וכאשר יוכח הדבר, נוכל לבנות מחשב אנלוגי או קוונטי שיחקה את המוח האנושי. אל מול כל הדברים הללו עומדת התופעה הייחודיתשל האדם שהוא חי מדבֵּר, כלומר יש לו שפה, דמיון ותודעה עצמית בעזרתם הוא מסוגל לחשוב על מחשבותיו, לתכנן את צעדיו וליצור. קשה לדמיין איך שפה, דמיון ותודעה עצמית ימומשו על מחשב. אולי באלה טמון מותר האדם מהמחשב. לאפשר למחשב כוח חישוב שעולה על המוח. המחשב עושה רק מה שאומרים לו לעשות.

9

03/2020 - 273 רעננה