עמק המוזרות ונקיק האנושיות

robots

שומעים לאחרונה הרבה בתקשורת העולמית על פלישת האינטליגנציה המלאכותית ועל הסכנות שהיא מציבה לאנושות. טייקונים ומדענים קראו להגביל את הפיתוח שלה בשעה שהם משקיעים בה מכספם האישי, ועיתונים כפורצ'ן והאקונומיסט הקדישו לאחרונה דפים לדיון בנושא. הפחד הוא שאינטליגנציה מלאכותית תיקח עוד מהדברים שבהם לביומחשבים כמונו יש יתרון, וכך תשמיד עבודות במהירות הולכת וגוברת.

הכתבה בפורצ'ן מנסה למצוא את הדברים שבהם, גם אם האינטליגנציה המלאכותית תהיה טובה יותר מאיתנו, לא נרצה להשתמש בה. אך היא לא בדיוק מצליחה, מפני שראשית היא נופלת שוב למלכודת הרגילה של למצוא דברים שבהם "המחשבים לעולם לא יעברו אותנו", במקרה הזה שיתוף פעולה בקבוצות עבודה, וקשר רגשי לאנשים. כמו שאר הדברים שבהיסטוריה נחשבו לממלכה אנושית לנצח, כמו משחק שח או ניתוח שפה כתובה, לדעתי גם הדברים האלה ניתנים לביצוע רובוטי, וכבר יש לא מעט מחקר בתחום, חלקו נעשה לא רחוק מהמשרד שלי בפקולטה להנדסה.

אין ספק שהדברים האלו קשים לביצוע, וייתכן שייקח זמן רב מאוד עד שהם ייעשו בצורה משכנעת, לכן כיוון המחשבה הזה נותן לנו לפחות הנחיה שימושית לגבי התכונות אותן כדאי לנו לפתח בעצמנו בעתיד הקרוב. אבל כיוון מחשבה נוסף אומר שיש דברים כמו אחריות ניהולית או פוליטית, שתמיד נרצה שאדם ייקח על עצמו ולא מכונה. אבל האם תמיד נדע לזהות את ההבדל?

מבחינה חיצונית, כשמנסים לבנות רובוט דמוי אדם, נתקלים בתופעה הקרויה "עמק המוזרות": ככל שהרובוט דומה לאדם, הוא מעורר יותר רגשות אנושיים – אלא אם הוא דומה לאדם יותר מדי, שאז הקשר הרגשי אליו יורד והופך לשלילי. אנשים מפחדים מרובוט שהוא כמעט אדם אבל לא בדיוק. דבר זה מעכב שיפורים ביצירת רובוטים דמויי אדם באופן זמני. אבל אינטליגנציה מלאכותית לא חייבת ללבוש גוף אנושי כדי להיות בקשר איתנו ולעבוד איתנו בצוות. היא יכולה להיות מוקד טלפוני, אווטר מציאות מדומה, או מטוס קרב. ולא בטוח שאפשר להבחין תמיד בין אינטליגנציה מלאכותית לאנושית משיחה בהקשר מצומצם, כפי שבוודאי שם לב כל מי שניסה לגרום לפקידה בשיבא לכתוב מספר סלולרי בשדה "טלפון בבית" בתיק הרפואי שלו.

יתר על כן, כדי שהאינטליגנציה המלאכותית תוכל לעשות יותר ויותר דברים יותר טוב מאתנו, היא צריכה להיות יותר ויותר כמונו. זה מפני שהדברים שנשארנו טובים בהם יותר ממכונות הם דברים שקשורים לאינטואיציה, יצירתיות ורגשות – שלוש תכונות שקשורות למבנה המוח שלנו ולעובדת היותו רשת עצבית, ולא מחשב מסורתי. כדי לתת לרובוטים את הדברים האלו, הם יצטרכו לאמץ יותר שיטות של חישוב עצבי, והתעשיה אכן הולכת לכיוון הזה, כפי שמדגים מעבד שמפותח כעת ב-IBM. ואז ייתכן שהמחשבים עצמם יהפכו, לפי הצורך האנושי והתכונות שהמחקר יעניק להם, ליותר רגשיים ויותר חברתיים – ליותר אנושיים.

במקרה זה השאלה הופכת להיות לא כיצד נמנע מהם לקחת לנו את העבודות, אלא באיזה זכות. הרי אם האינטליגנציה המלאכותית מרגישה, היא מעוררת גם את האמפתיה שלנו, ואם היא חברתית, היא יכולה בלי בעיה להיות חלק מהמערכת החברתית האנושית, מה שלא אפשרי למשל לקרפיון. אינטליגנציה מלאכותית שנאסר עליה לעבוד בשירות לקוחות תרגיש תסכול וכעס ממש כמו אשה שבעבר נאסר עליה לקבל עבודה ניהולית, או אפרו-אמריקאי שהוגבל לפני כמה עשורים לעבודה כנער מעלית או שרת.

הניתוח, אם כן, חייב להתחלק לשני חלקים: מה עושים עם מכונה שחצתה את קו האנושיות, ומה עושים עם כזו שעדיין אינה שם. כשמדובר במכונות ביולוגיות מסוג הומו-סאפיינס, התשובה לכך השתנתה עם הזמן. משוגעים ומפגרים, שיכולותיהם החברתיות, שכליות ורגשיות נמוכות מהרגיל (רק בדברים מסויימים כמובן), זכו בעבר ליחס אכזרי, אך עם המהפכה ההומניטרית של מאתיים השנים האחרונות היחס השתנה, והנטייה היא לתת יחס אנושי לכל מה שדומה מספיק לאדם בריא. לכל היותר אנו מוכנים להתייחס אליהם כילדים, כלומר מכירים בכך שהאחריות המוטלת עליהם או היכולת לנהל את חייהם מוגבלת מסיבות טכניות.

התמריץ לפתח מכונות אנושיות יותר ויותר גדול, אך ככל שהן מתקרבות לאנושיות, שאלות אלו יעלו ביתר שאת לדיון פרקטי. וככל שהן מתקרבות לקו האנושיות, הצורך לתת להן זכויות אנושיות יהפוך למשקולת נגד לפיתוח הטכנולוגי, בשל הפחד הרגיל מהלא נודע, בנוסף לשנאה הקלה לעירור כלפי מהגרי עבודה. כל זה עלול להפוך את קו האנושיות לנקיק שיהיה קשה מאוד לחצות.

אך אפשר גם ההיפך: מה אם פעם אחת בהיסטוריה נלמד ממנה, ונזכור שכל תחזיות השחור של הטכנו-פסימיסטים התבדו, וננסה לדמיין את הדברים הטובים שיכולים לצמוח מאנושות אחרת שניצור לצידנו? למשל, ייתכן שבמקום שהאינטליגנציה המלאכותית תשמש רובוטי חיסול, היא תשמש אזרחים מועילים בקהילה. ייתכן שהמכונות יחליטו שאנחנו דווקא נחמדים.

יותר מכך – אם מכונה אינטליגנטית יכולה לעבוד יותר טוב מאנשים, למה לא לתת להן לעבוד יומיים בשבוע כדי לייצר מה שאנחנו עושים בחמש (פעם שש וחצי) כך שכולם יוכלו לנוח יותר ולעסוק במה שכיף להם? איך בכלל נגיע למערכת כלכלית שסופגת את זה? כיום השוק החופשי מעודד אנשים לעבוד כדי ליצור דברים שבמחסור, אך גם לנהל נכסים, למכור, להשכיר ולקנות אותם כדי לשקף את ההעדפות האישיות של כל הפועלים בשוק. קיומן של אינטליגנציות מלאכותיות עלול להסיט את אלו הביולוגיות לתחומים אחרים בהם למכונות אין יתרון.

וכאן יש להזכיר שבדברים מסויימים לא ברור באמת אם לרשת עצבית יהיה יתרון אם היא ממומשת בסיליקון במקום פחמן. קבלת החלטות בתנאי אי-וודאות, מתן תגובה אופטימלית לסימן רגשי מאחר, שיפוט רלוונטיות של מידע, חיזוי העתיד, מילוי החיים במשמעות אישית – אלו הם דברים שהקושי בהם נעוץ באופי הבעיה, ולא באופי הפותר, או שהקושי גדול בכמה מידות מפותר יחיד, אפילו אם הוא ממש טוב. לכן, אף שנוכל בוודאי לעשות מכונות שהן כמונו, ייתכן שבדברים מסויימים הן לא יהיו טובות יותר משמעותית, ואולי דווקא ישמחו לפתור את הבעיות האלו ביחד, כל יום מחדש, כפי שגם החכמים והרגישים ביותר בינינו עושים עם אנשים אחרים.

3 מחשבות על “עמק המוזרות ונקיק האנושיות

  1. פינגבק: להחלץ ממלכודת סיסקו | תפרים

  2. אם האדם היה חושב שהוא חייב לעשות הכל בעצמו, היינו עדין סוחבים בלוקים כמו בתקופת הפירמידות (ואפילו שם השתמשו במנופים). לכן, שימוש בכלי עבודה שהובילו למיכון, שהוביל למחשוב, שמוביל ל-AI, (ועוד טכנולוגיות שנועדו להקל על האדם בהמשך), הינם תשובה טבעית, כדי להשיג את היעדים השאפתנים שרוצה האדם להשיג, בפרק הזמן הקצר של חייו… לא?

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת גוגל

אתה מגיב באמצעות חשבון Google שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s