עוד על מודעות של מודלי בינה מלאכותית (טור 767)
למה אי אפשר להתחיל כל דיון בהגדרה מלאה של כל המושגים
הטור פותח בטענה המקובלת שלפיה חייבים להגדיר מושגים לפני דיון, ובוחן אותה בשני מישורים: צורך ואפשרות. מצד הצורך, אם המושג כבר נהיר לנו, הגדרה אינה תנאי מוקדם לשימוש בו, גם אם לעתים היא מעמיקה ומדייקת את ההבנה. מצד האפשרות, כל הגדרה משתמשת במושגים אחרים, ולכן דרישה להגדיר הכל מוליכה לרגרסיה אינסופית, בדיוק כמו דרישה להוכיח כל הנחה. לכן חייבים להניח מושגי יסוד בלתי מוגדרים, כשם שמניחים אקסיומות. הרב מוסיף את קוואיין, שלפיו מושגים אינם בנויים כעץ היררכי אלא כרשת שמתבהרת דרך קשרים הדדיים, ואת פירסיג, שהדגים כיצד אפשר וצריך להשתמש גם במושג שאי אפשר להגדירו באופן מלא.
למה בכל זאת הגדרות חשובות, ומה ההבדל בין הגדרה מכוננת, מכוונת, אופרציונלית ומהותית
הטור מבחין בין הגדרות מכוננות, שיוצרות מושג, לבין הגדרות מכוונות, שמנסות להנהיר מושג שכבר קיים; ובין הגדרה אופרציונלית, שמתארת איך מזהים או מודדים תופעה, לבין הגדרה מהותית, שאומרת מה היא. במתמטיקה ובמדע ההגדרות נחוצות לעבודה שיטתית ומדויקת, אבל גם שם אי אפשר להגדיר הכל מן היסוד. הדוגמה של מהירות ממחישה את הפער: חישוב של דרך ליחידת זמן הוא דרך למדוד מהירות, לא בהכרח המהות שלה. לכן הגדרה דרך סימפטומים או דרך ביצוע מועילה למחקר, אך אינה ממצה את הדבר עצמו.
המדע וההלכה נופלים לא פעם מהמהות אל הסימפטומים
מכאן הטור עובר להראות שהבלבול בין מהות לסימפטום אינו ייחודי לשאלת המודעות. במדע, כדי למדוד ולצפות, יש נטייה להגדיר מחלה דרך תסמינים או מהירות דרך שינוי מקום בפועל, ואף להפוך הנחות מתודולוגיות כמו דחיית ויטליזם, דואליזם או בחירה חופשית לטענות על המציאות עצמה. הרב מדגיש שזו לכל היותר אסטרטגיה מחקרית, לא מסקנה מחייבת על העולם. גם בהלכה קורה שמבלבלים בין השלכות לבין הגדרה: ממון בעלים אינו מוגדר על ידי האפשרות לקדש בו אישה, לאו ועשה אינם מתמצים בצורה הלשונית או הביצועית שלהם, וקניין אינו אוסף זכויות אלא מושג מטפיזי שהזכויות נגזרות ממנו. כל ההקדמה הזאת נועדה להכין את הקרקע לטענה שזה בדיוק הכשל שמופיע בדיונים על תודעה.
גם מטריאליסט צריך להכיר בכך שתופעות מנטליות אינן זהות לתהליכים פיזיקליים
הטור מביא שיחה עם יוסף נוימן כדי לחדד שגם מי שכופר בנפש או בדואליזם לא יכול לזהות אהבה, פחד, רצייה או חשיבה עם זרמים חשמליים במוח. לכל היותר אפשר לומר שתהליכים מוחיים מחוללים את התופעות המנטליות; אי אפשר לטעון שהתופעות עצמן הן הזרמים. כמו מהירות של מכונית, גם מצב מנטלי הוא תכונה של מכלול חומרי ולא בהכרח ישות נפרדת, אך עדיין אין לזהותו עם המנגנון הפיזיקלי שמממש אותו. לכן הוויכוח בין דואליזם למטריאליזם אינו אם קיימות תופעות מנטליות, אלא איך להבין את מעמדן.
למה מושגים מנטליים אינם נגישים להגדרה ולמדידה ישירה
מכאן מגיע הדיון בבעיה הפסיכופיזית: תחושות, מחשבות, רצונות ואור כפי שהוא נחווה בהכרה אינם נצפים ישירות על ידי המדע. אפשר למדוד גלים אלקטרומגנטיים או פעילות מוחית, אבל לא את חוויית האור עצמה, את תוכן המחשבה או את תחושת הכאב. לכל היותר אפשר לבקש דיווחים או להסתמך על סימנים חיצוניים. לכן גם כשמציעים אפיונים לאהבה, פחד או מודעות, מדובר בדרך כלל בתיאור סימפטומים או בהכללה התנהגותית, לא בהגדרה של התופעה עצמה. מכאן גם נולדת הבעיה האפיסטמית של "תודעות אחרות": גם אצל בני אדם אני מניח שיש בפנים עולם מנטלי, אבל איני רואה אותו ישירות; אצל בעלי חיים זה עוד פחות נגיש; ואצל מודלי AI המצב גרוע יותר, מפני שהם אמנם יכולים לענות, אבל לא ברור אם הם מדווחים על פנים כלשהו או רק משחזרים חומרי אימון.
למה מבחני קלט-פלט וסימפטומים לא מוכיחים מודעות אצל AI
הטור מסביר שחוקרים שניגשים מדעית לשאלת התודעה נוטים כמעט בהכרח להחליף את המודעות בביטוייה החיצוניים. זה הכשל של מבחן טיורינג ושל הדיון על החדר הסיני: התאמה מבנית של קלט-פלט, או חיקוי משכנע של שיחה אנושית, מוכיחים לכל היותר סינטקס, לא סמנטיקה ולא תודעה. בינה מלאכותית נבנתה מלכתחילה כדי לחקות תוצרים אנושיים; לכן גם אם היא מפגינה סימפטומים של רגישות, הבנה או שיח על מודעות, אין מכאן ראיה שיש מאחוריהם רובד מנטלי. לכל היותר יש התאמה התנהגותית טובה.
הביקורת על ההגדרה האבולוציונית-פונקציונלית של "המעבדה"
הרב דן בדוגמה קונקרטית: הסדרה "המעבדה", שבה הוצעה רשימת פונקציות שמאפיינות יצור מודע — תפיסת אובייקטים כמכלול, תפיסת זמן, מיפוי גוף ועולם, הבחנה בין עצמי לסביבה, פעולה וולונטרית ועוד — ובהמשך הוצע לעגן זאת ביכולת ל"למידה פתוחה" או אסוציאטיבית בלתי מוגבלת. לדעתו, גם אם זה אפיון מחקרי מועיל של יכולות מסוימות, אין סיבה לזהות אותו עם מודעות. לא ברור כיצד הפונקציות הללו נגזרות מתודעה, ולא מדוע דווקא הן נבחרו. ובעיקר: גם אם אפשר לבדוק אמפירית למידה או התנהגות, זה עדיין אינו מחקר של מודעות אלא של התפקודים החיצוניים שמקושרים אליה במקרה הטוב.
מודעות היא רפלקסיה על מצבים ותהליכים, לא אוסף היכולות עצמם
זהו לב הטור. הרב טוען שהמושג "מודעות" מתייחס לרפלקסיה: לכך שאני לא רק כואב, רוצה, חושב או פועל, אלא מודע לכך שאני כואב, רוצה, חושב או פועל. לכן עצם קיומן של פונקציות קוגניטיביות, של למידה, של תכנון, או של תגובה מתוחכמת לסביבה, אינו מודעות. אפשר לבנות מכונה שמחקה את כל אלו, כפי שמחשבון "עושה חשבון" או רובוט עוקף מכשול, בלי לייחס לה הכרה. בהקשר הזה הטור מסתייע גם בטיעון של מייקל אנטוני נגד פונקציונליזם: כאב אינו זהה לתפקיד הסיבתי שלו. הרב מחדד עמדה חריפה יותר: בלי הממד הסובייקטיבי-רפלקטיבי פשוט אין כאן מודעות, גם אם כל הפונקציות ממומשות. לכן אפילו מטריאליסט עקבי צריך להודות שהגדרת המודעות אינה רשימת תפקידים אלא קיומה של רפלקסיה, גם אם הוא יטען שהיא אמרגנטית ולא רוחנית.
אם מודעות אינה מוסיפה להתנהגות, אי אפשר להסביר את הופעתה באבולוציה
מן ההבחנה הזאת נגזרת מסקנה נוספת: אם ניתן עקרונית לחקות באופן מכני את כל ההתנהגות של יצור מודע בלי רפלקסיה, אז המודעות עצמה אינה מוסיפה יתרון שרידותי מעבר להתנהגות. לכן אי אפשר לתת לה הסבר אבולוציוני ישיר. הטיעון הוא שאבולוציה מסבירה תכונות דרך תרומתן לשרידות; אבל מערכת שמתנהגת בדיוק כמו יצור מודע, רק בלי מודעות, תשרוד באותה מידה. הדוגמה היא בריחה מטורף: גם מערכת זיהוי ממוחשב שמזהה נמר ובורחת יכולה להשיג את אותה תוצאה בלי תודעה. לכן לא נכון להסיק שהמודעות עצמה נבררה אבולוציונית רק מפני שהתנהגות מודעת תורמת לשרידות.
הטור לא מוכיח של-AI אין מודעות, אלא חוסם את ההיסק הפזיז שיש לו
בסיום הרב מודה שהטיעון מניח הנחה שנויה במחלוקת: שאפשר חיקוי מכני מושלם של התנהגות מודעת. מבקריו יאמרו שדווקא מימוש מלא של הפונקציות יוליד מודעות. אבל זו בדיוק נקודת המחלוקת, ולא משהו שהמחקר הפונקציונלי כבר הכריע בו. לכן הטור אינו מתיימר להוכיח שאין למכונות מודעות, אלא להראות שהטיעונים הפונקציונליים והאבולוציוניים שהובאו אינם מספיקים כדי להוכיח שיש להן. המסקנה המעשית היא ששאלת המודעות של מודלי AI נשארת פתוחה, אך אין שום סיבה טובה לזנוח את האינטואיציה הרגילה שלפיה הם מחקים התנהגות של יצורים מודעים, ולא בהכרח מודעים בעצמם.
בס"ד
בטור הקודם נגעתי בשאלת המודעות של מודלי בינה מלאכותית. בטוקבקים עלתה שאלת ההגדרה של מודעות, והטענה הייתה שעלינו להגדיר את המושג לפני שדנים האם הוא קיים במודלים כאלה או לא. עניתי שם שלדעתי אין צורך בהגדרה כזאת, וגם מאד קשה לעשות זאת. בכל זאת, חשבתי להקדיש עוד טור לשאלה הזאת, ולו רק כדי להסביר יותר את הבעייתיות בהגדרה כזאת. במקרה בימים אלו נקלעו לידי שני מקורות שעוסקים בדיוק בשאלה הזאת, וחשבתי שהם סימפטומטיים לבעייתיות בדיונים הללו. שני הטורים הבאים ינסו לגעת בצורה שיטתית בעניין המודעות. אבל כאן אתחיל בהערה כללית על הצורך והאפשרות להגדיר כל מושג לפני השימוש.
למה לא צריך להגדיר את כל המושגים ולמה קשה לעשות זאת?
כאמור למעלה, מקובל לחשוב שחובה עלינו להגדיר את המושגים לפני שאנחנו משתמשים בהם. במתמטיקה זו דרישה דיסציפלינרית, ולכן כל דיון וכל תחום מתחילים בהגדרת מושגים. האם זה באמת כך במתמטיקה? ובתחומים אחרים? אני רוצה לבחון זאת גם במישור הצורך וגם במישור האפשרות: כלומר האם אכן יש צורך כזה והאם זה בכלל אפשרי.
הגדרה של מושג מטרתה להנהיר אותו. כבר בשלב הזה תוכלו לראות מדוע אין הכרח להגדיר את המושגים שבהם אנחנו משתמשים. אם הם נהירים לנו לגמרי ההגדרה לכאורה מיותרת. אבל זו טענה חלשה. במקרים רבים אנחנו חושבים שהמושגים נהירים לנו, אבל אחרי ההגדרה אנחנו יכולים לגלות שזה לא באמת המצב. ההגדרה יכולה לשנות את הבנתנו גם במושג שעל פניו נראה לנו נהיר לגמרי. תוכלו לראות דוגמאות לעניין הזה בטור 108 וסביבו. זוהי טענה במישור הצורך.
אבל ישנה עוד בעיה בתפיסה שדורשת להקדים הגדרה של מושגים לכל דיון, והיא נוגעת למישור האפשרות. הגדרה של מושג משתמשת גם היא במושגים כלשהם. עקביות בדרישה להגדיר כל מושג כתנאי לשימוש בו פירושה שעלינו לסגת ולהגדיר גם את המושגים שמשמשים אותנו בהגדרה הראשונית. אבל גם ההגדרות הללו ישתמשו במושגים שדורשים הגדרה, וחוזר חלילה. הדבר דומה מאד לדרישה להוכיח כל טענה שאני מאמץ, שגם היא לא ניתנת למילוי. כל הוכחה מבוססת על הנחות ועקביות בדרישה הזאת תביא אותנו לכך שההנחות עצמן יהיו טעונות גם הן הוכחה, וחוזר חלילה. עולה מכאן שכמו שבטיעונים אנחנו חייבים להניח כמה הנחות ראשוניות ללא הוכחה עבורן (אקסיומות), כך גם בהגדרת מושגים עלינו להתחיל מסט של מושגים שאינם מוגדרים במונחי מושגים אחרים. אלו מושגי היסוד שלנו.
כיצד נבחר את האקסיומות (הנחות היסוד) ואת מושגי היסוד שלנו? סביר לקחת את אותן טענות שיש לנו ברירות (אווידנציה) אינהרנטית לגביהן. הן נראות לנו מובנות מאליהן ואינן דורשות הצדקה. אלו אמורות להיות אותן טענות שאין טענות שנכונותן ברורה לנו יותר מהן. הוא הדין גם לגבי מושגי היסוד. גם לגביהם עלינו לבחור את אותם מושגים שנהירים לנו באופן מלא ולכן אינם דורשים הנהרה באמצעות מושגים אחרים. אין מושגים אחרים שיותר נהירים לנו מהם.
נמצאנו למדים, שגם אם נכון שהיה רצוי מאד להגדיר כל מושג בטרם עשינו בו שימוש, הדבר פשוט אינו אפשרי. אין לנו ברירה אלא להניח סט של מושגי יסוד שבהם נשתמש גם ללא הגדרה. אגב, זה נכון גם במתמטיקה. ישנה תחושה כאילו המתמטיקאים מגדירים את כל המושגים שבהם הם עושים שימוש, אבל זה לא יכול להיות נכון מהסיבה שתיארתי כאן. זהו באג מובנה בחשיבה שלנו (ואולי זה פיצ'ר), גם בזו המתמטית, שנובע מהשימוש שלנו במושגים. לא בכדי הפילוסוף וילארד ון אורמן קוואיין טען שהכרתנו את המושגים נעשית בצורה של רשת ולא בצורה לינארית כפי שתיארתי אותה כאן. לשיטתו מושגינו אינם מסודרים במבנה של עץ היררכי שיוצא ממושגי יסוד ומגדיר על בסיסם מושגים נוספים, ולאחר מכן עוד מושגים וכן הלאה. המושגים ארוגים אצלנו במין רשת שקושרת את כולם עם כולם, ואנחנו מעדכנים את הרשת באופנים שונים סימולטנית על הרבה מקודקודיה, וכך היכרותנו עם המושגים משתפרת. זה קורה באופן גלובלי על כל הרשת (או על תת רשתות), ולא מלמטה (ממושגי היסוד) למעלה (למושגים הנגזרים). כך או כך, גם אם קוואיין צודק, אין לנו דרך להנהיר בצורה מוחלטת את מושגינו. הדרישה הזאת היא אשלייה.
רוברט פירסיג, בספרו זן ואמנות אחזקת האופנוע, עמד על כך (הוא שם זאת בפיו של גיבורו, פיידרוס) שהמושג 'איכות' לא ניתן להגדרה אבל הוא ברור לנו ולכן אנחנו יכולים וצריכים לעשות בו שימוש. טענתו היא שהיוונים הרשעים הם שהטמיעו בחשיבה שלנו את ההנחה המובלעת שמושג שאינו מוגדר לא קיים, ולכן אסור לנו לעשות בו שימוש. כאמור, זו דרישה שלא ניתנת למילוי.
שני סוגי הגדרות
בטור הנ"ל עמדתי גם על שני סוגים של הגדרות. יש הגדרות מכוננות, הגדרות שיוצרות את המושג, ויש הגדרות מכוונות, כאלו שמנסות לאפיין ולהנהיר מושג קיים. במתמטיקה מקובל לחשוב שההגדרות הן מכוננות (למרות שהסברתי שם שזה לא לגמרי מדויק), אבל במדע נראה שההגדרות הן בדרך כלל מכוונות. המדע עוסק בתופעות בעולם, ולכן מושגי היסוד שלו אמורים לתאר יישים ותופעות בעולם עצמו. ההגדרה המדעית מנסה לכוון את עצמה לעולם עצמו. אמנם גם במדע משתמשים ביישים תיאורטיים, כלומר מושגים שנוצרים במסגרת התיאוריה, ולפחות לחלקם אין בהכרח קורלט במציאות עצמה. יוצרים אותם מפני שהם מסייעים לנו לחשוב ולחשב דברים על המציאות. מושגים כמו פונקציית גל קוונטית, אנטרופיה, אנרגיה וכדומה, הם מושגים שאנחנו יצרנו כדי לתאר את המציאות. לכן ניתן אולי לראות את ההגדרות שלהם כהגדרות מכוננות (וגם זה אינו הכרחי).
במתמטיקה אי אפשר להתחיל דיון בלי הגדרה של המושגים. לפני ההגדרה המושגים לא קיימים, שהרי ההגדרה היא שיוצרת אותם (במקרים רבים בהשראה ישירה או עקיפה של המציאות). אבל גם במדע מאד חשוב להגדיר את המושגים, לפחות אם רוצים לפעול בצורה שיטתית, עקבית ומדויקת. מושג כמו מהירות שבפשטות שאוב מהעולם עצמו (אמנם הוא לא יש אבל הוא תכונה של יישים), עדיין דורש הגדרה מדויקת כדי שנוכל לעשות בו שימוש במדעי הטבע (שמכונים לעתים 'מדעים מדויקים'). ההגדרה היא מנה של דרך מחולקת במהירות (או נגזרת, עבור מהירות לא קבועה). כשתשאלו ילד מהי מהירות הוא לא יידע להגדיר זאת, אבל הוא בהחלט יכול להבין את המושג. יתרונה של ההגדרה הוא שהיא נותנת לנו אפשרות לעשות בו שימוש מתוחכם יותר ולוודא שהשימוש מדויק ועקבי.
הערה: מה לכל זה ולבחורי ישיבה?
אחת התופעות המרתקות שאני פוגש שוב ושוב היא חוסר יכולת של תלמידי ישיבה להגדיר מושגים. זה מפתיע מפני שרוב עיסוקם הלמדני הוא באנליזה של מושגים ועקרונות, ובבניית מבנים (סינתזה) על בסיס האנליזה הזאת. לכאורה ממש כמו במדע או בפילוסופיה. אני מתרשם שמשום מה התחושה של בחור ישיבה מצוי היא שאין צורך להגדיר מושגים מוכרים וידועים. כשהוא נוכח בניסיון להגדיר אותם הוא בדרך כלל מגלה חוסר סבלנות כלפי העניין ורואה בזה טרחנות מיותרת (בערך מה שחש סטודנט למתמטיקה כשהמרצה שלו מקדיש שעות ארוכות כדי להגדיר דברים שנשמעים לו מובנים מאליהם, כמו מהו קו, מהי נקודה, מהי קבוצה, מהי פונקציה, מהו מימד וכדומה).
אבל מניסיוני למדתי שהגדרות כאלה חשובות מאין כמותן, וכשטורחים בכל זאת להגדיר את המושגים שאנחנו עושים בהם שימוש, גם אלו שנראים לנו מובנים מאליהם, אנחנו עשויים לגלות ממדים ותובנות מאד מפתיעות והשלכות די מרחיקות לכת. הגדרה של המושגים וניתוח אפריורי של העקרונות במקרים רבים מייתרים חלק גדול מהמהלך הלמדני ומפזרים הרבה מהערפל שמלווה אותו. מה שלמדן ישיבתי יגיע אליו אחרי מהלך ארוך של קושיות, סתירות ותירוצים, במקרים רבים יכול להתברר לנו באמצעות ניתוח מושגי אפריורי. עמדתי על כך לא פעם, ותוכלו למצוא גם באתר כאן כמה וכמה דוגמאות לכך.
כמובן שלאור מה שראינו למעלה, צריך להבין שהגדרות כאלה משתמשות בעצמן במושגים ולכן אי אפשר באמת להגדיר הכל מלמטה למעלה. אבל לאור מה שראינו ניתן להבין שבכל זאת חשוב לפחות להנהיר את המושג, ולאור מה שלמדנו מקוואיין זה נעשה בעיקר דרך הקשרים שלו עם מושגים אחרים (ההגדרה מתארת קשרים כאלה). ההגדרה מסייעת לנו להנהיר את המושג, גם אם הייתה לנו הבנה טובה שלו קודם לכן.
הגדרה אופרציונלית ומהותית
במאמרי על חיצו של זנון (ראו גם בטור 705), עמדתי על הבחנה בין הגדרה מהותית להגדרה אופרציונלית. מושג המהירות, למשל, מוגדר אצלנו בהגדרה אופרציונלית: איזה מרחק עוברים ביחידת זמן. הראיתי שם שזוהי אמנם הצורה לחשב את המהירות אך זו אינה ההגדרה המהותית שלה (אחרת נקלעים לפרדוקסים). ההגדרה המהותית של מהירות היא: פונטציאל לשינוי מקום. כשנראה שהגוף משנה מקום זה יאותת לנו שיש לו מהירות, אבל שינוי המקום הוא אינדיקציה לכך שיש לו מהירות ולא המהירות כשלעצמה.
בעולם המדעי ישנה נטייה לתת למושגים שונים הגדרה אופרציונלית, או פנומנולוגית (תיאורית), כלומר לתת סימנים שמעידים על המושג ולראות בהם הגדרה שלו. כך למשל מגדירים מחלה דרך סימפטומים שלה, מהירות דרך התופעות שרואים אצל גוף שיש לו מהירות (שינוי מקום) וכדומה. יש לכך סיבה טובה, שכן מדע עוסק בתצפית, וכדי לבצע תצפית עלינו להגדיר גדלים שמאפיינים את התופעה, ובעיקר גדלים מדידים שבהם ניתן לצפות. כשאתה רוצה למדוד מהירות של גוף לא תוכל לשאול את עצמך האם יש לו פוטנציאל לשינוי מקום. אתה תנסה להבחין האם הוא משנה מקום בפועל, ומכאן תסיק שיש לו מהירות (וגם תקצוב אותה כמותית).
דוגמאות מסוג מעט שונה לאותה תופעה ניתן למצוא במדעי החיים. הביולוגיה העכשווית דוחה את הוויטאליזם ובוודאי את הדואליזם, ובדרך כלל גם את ההנחה שיש לנו בחירה חופשית. הדחייה הזאת מהווה הנחה מאד אפקטיבית לקידומם של התחומים המדעיים, וניתן לראות זאת היטב בדורות האחרונים. השאלה האם אכן ניתן ללמוד מכאן שאין לנו בחירה חופשית, או שאין רוח אלא רק חומר, או שחומר ביולוגי אינו כלום פרט לפיזיקה וכימיה? לדעתי בהחלט לא. לצורך התקדמותו של מדע תצפיתי אנחנו מאמצים הנחות מועילות, אבל הן לא בהכרח נכונות כטענות עובדה על העולם. נכון שמה שמעבר להנחות הללו אינו מדיד, ולכן יש נטייה, בפרט לאנשי מדע, לחשוב שהוא אינו קיים. אבל זו בסך הכל הצטמצמות (מבורכת) של המדע למה שמדיד. זו הנחה מתודולוגית ולא בהכרח טענה על העולם. מי שיראה בכל אלו טענות על העולם, זו כמובן זכותו. אך זוהי עמדה פילוסופית שלו ולא ממצא מדעי. רבים מתבלבלים בזה.
הגדרות פנומנולוגיות בהלכה
גם בהלכה ניתן לפעמים למצוא הגדרות פנומנולוגיות במקום הגדרות מהותיות. לדוגמה, רבי יוסי הגלילי סובר שקדשים קלים הם ממון בעלים (ראו ב"ק יב ע"ב ומקבילות). כשתהיתי באיזה מובן זה ממון בעלים (הרי זה קרבן שההלכה מכתיבה מה עושים איתו), ענה לי החברותא שלי שניתן לקדש בו אישה. השבתי לו שזה אינו יכול להיות ההסבר. אחרי שתראה לי שהם ממון בעלים המסקנה היא שניתן לקדש בהם אישה. השאלה מדוע הם נחשבים ממון בעלים קודמת לסימפטומים שנגזרים ממנה.
כך גם לגבי הגדרת לאו ועשה (ראו במאמר לשורש השישי בספר ישלח שרשיו ובטורים 414 – 418). ההגדרה הביצועית המקובלת (עשה מקויים בקו"ע ונעבר בשוא"ת ולאו מקויים בשוא"ת ונעבר בקו"ע) לא עומדת במבחן העובדות. לכן יש שהציעו הגדרה לשונית, כלומר שתלו זאת בניסוח של התורה (האם הניסוח פסיבי-שולל או אקטיבי-מצווה). אבל הניסוח לא יכול להיות שורש העניין. ניסוח מבטא מהות. הוא לכל היותר אינדיקציה להבדל מהותי כלשהו. במילים אחרות: כיצד התורה עצמה מגדירה לעצמה או מחליטה מהו לאו ומהו עשה, ובאיזה ניסוח לנקוט?
דוגמה אחרונה היא הגדרת המושגים 'קניין' ו'חלות'. במאמרי "מהי 'חלות'?" ובמקומות נוספים עמדתי על כך שקניין אינו אוסף של זכויות. אנחנו רגילים להגדיר קניין של ראובן בחפץ כלשהו דרך אוסף הזכויות שזה מקנה לו. אך כפי שהראיתי שם אוסף הזכויות הוא השלכה של העובדה שיש לו קניין בחפץ. הקניין הוא מושג מטפיזי והזכויות הן נגזרות או ביטויים משפטיים שלו.
למה אני נותן את כל ההקדמות הללו? מפני שכפי שנראה כעת שאלת התודעה סובלת בצורה קשה מכשלים מהסוגים שתיארתי כאן. אבל אתחיל בדיון על מושגים מנטליים בכלל.
הגדרת מושגים מנטליים
הזכרתי כאן בעבר שיחה שהייתה לי עם פרופ' יוסף נוימן המנוח, חוקר מדעי החיים ופעיל מוביל בהגות האתאיסטית והמטריאליסטית בישראל. הוא צלצל אליי בעקבות קריאת ספרי אלוהים משחק בקוביות, שבו ביקרתי טיעונים שלו, ובשיחה הוא סיפר לי על מבוכה מתמשכת שהוא חווה מול עמיתיו המטריאליסטים. הוא שומע מהם שוב ושוב את הטענה שאהבה, פחד, דאגה, הערצה, רצייה, או חשיבה, כל אלו אינם אלא זרמים חשמליים במעגלים נוירוניים שונים במוח. הוא סיפר לי שהוא מנסה ללא הצלחה להסביר להם שהם טועים ברמה הלוגית והמושגית, שכן גם מטריאליסט צריך להבין שאהבה אינה זרם חשמלי במוח. כמטריאליסט אתה יכול אולי לומר שהאהבה מתחוללת על ידי זרמים חשמליים במוח ושאין בנו נפש שהאהבה מתרחשת בתוכה, אבל האהבה כשלעצמה אינה תופעה פיזיקלית אלא תופעה מנטלית.
הוויכוח בין דואליסט (מי שמאמין בקיומם של חומר ורוח) לבין מטריאליסט (שמאמין רק בקיומו של חומר) אינה בשאלה האם יש תופעות מנטליות. פשיטא שיש. כל אחד מאיתו חווה אותן בצורה מאד ברורה וחד משמעית (לא רק שהוא חווה אותן. עצם החוויה הזאת עצמה היא תופעה מנטלית). אלא שהדואליסט סבור שכדי להסביר את התופעות הללו עלינו להניח את קיומה של רוח בנוסף לחומר שלנו, והמטריאליסט טוען שלא. מה שקיים הוא רק חומר, אבל מבנה חומרי מסוים (כמו למשל המוח שלנו) מניב תופעות מנטליות. התופעות הללו אינן יישים אלא תכונות של המכלול החומרי. הבאתי לכך משל ממהירותה של מכונית. המהירות אינה משהו חומרי וגם לא יש קיים בכלל. אבל ברור שהיא אינה תופעה סובייקטיבית. המהירות היא תופעה פיזיקלית שכולנו חווים ומבינים. המהירות היא תכונה של המכונית או מצב שבו נמצאת המכונית. המכונית היא היש היחיד שקיים, והמהירות היא תכונה שלו. אין צורך להניח את קיומו של עוד משהו פרט למכונית כדי לדבר על המהירות שלה. גם התכונות המנטליות אינן יישים וגם לא זוקקות הנחה לגבי קיומו של עוד סוג של יש (רוחני). הן יכולות להיות תכונות של יישים חומריים (ראו על כך למשל בטור 593 שעוסק באמרגנטיות).
כעת נוכל לשאול את עצמנו כיצד עלינו להגדיר תופעות מנטליות כמו אלו שהוזכרו למעלה. ישעיהו לייבוביץ בספרו על הבעיה הפסיכופיזית מסביר שכל העולם המנטלי אינו נגשי למדע מפני שאין לנו דרך לצפות בו ולמדוד אותו באמצעות מכשירי מדידה, כמו שאנחנו עושים לגדלים מדעיים מדידים. איך נוכל לצפות בתחושות של אדם, או בכך שהוא חושב, או רוצה? אנחנו ניזונים ממנו עצמו. הוא מדווח לנו מה מתחולל בתוכו וזהו הנתון שמוצג בפנינו. כיום אפשר כבר לצפות בתהליכים מוחיים, אך כפי שראינו תהליכים מוחיים (כמו זרמים חשמליים) אינם התופעות המנטליות עצמן.
בטור 99 עסקתי בפסיכופיזיקה. זהו תחום מדעי שמנסה לעסוק ביחס בין המנטלי לפיזי. לדוגמה, לשאול האם כשאנחנו מגבירים את עוצמת השדה האלקטרומגנטי (למעשה את ריבוע הגודל) פי 2, האם עוצמת האור שנשקף אצלנו בהכרה גם היא גדלה פי 2. כדי לקבוע את זה אנחנו מציבים אדם מול מקור אור, כעת מגבירים את עוצמת האור פי 2, מה שניתן לעשות בקלות, ועלינו למדוד פי כמה גדלה עוצמת האור בהכרתו של האדם. אבל אין לנו דרך לעשות זאת. הגל האלקטרומגנטי הוא תופעה פיזיקלית, אבל האור הוא תופעה מנטלית (זה מה שקורה אצלנו בהכרה כשאנחנו עומדים מול גל אלקטרומגנטי שפוגע לנו ברשתית העין). אין שום דרך לבדוק זאת אלא על ידי בקשת דיווח מאנשים. אנחנו שואלים אותם פי כמה גדלה עוצמת האור שהם חווים. כמובן שגם להם עצמם אין דרך לענות על כך (איך תקבע האם האור שאתה חווה הוא בעוצמה של פי 2?). במקרים רבים מתבססים על תשובות אינטואיטיביות שמקבלים מאנשים וממצעים על פני הרבה משיבים. אין לנו שום דרך לחדור את הפער הקטגוריאלי בין התופעה הפיזית לזו המנטלית, ואין לנו דרך למדוד את התופעה המנטלית.
כשנרצה לדעת האם אדם כלשהו חושב, מרגיש, או רוצה, נוכל אולי לצפות במוח שלו באמצעים שונים, אבל כדי לדעת מה תוכן מחשבותיו עלינו לשאול אותו. התהליכים במוח הם פיזיקליים, אבל תוכן המחשבות והתהליכים המנטליים הוא סובייקטיבי באופן מהותי. זה אינו נגיש ישירות לכלי מדידה.
ומה אם נרצה להגדיר את המושגים המנטליים, כמו 'חשיבה', 'מודעות', 'רצייה', 'אהבה', 'אינטליגנציה', 'דאגה' וכדומה? לא נראה שיש לנו דרך לעשות זאת. ניתן להצביע על סימפטומים שונים (אדם מאוהב שנתקל בזכוכיות, אדם נבוך מסמיק, אדם שפוחד מזרים דם וזרם חשמלי באזור כזה וכזה במוח וכדומה), אבל לא להגדיר את התופעה עצמה וגם לא למדוד אותה ישירות (אלא דרך הסימפטומים). לדוגמה, נניח שהצלחנו להציע אפיון כלשהו להליך מנטלי, למשל אהבה: קשר לאדם אחר שבמסגרתו אני חש אליו קירבה ומוכן להקריב עבורו הרבה. זהו אפיון של מושג האהבה דרך סימפטומים שאינו נוגע בו עצמו. אין צורך לומר שגם אין לנו דרך לבדוק מדעית את התיאור הזה. לכל היותר נוכל לשאול אנשים האם אכן זהו המצב אצלם או לנסות ולראות כיצד הם פועלים ביחס לאדם שהם מצהירים על אהבה כלפיו.
הבעיה האפיסטמית
אי הנגישות של המנטלי שלנו מעורר בעיות אפיסטמיות שונות, כמו למשל קיומן של תודעות אחרות או סובייקטים אחרים (other selves). איך אני יכול להיווכח בכך שבתוך האדם שעומד מולי יש תהליכים מנטליים כמו אצלי? אין לי שום דרך ישירה להיווכח בכך. בהחלט ייתכן שהוא מדבר איתי חיצונית אבל הדיבור שלו אינו מלווה בתהליכים מנטליים כפי שאני מכיר אצלי. זו יכולה להיות פסאדה. אמנם מסיבות שונות אני כן מניח שהאדם מולי שעונה לי שגם בתוכו יש חשיבה ורצייה ואהבה וכו', אכן מתכונן בתוכו פנימה ומדווח לי על מה שהוא חווה שם (ראו בשרשור שמתחיל כאן).
כך גם איני יכול להיווכח בכך שלבעלי חיים יש מודעות או חשיבה או רצייה. אצלם אני אפילו לא יכול לקבל דיווח מילולי כפי שיש לי מבני אדם. השאלה אם יש להן מודעות או תהליכים מנטליים אחרים, נותרת לא פתורה.
ומה לגבי מודלים של בינה מלאכותית? האם בתוכם יש ממדים מנטליים? שימו לב, איני שואל אם יש להם רוח או משהו שמעבר לברזלים שלהם. כבר סיכמנו שניתן לדבר על המנטלי גם בלי להניח דואליזם (כמו יוסף נוימן). נראה שאין לי דרך להיווכח ישירות בממדים המנטליים שבתוכם (אם יש או אין), אבל בניגוד לבעלי חיים הם דווקא כן יכולים לענות לי. אלא שבמקרה שלהם לא ברור האם עליי להאמין למה שהם עונים. מי אמר שהם בכלל מבינים את המושגים המנטליים שבהם אני משתמש? הם יודעים להשתמש בהם כי הם אומנו על משפטים שנכתבו על ידי בני אדם, אבל לא ברור האם יש אצלם 'הבנה' או 'מודעות', ולכן ספק עד כמה ניתן להתייחס ברצינות לטענות שלהם על עצמם. בניסוח אחר, לשאלתי האם יש לך מודעות, או האם אתה רוצה דבר זה או אחר, הוא יענה את מה שאימנו אותו לענות. גם אם הוא יענה שיש לו מודעות או שאין לו, אין לי דרך לדעת האם הוא מתבונן בתוכו פנימה ומדווח מה הוא רואה, או שהוא מדקלם את תוכן המידע שהוזרק לתוכו. זה נכון לפחות לכיוון אחד: אם אין לו מודעות הוא יכול בהחלט לענות שיש לו רק מפני שהוא קרא דעות תימהוניות שסבורות שיש לו. אם יש לו מודעות אז ישנה אפשרות שהוא עונה כדיווח על מה שהוא חווה בתוכו פנימה. תכל'ס אם הוא יאמר שיש לו מודעות אין לנו דרך להחליט אם אכן זהו המצב (גם אם מאמינים לו. זה גרוע מהמצב אצל בני אדם). ואם הוא יענה שאין לו מודעות זה גם יכול להיות תוצאה של אימון, אם כי הייתי מצפה שבמצב שיש לו מודעות לא ניתן יהיה לאמן אותו לענות שאין לו. אבל ניתן להתווכח על כך.
מחקר מדעי של שאלת התודעה ושאלות מנטליות
התמונה שתוארה עד כאן מעוררת את השאלה כיצד בכל זאת חוקרים לא מעטים עוסקים בשאלה האם יש למודלים כאלה מודעות? האם הם חושבים? וכו'. שאלה יותר יסודית היא כיצד בכלל אותם חוקרים מגדירים את המושגים הללו, כדי שיוכלו לבחון את השאלות הללו ולענות עליהן. כפי שנראה מיד, הם מתמקדים בעיקר בהגדרות דרך הסימפטומים. לפני שנעבור לדוגמאות, אקדים הערה מתודולוגית כללית לדיון הזה.
מבחינת חוקר דואליסט הגדרה דרך סימפטומים כמובן בעליל אינה מספקת. מדובר בתופעה מנטלית שיש לה מאפיינים שונים, אבל חשוב להבין ולהנהיר אותה עצמה. אבל לאור מה שראינו מתברר שגם חוקר מטריאליסט לא יכול להסתפק בהגדרה סימפטומטית למושגים מנטליים. ראינו שגם מבחינתו יש למושגים הללו מהות. הם אמנם לא יישים ולא מתרחשים בתוך יישות נפרדת (נשמה או רוח), אבל הם מושגים מובחנים של מצבים מוחיים (כמו מהירות של מכונית). ככאלה יש להם מהות (נואומנון) ויש להם מאפיינים והשלכות (פנומנון).
בטור 591 עמדתי על ההבדל בין סינטקס (מבנה צורני) לסמנטיקה (משמעות). לכן לא אכנס לכך שוב כאן. רק אזכיר שהחדר הסיני הוא מצב שמיועד להדגים בדיוק את ההבדל הזה. האדם שיושב שם משוחח ברמה הסימפטומטית, כלומר לכל קלט יוצא פלט רלוונטי, אבל מאחורי הפסאדה הזאת אין כלום. זהו סינטקס (מבנה צורני) ללא סמנטיקה (משמעות) מאחוריו. מבחן טיורינג שהוצג שם, שמאבחן אדם מול מחשב דרך סימפטומים של קלט-פלט, לוקה גם הוא בכשל הזה. העובדה שהסימפטומים של הקלט-פלט דומים לאלו שלנו לא אומרת שמדובר באדם, ובפרט לא שיש מאחורי זה חשיבה, מודעות ורובד מנטלי בכלל.
משמעות הדבר היא קריטית לשאלת הממדים המנטליים של מודלים של בינה מלאכותית. גם אם נמצא הגדרה פנומנולוגית (סימפטומטית) למושג מנטלי, כמו מודעות, חשיבה, אהבה וכו', הופעתם של הסימפטומים הללו במודל של בינה מלאכותית לא בהכרח תאמר לנו שלאותו מודל יש ממדים מנטליים. ייתכן שהוא מתנהג כאילו יש לו את כל אלו, מפני שהוא מחקה את התנהגותנו שלנו. כל עניינה של בינה מלאכותית וכל מה שהיא אומנה לעשות הוא חיקוי של בני אדם. לכן די ברור שגם אם הסימפטומים מופיעים אצלה הם לא בהכרח מעידים על המהות. בינה מלאכותית שמגלה רגישות רבה ומטפלת בי פסיכולוגית, מחקה התנהגות אנושית לפי הדוגמאות שעליהן היא אומנה. זה לא אומר שיש בתוכה רגשות ורגישות אנושית.
כל זה אולי נשמע לכם מובן מאליו, אבל מיד תיווכחו שזה לא בהכרח המצב.
"המעבדה": הגדרה פונקציונלית למודעות
ישנה סדרת פודקסטים של כאן 11 בשם "המעבדה". ראיתי שם סדרה של ארבע פגישות של גיל מרקוביץ, המגישה של הסדרה, עם שלוש נשים שעסקו בחקר המודעות: פרופ' חוה יבלונקה (חוקרת אבולוציה מאד ידועה מאוני' תל אביב), פרופ' שמעונה גינצבורג (מהאוניברסיטה הפתוחה, מדעי החיים) וד"ר ענת ז'יליגובסקי (רופאת משפחה וציירת, שליוותה את הדיונים והעיונים שלהן שיצאו לאור בספר, מראה הנפש, וגם בפודקסט). עניינה של הסדרה הזאת היה התודעה והמודעות במבט אבולוציוני. לא למדתי משם הרבה, שכן הן בעיקר עסקו באופן העבודה וכיצד הן התחברו זו לזו, אבל לקראת סוף ההרצאה הראשונה שם הן הציגו הגדרה למושגים הללו, וזהו בדיוק ענייננו כאן.
בתחילת ההרצאה הן הזכירו שמודעות עניינה תפיסה של חוויות שונות כמו כאב, או רגשות שונים וכדו'. אבל לקראת הסוף הן ניסו לאפיין את התופעה (ועמדו על כך שזו אינה הגדרה שלה), באופן שאם נפגוש יצור על כוכב אחר אם נבין שיש לו את המאפיינים הללו נאמר שיש לו תודעה. בין היתר הן בחנו מה משותף לכל היצורים שמקובל בין חוקרים מדיסציפלינות שונות לחשוב שיש להם תודעה (איני יודע על בסיס מה זה מקובל). בתחילה הן הבינו שחייב להיות שם מבנה של מוח (ולא סתם מערכת עצבים). לאחר מכן הן תיארו כמה פונקציות שמאפיינות יצורים כאלה: היכולת לתפוס משהו כמכלול שיש לו חלקים (לאו דווקא לתפוס מציאות של אורגניזם, אלא אפילו תפוח או כיסא כאובייקט שניחן במכלול של תכונות). היכולת לתפוס דברים כבעלי משך בזמן, שהולך מהעבר לעתיד דרך ההווה. היכולת למפות את העולם ואת הגוף, ולתפוס את אני או עצמי באופן מופרד מהעולם. היכולת להבחין בין גירויים שהם תולדה של פעולות שלי לבין גירויים אחרים. היכולת לפעול פעולה וולונטרית (רצונית. דומני שלאו דווקא במובן של רצון חופשי). טענתן הייתה שאם נמצא יצור כלשהו בעולם אחר שניחן בכל הפונקציות הללו נאמר שהוא בעל תודעה. הן מצאו שמונה יכולות כאלה.
כל זה כמובן לא מאד עוזר לנו, שכן לא ברור כיצד נוכל לדעת שליצור שמולנו יש את הפונקציות הללו. לכל היותר הוא יוכל לומר לנו את זה, אבל כמה יצורים שאינם אדם באמת יכולים לומר לנו משהו כזה? מכאן גם לא ברור כיצד הן החליטו שיש עוד יצורים בעלי תודעה שניחנו בכל הפונקציות הללו? מישהו מבעלי החיים הללו אמר להם משהו בעניין הזה? סביר שהן מניחות את קיומן של הפונקציות הללו דרך התנהגויות או יכולות שניתנות לתצפית אמפירית, כלומר לבחינה בניסוי.
ובאמת בהמשך הן מציעות הגדרה שמי שמקיים אותם ניחן בכל הפונקציות הללו: היכולת ללמידה פתוחה, כלומר למידה אסוציאטיבית בלתי מוגבלת (כלומר רחבה מאד). הן לא מסבירות מדוע ההגדרה הזאת כוללת את שמונה הפונקציות שתוארו למעלה, ולהבנתי זה ממש לא סביר ואפילו לא ממש קשור. אבל את זה לטענתן ניתן לבחון במחקר, ומעת שנגלה שהופיעה היכולת הזאת במהלך האבולוציה שם נולדה התודעה. איך בדיוק צופים ביכולת הזאת? סביר שזה נעשה דרך התנהגויות שונות שמצביעות על סוג כזה של למידה. את הלמידה של בעלי חיים בהווה וגם בעבר חוקרים אנשים בדיסציפלינות שונות, שכן למידה היא באמת תכונה שניתנת לבחינה אמפירית. אלא שבזאת לדעתי הן התנתקו מהמגע שלהן עם התודעה או המודעות ועברו לביטויים פונקציונליים שאינם בהכרח משקפים תודעה. כוונתי לומר שהיומרה לחקור זאת מדעית ולטעת זאת בשדה האבולוציוני, היא עצמה מובילה לכך שהן לא נוגעות בשאלת התודעה, כפי שאסביר כעת.
חשוב להבין שהן מודעות לכך שהן אינן מגדירות תודעה, והן עצמן אומרות שעיקר עניינה הוא המודעות לחוויות שונות. לטענתן, הן רק מנסות לאפיין אותה פונקציונלית. אבל כאן יש לי שתי ביקורות על המהלך שלהן, שקשורות זו לזו: 1. לדעתי אלו ממש אינם מאפיינים פונקציונליים של התודעה, ולו רק מפני שאין לה מאפיינים פונקציונליים. 2. גם אם היו לה מאפיינים כאלה, חקר המאפיינים אינו נוגע בחקר התודעה.
מהי מודעות: הרפלקסיה
טענתי היא שהגדרה פונקציונלית של התודעה, תהא איזו שתהא, לא באמת מחזיקה מים. נניח לצורך הדיון שאני בונה מכונה שמחקה את פעולותיו של האדם. גם היא לומדת ומתקנת את עצמה באותה צורה. האם זה אומר שיש לה מודעות? זה בערך כמו לומר שמחשבון שמבצע תרגיל בחשבון 'יודע חשבון', או רובוט מהלך שעוקף עץ שניצב בדרכו הוא בעל מודעות. זהו חיקוי צורני חיצוני של הסימפטומים, הפעולות, ואיני רואה כיצד קופצים מכך למסקנה בדבר קיומה של מודעות.
באופן כללי יותר אומר שכל מה שהן תיארו אלו פונקציות אנושיות שמייחדות אותנו כבני אדם (ואולי גם קצת בעלי חיים). למה בכלל לקשור אותן למודעות? מה שמייחד אותנו הוא יכולת חשיבה מפותחת, הליכה זקופה על שתי רגליים וכדומה. האם גם הליכה זקופה על שתי רגליים היא מודעות? לא כל פרמטר שמייחד בני אדם מתאים להגדרת מודעות. המודעות מייחדת אותנו וגם הפונקציות הללו מייחדות אותנו, אבל אין שום סיבה לזהות ביניהם.
ככלל, להבנתי מודעות אינה קשורה בכלל לפונקציות כאלה או אחרות, אלא לרפלקסיה על הפונקציות הללו. אדם שעושה את כל הפעולות הללו, אם הוא מודע לכך שהן מתבצעות אצלו, ניתן לומר שיש לו מודעות. עצם עשיית הפעולות הללו אינה קשורה למודעות. יתר על כן, יצור שיש לו רפלקסיה על פונקציות אחרות לגמרי מאלו שתוארו כאן גם הוא יצור בעל מודעות, שכן מה שחשוב הוא הרפלקסיה ולא הפונקציות שבהן היא מתבוננת. חקיין מכני שיבצע את כל הפעולות שהן תיארו אולי מתנהג (במובנים הללו) בדומה לבני אדם, אבל אין שום סיבה להסיק מכאן שיש לו מודעות.
לפני כמה ימים שלח אליי אורן, עורך האתר, מודעה על כנס שעסק בפילוסופיה של בינה מלאכותית. חיפשתי את ההקלטות ומצאתי שם בין היתר הרצאה של חוקר בשם מייקל אנטוני (Michael Antony), העונה לשם "תודעה, פונקציונליזם ו־AI", שבה בין היתר הוא חוזר על טיעון ישן שלו נגד פונקציונליזם ותיאוריות חישוביות של תודעה. הוא מגדיר פונקציונליזם כגישה שלפיה מצב נפשי מוגדר לפי התפקיד שהוא ממלא במערכת: הקלטים שגורמים לו, הפלטים שהוא גורם להם, והקשרים שלו למצבים נפשיים אחרים. לפי גישה זו, אם מערכת מלאכותית ממלאת את התפקידים הנכונים, עקרונית יכולה להיות לה תודעה.
כדי להסביר את התנגדותו לגישה הזאת, הוא מציג ניסוי מחשבה: נניח שיש אזור מוחי שאחראי לכאב, והוא אמור לגרום בהמשך להפעלה של אזור אחר. אם האזור האחר מושבת לפני שהאות מגיע אליו, לפי פונקציונליזם ייתכן שהכאב אמור “להפסיק”, כי המצב כבר לא ממלא את תפקידו הסיבתי. אבל אינטואיטיבית, קשה לקבל שהתעסקות באזור מוחי לא־פעיל באותו רגע משנה מיד את חוויית הכאב. במילים אחרות, ישנם ביטויים שונים לכאב, אבל לא נכון לזהות אותם עם הכאב עצמו. הם השלכות שלו. ממש כמו שאהבה אינה זרם חשמלי במוח, אלא לכל היותר השלכה או תוצאה של זרמים כאלו.
לכן אנטוני טוען שיש בעיה בזיהוי תודעה עם תפקיד פונקציונלי בלבד. הוא מעלה אפשרות שיש משהו בחווייה הסובייקטיבית שלנו שאינו נלכד רק על ידי מבנה סיבתי־חישובי. אחדד שאני טוען משהו חזק יותר ממנו: טענתי היא שאם אין אצלנו משהו בחווייה הסובייקטיבית אז אין לנו מודעות. כלומר הדיון אינו בשאלה מה יש ומה אין בנו (כפי שמשתמע מדבריו של אנטוני), אלא בהגדרת המושג מודעות. גם אם מטריאליסט כלשהו סבור שאין לנו ממד מנטלי בכלל (כלומר אפילו אם הוא מבולבל קטגוריאלית, כפי שהסברתי למעלה), עדיין עליו להסכים שהגדרת המושג מודעות אינה אוסף כלשהו של פונקציות אלא הרפלקסיה על הפונקציות הללו. לכל היותר הוא יאמר שאין לנו רפלקסיה ולכן אין לנו מודעות (אם הוא מטריאליסט מבולבל). לחלופין, הוא יכול לומר שיש לנו רפלקסיה אבל היא אינה דורשת הנחה דואליסטית שכן המודעות מגיחה מהמכלול החומרי (אם הוא מטריאליסט אמרגנטי, כמו יוסף נוימן וג'ון סרל). כך או כך, המודעות עניינה הרפלקסיה ולא הפונקציות עצמן. להגדיר את המודעות כאוסף הפונקציות עצמו זה חוסר הבנה. לפחות ברור לי שלא לזה אנחנו מתכוונים כשאנחנו משתמשים במונח 'מודעות'.
כאן תוכלו לראות ניסיון נוסף לקשור בין המודעות לבין פונקציות חשיבתיות מסוימות ('אנרגיה חופשית', כהגדרתה שם). רבים לוקחים את התזה של פריסטון (מאד פופולרית בשנים האחרונות) ולזהות את המושג מודעות עם צורת ההתייחסות שהוא מתאר. אבל אם הבנתי נכון את דבריו אזי נראה שהוא עצמו נזהר מזה. הוא מציע כמה מאפיינים למצב של מודעות: מודל גנרטיבי של העולם, יכולת תכנון, עומק קונטרה־פקטואלי (לחשוב מה יקרה במצב היפותטי שלא קרה בפועל), יכולת פעולה, יכולת לשאול שאלות, יכולת לבנות היפותזות חדשות על העולם ועל עצמה. מה שחשוב לענייננו הוא המאפיין האחרון. הוא מדבר על כך שמודעות היא היכולת להחזיק היפותזות על עצמה ("כואב לי", "אני חושב", "אני רוצה" וכדומה). כלומר לא הכאב ולא הרצייה, אלא הרפלקסיה שלנו לגביהם. התיאור שלו לגבי אנרגיה חופשית נוגע רק לדרך שבה זה מתממש בפועל בצורות החשיבה שלנו ואיך אנחנו מסיקים מסקנות מהנסיון (חשיבה בייסיאנית). נראה שגם הוא מסכים שללא רפלקסיה על התהליכים הללו אין מה לדבר על מודעות.
מסקנה: באופן קטגורי לא ייתכנו הסברים אבולוציוניים למודעות
הגענו למסקנה שהמודעות אינה קשורה לפונקציות שנתלות בה. עיקר עניינה הוא הרפלקסיה שלנו על אותן פונקציות. מכאן תוכלו להבין את טעותן של אותן שלוש חוקרות שמחפשות הסבר אבולוציוני למודעות. טעותן נעוצה בדיוק בכך שהן מסתמכות על הגדרה פונקציונלית של המודעות (זאת מעבר לכך שאיני מבין מדוע הפונקציות הספציפיות שבהן הן בחרו נראו להן ביטויים מובהקים של תודעה).
שימו לב שאם אכן עיקרה של המודעות הוא הרפלקסיה ולא הפונקציות עצמן, אזי עקרונית ניתן לחקות יצור מודע באופן מכני. ניתן לגרום למערכת מלאכותית לפעול כאילו היא מודעת, כלומר לדאוג שיהיו לה כל אותן פונקציות שמגדירות מודעות. כאמור, אם למערכת ההיא לא תהיה רפלקסיה לא ניתן יהיה לומר שיש לה מודעות למרות שהיא מתנהגת בדיוק באותה צורה כמו המערכת המודעת. משמעות הדבר היא שהמודעות לא מועילה לנו אבולוציונית, ומכאן שלא ייתכן למצוא לקיומה או להיווצרותה הסברים אבולוציוניים (בניגוד חזיתי לכיוון של אותן שלוש חוקרות שהובאו למעלה).
אציג את ההסבר לכך בצורה של טיעון לוגי:
הנחה א: חשיבה שאין לה ביטוי מעשי אינה משפיעה (לא תורמת ולא מזיקה) על השרידות.
הנחה ב: ישנן התנהגויות X שתורמות לשרידות (כמובן בתלות בנסיבות).
הנחה ג: הסבר אבולוציוני להיווצרות של מודעות אמור להראות שקיומה מועיל לשרידות.
הנחה ד: מערכת מודעת שמתנהגת בדרך X, תשרוד בדיוק כמו מערכת אחרת שמתנהגת בדרך X ללא מודעות.
מסקנה: לא ייתכן הסבר אבולוציוני למודעות.
לדוגמה, נניח שהיכולת לברוח מטורף מועילה לשרידות. רבים טוענים שהמודעות תורמת לשרידות שכן אם אינך מודע לנוכחותו של הטורף ולהבין זאת לא תחשוב לברוח ממנו. מכאן מסיקים שיצור א שניחן במודעות יש לו יתרון אבולוציוני. זהו ההסבר האבולוציוני להיווצרות המנגנון של בריחה מטורפים. אלא שכיום אנחנו יודעים שמחשב יכול לזהות נמר בזיהוי ממוחשב (מאמנים רשת נוירונים על ידי דוגמאות חיוביות ושליליות של נמרים שונים, supervised learning). אם אצור מערכת מכנית שכשהיא 'רואה' נמר (כלומר מזהה תמונה של נמר בזיהוי ממוחשב) היא מיד בורחת ממנו (הפלט של המחשב שמזהה את הנמר יוצר מעגל שגורם למחשב לשאת את רגליו ולנוס). מערכת כזאת מפעילה את אותם מנגנונים שפועלים אצל היצור המודע, אלא שהיא עושה זאת באופן מכני, ללא המודעות עצמה. השרידות של המערכת המלאכותית תהיה זהה לשרידותה של מערכת מודעת שמתנהגת כמוה. מכאן שהסבר כזה אינו יכול להוות בסיס אבולוציוני להיווצרותה של מודעות.
שימו לב שהמסקנה הזאת אינה קשורה דווקא לדואליזם. גם אם אתם מטריאליסטים אמרגנטיים וסבורים שהמודעות היא תכונה קולקטיבית של המכלול החומרי, עדיין אני טוען שאין לה יתרון אבולוציוני ולכן האבולוציה לא הייתה אמורה ליצור אותה. די היה לה ליצור התנהגות מכנית מקבילה, שאינה מלווה ברפלקסיה. הטיעון הזה במקורו לקוח מפילוסוף אנליטי נוצרי ידוע בשם אלווין פלנטינגה (ראו בטורים 697 ו-763).
האם אין כאן הנחת המבוקש?
זהו כמובן טיעון שמניח את המבוקש. אני מניח שייתכן חיקוי מכני מושלם של אדם (כלומר יצור ללא מודעות שיתנהג כמו אדם), אבל לכאורה על זה גופא הוויכוח. אותן חוקרות יענו לי שבאמת חיקוי כזה בהכרח יפתח גם מודעות, כלומר לדעתן לא נכון שקיים חיקוי מכני (נטול מודעות) מושלם שיכול לפעול כמו אדם מודע. המודעות, לטענתן, חיונית ליצירתה של התנהגות שרידותית.
תתפלאו, אבל אני מסכים. אני אכן מניח את המבוקש. אז מה? (ראו בטור 732 את דבריי בשבח הנחת המבוקש.) כל מה שאני טוען הוא שההיסק מקיומן של פונקציות כלשהן אצל בינה מלאכותית לכך שכנראה יש לה מודעות הוא פזיז ובוודאי לא הכרחי. אם מקבלים את ההנחה (המאד סבירה בעיניי) שייתכן חיקוי מכני של התנהגות מודעת, ההיסק הזה נופל. לא הוכחתי את קיומה של מודעות, אלא הותרתי את שאלת קיומה של מודעות אצל מכונות מלאכותיות פתוחה. כעת כל אחד יפעיל את האינטואיציה שלו ויגבש לעצמו עמדה לגביה. אני מניח שרובנו סבורים שאוסף ברזלים עם רשת נוירונים לא מפתח מודעות אלא רק מחקה התנהגות של יצורים מודעים (אפילו כשהוא מדבר איתנו על מודעות), ומה שהראיתי הוא שהטיעונים נגד האינטואיציה הזאת לא מחזיקים מים. הם לא נותנים לנו סיבה לסגת ממנה.
לגלות עוד מהאתר הרב מיכאל אברהם
Subscribe to get the latest posts sent to your email.
המאמר שלך ארוך ואני מודה שלא קראתי את כולו. אני מסכים לנימה הכללית.
רק אעיר על קביעתך ש"לא יתכנו הסברים אבולוציוניים למודעות".
אני בהחלט מסכים גם לזה אבל יש פה עוד מרכיב שאני חושב שכדאי להוסיף. ללא אבולוציה (ולמעשה ביולוגיה בכלל) לא ניתן להסביר את המודעות האנושית. ההסבר האבולוציוני הוא אחד התנאים ההכרחיים (אך לא מספיקים).
תוכל אולי לטעון שזו קביעה טריביאלית אבל היא מפסיקה להיות כזו ברגע שאנחנו משווים את המכונה לאדם. וכל עוד אין אבולוציה ביולוגית במכונות אין משמעות לייחס להן תודעה.
לא רק שהיא לא טריוויאלית, לדעתי היא גם לא נכונה. למה אתה מניח שיצורים שלא פועלים ונוצרים במסגרת אבולוציונית כמו שלנו לא יהיו בעלי מודעות? אם יוצרים אותם מהוואקום יש מאין, האם לא יכולה להיות בהם מודעות? למה?
אני מדבר על המציאות המוכרת לנו, לא מדבר על חייזרים, שדים, מלאכים וכדומה. במציאות המוכרת לנו שבה התודעה האנושית שלנו תלויה במבנה הביולוגי המשמש לה כ"אורגאן" אני מתקשה לראות יצור אנושי עם תודעה המנותקת מהאורגאן הזה.
או במבט על: בהרבה מקרים הטיעון המוניסטי נגד תודעה מנסה לסתמך על אמפיריקה ועל ביולוגיה. הטענה שלי פה זה שדווקא האמפיריקה והביולוגיה הם ראיה נגד המוניסם.
האם יעלה על "דעתה" של תוכנת בינה מלאכותית, ותהא המתקדמת ביותר, לשאול את עצמה (ללא התערבות חיצונית) האם היא בעלת תודעה?
נ דמה לי שבאופן בסיסי מודל כזה אינו שואל את עצמו כלום ביוזמתו. הוא מבצע משימות, ובמסגרתן הוא יכול גם ליזום יותר או פחות. לא חושב שיש דברים שהוא יוזם סתם כך יש מאין..
כאשר אני אומר "ללא התערבות חיצונית", אינני מתכוון שהתוכנה תפעיל את עצמה, אלא כוונתי, שהשאלה "האם את בעלת תודעה", לא תהיה ישירה. כך, לדוגמה, אפשר לשאול את התכנה מה הם מרכיביה מכל האספקטים הישירים שלה.
אינפ – אינם
אשלייה – אשליה
קורלט – ? (קורלציה?)
בזכוכיות\ אדם – בזכוכיות / אדם
מה שכתב ליבוביץ שהמנטלי אינו נגיש ומדיד אולי היה נכון לימיו.
בימינו אפשר, למשל, בעזרת MRI להבדיל בין חובב הארי פוטר למי שאינו כזה.
ראה
Carnegie Mellon Harry Potter fMRI study 2014
דבריו נכונים גם כיום. אתה יכול למדוד תהליכים נוירוניים שמלווים אירועים מנטליים, אבל אין לך שום גישה למנטלי עצמו. הקשר למנטלי נוצר רק מהדיווח של האדם עצמו.
אם תהליך נוירוני מעיד על ארוע מנטלי אז אנו יודעים שהארוע המנטלי התרחש.
איך אתה יודע שהוא התרחש? כי האדם סיפר לך.
זו המסקנה מהניסוי הנ"ל: אני יכול לדעת גם בלי שהוא יספר בעזרת סריקת מוח.
אתה לא יכול לדעת כלום. אתה מניח שאם יש התרחשות נוירונלית אז כנראה יש גם התרחשות מנטלית. אתה מנבא איזה עניין מנטלי מתרחש בשכלו, אבל איך אתה יודע שניבאת נכון? כי הוא מספר לך. בסוף בסוף אין דרך ישירה להיווכח בזה.
אתה לא יכול לדעת כלום. אתה מניח שאם הוא אומר לך שיש התרחשות מנטלית, אז כנראה יש גם התרחשות מנטלית. אתה מנבא איזה עניין מנטלי מתרחש בשכלו, אבל איך אתה יודע שניבאת נכון? בסוף בסוף אין דרך ישירה להיווכח בזה.
אז אין דרך ישירה. ו…?
”מה שלמדן ישיבתי יגיע אליו אחרי מהלך ארוך של קושיות, סתירות ותירוצים, במקרים רבים יכול להתברר לנו באמצעות ניתוח מושגי אפריורי. עמדתי על כך לא פעם, ותוכלו למצוא גם באתר כאן כמה וכמה דוגמאות לכך.”
תוכל להפנות
מהי חלות. מהו קניין כסף, מהו כסף, הצד השווה והבנייה מושגית ועוד המון.
המחקר אומר שיש דרך: סריקת מוח. החוקרים טועים או משקרים?
לא טועים ולא משקרים. אתה טועה בפרשנות דבריהם.
למה אתה בכלל מאמין שיש לו תודעה? לא ענית לנק' הפשוטה הזאת.
ואנלוגיה לא תעזור. כי לבסס את כל חוקי היקום של המודעות על סמך מקרה יחיד (המודעות הפרטית שלי) – זו אינדוקציה חלשה מאוד. מי אמר שהמודעות שלי היא המודל היחיד? אולי יש מודעות מסוג אחר לגמרי, 'מודעות של ברזלים', שאני פשוט לא מסוגל לזהות כי אני שפוט של האנלוגיה הביולוגית של עצמי?
עניתי כבר כמה פעמים. האנלוגיה ממני מצוינת. אין סיבה לחשוב שהם שונים ממני. וחוצמזה הם אומרים לי שחש להם תודעה.
זה אנלוגיה על בסיס מקרה אחד – אני . ללא יכולת הפרכה .
זה כזה חזק ??!?
בעיניי חזק בהחלט. זו אנלוגיה + דיווח עצמי. חשוב ותראה שאם יבוא מישהו ויעלה הצעה שלראובן אין מודעות למרות שהוא עצמו מדווח שיש לו, כולנו נסתכל עליו כקונספירטור תימהוני. יש מעט דברים שכל אדם סביר תופס אותם כברורים יותר.
אבל אין שום קשר בין הדיווח שלו לבין הבנה שיש לו , תקרא את הטור שלך ממש כאן למעלה על הטעות בין זיהוי פנומנולוגי למהות אז תוריד את זה מהפרק .
מה שנשאר זה אנלוגיה על סמך מקרה בודד , למשל תחשוב על אדם שרואה פעם אחת מחזור של שמש האם הוא יחשוב בביטחון עצמי כה חזק שהמחזוריות הזאת תמשיך לתמיד ? נראה אותו כפתי.
תוסיף לזה שאי אפשר להעמיד את התאוריה למבחן הפרכה.
שלום הרב,
ה-AI NOTEBOOKLM ענה לי על השאלה בצורה שונה ממה שהזכרת האם אתה מסכים איתו?:
כשדיברתי על אנלוגיה מהתודעה שלי לתודעת האחר, הניסוח ה"אנלוגי" הוא סוג של פורמליזציה לוגית שנועדה להסביר את המהלך לאנשים שדורשים מבנה של טיעון. אבל ברמה העמוקה, אני לא מבצע "חישוב קר" של דמיון מבני. אני משתמש במה שהוסרל כינה "ראייה אידיטית" (Wesensschau) או מה שהרמב"ם כינה "עיני השכל".
אני "רואה" (לא בעיני בשר, אלא בהכרה שכלית) את התודעה של האחר דרך המופע החיצוני שלו. כפי שכתבתי פעם, אנחנו רואים את הנפש של האחר כמעט באותה מידה של ישירות שבה אנו רואים את גופו. האנלוגיה היא רק הדרך להצדיק את הראייה הזו במישור הרציונלי-דיסקורסיבי. זהו בדיוק ביטול הדיכוטומיה בין חשיבה להכרה: השכל שלי "צופה" במציאות המנטלית של הזולת.
לכן, כשאני אומר שראובן הוא יצור מודע, זה לא הימור סטטיסטי מבוסס מקרה אחד (אני). זו הכרה בכך שיש כאן "אידיאה" של אדם מודע שמתממשת מולי. אם הייתי רואה בזה רק היסק לוגי יבש, באמת היה מדובר באינדוקציה חלשה. אבל מכיוון שמדובר בכושר הכרתי – האימון שלי בזה חזק בדיוק כמו האמון שלי בזה שיש לי שתי ידיים.
=========
האם אתה מסכים שהאנלוגיה שאתה מתכוון היא לא מתמטית פשוטה אם כן אז מובן מדוע אתה נותן בכך אמון. השאלה כמובן האם יש לנו את הכלי הזה בארגז הכלים.
תשובה מעניינת. אני לא חושב שהיא שונה מזו שלי. האנלוגיות שאדם עושה מבוססות על ראייה אידיתית. אני עושה אנלוגיה ממני אליו כי אני רואה שהוא שווה לי.
מבחינה לוגית, אני לא מצליח להבין במה שונה מודל השפה המשוכלל ביותר מכל כלי מכני אחר שלמד "להגיב" נכון ל"בקשות"? לדוגמה: מכונה אוטומטית להכנת סוגי קפה שונים לפי בחירה או כספומט.
למה לגביהם פילוסופים לא תוהים האם יש להם מודעות?
ואם מכונת הקפה גם תצוייד בחיישן לקריאת תווי פנים ותנפיק לי פלט מתאים למצב הרוח הניבט מאותם תווים, כמו למשל: "היי, אתה יותר מדי קרבי הבוקר, תירגע!", או: "זרום, הכל עובר בחיים!", כבר אייחס להם יכולות גאוניות של פסיכולוגיה?
הרי צורת האמון של "ידידיי מבית היוצר של AI" ברורה לחלוטין (וכפי שהיטבת להסביר ולהמחיש במאמריך הקודמים על כך באתר), אז ילמדנו רבינו היכן עובר קו הגבול שאמור בכלל לעשות את השאלה הזו ללגיטימית? (עוד לפני כל תשובה שהיא).
האם מד סוכר אותו אני עונד על היד כשהוא שולח לי התראה כי הגזמתי עם קוביית השוקולד הנוספת היא גם בעלת מודעות?
אני נוטה להסכים. זה הבדל כמותי.
אני נוטה לחשוב שכל הטענות בתחום מתבססות בסוף על ad absurdum, לצד אחד קשה לדמיין מערכות עם תפקודים פיזיים דומים לשלנו עד כדי חוסר יכולת הבדלה מבחוץ כחסרי תודעה(בדומה לכך שגם לצד השני ולרובנו באופן כללי קשה לדמיין אנשים אחרים כחסרי תודעה בשל הדמיון ביננו), ולצד השני קשה לדמיין מצב שבו הדומם אינו שונה מהותית מהחי(מאחר רוב השיטות שטוענות לתודעה אמרגנטית יצטרכו לעשות שמיניות באוויר על מנת להפריד בין זרמי חשמל במוח לתהליכים פיזיקליים מורכבים אחרים, ולרוב יצא שגם הרוח רוצה לנשוב וכו'). אני סובר שבמקום לטעון מad absurdum עדיף פשוט להבין שאין לנו כל כך מושג בעניין (שכן חוסר היכולת שלנו לדמיין דברים הוא לא אינדיקציה אמיתית לחוסר קיומם). אני כן מסכים שלאחר ההכרה בחוסר היכולת שלנו לשפוט את העניין, ככל שהדבר ייגע להחלטות היומיומית שלנו יעלה הצורך לנקוט עמדה לפעמים ואז לגיטימי בעיני לבחור את המסלול שמרגיש פחות אבסורדי ולכן יש הגיון בשקלול התיאוריות השונות לכל צד ומה שהן גוזרות ולבחור את הדיעות שגוזרות מסכנות פחות אבסורדיות. כמו כן יש לציין שכולם כנראה יסכימו שלשחקן המשחק את רומיאו אין את התודעה של רומיאו, כלומר בכל אופן הדיווח החיצוני של רשתות על התחושות שלהן אינו מהווה אינדיקציה לתחושות האמיתיות שלהן גם אם הן קיימות.
כקורא ותיק של ספריך ומאמריך וכמעריץ גדול של צורת החשיבה והניתוח שלך המשלבות לוגיקת פלדה ואינטואיציה בריאה וישרה ועמוקה באופן ש(כמעט) לא נראה במחוזותינו – אני מזהה בכל העיסוק ה"פילוסופי" הזה לגבי "שאלת המודעות של מכונות הבינה המלאכותית" את המופע המטורלל והפסיכי ביותר של דת המטריאליזם שמרוב ספקנות ובריחה מכל שמץ של דואלזים ואידיאליזם היא מוצאת את עצמה טובעת בתיאוריות מיסטיות כל כך הזויות ששמות בצל את עובדי האלילים הפאגניים הפרההיסטוריים
לגבי השאלה האם יש יתרון אבולוציוני למודעות, אני מבין את הטענה שלעצם המודעות אין יתרון לשרידות כיוון שהיא אינה כוללת פונקציות אלא רק רפלקסיה וחוויה פנימית של האדם, ולכן גם גוף שֶיְחַקה את אותן הפעולות באופן מכני וללא מודעות ישרוד באותה המידה. אך השאלה האם ייתכן שהמודעות היא פשוט הדרך הפשוטה יותר להגיע לפונקציות האלו וזה היתרון שבה? כלומר, נניח לגבי האינסטינקט לברוח מסכנה, אם באמת גם גוף חסר מודעות יהיה מתוכנת לברוח מסכנה כמו אדם מודע הוא ישרוד כמוהו, אך כדי להגיע ל"תכנות" כזה באופן מכני (שלא על בסיס מודעות) הדבר עלול להיות מסובך מאוד, אך על ידי תודעה זה קורה באופן פשוט יותר, כיוון שהאדם בעל המודעות מודע לסכנה ועל ידי כך הוא יכול על בסיס זאת לקבל החלטה לברוח מהסכנה. אם כן, ייתכן שהמודעות נוצרה באופן אבולוציוני מכיוון שזו הדרך הפשוטה יותר כדי להגיע לתוצאות הישרדותיות שההגעה אליהן באופן מכני הייתה סבוכה הרבה יותר.
הצעה מעניינת, אבל על פניו נראית מוזרה. אתה יוצר תופעה חדשה לגמרי וזה יוצר דרך קצרה יותר להתנהגות השרידותית ביותר. לכאורה השרידות הייתה אמורה ליצור ישירות את המבנה המוחי האופטימלי, בלי לעבור דרך מודעות. במיוחד אם אתה מטריאליסט, שאז המודעות היא אפיפנומנה, כלומר תוצא לוואי של מבנה מוחי/גנטי. אז תיצור את המבנה עצמו בלי תוצר הלוואי.
אוסיף עוד, שכעת אחרי שהגענו למבנה המוחי האופטימלי, האבולוציה אמורה להכחיד את המודעות. סרח עודף מיותר.
א. האם גם לדעתך שלך שהרצון הוא גורם סיבתי עדיין סביר להניח שייתכן זומבי פילוסופי. אם יופיע יצור כזה אולי הוא גם יתנהג כמו אדם בעל בחירה, אבל לכאורה כבר אין יסוד להניח שניתן פיזיקלית ביקום שלנו להכין יצור כזה, כי לא מוכרת לנו מערכת פיזיקלית שמתנהלת כמו אדם.
ב. אחרי שחיטאת כך את המודעות מכל נגיעה בעולם, למה אתה כן מתעניין בשאלה האם יש מודעות למודלים. האם לדעתך המודעות כפי שהגדרת אותה קשורה לזכויות מוסריות כגון שלחיים של יצור עמית כזה יש ערך. או שאתה מתעניין בשאלת המודעות קודם כל לשמה.
אכן.
כל התשובות נכונות. קודם כל לגבי תפיסתי את עצמי
תוכל בבקשה להסביר מה הכוונה כאן ״לגבי תפיסתי את עצמי״?
אציין שטכניקת דיון מקבילה הופעלה בטור 372 – שיפוט מוסרי של אדם לשיטתו לגבי שיפוט לשיטתו. ניטרלת כל רכיב פונקציונלי והעמדת את הנושא שבחרת לדון בו על מין רבב טמיר, ואז ישנן השלכות מעשיות (לגבי ענישה) אלא שהן מתווכות דרך שיקולי מוסר.
שאלת איזו משמעות אני רואה בדיון הזה ועניתי שעיקר משמעותו היא לגבי תפיסתי את עצמי, כיצור אנושי בעל תודעה וכו'. זה צלם האלוהים שבאדם, גם ללא שום השלכות מעשיות.
את הערתך האחרונה לא הבנתי. הייתה שם שאלה או קושיא או רק הצבעה על אנלוגיה בבחינת "לשיטתו".
מודעות ועוד לרוח? לדעתך כדואליסט ביצור אנושי יש גם רוח ובדיון כאן מניחים לכל אורך הדרך שהרוח הזאת איננה נושבת במכונה.
בעיקר הצבעה על אנלוגיה לשמה, שבעיניי היא מעניינת. אבל גם כדי לחדד את הקושי (בעיניי כמתבונן) שחל בשני המקרים בצורה זהה.
אני חוזר על השאלה ברשותך לגבי משמעות שאלת המודעות במכונה לגבי צלם האלוהים שבאדם. יש כבר הבדל מכריע בין אדם למכונה והוא קיומה של רוח. גם אם למכונה תהיה מודעות במובן של הטור (תופעה מנטלית מסוג רפלקסיה) עדיין יהיה הבדל קטגורי מובהק בין אדם למכונה.
נכון. זה בהחלט הבדל. השאלה עד כמה כשלעצמו (בלי הבחירה) הוא משמעותי נתונה לדיון.
כלומר אתה טוען כאן שבלי המודעות במובן של הטור (רפלקסיה) אין בחירה?
נכון. אבל בלי ה"כלומר". אין קשר לטענתי הקודמת.
אם בחירה כן תיתכן ללא מודעות אז הרוח והבחירה הם הבדל כ״כ גדול בין אדם למכונה כך שגם אם למכונה תהיה מודעות זה לא אמור לשנות את ״תפיסתי את עצמי, כיצור אנושי בעל תודעה וכו׳״.
איבדתי אותך. אסכם את עמדתי: לא תיתכן בחירה ללא מודעות. עקרונית תיתכן מודעות ללא בחירה. מותר האדם הוא בעיקר בבחירה (שכאמור, כוללת מודעות). מצב של מודעות ללא בחירה יוצר הבדל אבל לדעתי הרבה פחות משמעותי.
תודה. (ואכן בדיוק כך הבנתי אותך לאחר ההודעה הקודמת שכתבת).
לא הבנתי, הרב אמר שיכול להיות שאם יש למודל מודעות לא נוכל לאמן אותו להגיד שלא, והדברים תמוהים. כל תהליך האימון דטרמיניסטי לגמרי (חוץ מרנדומליות, שהיא כמובן אינה חופש), איך תופעה מנטלית (שאישית אני כמובן חושב שאין למחשבים) יכולה בכלל להשפיע על האימון הזה? היא לא יכולה, כמו שהיא לא יכולה להשפיע על שום חישוב של מחשב.
למה בדבריי אתה מתייחס?