אבולוציה, דואליזם ובינה מלאכותית (טור 763)

בס"ד

לפני כמה שבועות קיבלתי שאלה לשו"ת לגבי היחס בין מודלי שפה לחשיבה האנושית. הנושא הזה טופל כאן לא מעט, אבל כאן ברצוני לגעת בהבדלים המהותיים שבין מודלי השפה לבינינו ולתהות לגבי משמעותם.

מהי חשיבה?

כמה פעמים בעבר עמדתי על כך שהחשיבה שלנו אמנם מתבצעת על ידי המוח, אבל אין להסיק מכאן בהכרח שהמוח הוא איבר חושב. אנחנו הולכים עם הרגליים אבל לא נכון לומר שהרגליים הולכות. אנחנו אלו שהולכים, ואנחנו עושים זאת באמצעות הרגליים. גם לגבי החשיבה, לדעתי נכון לומר שאנחנו חושבים (זוהי הפונקציה של השכל), ואנחנו עושים זאת באמצעות המוח.

לא פעם עמדתי על כך שזה כשלעצמו כבר אומר שבינה מלאכותית אינה חושבת. מערכת של בינה מלאכותית מקבילה למוח ולא לשכל. אבל אין שם בתוכו מי שחושב באמצעות ה'מוח' הזה. אולי המשתמש או המפעיל של הבינה המלאכותית חושבים באמצעותה. ועדיין יש מקום לתהות האם הבינה המלאכותית באמת מקבילה לגמרי למוח אנושי. האם כל מה שהוא עושה גם היא יכולה לעשות (ואולי אפילו יותר טוב)? וגם אם כיום ישנם הבדלים, יש מקום לשאול האם זה עניין זמני שיחלוף עם השיפורים שייעשו במערכות הבינה המלאכותית עם הזמן. בטור הזה רציתי לעסוק בשאלה הזאת.

בטור 592 (השלישי בסדרה שם) כבר נגעתי בשאלה הזאת, וניסיתי להצביע על פונקציות אנושיות שונות שבהן אנחנו עדיפים (לפחות בינתיים) על המערכות המלאכותיות (ראו גם בסדרת הטורים 694 – 699). חלק מההבדלים הללו כבר לא קיימים היום (ראו למשל בשאלה הנ"ל לגבי הכללות). ועדיין נותרו כמה הבדלים שכדאי לתת עליהם את הדעת.

סמנטיקה וסינטקס

אחד ההבדלים שבו כבר עסקתי הוא שאצלנו יש גם סמנטיקה, כלומר שהשכל שלנו גם חווה רעיונות ולא רק עושה פעולות חישוביות כמו בינה מלאכותית. משל החדר הסיני של ג'ון סרל (ראו עליו בטור 694) מדגים היטב את הנקודה הזאת. אדם ישראלי שכמובן אינו יודע אף מילה בסינית יושב בחדר ומקבל דרך אשנב הקלט שאלות בסינית. יש לרשותו מיכל אינסופי של אותיות סיניות והוא מרכיב מהן תשובות ושולח אותן החוצה דרך אשנב הפלט. אם התשובה אינה רלוונטית הוא מקבל שוק חשמלי ומתקן אותה. אחרי אינסוף זמן הוא ילמד להרכיב את התשובות הנכונות בסינית רהוטה. על אף זאת, ברור שאותו אדם אינו יודע סינית. מה חסר אצלו? הוא עושה פעולות מכניות של חישוב, קורא אוספי אותיות ומרכיב אוספים אחרים עם קורלציות כלשהן בין הקלט לפלט, אבל אין מאחוריהן הבנה. אין לו מושג מה כל זה אומר, לא הקלט ולא הפלט.

אדם כזה משול לבינה מלאכותית. גם היא מקבלת מילים כקלט, עושה פעולות חישוביות ומרכיבה מילים ומוציאה אותן כפלט, אבל אין שם בפנים משהו ש'מבין' את המילים הללו, לא את השאלות ולא את התשובות. הפעולות עוסקות בממד הצורני-פורמלי, כלומר בסינטקס, אבל חסרה הסמנטיקה (המשמעות).

עד כאן תיארתי הכל מנקודת מבט דואליסטית-אינטראקציוניסטית, שלפיה יש באדם מרכיב חומרי ומרכיב רוחני, וישנה השפעה הדדית בין שני המרכיבים. הרוח משפיעה על החומר (החשיבה בשכל מניעה אלקטרונים במוח) וגם החומר על הרוח. לעומת זאת, המטריאליסטים אינם מקבלים את קיומה של סובסטנציה נוספת (רוח). מבחינתם האדם הוא מכלול חומרי, הא ותו לא. ביחסם לעניין החשיבה ותהליכים מנטליים בכלל, נחלקים המטריאליסטים לשני סוגים עיקריים (ראו על כך בטור 593) : 1. אלו שמכחישים את קיומו של המנטלי. תוכלו לראות זאת דרך אמירות חסרות פשר כמו חשיבה או אהבה הם זרמים חשמליים במוח. זו אינה גישה פילוסופית אלא סתם חוסר הבנה. 2. אלו שטוענים שהמנטלי אמנם קיים, אבל הוא תכונה שמגיחה מתוך המכלול החומרי. לפי שיטה זו אין באדם עוד מרכיב רוחני מעבר לחומר. המנטלי הוא תכונה קולקטיבית של המכלול החומרי. לפי גישה 2, ניתן לקבל שיש בנו עוד ממד מנטלי אבל הוא אינו תורם מאומה לחשיבה. הם רואים את תהליך החשיבה כחישוב מכני שנעשה במוח, אלא שתהליכי החישוב יוצרים תחושות של מה שמוכר לנו כתהליכי חשיבה (בעצם החישוב הוא הסינטקס והחשיבה היא הסמנטיקה – הפשר של התהליכים המכניים). בעלי גישה זו סבורים שתהליכי החשיבה הם ביטוי לתהליכים הפיזיקליים שמתרחשים במוח, אבל הם לא משפיעים עליהם (כי תהליכי פיזיקליים מונעים רק מסיבות פיזיקליות). כמו שזרמים במוח יוצרים תחושות של אהבה או זכירה, בה במידה זרמים אחרים במוח יוצרים חוויות של חשיבה. אבל כיוון ההשפעה הוא מהפיזי למנטלי ולא להיפך. המנטלי לא באמת קיים כיש עצמאי (אלא כתכונה של המכלול החומרי), ולכן גם לא יכול להשפיע על שום דבר. זה מה שמכונה 'אפיפנומנה' (=תופעה נלווית).

כעת אנחנו מגיעים לשאלת מותר האדם.

מותר האדם לפי המטריאליסטים

לפי התפיסה המטריאליסטית אין שום מניעה שבינה מלאכותית תוכל לעשות כל מה שאדם עושה. שני אלו הם מכונות חישוב, אלא שלאחת מהן יש אפיפנומנה מנטלית (שהיא תופעה צדדית שלא משפיעה). גם אם כרגע המכונות עוד לא יכולות לעשות את כל מה שאנחנו יודעים לעשות, זה בהחלט יכול להיות עניין זמני ומקרי. בהמשך, הפער זה יכול בהחלט להיסגר. אבל ייתכן שהפער הזה לא ייסגר, וזאת מפני שהאנושות לא תצליח גם בעתיד ליצור מכונות כה משוכללות. אבל גם אם זה יהיה המצב, עדיין נכון לומר שההבדל בין בינה מלאכותית לאדם אינו מהותי. האדם הוא לכל היותר מכונה, גם אם משוכללת יותר. מטריאליסט לא יכול להסביר את מותר האדם מהמכונה, כלומר לטעון שלעולם המכונות לא ישיגו לגמרי את כל יכולות החשיבה האנושיות, בקיומו של המנטלי. זו נקודה שרבים מפספסים, ולכן אפרט אותה מעט יותר.

ישנם כאלה שמסבירים את יתרון חשיבתו של האדם בכך שיש לו ממד מנטלי ששותף בתהליכי החשיבה, מה שלא קיים במכונות של בינה מלאכותית. החשיבה שלנו נותנת פשר לתוצאות החישוב, ואנחנו משתמשים במשמעות הזאת כדי להגיע למסקנות שחישוב מכני לא יכול להגיע אליהן. זה מאפשר לנו להכליל בצורה מופשטת ועמוקה יותר, ליצור מושגים מופשטים ולהשתמש בהם בחשיבה תיאורטית כדי לקשור בין תופעות, רעיונות ומצבים שונים וכדומה.

צריך להבין שמי שמעלה טענה כזאת לא יכול להחזיק בעמדה מטריאליסטית. מבחינת המטריאליסט המנטלי הוא אפיפנומנה של המכלול החומרי. לכן הוא לא יכול לתת שום יתרון לחשיבה שלנו (שהרי הוא רק משקף אותה, אבל לא נוטל בה חלק). מי שמעלה טענה כזאת בהכרח רואה את המנטלי כיש עצמאי ולא אפיפנומנה, ורק בגלל זה יעולה להיות לו יכולת להשפיע על החשיבה והמוח. משום מה שמעתי לא מעט מטריאליסטים שתולים את היתרון האנושי בקיומו של המנטלי, בלי לשים לב שתפיסתם את המנטלי כאפיפנומנה לא מאפשרת לטעון טענה כזאת.

לדוגמה, המתמטיקאי-פיזיקאי הבריטי הידוע, רוג'ר פנרוז, הוא מטריאליסט לא חישובי. הוא סבור שאנחנו אכן רק חומר (אין בנו מרכיב נוסף), אבל תהליכי החישוב במוח אינם חישוביים (הוא תולה אותם בתהליכים קוונטיים מוזרים). לטענתו לא ניתן לבצע אותם באמצעות מכונה. הטענה הזאת מאד מוזרה, ולמיטב הבנתי אפילו סתירתית.

כאשר אנחנו מדברים על פעולות חישוביות אין לנו הגדרה ברורה. אלאן טיורינג הציע מכונה פשוטה ביותר, והוכיח שהיא יכולה לבצע כל סדרת פעולות מכניות מהסוגים המוכרים לנו. מאז ועד היום, מכונת טיורינג מהווה הגדרה מקובלת לחישוביות של תהליך. אם יש מכונת טיורינג שיודעת לבצע אותו אז הוא 'חישובי'. אם פנרוז טען שהאדם הוא מכונה חזקה יותר ממכונת טיורינג – ניחא. אין בזה טענה מהותית. אבל כשהוא אומר שאין מכונה שיכולה לבצע באופן מלאכותי את מה שאדם מבצע, זה מאד מוזר. הרי לשיטתו האדם גם הוא סוג של מכונה, אז למה אי אפשר ליצור מכונה אחרת שתעשה את אותה עבודה? אתם יודעים מה, לא צריך לייצר מכונה אחרת. אנחנו עצמנו מכונה כזאת. וגם אם החשיבה שלנו ממומשת באמצעות תהליכים קוונטיים, מוזרים ככל שיהיו, איני רואה סיבה לחשוב שמחשב קוונטי לא יוכל לבצע אותם.

יתר על כן, אפילו אם מטריאליסט יטען שאנחנו רק מכונה חזקה יותר, גם הטענה החלשה הזאת לא יכולה להיות מבוססת על כך שיש בנו גם ממד מנטלי, שהרי המטריאליסט טוען שזוהי אפיפנומנה. הוא יכול לומר שאנחנו פשוט מכונה משוכללת יותר מזו של טיורינג עם כל מיני תהליכים קוונטיים מתוחכמים. זה הכל. בתוך מסגרת חשיבה מטריאליסטית, ההיזקקות למנטלי ולסמנטיקה כדי להסביר את מותר האדם היא סתירתית.

הבדלים בין אדם לבין בינה מלאכותית

אחד ההבדלים המהותיים שמוכרים לנו כיום בין אדם לבין בינה מלאכותית הוא כמות הדוגמאות שדרושות לאימון. אדם יכול לראות כמה דוגמאות ולהבין מכאן מהו כלב, או איך עושים תרגיל מתמטי מסוג כלשהו. בבינה מלאכותית דרושות הרבה יותר דוגמאות לאימון (יכול להגיע למיליונים). ואל יהא הדבר קל בעיניכם. זה לא הבדל כמותי אלא איכותי.

בטור 695 הסברתי בקצרה ובפשטנות מהי רשת נוירונים ומהו מודל שפה גדול. כשיש לנו רשת נוירונים אנחנו יכולים לאמן אותה לבצע פעולה כלשהי (כמו לזהות חתול, או זיהוי כתב). כאמור, הדבר דורש המון דוגמאות, כשהאימון מכוונן את ערכי הפרמטרים שבתוך הרשת כך שהחישוב יניב בסיכוי גבוה את התשובה הנכונה. אבל אם ניטול מודל שפה גדול (LLM, כמו צ'אט גיפיטי, או קלוד וכדומה), שהוא רשת נוירונים מאד מורכבת עם מאות מיליארדי פרמטרים ומבנה ארכיטקטוני סבוך, הוא בדרך כלל מאומן כבר על כמויות אינסופיות של מידע מהרשת וכל מקום אחר. האימון הזה נותן לו מכלול רחב ומגוון של יכולות חשיבה בתחומים רבים ושונים. אם כעת נרצה להקנות למודל הזה מיומנות ספציפית כלשהי, זוהי משימה כמעט בלתי אפשרית. הסיבה לכך היא שגם אם נאכיל אותו במיליון דוגמאות ונרצה שהן ישנו את ערכי הפרמטרים כדי לקלוע לתשובות הנכונות במשימות מהסוג הזה, הן תיבלענה בתוך כמות אינסופית של מידע שכבר טבוע בו. האימון לא יזיז את המחט (כלומר לא ישנה את ערכי הפרמטרים שבתוך הרשת, ובטח לא באופן כזה שישפיע רק על המיומנות הזאת) כמלוא נימה. וגם אם המחט תזוז מסיבה כלשהי, פירוש הדבר שהשתמשנו בכמויות עצומות של דוגמאות, ולכן הדבר כנראה יקלקל את המיומנויות שכבר הוקנו לרשת. קשה מאד להקנות למודל שפה מיומנות מסוימת, ובוודאי בלי להרוס את המיומנויות שכבר קיימות אצלה (זה מה שמכונה fine tuning).

אין צורך לומר שאצל בני אדם זה לא המצב. מוחו של כל אחד מאיתנו כבר מעוצב ומכיל מידע רב מאד, ובכל זאת אין לנו שום בעיה לרכוש מיומנות נוספת עם מעט מאד דוגמאות. למרות מיעוט הדוגמאות, המיומנות הזאת נרכשת אצלנו, וזה נעשה באופן שאינו הורס את המיומנויות הקיימות. זה בעצם מה שקורה לכל אחד מאיתנו בכל שיעור או קורס שאנחנו לומדים בכל תחום.

הבדל נוסף בינינו לבין מודל של בינה מלאכותית הוא היכולת שלנו ללמוד באופן סימבולי ולא רק סטטיסטי. כלומר אנחנו לומדים את הכלל ומתוך כך מיישמים אותו. זה כמובן אומר שהלמידה שלנו לא נעשית רק על ידי הכללה מדוגמאות. ההכללה בהחלט נעשית מהתרגילים לדוגמה, אבל היא נעזרת בכלל שאותו למדנו. יש לנו הרצאה (שבה לומדים את הכללים) ואז אנחנו עושים תרגול (כלומר עוברים על דוגמאות, ובאופן מובלע מכלילים אותן לאור הכלל). מסיבה זו די לנו במעט מאד דוגמאות כדי ללמוד מיומנות חדשה. יתר על כן, הלימוד הזה אינו הורס את הידע והמיומנויות הקיימות שלנו.

חשבו על שיעור שבו למדתם לפתור משוואה ריבועית. בניגוד למודל שפה אנחנו לומדים את זה באופן סימבולי ולא סטטיסטי, כלומר לומדים את הנוסחה שבה יש להציב את הפרמטרים ולקבל את הפתרון. זהו לימוד של הטכניקה. לאחר מכן המורה או המרצה פותר דוגמאות שונות, ובכך אנחנו ומיישמים את הכלל שלמדנו, ובעצם מכלילים את הדוגמאות ומטמיעים את היכולת לפתור דוגמאות נוספות. החלק הראשון של הלימוד (ההרצאה) דומה לתוכנה קלסית ולא לרשת נוירונים (ראו בטור הנ"ל). הלימוד שלנו מקנה לנו תוך שיעור אחד וכמה דוגמאות את היכולת לפתור משוואות ריבועיות, ושום מידע או מיומנות קודמים לא נהרס תוך כדי זה. אבל התחושה היא שגם בלי ללמוד את הכלל, די היה לנו במעט דוגמאות כדי לעשות את ההכללה. הרבה פחות מכמות הדוגמאות שנדרשת למודל LLM.

אחת ההדגמות המפורסמות לכשל הזה של מודלי שפה היא החולשה שלהם בפתרון בעיות לוגיות ואריתמטיות. אלו בעיות שהפתרון שלהן הוא סימבולי (יישום של כללים) ולא סטטיסטי, ואם פותרים אותם על ידי הכללה על בסיס דוגמאות, כפי שזה נעשה במודל שפה גדול, קורים שני דברים: א. נדרשות המון דוגמאות (כי הכלל אינו נתון כאן). ב. התוצר שנקבל אינו אמין לגמרי (שהרי מדובר בתוצר סטטיסטי). אדם שלמד איך לפתור משוואה ריבועית, עקרונית לא יטעה ביישום אף פעם. וגם אם הוא יטעה פעם במקרה, זו תהיה טעות מקרית ולא מובנית. בדרך כלל סתם חוסר תשומת לב. לעומת זאת, המכונה המלאכותית טועה באופן אינהרנטי כי הפתרונות שהיא מוצאת הם סטטיסטיים, ולכן מובנה בה העניין שחלק מהם יהיה שגוי. ומכאן שגם אם האדם טועה גם הוא לפעמים, עדיין יש הבדל בינו לבין מודל שפה הן באופי הטעות והן במקורה. ההשוואה ביניהם היא חיצונית בלבד.

שימו לב שההבדלים שמניתי כאן לא אומרים בהכרח שהאדם אינו מכונה משוכללת. ייתכן שהמבנה של מודלי שפה שיש לנו כיום הוא חלש מדיי ולכן נזקק להרבה דוגמאות ולכן גם אינו יכול להתמודד היטב עם בעיה סימבולית. אבל עקרונית אפשרי בהחלט שבעתיד תהיה מכונת בינה מלאכותית שתוכל לפעול גם סימבולית ותסתפק במעט דוגמאות. יתר על כן, גם אם לעולם לא תהיה לנו מכונה כזאת, גם זה לא אומר שהיא אינה בנמצא. ייתכן שזו רק חולשה שלנו, שלא הצלחנו לבנות אותה (כפי שהערתי למעלה).

בכל זאת, להבדלים הללו ישנה משמעות בדיון שלנו. הקביעה שאין הבדל מהותי בין בינה מלאכותית לבין אדם היא פזיזה ועדיין ממש לא מבוססת. לפחות כרגע נראה שיש הבדלים מהותיים, ולכן היכולת של מודלים כאלה לפתור בעיות שונות, ובחלקם אפילו טוב יותר מאיתנו (ובוודאי מהר יותר), לא אומרת שאין הבדל. גם מחשבון עושה חישובים שאנחנו לא יכולים לעשות, בטח לא בזמן נורמלי. מודל שפה גדול הוא מכונה שפועלת מכנית (אבל סטטיסטית), ויש לה הרבה מיומנויות. אז זוהי בעצם מכונה שכוללת הרבה מחשבונים מתחומים שונים. ועדיין בסופו של דבר ההבדל יכול להיות כמותי. גם טענה זו כמובן אינה הכרחית. אני רק אומר שהשאלה עדיין לגמרי פתוחה, וההצהרות הנחרצות שנשמעות לכאן או לכאן אינן מבוססות.

לכל זה יש להוסיף את האפשרות שקיימת תקרת זכוכית לתהליך הזה. העובדה שיש התקדמות מהירה ביכולות של מודלי שפה לא אומרת שזה ימשיך הלאה באותו קצב. בהחלט ייתכן שזה יתקרב אסימפטוטית לתקרת זכוכית כלשהי שאותה המודלים הללו לא יוכלו לעבור (על פניו נראה שיש כאן תקרת זכוכית. הרי אין אפשרות יותר טובה מאשר לדעת הכל ולפתור כל בעיה. כשנגיע לשם זה בהכרח יעצור). אקסטרפולציה היא עניין די ספקולטיבי. דוגמה רווחת לעניין היא התבוננות על התפתחות של תינוק. הוא נולד בגובה של כ-50 ס"מ. בשנה הראשונה הוא מוסיף בערך 25 ס"מ לגובהו. אם היינו עושים אקסטרפולציה מכאן היינו מגיעים למסקנה שבגיל עשר גובהו יהיה 3 מטר. אבל התהליך מתקרב אסימפטוטית לתקרת זכוכית של כ-1.80 מ'.

קריאה ביקורתית של מאמר לדוגמה: הטיעון היסודי

לפני כמה ימים הגיע אליי מאמר העונה לשם "Why Is Anything Conscious?", שבו מציעים המחברים הסבר להתפתחותה של תודעה, ומסיק מכאן מסקנות לגבי מודלי שפה של בינה מלאכותית.

המאמר עוסק בשאלה שמכונה הבעיה הקשה (hard problem) של הפילוסופיה של התודעה: מדוע בכלל קיימת תודעה? כלומר, מדוע יש מצבים שבהם עיבוד מידע אינו רק חישובי (סינטקטי) אלא גם מלווה באיכות חווייתית כלשהי (קוואליה. מה שכינינו למעלה סמנטיקה, או הבנה מנטלית). ברקע הדברים הם מציינים שמערכות אחרות בעולם שמעבדות מידע כנראה לא פיתחו תודעה (משום מה הם מניחים שגם לבעלי חיים יש תודעה. אני לא בטוח בזה).

המחברים מבקשים לתלות את העניין באבולוציה של האורגניזמים החיים. הם טוענים שאורגניזמים חיים מקבלים זרם עצום של מידע חושי וחייבים להגיב אליו במהירות, כשכל זה נעשה תחת אילוצים של הישרדות, אנרגיה ורבייה. לכן, הם אינם יכולים לעבד מידע בצורה ניטרלית לחלוטין. במקום זאת, הם חייבים לפרש אותו, כלומר לשים אותו בקונטקסט של משמעויות הישרדותיות. זה אומר שלכל מצב בעולם יש להצמיד ערך של טוב/רע (או בעצם מועיל ולא מועיל). כך, לדוגמה, מזון הוא טוב, טורף הוא רע, כאב – רע, טמפרטורה מתאימה – טוב וכו'. המערכת החיה אינה מייצגת את העולם בצורה אובייקטיבית. המשמעות הערכית צמודה לכל תיאור אובייקטיבי.

עיבוד המידע של מערכת כזאת משלב אותות פנימיים (רעב, כאב, עייפות, איזון כימי, דופק וכו') עם אותות חיצוניים (ראייה, שמיעה, ריח וכדומה). המערכת צריכה לשלב בין שני סוגי המידע כדי לקבל החלטות שמקדמות הישרדות. התוצאה היא הצמדת ערך לכל מצב חיצוני (טוב, רע, ניטרלי). זוהי הסיבה לכך שהחווייה הסובייקטיבית אינה תוצר לוואי של חישוב ולא תוספת מסתורית כלשהי לחשיבה שלנו, אלא מרכיב פונקציונלי של מערכות חיות. זהו היבט הכרחי של מערכת שמפרשת מידע מבחינת ערכו ההישרדותי. זה מה שמכונה שם Psychophysical Principle of Causality.

הם מציעים שם היררכיה של רמות תודעה, בין דומם לצומח וחי למיניו, הכל לפי היכולות האדפטיביות (הגמישות והתאמת ההתנהלות לנתוני הסביבה) של היישים השונים. הם גם מגדירים רמות שונות של תודעה, שלא אכנס אליהן כאן כי אינן נוגעות לטיעון היסודי.

הם טוענים שבאופן כזה הם מקרבים את חקר התודעה למדעי החיים תוך שהם נמנעים מדואליזם פילוסופי. הם מתיימרים לבסס כך מדע פורמלי של תודעה. בהמשך המאמר מתוארות רמות תודעה שונות ופונקציות שונות שמתפתחות אצל בעלי חיים מפותחים יותר לפי הצרכים והמיומנויות שלהם. זה כמובן ממשיך את הקו שתולה את המיומנות ופתרון הבעיות שלנו בקיומה של תודעה. הפרטים פחות חשובים לענייננו.

משמעותו של הטיעון שלהם: הזומבי הפילוסופי

המחברים בעצם טוענים שהממד המנטלי, כלומר המודעות, תורם תרומה סגולית ליכולת החישובית. טענתם היא שמערכת ללא תודעה לא הייתה יכולה לעשות את החישובים השרידותיים הללו, או לפחות לא באותה רמת יעילות ומהירות. כלומר הם בעצם מניחים, גם אם במובלע, שהתודעה נוטלת חלק בחישוב ומשפיעה עליו והיא אינה רק אפיפנומנה. טענה כזאת לא יכולה לעלות בתמונת עולם מטריאליסטית. ראינו שבתמונה כזאת המנטלי אינו יישות קיימת אלא אפיפנומנה, וככזה הוא אינו יכול להשפיע על החישוב עצמו. הוא אינו יישות ולכן אין כאן מה שישפיע, ובעצם מדובר בתופעה שנוצרת על ידי החישוב ולכן בוודאי לא נוטלת בו חלק.

כדי להבין מעט יותר את משמעות העניין, אביא כאן את טיעונו של הפילוסוף האנליטי הנוצרי הידוע (מאוניברסיטת נוטרדאם) אלווין פלנטינגה, שמתייחס לתיאור אבולוציוני של התנהלות האדם. זה הולך בערך כך. נניח שאין בעולם מאומה פרט לחומר. ונניח שהמנטלי הוא רק אפיפנומנה של המכלול החומרי. מדוע בכלל הופיע אצלנו המרכיב המנטלי? פלנטינגה טוען שההתנהלות שמובילה לשרידות היא תוצאה של חישוב שתלוי במצב שבו אנחנו נמצאים ובתוצאות האפשריות של כל התנהגות אפשרית במצב הזה. נניח ששיקולי השרידות מובילים לפונקציה כלשהי F(x) = y, כאשרx  הוא מצב כלשהו בעולם ו-y הוא ההתנהגות של היצור המדובר (האדם, במקרה שלו). המערכת המוחית-גנטית היא שקובעת את הפונקציה F, שהרי היא מקבלת כקלט את המצב x ומחליטה מהו y (כלומר מה לעשות עכשיו). ההנחה היא שהברירה הטבעית תדאג לכך שתיווצר הפונקציה F האופטימלית מבחינת היצור המדובר. הפונקציה הזאת היא התאמה בין מצב להתנהגות, ובעצם היא פונקציה חישובית. החישוב המוחי אמור לממש את הפונקציה הזאת, כלומר יש ליצור מחשב מוחי שעבור כל קלט x שהוא מקבל יוציא הוראה לעשות y. המחשב הזה מוגדר היטב ויש לו פונקציה חישובית בלבד. ברגע שנוצרו גנום ומוח שמממשים את הפונקציה F, אין שום סיבה בעולם שייווצר לידם ממד מנטלי שגם חושב על משמעות המצבים והתוצאות הללו. לצורך השרידות, די לנו במערכת שתעשה חישוב עיוור ותוציא את הפלט הנכון. קיומו של ממד מנטלי שמלווה את תהליך החישוב לא נותן לנו שום ערך מוסף שרידותי. חשבו על נמר שמתנפל עליי. האבולוציה אמורה ליצור אצלי מבנה מוחי שיגרום לי לברוח או להסתתר כשאני רואה נמר. השאלה האם גם אפחד ממנו, או אעשה שיקולים מנטליים כאלה או אחרים, אינה מעלה ולא מורידה.

דניאל כהנמן לימד אותנו שיש בתוכנו שתי מערכות: אוטומטית (אינסטינקטיבית) ומודעת. הוא מסביר שהמערכת האוטומטית שלנו פועלת יעיל ומהיר יותר, ולכן במצבים רבים השימוש בה הרבה יותר יעיל שרידותית. החשיבה המודעת מפריעה לנו לשרוד במצבים הללו (כי היא מאיטה אותנו). אמנם יש מיומנויות שבהם המודעות משפרת את מצבנו, וזאת כאשר מדובר בבעיות מורכבות שדורשות ניתוח ולא תגובה אינסטינקטיבית. שימו לב שהטיעון של פלנטינגה בעצם תוהה גם על כך. בשום מצב המודעות לא מועילה לנו. גם אם נדרש חישוב מורכב יותר, למה שלא תהיה לנו מערכת מוחית שעושה אותו במהירות ובלי מודעות? לכאורה גם כהנמן בעצם מניח במובלע מודל דואליסטי שבו המודעות משפיעה על החשיבה ותוצריה. בעולם מטריאליסטי-אבולוציוני אין שום סיבה לכך שתתפתח אצלנו מודעות.

יצור שפועל נכון שרידותית באופן מכני, בלי להיות מודע ובלי לחשוב ולהבין, מכונה בעולם הפילוסופי "הזומבי הפילוסופי". זה כמובן מערער בצורה מאד יסודית את טענתם של מחברי המאמר, שכן הם טוענים שזומבי כזה לא יוכל להגיע לתוצאות שאליהן אנחנו מגיעים עם החשיבה המודעת שלנו. היא משפרת את הביצועים של החשיבה, ובפרט זה כמובן אומר שהיא משפיעה עליה. מחברי המאמר מניחים שישנם מצבים שבהם המודעות משפרת את המצב. כלומר הם מניחים במובלע שהמודעות אינה אפיפנומנה. היא נוטלת חלק בחישוב עצמו, וכאמור זה מניח במובלע דואליזם אינטראקציוניסטי.

אין פלא שהמחברים דנים בכך וטוענים שאין אפשרות ליצור זומבי פילוסופי (אם הייתה אפשרות כזאת זה מפיל את כל הטיעון שלהם). לטענתם אין יצור נטול מודעות שפועל באופן הנכון והאופטימלי שרידותית, שכן המודעות נחוצה כדי לשרוד טוב יותר. זהו היסוד של כל הטיעון שלהם, ולכן עלינו לבחון מה הנימוקים שהם מעלים לטובת הטענה הזאת.

טענתם היא שיצור כזה אינו אפשרי ביולוגית. אבל כשתחפשו לכך נימוק לא תמצאו. הם פשוט קובעים שכדי שמערכת מורכבת תשרוד היא חייבת לעבד מידע במונחים של ערכיות איכותית, ודבר כזה דורש בהכרח מודעות. כלומר לטענתם אין מצב שבו קיימת מערכת בעלת פונקציונליות מלאה של אורגניזם חי אך ללא חוויה. ובלשונם: "Nature does not like zombies". זוהי טענה ולא נימוק. מדוע שלא תהיה מערכת מכנית שמבצעת את אותו חישוב כאילו יש בה הבנה של טוב ורע לשרידות. ממש כמו התקשורת של האדם בחדר הסיני.

הטיעון העיקרי שלהם מבוסס על ההנחה המוזרה הזאת, והם לא מביאים לה שום הצדקה. יתר על כן, המאמר שלהם כתוב באופן שיש בו סאבטקסט מטריאליסטי, כלומר שהאדם הוא רק חומר שנוצר אבולוציונית (אם זה לא היה כך, לא היה צורך בהסברים אבולוציוניים להיווצרות הנפש). מכאן נגזר בהכרח שהמנטלי הוא רק אפיפנומנה. אלא שאם כך, כפי שראינו הוא אינו יכול ליטול חלק בחישוב. כיצד זה מתיישב עם הטענה שקיומה של תודעה הוא תנאי להתנהלות אדפטיבית ויעילה שרידותית? ההצגה כאילו הצעתם מייתרת את ההיזקקות הפילוסופית לשאלת הדואליזם היא סתירתית. הם בעצם מניחים דואליזם, ומכאן שהחישוב שנעשה בתוכנו אינו 'חישובי', כלומר לא יכול להתבצע באופן מכני (באמצעות מכונה), שכן הוא דורש מעורבות של חשיבה מודעת. זומבי לא יכול להתנהל כך.

השלכות לגבי בינה מלאכותית

המודל המוצע מוביל את המחברים למסקנות גם לגבי בינה מלאכותית. אם תודעה קשורה לגוף ביולוגי, להומאוסטזיס וללחצי הישרדות, כי אז מערכות מחשב רגילות אינן עומדות בתנאים אלה, ומכאן שגם אם מחשבים יכולים לבצע חישובים מתוחכמים מאוד, אין להם אפשרות לפתח חוויה סובייקטיבית (הבנה, חשיבה וכו'). כאן ישנה טעות לוגית. הטענה שתודעה התפתחה באופן אבולוציוני בגלל הצורך לתפוס דברים במסגרת ערכית ממש לא אומרת שתודעה לא יכולה להתפתח אחרת. גם לשיטתם האבולוציה וקשיי הישרדות היא תנאי מספיק להיווצרות תודעה אבל לא הכרחי. מה עוד שגם מערכות מחשב יכולות להיקלע למצבים שבהם יהיו עליהם איומים שרידותיים ויצטרכו לפתח תודעה.

כל הדיון הזה נשמע הזוי. בכל אופן, לשיטת המחברים הללו נראה שמערכות מלאכותיות לא יכולות לבצע משימות שבני אדם מבצעים מפני שאין ולא יכולה להיות להם תודעה. הם כמובן מניחים שלהיעדר התודעה ישנה גם משמעות חישובית, כלומר דואליזם מובלע. זאת למרות שהם מצהירים על מסגרת מחשבתית מטריאליסטית.

בכל אופן כל הטיעון הזה לא מבוסס אצלם על שום נימוק. לא מוצגת אצלם שום מניעה עקרונית לכך שזומבי פילוסופי יוכל לבצע כל מה שאדם יכול לבצע. אני גם נוטה לחשוב שהם צודקים, כלומר שלמערכות מלאכותיות יש תקרת זכוכית כלשהי. אולי אני צודק ואולי לא, אבל ברור שמה שהם רואים כטיעון 'מדעי'-פילוסופי שמבסס את הטענה הזאת, לא קיים. זוהי הנחה או הצהרה בעלמא.

כמה קשיים נוספים בתזה שלהם

טענתם העיקרית של המחברים היא שהצורך לפרש דברים במישור ערכי (תרומתם לשרידות) מנביע תודעה. אבל הטענה הזאת רק מצביעה על הצורך בתודעה (לשיטתם השגויה). על השאלה כיצד היא נוצרת הם לא מציעים שום תשובה. זה שיש צורך לא אומר שהצורך הזה אכן מתמלא או שיש דרך למלא אותו.

אם המנטלי הוא משהו מעבר למערכת החישובית, אז הוא אינו חלק ממנה. אם כך, כיצד הוא בכלל נוצר באופן אבולוציוני?! במילים אחרות, הם אינם מציעים פתרון ל"בעיה הקשה". חשבו על מצב שבו נוצר לנו צורך בקיומו של משהו מעבר למערכת הנוירונים שלנו. העובדה שקיים צורך לא אומרת שניתן לענות עליו, ובטח לא מסבירה כיצד הוא נענה או מסופק. אם מדובר בסובסטנציה שונה (רוח) אז ודאי שהאבולוציה לא מציעה הסבר להיווצרותו. ואם הוא אפיפנומנה, אז אין צורך בהסבר, שהרי מה שפועל בפועל הוא רק המערכת החישובית.

לסיום, אין צורך לומר שהתזה שלהם רחוקה מאד מלהיות "מדע של תודעה", כפי שהם מכנים זאת. אין שום דרך לבדוק אמפירית את הטענה שהמודעות מוסיפה יכולות מעבר למערכת חישוב מכנית. להיפך, כיום רבים מניחים שזה אינו המצב (אלו שחושבים שמערכות מלאכותיות יוכלו לבצע כל מה שאנחנו מבצעים). אפשר כמובן לחלוק על כך, אבל הצהרת עמדה מתאימה למאמר בעיתונות היומית ולא למאמר מדעי. במאמר כזה אמורים להופיע נימוקים וטיעונים לטובת העמדה.

סיכום: השפעה של רוח על חומר דורשת דואליזם

הנקודה העיקרית שרציתי להציג בטור הזה היא שגם אם ייתכן שהממד המנטלי שלנו הוא אפיפנומנה, כלומר שהמטריאליזם יכול להכיל גם את המנטלי (זוהי תזת האמרגנטיות), ברור שאין דרך לדבר במסגרת כזאת על השפעה של רוח על חומר. השפעה כזאת דורשת דואליזם. לידיעת כל אלפי ההוגים שמדברים על השפעות כאלה ומצהירים על תפיסת עולם מטריאליסטית. גם הטיעון (הלא קיים) של המחברים הללו וגם הטיעונים של דניאל כהנמן (שמדבר על יתרונות חישוביים של חשיבה מודעת, מערכת 2), בעצם מניחים דואליזם, הגם שהדוברים הללו כנראה אינם מודעים לזה. דומני שזו נקודה שקל מאד לפספס אותה.

אמרגנטיות אמנם יכולה לדבר על השפעות של הרוח על החומר, אבל זה רק אם מדובר בצורת תיאור בעלמא. כלומר אם כאשר מדברים על כך שהמנטלי משפיע על החומרי, מתכוונים לתהליכים החומריים שמיוצגים על ידי המנטלי (כלומר שמחוללים אותו). לכן השורה התחתונה רק חומר משפיע על חומר, והמנטלי רק מתלווה להשפעות הללו באופן פסיבי. זה כמובן לא מתיישב עם טענתם של המחברים שלפיה יצורים בעלי ממד מנטלי יכולים לבצע משהו שיצורים מלאכותיים (כלומר מערכות חישוביות גרידא) אינם יכולים. אם המנטלי הוא רק אפיפנומנה כי אז הוא אינו יכול להוסיף שום יכולת מעבר למה שעושה המערכת החישובית.

אגב, ניתן היה אולי להעלות טיעון דומה מכיוון הפוך. נניח של-LLM יש יתרונות חישוביים על פני מוח אנושי. אם כן, מדוע האבולוציה לא יצרה אצלנו את היתרונות הללו כבר בממד החישובי? ולשיטתם המחברים אשאל מדוע היא נזקקה לחולל אותם על ידי המודעות? בעצם, השאלה לשיטתם היא למה האבולוציה יצרה אצלנו מודעות ולא הסתפקה בזומבי פילוסופי משוכלל? תשובה אפשרית לכך היא שהאבולוציה לא יכולה לעשות זאת, מפני שאין זומבי פילוסופי שיוכל לעשות את מה שאנחנו עושים. זה יכול היה להיות טיעון לטובת עמדתם (אלא שזה כמובן אלא מתיישב עם מטריאליזם). בכל אופן, הטיעון הזה אומר שיש למערכת LLM חסרונות מובנים שאין דרך להתגבר עליהם באופן אבולוציוני בלי ליצור מודעות. זה נותן לנו תחזית מעניינת לעתידן של מערכות מלאכותיות בכלל, כלומר מנבא את קיומה של תקרת זכוכית לגבי יכולותיהן. אם המחברים הללו צודקים, אזי יש דברים שמערכות מלאכותיות לעולם לא יוכלו לעשות. לפתח מודעות למשל זה אחד מהם, אלא שלזה הם כמובן לא מסכימים. אבל גם הם צריכים להסכים שיש משימות חישוביות שנמצאות מעל יכולותיה של כל מערכת מלאכותית באשר היא. טענה מרחיקת לכת, שכאמור אני נוטה לסכים לה, אבל במאמר לא הובאה לה שום הצדקה.