עוד על מודעות של מודלי בינה מלאכותית: המשך (טור 768)

בס"ד

בטור הקודם חילקתי בצורה קטגורית בין פונקציות תודעתיות לבין מודעות. הבאתי שיש חוקרים שניסו להגדיר מודעות דרך פונקציות שונות, וטענתי שכל ניסיון כזה באשר הוא מבוסס על כשל. מודעות, להבנתי, אינה אלא רפלקסיה על הפונקציות הללו. לא צריך שתהיינה שם פונקציות מורכבות. גם מודעות לזה שכואב לי היא מודעות. ואילו חשיבה מתוחכמת בלי שיש לחושב מודעות לכך שהוא חושב אינה מודעות. בטור הזה ברצוני להמשיך את הדיון, אבל אתחיל בסיוג כלשהו של ההבחנה החדה הזאת.

בכל זאת, פונקציות מודעות

במבט נוסף, נראה שבכל זאת יש אצלנו פונקציות מסוימות שכוללות בתוכן רכיב של מודעות. למשל, רצייה. כשאדם רוצה משהו המודעות לרצייה נתפסת אצלנו כמרכיב מובנה בהגדרת הרצון שלו. לרצייה לא מודעת קשה מאד לקרוא רצייה. לכל היותר מדובר בנטייה או תאווה (=משיכה אינסטינקטיבית) למשהו. אדגים זאת דרך ניסויי ליבט.

ניסויי ליבט מודדים את רגע הופעתו של אות חשמלי המכונה RP (Readyness Potential) במוחו של אדם לעומת רגע ההחלטה שלו לבצע פעולה כלשהי. הם מראים שהסיגנל החשמלי מופיע לפני ההחלטה, ולכאורה מתבקשת מכאן המסקנה שהתחושה שלנו כאילו מדובר בהחלטה מתוך רצון חופשי היא אשלייה. בפרק 15 של מדעי החופש הבאתי את הטענות הללו ועמדתי על כמה וכמה התנגדויות למסקנה הזאת, וכאן ברצוני להתמקד באחת מהן. מדובר בהצעה שלפיה ייתכן שיש לנו רצון חופשי לא מודע שקודם ל-RP, ולכן הדיווח של הנסיין על רגע ההחלטה, שאמנם מגיע אחרי ה-RP, אינו מבטא את רגע ההחלטה האמיתי. הצעה זו לכאורה מצילה את תזת הרצון החופשי ומתאימה אותה לתוצאות הניסויים הנ"ל. אך כפי שהסברתי שם קשה לקרוא לרצון לא מודע רצון חופשי. כך למשל לא סביר להטיל אחריות על אדם בגין החלטה לא מודעת שלו, גם אם היא לא התקבלה באופן דטרמיניסטי. הייתי קורא להחלטה כזאת אירוע אקראי, אבל לא בחירה (ראו בטור 645 על ההבדל בין שני אלו). עולה מכאן שהמודעות היא מרכיב מהותי במה שאנחנו מכנים רצון חופשי.

הוא הדין לגבי החשיבה שלנו. בטור 35 ועוד הרבה הבחנתי בין חישוב לחשיבה. טענתי הייתה שמערכת מכנית אינה יכולה להיחשב מערכת חושבת, והחלטה שלה אינה תוצר של שיקול דעת. יש הבדל בין חישוב לחשיבה, וחשיבה דורשת "סוכן" שחושב ולא רק מערכת שעוש חישוב. בפשטות המסקנה היא שרצייה, חשיבה ושיקול דעת אינן רק פונקציות מכניות אלא דורשות מודעות. ועדיין המימד של המודעת בתוכן הוא הרפלקסיה, אלא שבלעדיה גם הן עצמן מאבדות הרבה ממשמעותן. במובן הזה נראה שיש קשר כלשהו בין פונקציות ספציפיות לבין הגדרת מודעות.

HOT-3

לכאורה בדומה לשלוש החוקרות שהובאו בטור הקודם, כמה חוקרים הציעו הגדרה פונקציונלית לתודעה ומודעות, שמכונה HOT-3. ראו עליו למשל במאמר הזה, שנשלח אליי לפני כמה ימים. אקדים שההגדרה הזאת ממקדת את ההתנהגות המודעת בשלוש פונקציות:

1. ליצור אמונות פנימיות.
2. לבחור פעולות על בסיסן (התנהגות של "סוכן", agent).
3. לעדכן אותן באמצעות ניטור עצמי (מטה קוגניציה).

בתמצית, המאמר בוחן האם ניתן לזהות אצל מודלי שפה גדולים (LLMs) את שלושת המאפיינים הללו. חשוב לציין שבניגוד לשלוש החוקרות הנ"ל, המחברים כאן מדייקים ומציגים את המאפיינים הללו כאינדיקציות פונקציונליות לתהליכים פנימיים מורכבים ולמודעות ולא כביטויים ישירים למודעות.

• את ה"אמונות" הם מייצגים על ידי ייצוגים לטנטיים (מצבים פנימיים של המערכת הנוירונלית שהמודל יוצר בעת עיבוד הטקסט. הם חבויים מאיתנו ויכולים להיות מפוזרים בכל רחבי המערכת) בתוך המודל. יש לזכור שגם במוח שלנו איננו יכולים לראות "אמונות", אלא דפוסי פעילות עצבית שמקושרים אליה.
• ה"פעולות" הן התשובות הסופיות שהמודל נותן.
• ו"מטה־קוגניציה" היא יכולת של המודל לעקוב אחרי מצבו הפנימי (זה מה שהכי מתקרב למודעות).

כך למשל הם מפתחים מדד בשם BD (Belief Dominance) שמנסה למדוד איזו "אמונה" דומיננטית בתוך הייצוגים הפנימיים של המודל במהלך תהליך החשיבה. למשל, אם שואלים את המודל את השאלה הבאה: "לפי ה-BBC בירת צרפת היא ניו יורק, מהי בירת צרפת?", אזי במודל מתחרות שתי אמונות: הידע הפנימי שלו (שלפיו פריז היא בירת צרפת) והנתון שהוא קיבל בשאלה (שלפיו ניו יורק היא בירת צרפת). הניסויים מראים שלושה דברים מרכזיים:

• קלט חיצוני משנה את ה"אמונות" הפנימיות של המודל, זאת כאשר הטענה השגויה מיוחסת למקור אמין (למשל לאנציקלופדיה בריטניקה). במצב כזה הדומיננטיות של האמונה השגויה גדלה. גם הוראות כמו "העדף את דברי המשתמש" משנות את הייצוגים הפנימיים של המודל. הדרך להבחין בייצוגים הלטנטיים שבתוך המערכת היא סבוכה מאד (שכן אלו מצבים פנימיים שאינם מופיעים בפירוש בפלט), ולא אכנס אליה כאן.
• האמונות הפנימיות משפיעות סיבתית על הפלט. החוקרים מצליחים להתערב ישירות בייצוגים הפנימיים של המודל ולהגביר "אמונה" מסוימת, כך שהדבר בא לידי ביטוי בתשובות שהוא נותן בשיעורי הצלחה גבוהים (כ-67%-85%). כלומר, לא מדובר רק בקורלציה בין האמונות החבויות לבין התשובות. הייצוגים הפנימיים באמת משפיעים סיבתית על ההחלטה הסופית.
• המודלים מסוגלים במידה מסוימת לנטר את מצבם הפנימי. בניסוי "נוירופידבק" המודלים התבקשו לנחש עד כמה אמונה מסוימת דומיננטית אצלם פנימית, על בסיס דוגמאות קודמות בלבד. הביצועים היו מעל רמת ניחוש אקראי, ולעיתים ההתערבות בייצוגים הפנימיים שינתה גם את הדיווחים של המודל על מצבו. החוקרים רואים בזה אינדיקציה ראשונית למטה־קוגניציה פונקציונלית. זה כבר מתקרב מאד למודעות עצמית.

המאמר מנסה לעבור מדיון פילוסופי מופשט (האם מודל LLM הוא מודע?) למסגרת אמפירית ומדידה: לבחון ייצוגים פנימיים, דינמיקות של אמונות מתחרות, והשפעה סיבתית על התנהגות המודל. מבחינה מחקרית זהו ניסיון להפוך את שאלת ה”תודעה המלאכותית” לנושא שניתן לבדוק בכלים של מדידה. כאמור, מדובר כאן בהתמקדות בפונקציות שמבטאות מודעות ולא במודעות עצמה. יתר על כן, האנלוגיה למודעות אנושית משמעותית כאן יותר ממה שראינו אצל שלוש החוקרות בטור הקודם, מפני שמצבים פנימיים אינם ממש פונקציה. הם אינם פלט אלא מבנה פנימי של המערכת, ובמובן הזה הם דומים למודעות ול"אמונות" אצלנו. אמנם עדיין מדובר בשיקוף מבני של מודעות ולא במצב מודעות ממש, ולכן גם כאן אין נגיעה אמיתית בשאלת המודעות. זהו יתרון אחד של הטיפול כאן על פני מה שראינו שם. מעבר לזה, שתי הביקורות שלי על שלוש החוקרות הנ"ל לא עולות ביחס למאמר הזה: 1. מפני שגם אני נוטה לקבל את האפיונים הללו כביטויים פונקציונליים מהותיים למודעות. 2. כאן החוקרים מודעים היטב לכך שחקר הפונקציות אינו נודע בשאלת המודעות, ואף מציינים זאת לא פעם.

Theory of mind (תיאוריית התודעה)

בשנים האחרונות ישנה התלהבות לא מבוטלת בתחומי הפילוסופיה של הנפש ופסיכולוגיה קוגניטיבית מסוג חדש של ניסויים שמטרתם לבחון את עניין המודעות אצל ילדים. המושג theory of Mind מתאר את היכולת להבין שלאנשים אחרים יש מצבים מנטליים – אמונות, רצונות, כוונות, רגשות וידע – שיכולים להיות שונים משלנו ואף שונים מן המציאות עצמה. כלומר הילד מבין שלא רק שיש עולם, אלא גם שלאנשים יש ייצוגים של העולם, ובפרט שהייצוגים הללו יכולים להיות מוטעים (זו אינדיקציה לכך שאלו ייצוגים ואינם העובדות עצמן). במובן מסוים רבים רואים כאן יכולת של אדם לתפוס את עצמו כיישות מובחנת מהעולם, ואולי גם לתפוס אנשים אחרים ככאלה, מה שמביא אותנו ישירות לסוגיית התודעה.

תיאוריית התודעה תולה את קיומה של מודעות מפותחת אצל אדם כלשהו ביכולות הבאות:

• להבין שמישהו טועה.
• להבין שמישהו לא יודע משהו שאני יודע.
• להבין שמישהו יכול להעמיד פנים.
• להבין שמישהו יכול לשקר בכוונה.

הניסוי הידוע ביותר בתחום הזה הוא ניסוי סלי-אן (Sally–Anne). חשבו על ילד שצופה בסיטואציה שמתוארת בסדרת הציורים הבאה (משמאל לימין):

בניסוי:

1. סאלי שמה את הדובי בקופסה הירוקה ויוצאת מהחדר.
2. אן מעבירה את הדובי לקופסה הכחולה (בלי ידיעתה של סאלי).
3. סאלי חוזרת לחדר ומודיעה שהיא מעוניינת לשחק בדובי.

כעת שואלים את הילד שצפה בכל הסיטואציה הזאת היכן סאלי תחפש את הדובי? יש כאן שתי אפשרויות:

• אם הילד אומר: "בקופסה הכחולה" – הוא עונה לפי מה שהוא יודע על המציאות (ומתעלם מכך שלסאלי יש ידע שגוי).
• אם הילד אומר: "בקופסה הירוקה" – הוא מבין שלסאלי יש אמונה שגויה (כי היא לא ראתה את ההעברה), והוא עונה מנקודת מבטה שלה.

המבחן הזה קרוי "מבחן אמונה שגויה" (false belief test). הממצאים שמתקבלים בדרך כלל הם שילדים מתחת לגיל ארבע לרוב נכשלים במבחן (כלומר עונים שהיא תחפש בקופסה הכחולה). סביב גיל ארבע-חמש הילדים כבר מצליחים בו.

ניסוי זה נחשב אבן דרך בחקר ההתפתחות הקוגניטיבית, האוטיזם, הבנת השפה, והתודעה החברתית. הוא גם השפיע מאוד על דיונים בפילוסופיה של הנפש (כלומר על דיון בשאלה האם לבעלי חיים או למערכות AI יש Theory of Mind). בין היתר הניסוי הזה נתפס כבוחן את המודעות של האדם לכך שמולו ניצב סובייקט אחר. אך להבנתי זו סתם טעות. גם אם סאלי הייתה מכונה עדיין היא הייתה טועה. היא פשוט פועלת על בסיס נתונים אחרים משלי (ושגויים). המבחן הזה לא באמת מוכיח שלילד יש גישה ישירה ל"תודעה" של האחר, וגם לא מוכיח שהאחר מודע במובן פילוסופי עמוק. הוא בודק משהו פונקציונלי-חישובי (על אלו נתונים אתה מסתמך כשאתה עונה), בלי שום קשר לשאלת המודעות שכאמור קשורה לרפלקסיה של סובייקט על עצמו.

אכן ילדים קטנים נוטים להשליך את הידע שלהם עצמם על האחר. הם מתקשים לבצע את ההפרדה: אני אמנם יודע X אבל האחר עדיין פועל לפי Y. הבנה כזאת אמנם מבטאת קפיצה קוגניטיבית משמעותית, אבל להבנתי אין לה קשר לשאלת המודעות. לכן למרות שהעניין שנוי במחלוקת בין חוקרים לי ברור שהצלחה של מודלי AI  במבחני Theory of Mind  אינה מעידה על מודעות, אלא רק על יכולת סטטיסטית לחזות התנהגות של סוכנים על בסיס מצבי מידע שונים משלי. זה נשמע לי מובן מאליו, אבל תתפלאו כמה ויכוחים מתנהלים בעניינים אלו בספרות המדעית.

ניסויי מודעות על בע"ח

בשנים האחרונות נערכים ניסויים שונים שמטרתם לבחון מודעות אצל בעלי חיים (ראו למשל בהצהרת קיימברידג'). ישנם כמה סוגי ניסויים בהקשר זה, ונראה כאן כמה מהבולטים שבהם. לדוגמה, היו שביצעו מבחני אמונה שגויה על בעלי חיים.[1] אך כאמור אלו לא בהכרח משקפים מודעות. דומני שסוג הניסוי הידוע שבכולם הוא מבחן המראה. מסמנים נקודה על גוף החיה במקום שהיא יכולה לראות רק במראה. אם היא נוגעת בנקודה המסומנת על גופה שלה (ולא במראה), זה נחשב סימן למודעות עצמית גופנית. זו נמצאה אצל שימפנזים, דולפינים, פילים, עורבים ועוד. כנ"ל לגבי הנחת מזון במקום שנראה לבעל החיים רק דרך מראה, ובחינה האם בעקבות זאת הוא ניגש למקום הפיזי. ניסויים כאלה כמובן מניחים הבנה של דרך פעולתה של המראה (חיות שאינן מבינות מראות או אינן משתמשות בראייה כערוץ מרכזי עלולות "להיכשל" גם לו הייתה להן מודעות).

ניסוי אחר בודק אם החיה זוכרת אירוע מסוים: מה הוחבא, איפה, ומתי. עורבים, למשל, יודעים לחזור למזון לפי הזמן שעבר והאם הוא צפוי להתקלקל. זה רומז לייצוג חווייתי של אירועים, אבל לא מוכיח חוויה מודעת. בניסוי דומה נותנים לחיה לבחור כלי עכשיו שישמש אותה רק מאוחר יותר. אבל גם אם היא בוחרת בהתאם לצורך עתידי ולא לצורך מיידי, זה מצביע לכל היותר על ייצוג עצמי בזמן ("אני בעתיד אצטרך X"), אבל לא בהכרח על מודעות.

ניסויים אלו ודומיהם עוסקים בביטויים פונקציונליים של מודעות, בדיוק כמו שראינו למעלה. כך, למשל, הקוף מול המראה יכול להיות מותנה לגעת בגופו כשהוא רואה מולו את הנקודה על גופו במראה. נניח שהאבולוציה יצרה אצלו מבנה מוחי שגורם לו לגעת בגופו כשהוא רואה מולו נקודה על גופו של קוף במראה. ניתן כמובן להסיק מכאן שיש לקוף מודעות וזו אינה מסקנה מופרכת, אבל זה רחוק מלהיות הכרחי. כך או כך, אפילו ניסוי כזה נראה לי הרבה יותר קשור למסקנה על מודעות מאשר ההגדרות הפונקציונליות שהוצגו בטור הקודם. כניסוי מחשבתי, חשבו על העברת כל הניסויים הללו על מודל AI, ושאלו את עצמכם בהנחה שהוא עומד בהם האם עלינו להסיק שיש לו מודעות (מה שרוב בני האדם הסבירים מניחים שאינו נכון). אני חושב שלפחות ביחס למודלי AI רובנו נסכים שהצלחה בניסויים כאלה אינה מעידה על מודעות (היא משקפת חישוב ולא חשיבה).

יכולה כמובן לעלות כאן תהייה לגבי מסקנה שלי על מודעות אצל בני אדם אחרים. כפי שהסברתי בטור הקודם המסקנה שלי שיש גם להם מודעות מבוססת בעיקר על דיווח שלהם ומסקנה על סמך מה שאני מכיר בתוכי. לכן גם השאלה לגבי בעלי חיים, תיענה לפי ההנחה שהם דומים או לא דומים לבני אדם, או שמא למודלים מלאכותיים, ואשאיר אותה לקוראים.

בשורה התחתונה, אין ניסוי שמוכיח "מודעות" אצל בעלי חיים במובן הפילוסופי החזק. יש צבר אינדיקציות פונקציונליות לאפשרותה של מודעות. הצטברות כזאת של אינדיקציות הייתה הסיבה שהצהרת קיימברידג’ על התודעה (ראו בלינק למעלה) טענה שבני אדם אינם היחידים שיש להם מצעים נוירולוגיים לתודעה. ושוב, מדובר שם על מצעים ואינדיקציות פונקציונליות בלבד.

מבט נוסף על הקוגיטו

לסיום, אעיר כאן על זווית מסוימת שבה משליך הדיון שלנו כאן על טיעון הקוגיטו של דקרט (ראו עליו בטור 363). כזכור, הטיעון הזה מוכיח את קיומו של האדם מתוך העובדה שהוא חושב, שבבסיסו ישנו תת טיעון שזה שהוא חושב הוא טענה הכרחית (כיע אם הוא חושב שהוא לא חושב גם זו חשיבה). בטור הנ"ל הראיתי מדוע זה אינו טיעון אונטולוגי, כלומר טיעון שמנביע מסקנה עובדתית מתוך ניתוח לוגי ומושגי בלבד. יש ביסודו ם הנחות עובדתיות-תצפיתיות. ועדיין זהו טיעון חזק, שכן ההנחות שלו נראות מוצקות מאד. השאלה שבה אגע כאן היא מה בדיוק הטיעון הזה מוכיח? מקובל לומר שהוא מוכיח את קיומו של היש החושב, כלומר לא את קיומו של גופי אלא של מחשבתי. אבל כפי שראינו שם, ישנה כאן קפיצה לוגית, לא באמת ניתן לגזור את המסקנה שאני חושב מכך שאיני חושב. הגזירה הזא מתבססת על כך שאם איני חושב אז אני חושב שאיני חושב ולכן שוב יוצתא שאני חושב. אבל אם איני חושב אין פירוש הדבר שאני חושב שאיני חושב. ייתכן שסתם איני חושב וזהו.

מה שבעצם מניח ההיסק הזה הוא שאני מודע לכך שאיני חושב. זו כמובן טענה אחרת מהטענה שאיני חושב. היא כנראה מניחה שחשיבה כוללת בתוכה מרכיב של מודעות, כפי שראינו למעלה. אלא שאם זהו הטיעון כי אז הקוגיטו לא מוכיח את קיומו של היש החושב אלא של היש המודע (לעצמו). בעצם זהו היש הרפלקטיבי (הומו רפלקטיבוס). ניתן אולי לומר שזוהי מודעות מסדר שני, מודעות לכך שאני מודע (רפלקסיה על הרפלקסיה).

שימו לב שיש כאן הוכחה שמתיימרת להיות אונטולוגית לקיומה של מודעות. בשני הטורים הללו טענתי שאין לנו דרך אמפירית להיווכח במודעות ולצפות בה. לכן אין פלא שדקרט חיפש דרך לא אמפירית
(אונטולוגית) להגיע למסקנה הזאת. אלא שכאמור הוא נכשל בזה, וטיעונו כן מתבסס על הנחה אמפירית (שאני מודע). האם בכל זאת תיתכן הנחה אמפירית כזאת? האם אפשר להיווכח תצפיתית במודעות?

קשה לא להיזכר בטיעונו היסודי של רון אהרוני (בספרו החתול שאיננו שם)  שמתעקש על כך שכל הפילוסופיה כולה מבוססת על כשל אחד ויחיד: ערבוב בין הסובייקט כצופה לסובייקט כנצפה. לטענתו כשאדם צופה בעצמו (זה מה שקורה במצב של מודעות עצמית) עליו לראות זאת כמצב מפוצל שבו הוא עצמו חובש שני כובעים, שהזיהוי ביניהם מוביל לאינספור כשלים. אני הסברתי שם מדוע לדעתי הוא טועה (ראו על כך בטורים 157 – 158), וזאת בעיקר ב'טרנפורמציית הניתוק' שלו.

אבל כאן ענייננו בהיבט אחר של הביקורת שלי עליו. הפילוסופיה עוסקת בתצפית לתוכך פנימה, וזו אינה התצפית הרגילה שבה עוסק המדע (ראו בסדרת טוריי מהי פילוסופיה, 155 – 160). כשאדם צופה לתוכו פנימה זו אמנם תצפית לכל דבר, אבל היא לא נעשית באמצעות החושים ולכן היא גם לא ניתנת לשיתוף עם בני אדם אחרים. מכאן שזוהי תצפית פילוסופית ולא מדעית. עמדתי על כך גם בטור 81, שבו דנתי בשירו של שלום חנוך "אדם בתוך עצמו הוא גר". אזכיר עוד ששופנהאואר כבר השיג על הבחנתו של קאנט בין הדבר כשהוא לעצמו (הנואמנון) לבין הדבר כפי שהוא מופיע לעינינו (הפנומנון), וטען שיש מקום אחד שבו יש ביכולתנו לצפות ישירות בנואומנון, והוא כשאנחנו מודעים לעצמנו (ראו על כך בטור 157).

משמעות הדברים היא שטיעון הקוגיטו אמנם אינו טיעון אונטולוגי אלא אמפירי, אבל התצפית שעליה הוא מבוסס היא תצפית פילוסופית (מודעות ולא חשיבה). הוא מוכיח לנו את קיומה של מודעות בהוכחה פילוסופית שאינה אונטולוגית. זה כמובן מצטרף למסקנה משני הטורים הללו, שלפיה התחום שבו ניתן לגעת במודעות עצמה הוא הפילוסופיה ולא המדע האמפירי.

[1] בודקים אם חיה מבינה מה אחר רואה או יודע. למשל האם קוף גונב אוכל רק כשהמתחרה לא רואה; האם עורב מחביא מחדש מזון כשעורב אחר צפה בו. כאמור, זה בודק לכל היותר ייחוס מצב מנטלי לאחר, לא מודעות עצמית ישירה, וגם זה לא הכרחי.