אדם ומכונה תושיע ה': ו. על האמפתיה – פסיקת הלכה ממרחק חווייתי (טור 699)

בס"ד

כעת סיימתי סדרת טורים שעסקה ב-AI, וביחס בין אדם וחשיבתו לבין חשיבה של LLM (מודל שפה גדול). בטוקבק לטור האחרון העלה מיכאל קטע יפהפה מהסרט הנהדר סיפורו של ויל הנטינג, שבו הפסיכולוג מתאר לוויל את היחס בין הידע העצום שלו לבין חוסר ההבנה שלו לגבי אותו ידע (ממש כמו שראינו בטורים האחרונים בדוגמת החדר הסיני ולגבי מכונות LLM):

כתבתי לו שהקטע הזה מתאר היטב את דבריי ביחס למכונות AI, שכן כפי שהסברתי בסדרת הטורים הן אולי חושבות אבל לא מבינות (למעשה, הן אפילו לא חושבות אלא רק מזרימות זרמים חשמליים, כשהחשיבה, המשמעות וההבנה נמצאות כולן רק אצל המשתמש). בעצם הסרטון הזה מדגים את ההבחנה שבה עסק ויטגנשטיין (ולכאורה כפר בה. ראו בטור 694, הראשון בסדרה) בין הבנה ומשמעות לבין שימוש, והודגמה שם בין היתר בדוגמת החדר הסיני, וניתן לראות אותה גם בחדר של מרי (ראו למשל בטור 591) ובדוגמת הצבע הצהוב של ראסל. בתשובתי למיכאל הזכרתי גם את מאמרי על פסיקת הלכה במצבים קיצוניים, שכבר נגעתי בו לא פעם (ראו למשל בטורים 446, 452, 686 ועוד). מזה זמן חשבתי להקדיש טור לפסיקה במצבים קיצוניים, כלומר מצבים שרחוקים מעולמו של הפוסק, וכעת ראיתי שזה מתקשר לסדרה הזאת ולדיון על פוסק AI. לכן החלטתי להוסיף את הטור הזה כטור מסיים (כנראה) לסדרה.

פוסק AI

בטור 590 עסקתי בשאלה האם תוכנת AI יכולה לפסוק הלכה. בזמן שחלף מאז שלח לי ידידי פרופ' משה קופל לינק למודל Rabbi Dicta שבו יש פוסק אוטומטי שאומן על ידיו (בחברת Dicta שהקים). התוצאות מרשימות למדיי (והכל בארמית רבנית משובחת, ממש כמו בפשקווילים שלו). אחד החששות שהוזכרו בדבריי שם (בשם הרב שרלו) היה שמודל כזה יפסוק בלי רגישות לאדם שעומד בפניו אלא מתוך המקורות בפסיקה יבשה (לאו דווקא מסדר שני. ראו להלן). אני רוצה כאן לחדד מעט את החשש הזה, ולבסוף גם לסייג אותו לאור מה שראינו בסדרה עד כאן.

על מרחק חווייתי

מקובל לחשוב שכאשר מגיע אדם אל הפוסק ומציג בפניו שאלה, הפוסק צריך לנסות ולהבין את האדם שעומד בפניו כדי להתאים לו את התשובה ההלכתית הנכונה. לא פעם יצאתי נגד התפיסה הזאת (בעקבות ידידי, נדב שנרב, במאמרו "ארון השקרים היהודי"). פסק ההלכה הוא תוצר יבש של חשיבה הלכתית, וההתאמה לאדם צריכה להיעשות אך ורק על ידו עצמו ולא על ידי הפוסק. הפוסק צריך להציג בפניו את האפשרויות השונות ואת מחיריהן, וההכרעה אמורה להתקבל על ידי האדם (השואל). ראו על כך במאמרי "על קולא וחומרא", וביתר פירוט בספר השלישי בטרילוגיה, מהלכים בין העומדים.

אבל זהו תיאור קיצוני משהו. ישנה חשיבות להבנת הסיטואציה שבה נמצא השואל גם כדי להציג בפניו כל אחת מהאפשרויות ההלכתיות. גם כשיש אפשרות הלכתית אחת בלבד, עדיין ההכרעה לגביה מושפעת מהנסיבות שבהן מיישמים אותה, כשהנסיבות מורכבות מנסיבות אובייקטיביות ומתוכן נפשו של האדם שנמצא בהן. במאמרי על פסיקת הלכה במצבים קיצוניים טענתי שבמצבים שבהם יש מרחק חווייתי בין הפוסק לשואל הוא אינו יכול להכריע עבורו הלכה גם אם היה רוצה, ואפילו הצגת האפשרויות כשלעצמה היא בעייתית במצב כזה. הבאתי לכך כמה דוגמאות, ובהמשך אתייחס לכמה מהן. אבל אקדים כמה דוגמאות לא הלכתיות כדי לחדד את הטענה.

מרחק חווייתי: דוגמאות לא הלכתיות

1. היו שהקשו על אברהם אבינו ששמע את הקב"ה מצווה אותו לעקוד את יצחק, מדוע הוא לא חשד שזוהי הטעיה (השד המתעתע של דקרט). הרי ההוראה הזאת סתרה את כללי המוסר שהקב"ה מצפה מאיתנו לפעול על פיהם וגם את ההבטחה שהוא קיבל: "כי ביצחק ייקרא לך זרע". היו לו כל הסיבות לחשוד שנפלה כאן טעות כלשהי. השאלה הזאת מתעלמת מנקודה חשובה: אברהם אבינו חווה את הצו האלוהי באופן ישיר. הוא היה נביא. אנחנו איננו נביאים ולכן קשה לנו להבין את הסיטואציה שבה אלוהים מתגלה אליו ומצווה אותו משהו, ולכן אנחנו משתעשעים באפשרות שמדובר בהזיה. הדבר דומה לעיוור שמקשה על אדם פיקח מדוע הוא מאמין למה שהוא רואה בעיניו, הרי ייתכן שהכל אשליה. לפיקח אין דרך להסביר לו את האמון שהוא רוחש לראייתו, אבל ברור שהקושיה הזאת לא תערער אותו. כנראה שכך גם לגבי נביא שחווה התגלות.

משמעות הדבר היא שצריך מאד להיזהר בבואנו לשפוט סיטואציה שאינה מוכרת לנו מקרוב בחוויה בלתי אמצעית. בהיעדר מפגש בלתי אמצעי עם הסיטואציה, אנחנו יכולים להיות מאד בטוחים בצדקת הדרך אבל לטעות בהבנת הסיטואציה. הבסיס להבחנה הזאת הוא ההבדל בין הבנה חיצונית-אינטלקטואלית של הסיטואציה לבין חוויה בלתי אמצעית לגביה. ניתן לחדד את ההבדל בין שני המעמדים על ידי דוגמת החדר של מרי שכבר הובאה כאן בעבר.

2. מרי היא פיזיקאית גאונית שיודעת את כל האופטיקה (תורת האור והראייה) על בוריה. אלא שכל חייה היא חיה ופועלת בחדר שחור לבן. כשהיא יוצאת אל מחוץ לחדר היא פתאום פוגשת עולם ובו צבעים שונים. האם היא למדה משהו חדש? כל צבע אינו אלא ביטוי של אור באורך גל מסוים, ולכן לכאורה היא לא למדה שום דבר חדש. אבל ברור שהיא פוגשת משהו חדש. היא פתאום מבינה מהו צבע אדום. מעבר לאורך הגל שמחולל אותו, והתנהגותם של גלי האור האורך הגל הזה, היא כעת פוגשת מה זה עושה בעולם האמתי. זוהי המחשה יפה להבדל בין ידע תיאורטי לבין מפגש בלתי אמצעי.
3. דוגמה נוספת פגשנו בסדרה הקודמת, כאשר טיורינג הציע את המבחן שלו שיקבע מתי מכונה היא אדם. ראינו שלמסקנה אחרי שפגשנו מחשבים שעברו את מבחן טיורינג די ברור לנו שהם לא בני אדם. לא הרי חשיבה תיאורטית על הסיטואציה כהרי מפגש עם המחשב-אדם הזה שעובר את המבחן.
4. חשבו כיצד רואים אנשים בחו"ל את מצבנו כאן בארץ. הם בטוחים שאנחנו רק יורים ונלחמים בכל מקום, והרחובות שלנו הם שדה קרב. כך לפעמים גם רואים אנשי מרכז הארץ את המצב בהתנחלויות. אבל מי שחי בתוך הסיטואציה מבין שכולם שם חיים את חייהם כמו כל אדם בעולם. המרחק הפיזי והחווייתי יוצר חוסר הבנה, וזה כמובן יכול גם להוביל לקבלת החלטות שגויה לגבי הסיטואציות המדוברות.
5. אביא כעת דוגמה נוספת שיכולה לחדד את ההבחנה הזאת. חשבו על מצב שאתם נוסעים במכונית ולפניכם על הכביש עומדת ציפור. ישנם מקרים שהיא מחכה עד שתהיו במרחק חצי מטר ממנה ורק אז היא עפה. השאלה היא מדוע היא לא עפה קודם לכן? למה לחכות ולקחת סיכון כזה במקום לפעול בבטיחות גבוהה יותר? התשובה היא שבגלל זריזותה של הציפור, מרחק של חצי מטר הוא כמו מרחק של עשרה מטרים של אדם. מבחינתה אין כאן סיכון משמעותי, והיא פועלת ממש בדומה לנו. השיפוט השגוי שלנו את התנהגותה נובע ממרחק חווייתי, שכן אנחנו מסתכלים עליה במונחי הפרמטרים (הזריזות) שאופייניים לנו. זהו חוסר הבנה של הסיטואציה כמובן.
6. דוגמה משעשעת אחרת של סיטואציה רחוקה שאיננו מסוגלים אפילו לדמיין, תוכלו לראות במופע הסטנד אפ של לואי CK, שמתאר בצורה משעשעת להפליא מצב שבו נמר מופיע פתאום בתחנת רכבת שבה אנחנו נוסעים לעבודה. בעולם של ציידים זהו מצב נורמלי ושגור, אבל בעולם שלנו זה מצב שבכלל לא עולה על הדעת.
7. דוגמה נוספת היא שאלה שנשאלתי לא פעם לגבי כיסופים לגאולה ולבניין המקדש. וכי באמת ניתן לכסוף לבניית המקדש שבו הכוהנים יילכו טובעים עד ארכובותיהם בדם ובעלי חיים נטבחים שם בהמוניהם? אכן קשה לצפות להתחדשות המקדש ולרצות בכך באמת. אבל עלינו לקחת בחשבון שכל עוד לא חווינו את קיומו של מקדש והקרבת קורבנות אין לנו דרך לדעת מהי ההשפעה של כל זה על חיינו הדתיים. ייתכן שחשים שם השראת שכינה ומצב רוחני שונה בתכלית של חיבור לקב"ה, ואז נבין שהדבר נכון ותורם לחיינו הדתיים. כל עוד לא חווינו זאת באופן ישיר, לא נכון לשפוט את המצב הזה.
8. בשו"ת לא מזמן נשאלתי בדיוק על עניין זה, ושם הזכרתי גם את מאמרי על היחס הנכון לחילונים בימינו, שבו טענתי שאין אפשרות לגבש עמדה בעניין זה לאור מקורות מקראיים וחז"ליים שעסקו במציאות שונה בתכלית ולא הכירו את החילוניות בת ימינו. אנחנו נמצאים במצב שונה בתכלית, וחז"ל לא יכלו לקבוע עמדה לגבי מצבנו כיום. השואל שם הביא כדוגמה לעניין זה את אגדת חז"ל על רב אשי, שהמלך מנשה מתגלה אליו בחלום ואומר לו שאם היה חי בזמנו היה מפשיל את שולי גלימתו ורץ לעבוד עבודה זרה. אמנם זוהי דוגמה הלכתית, ועוד כאלה נראה בסעיף הבא.

מרחק חווייתי: השלכות הלכתיות

במאמרי הנ"ל על פסיקת הלכה עסקתי בשאלות שעלו בגטו או במחנות בתקופת השואה. טענתי הייתה שכדי לפסוק הלכה בשאלות כאלה הפוסק צריך להבין את הסיטואציה שבה דובר ואת משמעויותיה עבור האנשים שחיו אותה. בלי זה הוא עלול להגיע למסקנות שגויות בעליל. המרחק החווייתי בינינו לבין מצב כה קיצוני לא מאפשר לנו לקבל החלטות הלכתיות לגביו. הדוגמה שבה התמקדתי במאמר קודם, הייתה דיני ממונות בגטו קובנא. הרב גיברלטר שחי בגטו קובנא סבר שדיני הממונות לא קיימים בגטו. אין לאנשים בעלות על ממון, ולכן אין מושגי גזל, הלוואה ופירעון, נזק וכדומה. לא אכנס כאן לפרטים והסתייגויות שונות, וניתן לראות זאת שם. הבאתי שם מאמר ביקורת על תפיסה זו של איש הלכה בן ימינו, והסברתי מדוע הוא לא יכול לשפוט סיטואציה כזאת. כדוגמה, הבאתי מצב היפותטי של שני אנשים שנמצאים במעלית שבה ניתק הכבל והיא נופלת במהירות לקראת התרסקות תוך חצי דקה. אחד מהם מבקש מהשני עט כדי לכתוב למשפחתו, והשני מסרב. האם מותר לראשון לקחת ממנו בכוח את העט? על פניו, בהחלט לא. זהו גזל ואין שום הצדקה הלכתית לעבור על איסור כזה. אבל יכול אותו אדם לומר שבמצב כה קיצוני בטלו דיני הממונות והבעלות על ממון, ואי אפשר לדבר על בעלויות בסיטואציה כה קיצונית. כל עוד לא חיינו במצב כזה, איננו יכולים לשפוט ולהבין אותו באופן חווייתי ישיר, ולכן אין לנו אפשרות לקבל החלטות לגביו. הוא הדין לגבי חיים (?!) בגטו.

בפרק ג של אותו מאמר עסקתי גם בהסתכלות על אותה סיטואציה קיצונית בשואה (וגם זה בגטו קובנא) אבל מהכיוון ההפוך. הבאתי שם תשובה של הרב אשרי בספרו שו"ת ממעמקים, שעוסק בתשובות הלכתיות לסיטואציות קשה בשואה (כאמור, גם הוא פעל בגטו קובנא). הוא דן שם בשאלה האם מותר לאדם לעבוד במטבח המחנה ולבשל בשבת, אם האלטרנטיבה היא עבודת כפייה עם סכנת חיים ממשית. עוד הוא דן שם בשאלה האם מותר לאותו אדם לאכול ממה שבושל בשבת (שאלה של 'מעשה שבת'). הרב אשרי עורך שם דיון הלכתי ממקורות ההלכה הראשוניים ומגיע למסקנה שזה מותר. בסוף התשובה הוא מוסיף את מה שהייתי כותב ישר בתחילתה: יש כאן שיקול של פיקוח נפש ולכן אין מה להתלבט. ברור שמותר לעשות כל מה שישפר את הסיכוי לשרוד. תהיתי שם מדוע הוא בכלל טורח לערוך את הדיון המיותר הזה, והצעתי לכך שתי תשובות. אחת מהן הייתה שלאנשים שחיו בגטו במשך שנים, אלו היו החיים הרגילים. לנו זה נראה כמו טירוף מערכות גמור ומצב של פיקוח נפש מובהק ולכן אין בכלל מה להתלבט. אבל מבחינתם אלו היו החיים הרגילים, ולכן לא היה מובן מאליו שזהו מצב של פיקוח נפש שמתיר הכל (היזכרו בדוגמה מלמעלה איך רואים בחו"ל את חיינו בארץ). זוהי הדגמה הפוכה לאותה תופעה, של חוסר יכולת לקבל החלטות כאשר יש מרחק חווייתי, אלא שהפעם זה מוביל לחומרא ולא לקולא.

דוגמה נוספת, קיצונית פחות, שבה עסקתי שם, הייתה קהילה מודרנית וצעירה שמתלבטת בשאלות לגבי מעמדן של נשים בבית הכנסת (קדיש יתום, אמירת דברי תורה, עלייה לתורה וכדומה). הקהילה פונה לרב כדי לשמוע חוות דעת הלכתית. רבם הוא אדם צעיר, והוא פונה לרבו שלו מהישיבה, אדם מבוגר ושמרן שחי בעולם אחר לגמרי. הרב הזקן אינו מסוגל להבין מה אומרים הדברים לאותם חברי קהילה שעולמם רחוק מזה שלו. במצב כזה, הרב המבוגר יכול לייעץ לתלמידו הצעיר, אבל את ההחלטה צריך לקבל התלמיד ולא הרב: דברי הרב ודברי התלמיד דברי התלמיד שומעין. הרב הצעיר אמנם פחות מלומד אבל הוא זה שמכיר את הסיטואציה באופן בלתי אמצעי, ולכן רק הוא יכול לקבל את ההחלטה לגביה.

נתבונן במקרה נוסף. כתבתי כאן לא פעם שלדעתי ניתן להצטרף למניין בזום. כלומר אדם שנמצא באוסטרליה ואדם אחר בבלגיה ושלישי במרוקו ורביעי בישראל וכן הלאה, שנמצאים בפגישת זום אחת יכולים להצטרך למניין. זה כמובן לא עומד בדרישות ההלכה המקובלות (תחת אותה קורת גג וכדומה), אבל לטענתי בעידן שלנו אתר באינטרנט הוא "אתר" במשמעותו המילולית. אותם אנשים אכן נמצאיםח באותו מקום (אתר), אלא שהמקום הזה הוא וירטואלי. כשנשאל פוסק מבוגר שאינו מכיר את הסיטואציה הוא כמובן ישלול זאת על הסף. אבל פוסק שחווה את המצב הזה בעצמו, יכול להבין שמבחינת האנשים הם אכן נמצאים באותו מקום ולכן מתקיימים התנאים ההלכתיים של צירוף למניין. שוב, המרחק החווייתי יכול להפריע לפוסק לקבל החלטה נכונה בסיטואציה שרחוקה מעולמו.

דוגמה אחרונה שקשורה לזו שראינו, גם היא עוסקת ביחס הראוי למרחב בזמננו. מדינא דגמרא יש איסור "לא תתגודדו" על שני בתי כנסת בעיר אחת. האם מישהו מכיר עיר שאין בה שני בתי כנסת? אנשים אפילו לא שמים לב שעל אחד מאיתנו בכל מקום עובר על איסור תורה (ראו כאן את השאלה שקיבלתי בשו"ת). ההסבר שאני מציע לכך הוא שבגלל הדינמיות של העולם שלנו המרחב כיום אינו גיאוגרפי. התרגום הנכון לימינו הוא שני בתי כנסת בקהילה אחת ולא בעיר אחת. כך גם לגבי המעבר הטבעי לגמרי מהמצב התלמודי שבו המנהג הקבוע היה מנהג המקום, למצבנו כיום שהמנהג הקבוע הוא מנהג של עדה, כלומר לפי מוצא אתני במקום לפי מקום. ושוב, טענתי היא שהסיבה לכך היא הדינמיות של העולם שלנו. בעולם התלמודי אדם בדרך כלל נולד ומת באותו מקום, כמו הוריו והורי הוריו. לכן המסגרת הקבועה של המנהגים הייתה המקום. לעומת זאת, בימינו אדם מתעורר בבוקר בתל אביב ובערב הוא כבר באוסטרליה או זימבבווה. המקום איבד לחלוטין את משמעותו, ואנחנו בונים לו תחליפים. בהקשרים מסוימים המקום הוירטואלי מחליף את זה הגיאוגרפי, ובמצבים אחרים העדה או הקהילה מחליפות את המקום. בכל המקרים הללו, רב שאינו מכיר את הסיטואציה המודרנית הדינמית, לא יקבל את השינויים הללו, שכן על פניהם הם סותרים בעליל את המקורות ההלכתיים. אבל מי שחי את המצב מבין שזהו היישום הנכון של ההלכה במצבים החדשים. שוב, המרחק החווייתי לא מאפשר לקבל החלטות נכונות לגבי סיטואציות שרחוקות מאיתנו.

הדיון עד כאן עסק במרחק חווייתי ובמשמעויותיו. זהו דיון חשוב להבנת דרך פסיקת ההלכה הראויה בכלל, אבל כעת ארצה לגעת בהשלכותיה של התמונה שתיארתי על פוסק AI.

בחזרה לפוסק AI: מבט על טיבה של אמפתיה

הדרך שלנו להבין סיטואציה של אדם אחר היא באמצעות אמפתיה. האמפתיה היא היכולת שלנו להיכנס למצבו של הזולת ולחיות אותו. זוהי כמובן יכולת אנושית, וכולנו (למעט פסיכופתים) ניחנו בה. אבל בינה מלאכותית לא ניחנה בה, שכן מדובר בהיבט מנטלי שלנו, וכאמור בסדרה עד כה למכונת AI אין מרכיבים מנטליים. אם אכן פסיקת הלכה דורשת אמפתיה והבנת הסיטואציה של האחר, האם זה לא פוסל את מכונת ה-AI מלפסוק הלכה?

ראשית, חשוב לשים לב להבחנה יסודית בעניין זה. כדי לפסוק הלכה אין באמת צורך בתחושה אמפתית כלפי הזולת. מה שצריך הוא הבנה בלתי אמצעית של מצבו. אם אני מבין היטב את מצבו גם אם איני חש מאומה (כלומר אני מבין אינטלקטואלית את רגשותיו ואת מצוקותיו, אבל אין לי רגשות אמפתיה כלפיו), אין מניעה שאפסוק עבורו הלכה. אני אתחשב במצבו באופן קר, ואגיע לתוצאה ההלכתית הנכונה. אם כן, לכאורה גם AI יכול לעשות זאת. אם הוא מחקה אותנו, הוא יכול לקחת בחשבון את כל מרכיבי הסיטואציה ולהגיע בחישוב לתוצאה הנכונה גם בלי לחוש דבר. אם הוא מגיע לתוצאה הנכונה, וממש לא משנה באיזו דרך, אין מניעה שיפסוק הלכה.

אולי יש מקום לחלק בין שני סוגי נסיבות של השואל שעל הפוסק להתחשב בהן. יש את הנסיבות האובייקטיביות המיוחדות שבהן השואל חי ופועל, ואת זה ניתן לתאר ל-AI והוא "יבין" זאת כמו שהוא "מבין" כל דבר אחר, וייקח זאת בחשבון בפסיקתו. אבל יש את התחושות הסובייקטיביות של השואל, וכאן ספק עד כמה ה-AI יוכל להבין אותן ולקחת אותן בחשבון. האם תיאור מילולי של הרגשות הללו מספיק כדי ליצור אצלו את התוצאה הנכונה? איני יודע. ייתכן שכן, שהרי בסופו של דבר גם אנחנו כבני אדם ניזונים מדיווח של האדם שמולנו על רגשותיו והשאר הוא עיבוד ותגובה שלנו לדבריו. אבל יש גם שפת גוף, והבנה שלנו מתוך כניסה לסיטואציה של האחר, ואיני בטוח שמכונת AI תוכל לעשות זאת באופן מלא כמו אדם חי. אמנם אם מזינים את המכונה במקרים רבים של תיאורים כאלה ותגובות של פוסקים, היא תלמד גם את העיבוד האנושי שהפוסק עושה לדברים שהוא שומע. את שפת הגוף של השואל היא כנראה לא תקלוט, אבל כל מה שכלול בדברים שהוא אומר יכול להיקלט גם אצלה. יתר על כן, אפילו שפת הגוף היא משהו שעקרונית לפחות יכול להיקלט גם במכונת AI. אם נאמן אותה על קלט שכולל לא רק את דבריו של השואל אלא גם צילומים שלו בעת שהוא אומר אותם, וכמובן גם בפידבק כלומר בתשובות של הפוסק שמגיבות לדברים ולצילומים הללו, איני שולל את האפשרות של מכונת AI לקחת בחשבון גם את האלמנטים הללו.

התמונה שתיארתי עד כאן מסייגת את החששות שתיארתי למעלה, שלפיהם מכונת AI אינה יכולה לפסוק הלכה בשאלות עדינות בגלל שחסרה לה האמפתיה. ייתכן שזה לא נכון, שכן גם אם אם אין לה אמפתיה במובן הרגשי והאנושי, ייתכן שהיא יכולה לחקות באופן מכני גם את האמפתיה האנושית.

הערה מדעית

בשולי דבריי אעיר כי מהתמונה שתיארתי עולה תובנה מעניינת ואולי אפילו דרך אמפירית לבחון אותה. הערתי שייתכן שהאמפתיה שלנו כוללת עוד משהו מעבר למסרים המילוליים ולשפת הגוף, כלומר מעבר למה שעובר דרך החושים. ייתכן שיש מסרים שעוברים בדרך אחרת, והם משקפים יכולת לחוש את ה אחר באופן בלתי אמצעי. אם זהו המצב, כי אז סביר שמכונה כנראה לא תוכל להתאמן על כך. אין לנו דרך להעביר לה את הקלטים הללו, ולכן לא נוכל לאמן אותה להגיב אליהם. זה יהיה חיסרון מובנה של המכונה מול פוסק בשר ודם. איני יודע כמובן אם זהו המצב. האם ניתן לבחון זאת בדרך מדעית?

אולי כן, אם נתבונן על השאלה הזאת במבט הפוך. נניח שנוכל לאמן מכונת AI  שתקבל קלטים את כל מה שהפוסק מקבל דרך חושיו, כלומר את מילותיו של השואל, את הצילומים שלו בעת השאלה, את גווני הקול וכל שאר נתוני החושים הרלוונטיים, וכמובן ניתן לה גם את הפסקים שניתנו לכל שואל כזה. כעת ניקח את המכונה המאומנת ונפנה אליה שאלות שמגיעות לפוסקים בשר ודם, ונשווה את תשובותיה לתשובות שלהם. אם יש הבדל משמעותי בין התשובות, כלומר לא הצלחנו לאמן את המכונה לחקות אמפתיה אנושית, או אז, זה גופו יהווה אינדיקציה לכך שבאמפתיה שלנו יש משהו שמעבר למסרים המילוליים ולמה שעובר דרך החושים. כאן ה-AI יכול לגלות לנו משהו מרתק על עצמנו. זו עצמה שאלה מדעית מרתקת, וקשה לי לחשוב על דרך אחרת לבחון אותה אמפירית.