אדם ומכונה תושיע ה': ג. על טעויות, שקרים ועבודת המידות של מכונות (טור 696)

בס"ד

הטור הזה נכתב בגלל סרטון שראיתי כעת, וחשתי שהוא ממש משלים את הטור הקודם:

הוא מתקשר לדיון הקצר שערכתי לקראת סוף הטור הקודם לגבי המתח בין התשובה האנושית לתשובה הנכונה, ובמקרה הוא גם מתקשר לטור 693 על החרדיות, שקדם לטורים על ה-AI. לכן, ברשותכם, הטור המובטח, השלישי בסדרה, יהפוך לרביעי ויהיה הטור הבא (אלא אם יתעורר עוד משהו). כאן אני מכניס טור נוסף בסדר כהשלמה לטור הקודם.

הסרטון

בסרטון הרב אהרן לוי מספר על שיחה של כרבע שעה שהוא ניהל עם מודל AI כלשהו לגבי ביקורות על בעל הסולם. אני מאד ממליץ לראות את הסרטון (פחות מחמש דקות), לפני שממשיכים. הוא חביב מאד גם כשלעצמו. אם כי לצורך ההמשך, אתאר כאן את השיחה.

לקחים ראשונים

השיחה הזאת משקפת קודם כל את התופעה של טעויות בתשובותיו של ה-AI, נקודה שרבים אינם מודעים לה. לכן יודע דבר אומרים שאסור לסמוך על תשובותיה אלא כמראי מקום (כלומר צריך לבדוק את התשובות שהיא נותנת). כבר הזכרתי כאן בעבר את המקרה של העו"ד האמריקאי שהשתמש במסמך שהגיש לביהמ"ש בטקסט שיצר AI, והתברר שהוא הנפיץ לו שם פסקי דין ותקדימים שלא היו ולא נבראו (אגב, ממש הבוקר ראיתי דיווח על מקרה דומה כאן בישראל). אני לא לגמרי מבין מניין באות הטעויות הללו, שחלקן נראות ממש במזיד (להמציא פסקי דין). אולי זהו חיקוי של אנשים שמשקרים כשאינם יודעים (אלא שאז לא ברור מדוע הוא לא מחקה אותם בכך שהם לא מתנצלים). אולי כמו בני אדם גם הוא מסיק מסקנות נחפזות ממקורות, שהרי הוא לא באמת קורא אותם ומבין אותם, אלא פשוט מעבד אותם בדומה למה שאנשים עושים להם. לכן גם הוא יכול לענות על בסיס רשמים לא מבוססים ולטעות.

מעבר לזה, דבריו של ה-AI כאן ממש ספוגים ביראת שמים טהורה ומורא תלמידי החכמים שלו מרשים למדיי. הוא מכיר בחשיבותה של התורה ושל חכמיה ובזהירות הנדרשת ביחס אליהם. אולי גם את זה הוא למד, אם כי לא נראה שהאימון שהוא קיבל נערך בישיבה. אולי הוא ראה שאנשים שטעו בדברי תורה לא רק שהם מודים ומתנצלים (?) אלא גם מוסיפים להדגיש את חומרת הטעויות בנושאים אלו, ולכן גם הוא מאמץ את זה. גם זה צל"ע.

השאלה המעניינת יותר היא מניין בכלל הוא למד להתנצל על טעויות, ולמה הוא עושה זאת מיידית ובלי לנסות ולהתחמק? לא נראה שהוא מחקה כאן אנשים. ייתכן שאת זה הכניסו לו מאמניו באופן ישיר ולא דרך לימוד מהמידע הסתמי שהוא מולעט בו. כך או כך, אני לא מניח שהרא"ל התכוון שנלמד מעבודת המידות של ה-AI. כאמור בטורים הקודמים, מדובר בחישוב מכני ולא בתהליכים מנטליים ונפשיים. דל מהכא עבודת המידות. אמנם אם לומדים צניעות מחתול וחריצות מנמלה ואם מכירים טובה לדוממים (משה רבנו ליאור), אז יש אולי מקום ללמוד ממנו בכל זאת משהו.

נראה שבעניין עבודת המידות המכונה הפסיקה לחקות בני אדם. אני מזכיר לכם את שתי הגישות שעלו בסוף הטור הקודם ביחס לתורת המשחקים: האם היא ענף של המתמטיקה – כלומר מחפשת את הפתרון הכי נכון, או של הפסיכולוגיה – כלומר מחפשת את הפתרון שיאמצו בני האדם. ראינו שם שהמכונות שעובדות לפי שלבים מגיעות לתוצאות טובות יותר מהמכונות שעובדות ישירות. כלומר ב-AI הפתרון שמוצאים הוא הפתרון האנושי אבל מתברר שהוא גם הפתרון הטוב יותר. לעומת זאת, כאן ראינו שעבודת המידות היא נקודת עיוורון של בני אדם, כלומר כאן בני אדם לא באמת עושים את מה שנכון (הם לא ממהרים להודות בטעויות ולהתנצל). ואם התוכנה כן עושה זאת, פירוש הדבר שכאן היא אינה מחקה אותנו אלא עושה את מה שראוי (לא מה שנכון, כי זו לא עובדה שנמדדת במונחי אמת או שקר). זו עצמה תופעה מעניינת, שכן נראה שגם אם לגבי העובדות ולגבי ביצוע משימות אינטלקטואליות ה'חקירה' הזאת אינה רלוונטית (כי האנושי הוא גם הנכון), הרי שביחס למידות היא נותרת על כנה גם ביחס ל-AI. כאן יש הבדל בין הפתרון האנושי לזה הנכון.

אגב, גם ביחס לטעויות שהמכונה עושה יש כאן כנראה חיקוי של בני אדם, על חשבון התשובה הנכונה והאמתית, והפעם כבר בתחום העובדות. לכאורה המכונה כאן מחקה בני אדם ולא חותרת לאמת, ולכן מגיעה לטעויות. אמנם נראה בהמשך האם אכן כך הוא.

האם המכונה חרדית?

בטור 693 עסקתי בהגדרת החרדיות (ראו גם בסדרת דוגמטיקה שיעור 20 – 21). ראינו שם שהחרדיות עוסקת בכאן ובעכשיו ולא בתיקון העולם בטווחים וסקלות גדולות (בעיות אקלים, שיטה כלכלית וחברתית וכדומה). ההאשמות שמעלה ה-AI כלפי בעל הסולם מעידות על גישה חרדית. הוא מתנגד לו מפני שהוא עוסק בתיקון העולם ועוד מוסיף חטא על פשע וקושר זאת לתורה (השוו לשיטתי שלי שמוצגת בסוף אותו טור). הניסיון למצוא משמעויות פילוסופיות ואוניברסליות הוא פשע חרדי חמור. ובוודאי פרשנויות חדשות שאינן בדרך המסורתית, ועוד יותר תמיכה בציונות רח"ל. ממשAI  חרדי. שמא תתהו כיצד ייתכן שלמכונה יש השקפת עולם? שוב רואים שיש בה משהו אנושי. אבל כבר הערתי בעבר שלמכונות הללו יש בדרך כלל נטייה שמאלנית, כי הן מאומנות בעמק הסיליקון, כלומר בסביבה שמאלנית.

טוב, אני יודע מה אתם רוצים לומר לי, אבל על כך בסעיף שאחרי הבא.

האם יש למכונה רגשות?

ניתן לתהות האם ההתנצלויות הללו מעידות שיש למכונה רגשות, כמו נקיפות מצפון. אני בטוח שכמה מפילוסופי ה-AI ופלפוליהם יאמרו שכנראה כן. אבל לאור מה שראינו בטורים הקודמים, סביר מאד שלא. לא סביר שלברזלים יש רגשות. אך חשוב לציין שהשאלה האם המכונה 'מבינה' ששגתה ולכן התנצלה, היא שאלה אחרת. ההבנה שעומדת בבסיס ההתנצלות היא עניין אינטלקטואלי-מנטלי, אבל לא רגשי. יכול אדם להבין שטעה ולהתנצל גם אם אין לו שום נקיפות מצפון (בטורים 22, 259 ו-314 עמדתי על כך שהתנצלות כזאת היא המעולה ביותר). ראו בעניין זה גם את הצהרת ההבל הנחרצת של חיים כאן. אמנם גם לגבי ההבנה, לאור מה שראינו, סביר מאד להניח שמכונה אינה מבינה בדיוק כמו שהיא אינה מרגישה. שתי אלו הן פעילויות מנטליות (שונות), ובתוך מכונה מברזל כנראה אין פעילויות מסוגים אלה.

האם באמת המכונה טעתה?

כששמעתי את הסרטון תהיתי על מה בדיוק התנצל ה-AI? הוא בכלל לא טעה. השאלה שהוא נשאל הייתה מדוע התנגדו לבעל הסולם. לא ביקשו מה-AI את עמדתו על משנתו של בעל הסולם אלא תיאור של עמדות מתנגדיו. כדי לענות על השאלה הזאת, הוא לא אמור להיזקק למקורות מדברי בעל הסולם עצמו, אלא לעמדות של אלו שביקרו אותו. נניח שאין בכתביו התייחסות לציונות וגם לא מוצאים שם פרשנויות חדשות. עדיין ייתכן שמתנגדיו (שלא חשודים על התייחסות עניינית ח"ו), כן תלו בו את המגרעות הנוראיות הללו. אגב, ככל שאני יודע כל זה אכן נכון (בדקתי, והכל אכן מופיע בוויקיפדיה). אז על מה בדיוק התנצל ה-AI? הוא בעצם צדק לגמרי.

אגב, לכאורה זה גם משנה את התמונה שתוארה למעלה, שלפיה הטעויות הללו הן חיקוי של בני אדם על חשבון הפתרון הנכון. כעת אנחנו רואים שאין כאן באמת טעויות. אבל שימו לב שכן הייתה טעות, בזה שה-AI התנצל. כשתחשבו תיווכחו שזו אינה טעות במידות אלא טעות בעובדות. לא היה לו על מה להתנצל, שכן הוא ענה תשובות נכונות. תשובותיו היו אמת עובדתית. אולי לאור שאלותיו של הרא"ל הוא חשב שלא הבין נכון את השאלה ולכן סבר שנפלו אצלו טעויות ומכאן באה גם ההתנצלות.

האם תיתכן אצלו התנצלות בלי טעות? אם כן, אז לכאורה זה כשלעצמו מעיד שההודאה כאן אינה באמת תוצר של החלטה כמו התנצלות אנושית. זה נראה כמו החלטה מכנית שגויה שהובילה לטעות. מעניין האם ניתן לדבר על יצר של המכונה. אולי יש לה יצר חשמלי כלשהו לכיוון הודאה בטעות גם אם יש כזה, גם הוא ניטע בה על ידי המאמנים כמובן).

הערה נוספת. לאור מה שראינו כאן, לא נכון מה שהערתי למעלה שהמכונה הזאת חרדית. הנימוקים מלמעלה מראים שהמתנגדים לבעל הסולם אכן חרדים, אבל המכונה עצמה לא בהכרח. היא רק הציגה את טענותיהם ה'חרדיות' שלהם, ולא טענות שלה עצמה.

הערה על טעויות ושקרים

ישנו עוד אספקט מעניין שעולה מהסרטון הזה. הופיעו שם טעויות של המכונה, או לפחות מה שהיא עצמה תפסה כטעות. הערתי שזו תופעה ידועה ורווחת בתשובות של AI. החבר'ה הללו משקרים לפעמים. חשבו על אדם שהיה מגיב לי בצורה כזאת, כלומר מנפיץ משהו ואז כשתפסתי אותו הוא היה מתנצל. מעבר להערכה הרבה שלי על עבודת המידות והיותו בעל תשובה, הייתי מסיק שבשלב הראשון הוא בעצם שיקר לי, ולאחר מכן התנצל. שימו לב שלא נוסף לו שום מידע נוסף כשהוא התנצל, ובכל זאת בשלב הראשוני הוא ענה לי X ומיד אחר כך הודה ש-X אינו נכון. המסקנה היא שהוא שקרן, אלא שלא הצליח לו. למה הוא שיקר? אין לי מושג, כנראה היה לו אינטרס כלשהו, או סתם יצר או דחף לשקר. כעת חשבו כיצד נוכל להסביר את אותו מהלך אצל המכונה, כמו שרואים בסרטון? האם גם היא משקרת?

נסו רגע להסביר לעצמכם מה פירוש שהמכונה משקרת? שהיא חושבת X אבל אומרת Y? זה הרי לא יכול להיות. המכונה לא חושבת, ומה שיש בתוצאת החישוב שלה זה מה שהיא מוציאה. יכול לבוא ריי קורצווייל ולטעון שהמכונה פיתחה תודעה והיא אכן החליטה לשקר (במזיד? ראו להלן). אבל שימו לב למשמעות העניין: המכונה עשתה חישוב ויצא לה X. כעת היא מחליטה להדפיס Y. ההחלטה הזאת אינה נוצרת מתהליכי חישוב מכניים בתוך המכונה (בתוכנה או בחומרה). זהו רצון חופשי שמניע שם אלקטרונים ויוצר תופעות שאין להן סיבה בפיזיקה של המכונה. הזוי, לא? אני רק מזכיר שהחבר'ה הללו בדרך כלל לא מוכנים לקבל טענה כזאת אפילו אצל בני אדם (שהרצון מניע אלקטרונים, ואין לתנועה הזאת הסבר פיזיקלי), אז במכונות כן?!

ייתכן שהמכונה מצאה בטקסטים שאימנו אותה שאנשים במצב כזה משקרים ואחר כך מתנצלים. לחלופין, האימון לא היה מוצלח ולכן בשאלה המסוימת הזאת היא ענתה לא נכון. אבל היא לא שיקרה, ובוודאי לא ב"מזיד" (יש דבר כזה מזיד או שוגג אצל מכונות?). בכל אופן, ברור שמה שהמכונה הדפיסה הוא תוצאה של החישוב שהיא עשתה.

יש גם אפשרות אחרת, והיא שהמתכנת שלה הורה לה (גם אם בעקיפין, דרך האימון שלו) שאם יוצאת לה תוצאה X שלא תגלה אותה אלא תאמר Y (אולי זה פשר הפוליטיקלי קורקט המעצבן של המכונות הללו). אלא שבמקרה כזה מדובר בתוכנית שפשוט בנויה משני חלקים: 1. חשב את התשובה לשאלה. 2. אם יוצא לך X הדפס Y. לכן מבחינת המכונה תוצאת החישוב במקרה כזה היא באמת Y, ולא X, שכן ההוראה לומר Y היא חלק מהאלגוריתם ששולט על החישוב שלה. אז היא לא משקרת אלא אומרת בדיוק את מה שהיא "חושבת".

עניין השקר מאד רלוונטי לדיון שלנו, שכן אם אני צודק כי אז המסקנה היא שאדם יכול לשקר והמכונה לא. האדם יכול לפעול במזיד או בשוגג, אבל מכונה לא (לא במזיד ולא בשוגג. אין לה בכלל התכוונויות מהסוג הזה). זו גופה הבחנה מהותית בין אדם למכונה. אפשר כמובן לדון לטובת מי מהם, שהרי קשה לומר שמי שיודע לשקר עדיף על מי שלא. אך קודם כל יש כאן הבדל מהותי. מעבר לזה, זוהי סתם טעות. ההבדל לגבי היכולת לשקר הוא רק סימפטום להבדל המהותי. זה שהמכונה לא יכולה לשקר הוא סימן לכך שאין אצלה קוגניציה מאחורי מה שהיא "אומרת" (מאותה סיבה שהיא לא פועלת במזיד או בשוגג), וזהו ההבדל שעליו אני מדבר (ולא היכולת לשקר). מעבר לזה, עצם זה שהיא לא יכולה לשקר זו לא עדיפות. עליונות מוסרית נוצרת אצל מי שיכול לשקר ולא עושה זאת. לכן היכולת לשקר היא אכן יתרון מוסרי של בני אנוש.

בשורה התחתונה, נראה שדווקא עניין השקר, וההתכוונויות בכלל, מחדדים מאד את ההבדל בין אדם לבין מכונה.