הקשר בין שפה וחשיבה

תודה רבה! סליחה שלא עניתי מייד, אני מגיע למייל רק בערב ואתמול לא הספקתי.

אכן השאלות שלי נכתבו בצורה מעורבבת – כתבתי את זה מוקדם בבוקר ובחיפזון, ואני מסכים שיש הרבה שאלות שונות בתוך אותו הסעיף. אני חושב שהדבר העיקרי שהטריד אותי מעבר לשאלות שניסחת זה האלמנט של השפה. מבחינתי, כשדיברתי על "אנליטי" התכוונתי גם להנחות היסוד וגם לגזירות הלוגיות, אבל לא לאופן שבו הגענו לנסח או ידענו את הנחות היסוד. בהקשר של מה שהעסיק אותי בעיקר – זה כאמור, עניין השפה. המחשבה התחדדה אצלי כשקראתי משהו של רועי צזנה שכותב על הנושא הרבה והוא אמר שגם המנועים החזקים הם בעיקרם מנועי שפה, כולם. ואז זה פתאום נותן לשפה מעמד שונה ממה שייחסתי לה עד עכשיו. כביכול עולה האפשרות שמספיק ללמד את המחשב לדבר כמו שצריך כדי שתעלה משם מחשבה ממש – או לכל הפחות תהליך שמחקה במדוייק מחשבה ממשית ומודעת, או לפחות מספיק במדוייק לכל צורך מעשי. ואז אני תוהה לעצמי מה יש בשפה שמאפשר את זה? האפשרויות שעלו לי היו:

1. השפה היא ייצוג של תהליכים לוגיים או מחשבתיים אחרים, ולכן מספיק שנצליח להשתמש בשפה כראוי כדי שניצור תהליך לוגי. הייצוג הופך למהות: או ממש, בהנחה שלמחשב יש תודעה, או רק כאשר יש אדם מודע שקורא את המילים ומבין מה כתוב בהן. אבל בכל אופן אי אפשר להבדיל בין השניים אלא אם כן אתה האדם המדבר/חושב את הדברים. נדמה לי שזה אחד הדברים שהניע את ראסל ליצור שפה מתמטית שלא יהיו בה פרדוקסים: לנקות את השפה מהאלמנטים הלא לוגיים שלה ככה שהשפה והלוגיקה הופכות לשקולות. זה אמנם בלתי אפשרי אבל יתכן שזה אפשרי מספיק לצרכים מעשיים.
2. השפה עצמה בנויה על המשגות מובלעות שיש לנו ועל יחסים בין אובייקטים, במרחב, בזמן ויחסים סיבתיים, וזה מוטמע למשל בתחביר הטבעי שבמוח שחומסקי מדבר עליו, ולכן ברגע שלומדים לדבר זה כולל מניה וביה גם תהליכים של חשיבה. החשיבה מוטמעת בתוך התחביר. זה עדיין אומר שמבחינת המחשב יתכן שאנחנו בסעיף 1, אבל מבחינת האדם המדבר, השפה היא כבר לא נפרדת מהלוגיקה – לא כמייצגת אלא כי באמת השפה עצמה היא תהליך לוגי. כמובן לא מושלם כי אני יכול לנסח משפטים אבסורדיים בשפה.
3. גם השפה האנושית היא לא באמת חשיבה כמו שהשפה של המנוע היא לא באמת חשיבה – היא יכולה להיות אבל חשיבה היא תהליך נפרד שמתנהל במקביל לניסוח הדברים במילים. השפה יכולה לסייע לתהליך הזה או להפריע לו או פשוט לשקף אותו, והיא יכולה להתנהל במנותק ממנו לגמרי.

אני אשתדל לקרוא את הטורים ששלחת לי ולצפות בראיון, אבל זה ייקח לי קצת זמן כי אני עובד מהבוקר עד הלילה ואין לי סמארטפון, אבל אני אשתדל ואנסה לחשוב על זה עוד קצת..

אגב, חשבת אולי להפיק פודקאסט? זה קצת יותר מורכב מהקלטת שיעורים לדעתי ואם תמצא שותף שתוכל להקליט איתו ולנהל איתו שיחה אינטליגנטית על סוגיות פילוסופיות – זה יכול להיות מוצלח מאד, הרבה יותר מספר, כי היום אנשים צורכים הרבה מאד מידע באופן הזה ולא בקריאה.

תודה רבה!

אני מתלבט לגבי שאלות השפה שהעלית. אני חושב שמאחורי השפה יש רעיונות, והמכניות שבה פועלת תוכנת AI לא אומרת שהיא עוסקת בשפה. גם שם השפה היא ייצוג, אלא שהדברים המיוצגים לא נמצאים ב"הכרתה" של התוכנה אלא אצל המתכנת.
האימון של התוכנה נעשה דרך תשובות ופידבקים למקרים, ואלו לא נקבעים לשונית. לדוגמה, מאמנים תוכנה לזהות פנים של מישהו. האימון הוא דרך דוגמאות ומתן פידבק חיובי או שלילי לזיהוי נכון ולא נכון שלה. אתה מבין שהפידבק נקבע לפי השאלה האם היא זיהתה נכון או לא, כלור לפי התוכן. זה לא סתם סינטקטס צורני וזהו. לכן זה מעצב את הרשת באופן שיענה על הסמנטיקה. זו לא פעולה לשונית גרידא, הגם שהיא מיוצגת על ידי שפה. גם אצלנו הרעיונות מיוצגים על ידי שפה, אבל יש מאחוריה רעיונות. האדם בחדר הסיני מקבל פידבקים מדוברי סינית ולא סתם קשרים סינטקטיים.

לגבי הפודקסט, זה רעיון מעניין. אחשוב עליו, אם כי בזמן האחרון יש לי המון הזמנות לפודקסטים קיימים ואולי זה כבר עונה על הצורך הזה.

חשבתי על התשובה שלך – אני מסכים בעיקרון כי זו היתה הדרך שבה חשבתי על הדברים עד לאחרונה, שאפשר לשחק עם המילים באמצעות המחשב, אבל התוכן – המשמעות – נשארת אצלנו והשפה איננה אלא מייצג. אבל התפיסה הזו מתערערת אצלי כעת בגלל שנראה שמנועי הבינה המלאכותית שהם מבוססי שפה מצליחים לחקות חשיבה בצורה כל כך טובה עד שנראה שכבר קשה להבדיל בין מה שהם עושים ובין חשיבה אנושית רגילה, ולמיטב ידיעתי כל המנועים האלו הם בעיקרו של דבר מבוססי שפה (גם המנועים המתקדמים). כלומר, גם לפני עשר שנים היו לנו רשתות נוירונים שיודעות לפתור בעיות באמצעות מאסה עצומה של דוגמאות, אבל המפנה בפיתוח מנועי בינה מלאכותית התחיל עם מנועי השפה. כך לפחות למיטב ידיעתי שהיא לא רבה. אם זה נכון אני ממשיך לתהות האם התמונה שאתה מציג – שהיא התמונה שהיתה גם לי עד לאחרונה – היא אכן נכונה או שיש בשפה משהו שהוא יותר מייצוג גרידא. יש להדגיש שאני לא חושב ששפה זהה לחשיבה והעליתי את האפשרות הזו רק כי זו אפשרות שצריך לשקול כשמנסים לחשוב על הנושא, אבל לא קשה לשלול אותה גם מבחינה רעיונית וגם מבחינה פנומנולוגית (אני יודע מתוך עצמי שאפשר לחשוב בלי מילים ואפשר לדבר בלי לחשוב). אבל אם זה נכון – אז השאלה שהתחלתי איתה לפני שבועיים חוזרת בשבילי: עד כמה כאשר אני עצמי משמיע טיעון יש מאחוריו חשיבה, או שאולי החשיבה מגיעה רק אחרי השמעת הטיעון או אפילו אז לא – כלומר, זה מעורר לחשוב מתי השפה לכשעצמה מצליחה "לחשוב לבד" ומתי לא. כדוגמה אני יכול לתת משהו דומה אבל שונה – מתמטיקה. אם אתה נותן לי תרגיל במתמטיקה, נניח לחקור פונקציה, אז אני יכול להתבונן בפונקציה ולתאר אותה די טוב מתוך הבנה של מה היא עושה ולהגיד לך איך היא תיראה. זו חשיבה. אבל אני גם יכול לשבת עם האלגוריתם ולגזור ולבנות משוואות ולהעביר אגפים ולהציב מספרים וכו' – תהליך שיכול להיות אך ורק מכני (וכל עוד מקפידים על סינטקס נכון נראה ליש לא נטעה ותמיד נגיע לתוצאות) – ולהגיע לאותן תוצאות גם בלי להבין מה אני עושה, כמו שתלמידי 3 יחידות פותרים בלי לדעת מה הם עושים. אז במתמטיקה, השפה החזקה שפותחה שם "חושבת" בשבילם. ברור שזו דוגמה שמתאימה למה שאתה כתבת – השפה לא באמת חושבת אלא מקפלת בתוכה תהליכים שפותחו במשך מאות שנים של חשיבה והם רק השורה התחתונה, וגם המשמעות שניתנת להם היא רק במחשבה של הפותר. אבל אין ספק שיש לשפה המתמטית עוצמה רבה ששקולה במידה רבה לחשיבה, מבחינת התוצאות שהיא מפיקה – ובמקרים רבים היא גם תחליף את החשיבה, כאשר הפונקציה מסובכת מדי ואין לי שום דרך לחזות את ההתנהגות שלה, כמו במצב של דינמיקה כאוטית, ואז אנחנו סומכים על השפה בלבד אם רוצים תוצאות ספציפיות. ואז נשאלת השאלה – מה קורה עם השפה הטבעית? האם גם בה יש מידה מסויימת של העוצמה הזו? אני מרגיש שמנועי השפה מרמזים שאולי כן, ואז מאד מסקרן אולי לחשוב מה יש בשפה, במילים – השפה הטבעית, לא המתמטית המלאכותית שיצרנו בכוונה כדי שתחשוב בשבילנו – שמאפשר את זה.

ראיתי שהתחלת לכתוב כמה טורים על הנושא ואני מצפה לראות אם בסוף תהיה התייחסות לכיוון הזה, אם בכלל אתה חושב שיש בו תועלת. מה שכן, תיקון קטן לטור הקודם – אני לא "תלמיד לשעבר", אני "תלמיד" 🙂

אני מתכוון לכתוב את הטור אחרי הבא (הוספתי עוד אחד, מעבר לתכנון, לפניו) על זה. ככלל, איני רואה במנועי שפה משהו מיוחד מעבר לכל מכונה אחרת. הביצועים כמובן הרבה יותר עוצמתיים, אבל כל הטענה היא ששימוש ומשמעות אינם אותו דבר. דוגמת התלמיד וחקירת הפונקציה המכנית מחדדת זאת היטב. לכן גם במקום שהשימוש/הסינטקס מצליח להגיע לאותן תוצאות כמו בני אדם, זה לא אומר שיש שם חשיבה (כמו אצל התלמיד). כאמור, גם למים יש יכולות אדירות בפתרון משוואות נאווייר סטוקס (נכון שלא בתחומים אחרים, אבל זה הבדל כמותי).
בעיניי מנועי שפה לא באמת מאתגרים את תפיסת האדם, וזה מה שהסברתי בשני הטורים הללו. בטור הבא אני מתכנן לעסוק בשאלה ההפוכה שאותה אתה העלית: לא האם המכונה היא אדם אלא האם אדם הוא מכונה. כלומר האם החשיבה שלנו היא מכנית גרידא. או למצער לשאול האם מנועי השפה מובילים יותר למסקנה הזאת (כנראה שכן). אבל השאלה האם המכונה היא אדם זו שאלה שונה. יש הבדל בין השוואת ביצועים (מבחן טיורינג) לבין החלטה שמדובר באדם ושיש חשיבה ומודעות.

אני חושב שהדיון בסוף הטור האחרון על חשיבה בשלבים (דיפסיק) ממחיש את ההבחנה הזאת מצוין.

את הטור האחרון עוד לא קראתי – אני מסכים בהחלט שעצם הגעה לתוצאות לא מעידה על מחשבה, לכן נתתי את דוגמת התלמיד והפונקציה, אבל אחד הדברים שמעניינים אותי מלבד השאלה האם האדם הוא מכונה זה מה יש בשפה שמאפשר את זה. אני יודע מה יש בשפת המתמטיקה שמאפשר הגעה לתוצאות, אבל מפתיע אותי לגלות שיש כנראה גם משהו כזה בשפה הטבעית. אבל אני אחכה לקרוא מה כתבת..

(אני עדיין לא יודע אם אפשר להגיע למסקנה שהחשיבה שלנו מכנית גרידא, אני עדיין נותן מקום לאפשרות שיש רכיב מסויים בחשיבה, שבא לידי ביטוי במצבים נדירים ולא בחשיבה שגרתית, שהוא לא מכני. אבל אין לי בסיס של ממש לטענה הזו מלבד החוויה השונה – יש הבדל בתחושה בין תובנה שמגיעה אחרי חשיבה מסודרת לבין תובנה שמגיעה מתוך השראה, אולי קצת כמו ההבדל בין מדע תקני ושינוי פרדיגמה אצל קון. אבל כמובן שיתכן שזו רק הרגשה אחרת ובעצם מדובר על מנגנון מכני לא מודע).

אני לא רואה את זה כתכונה של השפה. מדובר בתוכן שהשפה מייצגת. התוכנה של ה-AI מאומנת על תכנים. זה שהיא מטמיעה ומעבדת אותם דרך שפה, זה נכון גם לגבינו. השפה מבטאת תכנים והקורלציות בין מילים אינן תכונה של השפה אלא של טקסטים שמבטאים תכנים ומשתמשים בשפה. התוכנה לא מגיעה לתשובותיה דרך שיקולי תחביר אלא דרך קורלציות בין מילים, ואלו נקבעות על ידי התכנים (בטקסטים האנושיים שעליהם מאמנים את המודלים).
צא וחשוב, אם היית מאמן את המודל על טקססטים שבנויים נכון תחבירית אבל מבטאים תכנים שגויים וטיפשיים, היית מקבל תוצאות שלא שוות כלום. ומכאן שמה שקובע הוא התוכן (שמבוטא בשפה) ולא המבנה הלשוני והשפה כשלעצמה.
כאמור, לשאלת החשיבה המכנית אגיע בטור הרביעי.

בשולי הדיון הזה ואולי כנספח אליו עם השלכות מסויימות: האם אדם שדובר בשתי שפות או יותר, כאשר אותו הגיג יעלה בדעתו בשפה אחת, הוא יהיה זהה – מבחינה תודעתית – לאותו הגיג בשפה אחרת. האינטואיציה אומרת לי שלא.

לא הבנתי את השאלה. אתה שואל האם החשיבה שלנו נעשית בשפה או הרעיונות עצמם? מקובל לחשוב שזו מחלוקת תוס' והרשב"א, אבל מסברה ברור שאנחנו בד"כ חושבים בשפה אבל אני מניח שאפשר גם בלי שפה. ראה בסדרה מטור 379 והלאה.