האם בינה מלאכותית תוכל להחליף אותנו? (טור 592)

בס"ד

בשני הטורים הקודמים עסקתי בבינה מלאכותית ובמשמעויותיה הפילוסופיות וההלכתיות. כל הדיון התנהל תחת ההנחה שהבינה המלאכותית תגיע בשלב כלשהו למצב שבו היא תוכל לבצע כל מה שבני אדם יכולים, ואף למעלה מכך. טענתי שבמצב כזה היא תוכל לפסוק הלכה, לקבל החלטות מוסריות (כמו ברכב אוטונומי) ועוד. מאידך, טענתי שגם במצב כזה אין לה מעמד מוסרי של אדם, וגם אין לה הבנה ולא יצירתיות. היא עוסקת בחיקוי של הסינטקס (הצורה) של החשיבה והשפה שלנו, אבל לא בסמנטיקה שלהן, כלומר בהבנה ובמשמעות. הגם שיש הקבלה בין שני אלו (כפי שטען ויטגנשטיין, וכפי שאומר משפט הנאותות בלוגיקה), טעות היא לזהות ביניהם.

עד כאן הקפדתי להותיר פתוחה את השאלה העובדתית האם אכן AI יכול או יוכל בעתיד לעשות כל מה שאדם עושה. הערתי על הניסוחים הגנריים והשבלוניים מאד של תשובותיה של תוכנת הבינה המלאכותית לשאלות שהיא נשאלת, אבל זה יכול להיפתר עם הזמן. בנוסף, הערתי גם על כמה דוגמאות שיש לי ספק לגבי יכולתה לטפל בהן, כמו הכללות מדעיות (מציאת תורת היחסות או תורת הקוונטים) ועוד. בעקבות שאלותיו של טירגיץ בטוקבקים לטורים הקודמים (ראו כאן וכאן), חשבתי שמן הראוי להקדיש מקום כלשהו גם לשאלות הללו.

בטור הזה אנסה לחזור ולבחון מעט את הנחת היסוד שכל כך מקובלת כיום בין חוקרי בינה מלאכותית: האם באמת זה רק עניין של זמן עד שתוכנות בינה מלאכותית יוכלו להחליף אותנו בכל? האם אין לנו כבני אדם שום יכולת (להבדיל מהבנה ומשמעות, שאצלנו יש ובמכונה אין) מעבר לתוכנות משוכללות? ברצוני לעסוק כאן בשאלה הסינטקטית עצמה: האם הדמיון בין אדם למכונה ברמת הסינטקס אכן נכון? אם זהו המצב, אזי מכונות משוכללות לגמרי (באם תהיינה כאלה אי פעם) יוכלו להחליף אותנו בכל תחום שבו אנחנו עוסקים ואף לעשות זאת טוב יותר. כאן נכנס לתמונה מבחן טיורינג משוכלל ומורכב יותר מזה המקורי, שהבינה המלאכותית העכשווית רחוקה ממנו מאד. אם נעמיד בינה מלאכותית במצב הידע שבסוף המאה התשע-עשרה (ניסוי שעקרונית ניתן לעשות כיום), האם היא תגיע לתורת היחסות ותורת הקוונטים? אולי היא אפילו תצליח לחבר ביניהן, מה שהפיזיקאים כיום עוד לא יודעים לעשות (זה ידוע כבעיה של גרביטציה קוונטית).

לפני שאכנס לדון בשאלה הזאת, נסלק מהשולחן טיפול בשאלות ערכיות.

חולשת הרצון והכרעות ערכיות

מעניין לבחון האם למכונה חושבת יכול להיות מצב של חולשת רצון (ראו בטורים 172 – 173)? כלומר האם היא יכולה לחשוב משהו אחד ולפעול באופן אחר? נראה שלא. החוויה של החולשה והדיסוננס בין מה שאני חושב לבין מה שאעשה בפועל לא קיים במכונה, שכן אצלה מה שהיא 'חושבת' זה בדיוק מה שהיא עושה בפועל. איני רואה כיצד ניתן לתכנת אותה לחשוב משהו אחד ולעשות משהו אחר, שהרי היא בכלל אינה חושבת. במכונה יש רק את הממד המעשי ולא המחשבתי. מה שהיא 'חושבת' בא לידי ביטוי במה שהיא עושה. אין אצלה בכלל שני מישורים כאלה, שכן אין לה פנים מנטלי כמו שיש לנו.

אבל עד כאן זה רק יתרון. החטאים שלנו נובעים בדרך כלל מרצון חלש, כלומר  מפער בין מה שאנחנו חושבים לבין מה שאנחנו עושים. היצרים מטים אותנו, אנחנו בונים לעצמנו תמונות דמיוניות (ע"ע סיפור ההינדיק, בטור 354 ועוד) שיצדיקו את צעדינו, זאת למרות שבתוכנו פנימה אנחנו מבינים מה נכון. למכונות אין בעיות כאלה. אם הן חושבות משהו זה מה שהן תעשינה. לכן השאלה אינה האם הן תפעלנה נכון אלא האם הן תחשובנה נכון. אם הן 'תחשובנה' נכון, כלומר אם הן תגענה למסקנות המוסריות הנכונות, אז זה מה שהן תעשינה.

אם מסתכלים על החשיבה המוסרית כסוג של חישוב אזי אין סיבה לשלול את האפשרות שמכונה תדע לעשות את החישוב הזה. אמנם במקרים מסוימים אין תשובה נכונה אחת (יש חילוקי דעות בין בני אדם), ושם לא ברור מה תוגדר תשובה נכונה במבחן טיורינג המשוכלל שנבצע. אבל אפשר לפחות לבדוק אותה על השאלות שלגביהן יש הסכמה (אלו רוב השאלות). במקרים שלגביהם יש חילוקי דעות, אפשר אולי לקבל כל אחת מהעמדות המוסריות הללו כקבילה כנכונה. לכן, אם אכן מדובר בסוג של חישוב, אזי עקרונית ניתן להביא מכונה לחשוב כמו בן אדם ולהגיע למסקנות ולהכרעות המוסריות שיגיע אדם. השאלה האם זה באמת נכון? האם אכן מדובר בחישוב? כלומר האם יש אלגוריתם שמבוסס על כמה עקרונות קשיחים שמניב את התשובה המוסרית הנכונה?

חשבו על גיבוש עמדה לגבי שאלת הסוציאליזם מול קפיטליזם. לפעמים הוויכוח מתנהל כאילו הייתה כאן מחלוקת עובדתית, איזו שיטה תביא לתוצאות כלכליות טובות יותר. אבל ביסודו זהו ויכוח ערכי, ולא עובדתי: האם אנחנו מעדיפים את ערך החופש או את ערך השוויון. כמובן שיש המעדיפים את זה ויש שמעדיפים את זה, ולכן זוהי סוגיה שבמחלוקת. אבל איך כל אחד משני הצדדים הללו מגבש את עמדתו? האם הוא פשוט עושה חישוב? אם זה היה המצב, אזי המחלוקות הללו באמת אינן משמעותיות. החישובים יוצאים שונים רק בגלל שלכל אחד מהאנשים יש מבנה נפשי שונה. אם כן, זו אינה הכרעה מוסרית אלא סתם תוצר של מבנה נפשי. לעומת זאת, אם רואים ויכוח כזה כוויכוח ערכי אמתי, כי אז מניחים במובלע שאדם מגיע לעמדתו על ידי שיקול דעת. זה לא חישוב אלא הכרעה ערכית, והמחלוקת נוצרת בגלל שאנשים הכריעו הכרעות ערכיות שונות. אם זו התמונה הנכונה, זוהי החלטה חופשית של בחירת ערך וקשה לראות כיצד מכונה תוכל לחקות תהליך כזה. אפילו אם נזין אותה בכל הנתונים על אדם מסוים ובכל הנתונים הכלכליים והחברתיים, היא לא בהכרח תגיע לתוצאה שהוא יגיע, מפני שיש כאן הכרעה ולא רק חישוב דטרמיניסטי מתוך נתונים (ראו על כך בטורים 35 ו-175). אמנם כל זה רק אומר שהמכונה לא תוכל לחקות אדם באופן מושלם, אבל עדיין החלטותיה יכולות להיות נכונות כך או כך, שכן בין אם היא תגיע למסקנות סוציאליסטיות או קפיטליסטיות, היא עדיין בתחום הלגיטימי כמו בני אדם. אמנם לגבי מכונה יתכן שהיא בכלל תגיע למסקנות מסוג שלישי, אחר לגמרי, שיהיה בעליל לא מוסרי. לכן בכל מקרה ישנה כאן נקודה חשובה שמבחינה בין אדם למכונה.

אפשר כמובן להזין למכונה את ערכיו של אדם מסוים (בהנחה שניתן להמשיג ולנסח את כולם במפורש), ואז היא לפחות תחקה אותו (היא תהיה סוציאליסטית או קפיטליסטית, בהתאם לאדם שהיא מחקה)[1]. כלומר היא לא תגיע למסקנה שנמצאת לגמרי מחוץ למסגרת המוסרית. אבל כאן נכנסת שאלה נוספת. חשבו על מצב חדש שטרם עמדנו בפניו, ועלינו לקבל החלטה מוסרית לגביו. מכונה שאומנה לחשוב מוסרית על בסיס מקרים מוכרים שהתשובות המוסריות הנכונות הוזנו לתוכה, אולי לא תדע לענות על מקרה חדש שלא ניתן לגזור את התשובה אליו מהמקרים הקודמים. ומה עם אדם במקרה כזה? זה תלוי בתפיסתכם את האדם ואת החשיבה המוסרית שלו. אם יש באדם מערכת מוטבעת של עקרונות מוסריים (כוונתי לאינטואיציה מוסרית, לאו דווקא לעקרונות קשיחים שהגזירה מהם נעשית בדדוקציה לוגית), אזי הוא יכול לעשות בהם שימוש ולגזור מהם מסקנה גם לגבי המקרה החדש. זה כמובן בהנחה שהעקרונות המוטבעים הללו אינם תוצר של ניסיון מצטבר ואימון המערכת הנוירונית שלנו, אלא משהו שטבוע בנו בדרך כלשהי, או הכרעה שלנו (בכל אופן, לא שרירותי. אחרת אין לו חשיבות, והוא לא 'נכון' בשום מובן). אם המערכת הזאת הייתה תוצר של ניסיון מצטבר, אזי גם אדם היה טועה במקרה חדש שאינו ניתן להילמד מהמקרים שפגשנו בעבר. יש לזכור שאת המכונה אנחנו מאמנים על בסיס מקרים קודמים (כך פועלת בינה מלאכותית), שהרי אי אפשר להזין לתוכה את העקרונות המוסריים כשלעצמם (כך עושים בתוכנה קלסית), שכן אין לנו ניסוח מפורש ושלם שלהם. במקרה כזה, ייתכן שהבינה המלאכותית לא תקבל החלטות מוסריות נכונות בחלק מהמקרים (המקרים החדשים). כעת, אם אנחנו מניחים שבני אדם כן יקבלו החלטות נכונות במקרים אלו (בגלל המערכת המוסרית המוטמעת בהם, כנ"ל), אזי המסקנה היא שהמכונה לא יכולה להחליף אותנו בכל מצבי ההכרעה המוסריים.

אציין שביחס למכוניות אוטונומיות הבעיה לא ממש קיימת, מפני ששם רוב הבעיות הן חישוביות לגמרי. המטרה שם היא לקבל החלטות בכל שלב שיצילו כמה שיותר חיים, ולכן השאלה היא רק טכנית: מהי הדרך הטובה ביותר לעשות זאת. את זה מכונה משוכללת אמורה לעשות טוב מאתנו. יתר על כן, כפי שהסברתי בטור 590, ברור שבמבט כללי בינה מלאכותית תפעל טוב יותר מבני אדם. גם אם תמצאו מקרים בודדים שהם חדשים במובן שתיארתי כאן, ולגביהם המכונה תקבל החלטה ערכית שגויה (למשל דילמת הטרולי אינה חישובית אלא ערכית: האם עדיף להרוג אדם אחד או להניח לחמישה בני אדם למות באופן פסיבי),[2] עדיין אם השיקול הוא התועלת והרווח הכלליים אז השימוש במכונות עדיף. אבל אם אני רוצה לדון במעמדה ויכולותיה של מכונה לקבל החלטות נכונות (כלומר לא פחות נכונות מאלו של אדם) בכל מקרה נתון, זוהי שאלה אחרת, והתשובה אליה לא לגמרי ברורה.

בשולי דבריי אוסיף שלמכונות גם אין אחריות מוסרית, ואצל בני אדם זהו היבט חשוב מאד בהחלטות המוסריות שהם מקבלים. אבל גם זו אינה בעיה אמתית שהרי המכונה מחקה החלטות של בני אדם במצב כזה, וההחלטות הללו מתקבלות מתוך האחריות שהם חשים. במובן הזה המכונה מחקה גם את האחריות, שכן היא נלקחת בחשבון בהחלטות עצמן. כמובן שאם המכונה טעתה לא נעניש אותה, אבל זה לא הדיון שלנו כאן. ייתכן שנעניש את המתכנת את המשתמש, אבל גם זה נראה לא סביר, שכן הוא לא התכוון לבעיה שקרתה. זו תוצאה של טעות או של תוכנה לא מושלמת. אין כאן כוונה פלילית, וכנראה גם לא אחריות (אלא אם הייתה כאן רשלנות של המתכנת או הרגולטור).

עד כאן באשר ליכולתן של מכונות לקבל החלטות מוסריות נכונות. כאמור, התשובה לזה אינה ברורה, לפחות לגבי מקרים חדשים. די ברור שבמקרים חדשים המכונה לא תגיע לתשובה 'נכונה' (מעצם הגדרתם כחדשים אי אפשר לגזור את התשובה לגביהם מהמקרים הקודמים), אבל ייתכן שגם אדם בנוי באופן חישובי (זו בעצם ההנחה המקובלת אצל חוקרי בינה מלאכותית), ואז גם הוא לא יגיע לתשובות הנכונות. אם זהו המצב, אי אפשר להסיק מאומה לגבי נחיתות של מכונות לעומת בני אדם. ובכלל קשה יהיה לערוך מבחן טיורינג להכרעות ערכיות של מכונה, שכן הנכון והלא נכון כאן אינם חד משמעיים. כעת נעבור לבחון את שיקול הדעת שלהן ביחס לעובדות, שם המצב אמור להיות פשוט יותר. לכאורה לא אמורות להיות שם מחלוקות בין אנשים, ויש דרך פשוטה יותר להעמיד את המכונה במבחן טיורינג המשוכלל לגבי זה. אך כפי שנראה, גם שם המצב אינו פשוט כלל ועיקר.

על אמפיריציזם ומכונות חושבות

לכאורה כאשר אנחנו בוחנים עובדות ומנסים להבין אותן או להסביר אותן ולגזור מהן מסקנות, זהו תהליך חישובי גרידא. גם אם הוא מורכב, בסוף בסוף אנחנו יוצאים מהעובדות שבפנינו ומגיעים למסקנות שמתבקשות או נגזרות מהן. אם כך, את ההליך הזה מכונה חושבת משוכללת לכאורה תוכל לעשות. אלא שזה אינו פשוט כלל ועיקר. ראשית, הסברתי כמה פעמים שהמעבר מהעובדות להסבר (התיאוריה) אינה חד ערכי וגם לא נראה אלגוריתמי. את אותו סט של עובדות ניתן להסביר בכמה צורות, והבחירה ביניהן היא תהליך שנראה בעל מרכיב יצירתי. השאלה האם מכונה תוכל לחקות את ההליך הזה, תלויה בשאלה עד כמה הוא חישובי.

זוהי בדיוק טעותו של האמפיריציזם הנאיבי (ראו עליו בטור 586) שסבור שהמדע פועל על ידי איסוף עובדות, ניתוחן וגזירת המסקנות המתבקשות. אמפיריציסט כזה סבור שחוקי הטבע ומסקנות המדע הן תולדה של תצפית טהורה ותו לא. אין כאן מרכיב מחשבתי סינתטי, (ולכן לפעמים הוא גם סבור שזה בוודאות נכון). אבל זו טעות, שכן אין הסקת מסקנות מדעית שהיא דדוקציה בלבד. הדרך מהעובדות אל התיאוריה היא מפותלת ומאד לא ניתנת להמשגה וניסוח. הדברים מגיעים עד כדי כך, שבפילוסופיה של המדע מבחינים בין 'הקשר הגילוי' לבין 'הקשר הצידוק'. הטענה היא שאין לנו שום דרך לעקוב ולבקר את ההגעה לתיאוריה המנוסחת. כל מה שבידינו הוא לערוך ניסויים כדי לבחון האם ניבוייה עומדים במבחן האמפירי. ניסוח והמשגה של תיאוריה מדעית הוא הליך מורכב, וספק רק עד כמה הוא חישובי. לכן לא ברור שמכונה חושבת, משוכללת ככל שתהיה, תוכל לעשות זאת בכל המקרים.

רק כעת, תוך כדי כתיבת הדברים, קראתי ראיון על סם אלטמן, מנכ"ל חברת OpenAI שפיתחה את ChatGPT (נא להתעלם מהסופרלטיבים המופרכים לגבי חשיבותו ומעמדו היקומי. זה בעיקר לצרכים עיתונאיים). בתוך הדברים שם מוקדשת פסקה לשאלה האם תוכנת בינה מלאכותית תצליח לעשות קפיצות דרך מדעיות:

המטרה החשובה ביותר לאלטמן – "היעד הגדול" שיבשר על הגעת בינה כללית מלאכותית – היא פריצת דרך מדעית.  GPT-4 כבר יכול לסנתז רעיונות מדעיים, אבל אלטמן רוצה בינה מלאכותית שתעמוד על כתפי ענקים ותראה לעומקו של הטבע. כלי AI יצרו ידע מדעי חדש אבל הם אלגוריתמים עם מטרות צרות, לא מכונות היגיון כללי. ה־AI AlphaFold, למשל, פתח צוהר חדש לחלבונים על ידי חיזוי רבות מצורותיהם – הישג ניכר בהתחשב בחשיבותן לרפואה. אלטמן מהמר שמכונות עתידיות להיגיון כללי יוכלו ליצור תובנות מדעיות חדשות.

אלטמן מדמיין מערכת שתייצר השערות משלה ותבדוק אותן בסימולציה. הוא הדגיש שעל בני אדם להישאר "בשליטה מלאה" בניסויי מעבדה בעולם האמיתי, אם כי למיטב ידיעתי, אין חוקים שיבטיחו זאת. הוא מייחל ליום שיתאפשר לבינה מלאכותית, "לכי תביני את שאר הפיזיקה". כדי שזה יקרה, הוא אומר, נצטרך משהו חדש, שנבנה על דגמי השפה הקיימים של OpenAI. נראה שאף אחד ב־OpenAI  לא יודע מה צריכים להוסיף ל־GPT-4 כדי לייצר משהו שיכול להתעלות על החשיבה האנושית ברמותיה הגבוהות…

אבל לייצר השערות אינו כושר מספיק לחקות התקדמות מדעית אנושית, שכן יש אינספור השערות שניתן לבדוק. היכולת העיקרית שלנו היא לברור את ההשערות הרלוונטיות, או לקלוע אליהן באינטואיציה ראשונית (להלן אדבר על 'הקשר הגילוי'), ואז לבדוק את מה שמצאנו (להלן 'הקשר הצידוק'). מעבר לזה, ישנה בעיה גם בהקשר הצידוק שהוא מתאר. מה פירוש לבדוק את ההשערה בסימולציה? אם אתה מכיר את החוקים היסודיים ורוצה לדעת מה הם יעשו בסיטואציה מורכבת, או ליצור הכללה כלשהי שלהם (למשל ליצור את חוקי הביולוגיה מתוך חוקי הכימיה והפיזיקה, בהנחה שהרדוקציוניזם נכון), הסימולציה היא הכלי הנכון לטפל בעניין. אתה פשוט בונה מערכת ממוחשבת שמתנהלת לפי החוקים היסודיים ורואה מה התמונה הגדולה שמתקבלת במצב המורכב שמעניין אותך. אבל גילוי החוקים היסודיים עצמם לא יכול להיעשות על ידי סימולציה כי היא עצמה צריכה להתנהל על פי אותם חוקים. מה בדיוק הוא רוצה להכתיב לסימולציה לעשות כדי לבדוק את התוצאה? חוקי טבע יסודיים לא מגלים בסימולציות אלא בתצפיות על הטבע עצמו (הוא בהגדרה מתנהל לפי החוקים האמתיים).

אתם יכולים לראות כבר כאן רמז ליכולת אנושית מיוחדת שאולי אינה 'חישובית', ולכן מהווה אתגר ממשי לתוכנות AI: לפרוץ בעיה של מעגליות. בפסקאות הבאות אנסה להבהיר מעט את הקושי שבפניו עומדת הבינה המלאכותית בבואה להחליף אותנו, כלומר להבהיר מעט את ייחודה של החשיבה האנושית כפי שהוא בא לידי ביטוי בתחום הזה.

ליבתו של ההליך המדעי

כאשר מדען ניגש לסוגיה מדעית מורכבת שמצריכה תיאוריה מדעית חדשה, הוא מצוי במצב של 'משבר פרדיגמטי', במונחיו של תומס קון. במצב כזה התיאוריה הקיימת נתקלת בכמה וכמה קשיים שאין לה פתרון עבורם, ואז ברור לכל שנדרשת תיאוריה חדשה שתחליף את הפרדיגמה הקיימת (כמו במקרה של תורות היחסות או הקוונטים לעומת המכניקה הקלסית). במצב כזה בדרך כלל הקהילייה המדעית פותרת את הבעיה באופן קולקטיבי. גם אם יש גאון מיוחד שתורם תרומה מכרעת, כמעט תמיד הוא נסמך על כתפי ענקים שקדמו לו (בדרך כלל גם לא מתעלמים מהתיאוריות הקודמות אלא מתקנים ומשכללים אותן – ארטיקולציה). אבל נתעלם מזה לצורך הדיון, ונחשוב מהם הצעדים הדרושים במהלך כזה. אני אסתמך כאן על דברים שכתבתי ואמרתי במקומות אחרים בעבר (בעיקר בסדרת שיעוריי על לימוד מהניסיון).

בתפיסה הנאיבית של פרנסיס בייקון המדע עוסק בשלב ראשון באיסוף עובדות. לאחר מכן הוא  מנתח אותן ומנסה ליצור מהן הכללה (באמצעות אינדוקציה), שתכניס את כולן למסגרת רחבה אחת. בשלב הסופי מנסים ליצור מהתיאור הכולל תיאוריה חדשה (זהו הליך של אבדוקציה. ראו בטורים 399, 537 ועוד), שתסביר אותן וגם עובדות נוספות. אלו שלושה שלבים שמהווים חוליה אחת בבניית תיאוריה  מדעית. אחרי שמסיימים אותם, חוזרים שוב לאסוף עוד עובדות, לתקן את ההכללות ואת התיאוריה וחוזר חלילה. מתברר שכל אחד משלושת השלבים בתהליך הזה דורש יצירתיות, וספק רב עד כמה הוא 'חישובי'. נראה זאת כעת שלב אחרי שלב.

א. המעגל השוטה של איסוף העובדות

בשלב ראשון, כאמור, יש לאסוף את העובדות הרלוונטיות. אבל זה עצמו אינו צעד טריוויאלי, שכן בהיעדר תיאוריה, אי אפשר לדעת אלו עובדות הן רלוונטיות. יש לכך כמה דוגמאות  מובהקות שמובאות בספרות הפילוסופית, והרווחת ביותר היא זו של איגנץ זמלווייס וקדחת היולדות שמובאת בספרו של פילוסוף המדע קרל המפל.

זמלווייס היה ראש מחלקת יולדות אחת מתוך שתיים בבית חולים גדול בווינה. במחלקה שלו הייתה תמותה של יולדות בשיעור גבוה הרבה יותר מזו שבמחלקה השנייה. הם חיפשו את הסיבה לכך, אבל לא היה להם שום כיוון. הם ניסו לאסוף את העובדות הרלוונטיות, אבל כל עוד לא הבינו מה גורם לתמותת היולדות הם לא יכלו לדעת מהן העובדות הרלוונטיות. כנקודת מוצא, יכולות להיות אינספור עובדות שמבחינות בין המחלקות: גובה התקרה, הגיל הממוצע של הרופאים, החציון של גיל האחיות, שם המשפחה של האחות הראשית, צבע הקירות, שטח המחלקה, כמה זמן היא קיימת, מה גודל המשרד של הכלכל הראשי, אורך המבחנות, החברה שיצרה את הנברשות בתקרה ועוד ועוד. כל עוד אינך יודע מה גורם לתמותה אינך יכול לחפש עובדות. אם הם היו יודעים שמה שגרם לתמותה הוא אורגניזמים שונים שגרמו זיהומים אזי יכולים היו לחפש מדוע יש הבדלים בהיגיינה בין המחלקות. זה אכן מה שהם גילו בסוף, אבל גם זה קרה בדרך נס. אם אין לך כיוון ראשוני לתיאוריה שתסביר את העובדות שלך אין לך דרך לבודד את העובדות הרלוונטיות.

חשבו על ניוטון בבואו לנסח את חוק הגרביטציה. למה שיתייחס לגאות ושפל, נפילת עצמים לכדור הארץ ומסלולי הכוכבים כאוסף של עובדות ששייכות לאותו תחום ונשלטות על ידי אותם חוקים? למה לא צבע הציפור שחלפה כאן בבוקר, או תדר קולה? רק אחרי שאתה יודע שיש כוח משיכה, אתה יכול להבין שאולי כל העובדות הללו יכולות להיות רלוונטיות. אז איך החליט ניוטון להתמקד באוסף העובדות הללו דווקא? נראה שהייתה לו אינטואיציה ראשונית, עוד לפני שידע את התיאוריה שימצא, שכיוונה אותו מה יכולות להיות העובדות הרלוונטיות ומה בטוח לא כלול בהן. בלי זה הוא היה משוטט עד אין קץ בין אינספור העובדות ולא היה מצליח לבודד את הרלוונטיות שבהן.

אגב, בסדרת שיעוריי הנ"ל הסברתי שעצם החלוקה של המדע לדיסציפלינות ותחומי מחקר שונים (פיזיקה, כימיה, ביולוגיה, פסיכולוגיה וכמובן כל הענפים של כל אחד מכל אלו) בעצמו אינו ניתן להבנה פשוטה מאותו טעם עצמו. יש כאן הנחה שאוסף עובדות מסוים שייך לחוקי הפיזיקה ואוסף אחר לחוקי הכימיה וכן הלאה. אבל למה קיבצנו את מכלול העובדות דווקא תחת הקטגוריות הללו ולא בחרנו חלוקה אחרת? זה עצמו הליך יצירתי-אינטואיטיבי.

אם אסכם, איסוף העובדות דורש היכרות כלשהי עם התיאוריה. אבל התיאוריה נבנית על בסיס העובדות. זהו מעגל שקשה מאד לראות דרך 'חישובית' לצאת ממנו. זה דורש אינטואיציה ראשונית שתהיה בנו עוד בטרם ניסחנו את התיאוריה ואספנו את העובדות. לאחר מכן אנחנו אוספים עובדות שנראות לנו אינטואיטיבית רלוונטיות, בונים תיאוריה (אינדוקציה ואבדוקציה), ואז חוזרים לתיאוריה ומתקנים אותה וכן הלאה. לפעמים זה עובד ולפעמים לא, אבל אין דרך אחרת.

היכולת הזאת שכיניתי כאן 'אינטואיציה' נראית על פניה כמו יכולת לא חישובית. זוהי השראה שיש בה ממד מהותי של יצירתיות. יהיו כאלה שיטענו שזוהי אשליה, ובעצם מדובר בחישוב, גם אם הוא סמוי. בעצם האינטואיציה שלנו מבצעת חישוב גיגנטי בדרך מהירה מאד, אבל עקרונית ניתן לחקות זאת על ידי תוכנה ואלגוריתמים. קשה מאד להאמין בזה. יש כל כך הרבה אפשרויות, ואנחנו עצמנו בבירור לא עוברים על כולן. רק חשבו על מספר העובדות הכולל במקרה של זמלווייס. יש מיליוני או מיליארדי עובדות כאלה. קבוצת העובדות הרלוונטיות היא אוסף כל תת הקבוצות של העובדות הללו, שזה 2 בחזקת מספר העובדות. מדובר במספרים דמיוניים של אפשרויות, כשבכל אפשרות יש לנסות ולבנות הכללה ותיאוריה ואז לחזור לעובדות וחוזר חלילה. לא נראה מעשי. אנחנו בוודאי לא עושים זאת כך, אבל גם חיקוי מכני שמגיע באופן שיטתי לאותן תוצאות נראה קצת לא הגיוני.

ב. היצירתיות בברירת האינדוקציה הנכונה

נניח כעת, רק לצורך הדיון, שהצלחנו לבודד ולאסוף את העובדות הרלוונטיות, ויש לנו את הנתונים לגביהן. כעת אנחנו מחפשים את ההכללה הנכונה עבורן. בטור 426 עמדתי על הבעייתיות ביצירת הכללה מתוך כל אוסף של עובדות. מתברר שכל אוסף של עובדות מאפשר אינספור תיאוריות ולכן גם כאן יש ממד לא חישובי. אמנם כאן הבעיה מעט קלה יותר, שכן אנחנו משתמשים בעקרון התער של אוקהאם, כלומר בוחרים את ההכללה הפשוטה ביותר. גם זה אמנם לא הליך חד משמעי, שכן ייתכנו כמה הכללות באותה רמת פשטות, ובעצם יש עוד קריטריונים (למשל שלא יהיה אובר פיטינג ואנדר פיטינג. ראו על כך בטורים 243, 426 ועוד), ולכן גם זה לא הליך 'חישובי' לגמרי, אבל בסך הכל ניתן כך לברור כמה הכללות שתהיינה מועמדות מתוך רבות אחרות. בעצם זהו הבסיס לרוב האלגוריתמים הבסיסיים של חשיבת מכונה, כלומר אפשר ללמד את המכונה לעשות זאת.

אבל כדאי לשים לב שגם כאן יש בסך הכל חיקוי של הליך שאנחנו עושים. כלומר לולא היה לנו המוח שלנו שבנוי כפי שהוא בנוי, ספק עד כמה ניתן היה ליצור מכונות שיעשו זאת. אם אנחנו מחקים הליך יצירתי של אדם, האם פירוש הדבר שיש למכונה עצמה יצירתיות? לא בטוח. ייתכן שאצלנו יש יצירתיות, ואחרי שמצאנו את דרך החשיבה היצירתית ניתן לבנות מכונות שיחקו אותה. כך למשל עלינו על כך שכדאי לחפש את ההכללה הפשוטה ביותר (התער של אוקהאם), וכעת אנחנו מאמנים את המכונה לחפש את הפתרון הפשוט וגם מגדירים לה מהי פשטות (למשל קו ישר הוא הגרף הפשוט ביותר מבין הגרפים, ולכן נוקטים באלגוריתם של ריבועים מינימליים כדי לחפש את הקו הישר המתאים ביותר לנתונים). אבל עדיין, גם אם מכונה יכולה רק לחקות אותנו בזה, נראה שבכל זאת בשורה התחתונה מדובר בהליך 'חישובי'. לכן לפחות במובן הפרקטי נראה שיש כאן תחליף מכני לחשיבה של בני אדם.

ג. בין אינדוקציה לאבדוקציה

ישנה טעות נפוצה שלפיה המעבר מאוסף העובדות באמפיריות לתיאוריה הוא הליך של אינדוקציה. אך זוהי טעות. האינדוקציה יוצרת כלל טכני כללי שהעובדות הן מקרים פרטיים שלו. הדרך לתיאוריה זוקקת עוד הליך, שמכונה אבדוקציה (ראו עליו בטור 537). כך למשל חוק הגרביטציה נותן לנו נוסחה שמתארת את התאוצה של כל גוף תחת השפעתו של גוף אחר. אבל התיאור הזה אינו הסבר. ההסבר לעובדות ניתן באמצעות תיאוריה. אנחנו מציעים תיאוריה שכל שני גופים בעלי מסה מפעילים זה על זה כוח שמתואר בנוסחה הזאת, והכוח יוצר את התאוצה שלהם. כך גם לגבי כל תיאוריה מדעית אחרת. התיאוריה בדרך כלל כוללת גם יישים תיאורטיים שאיננו יכולים לצפות בהם ישירות (שדות כוח, ופונקציית גל בתורת הקוונטים, האלקטרון ושאר חלקיקים אלמנטריים), אבל התיאוריה מצביעה על כך שהם משתתפים ביצירת התופעות שאותן ברצוננו להסביר.

הדרך מהנוסחה שהתקבלה באינדוקציה על התיאוריה היא ממש יצירה צרופה. אין לנו שום דרך לתאר את המעבר מאלו אליה. עד כדי כך שכפי שהזכרתי למעלה בפילוסופיה של המדע מדברים על 'הקשר הגילוי', שהוא עניין כמעט מיסטי שאין לנו דרך לעקוב אחריו ולבקר אותו, מול 'הקשר הצידוק', שהוא בחינה אמפירית במעבדה של התיאוריה המוצעת. האם מכונה תוכל לבצע הליך של אבדוקציה, כלומר להגיע מאוסף של עובדות לתיאוריה? האם מכונה שתעמוד במצב הידע של תחילת המאה העשרים תוכל להציע לנו את תורת הקוונטים או תורת היחסות כפתרון או הסבר אפשרי? קשה לי מאד להאמין, אם כי זה לא בלתי אפשרי. שוב, העניין תלוי בשאלה האם זה הליך 'חישובי', גם אם מאד מסובך, או משהו יצירתי באופן מהותי שלא ניתן למכן אותו.

בעצם השאלה היא האם ראשו של איינשטיין הוא מחשב משוכלל או שיש שם משהו מעבר ליכולת חישוב פנומנלית. די ברור שאיינשטיין עצמו ודאי לא עבר על כל האפשרויות התיאורטיות ובחר אחת מתוכן. האינטואיציה שלנו סייעה לו לברור את ההגיוניות שמתוכן ולהתמקד בהן עד שהגיע לניסוח של התיאוריה ה'נכונה'. אבל אם זה כך, עדיין יש כאן הליך 'חישובי', שניתן לחקותו על ידי מכונה של בינה מלאכותית, גם אם היא תיזקק לעבור על כל האפשרויות. לחלופין, אולי ניתן ללמד אותה לחקות את היצירתיות של איינשטיין ולדלג על הצורך במעבר על כל האפשרויות (זה מה שעושים היום בתוכנות למשחק שחמט, שכבר מנצחות את כל השחקנים האנושיים). עדיין יש משהו ביצירת תיאוריה  מדעית שנראה הרבה יותר יצירתי מאשר טקטיקה גאונית במשחק שחמט. בסופו של דבר בשחמט נראה די ברור שלמכונה בעלת יכולת עצומה יש תמיד אפשרות לעבור על כל האפשרויות ולנצח בלי טיפת חשיבה יצירתית או גאונות. לכן שם גם אם בפועל זה לא נעשה כך, ייתכן שמדובר בקיצור דרך. השאלה האם לכל חשיבה אנושית יש מקבילה אלגוריתמית חישובית או לא.[3]

חשוב להבין שגם אם מחשב יכול לחקות את איינשטיין, אין הכרח להסיק מכאן שהוא יוכל לעשות כל מהלך אנושי אחר. עדיין ייתכן שיש מהלכים אנושיים עוד יותר גאוניים שידרשו ממנו משאבים וזמן גדולים ממה שיש ברשותו ולעולם הוא לא יכול להחליף לגמרי את האדם, לפחות במובן הטכני של זמן ומשאבי חישוב (כלומר ייתכן שיש בעיות שהן 'חישוביות' עקרונית, אלא שדורשות משאבים אדירים, ורק האדם יידע לקצר את הדרך והמחשב לא).

מהי אינטואיציה: בין חשיבה להכרה

בכמה מקומות טענתי שבבסיס היכולות האנושיות הללו עומד כושר שמכונה אצלנו 'אינטואיציה'. במינוח הזה ניתן לנסח את השאלה בה עוסק הטור הזה כך: האם מכונה חושבת תוכל לפתח אינטואיציה? זה כמובן תלוי בשאלה מהי אינטואיציה, וכיצד היא מתפתחת אצלנו?

מקובל לחשוב שהאינטואיציה שלנו אינה אלא פרי ניסיון מצטבר. אחרי שנתקלנו בהרבה עובדות ופתרנו הרבה בעיות, התפתחה אצלנו רשת נוירונים כזאת שמסוגלת לפתור בעיות חדשות. בראייה הזאת, התפתחות האינטואיציה שלנו אינה אלא אימון של רשת נוירונים. אם זהו המצב, כי אז ברור שהצפי שמכונות חושבות יוכלו להחליף אותנו בכל היא סביר ומתבקש. גם אנחנו איננו אלא מכונה חושבת שכזאת.

לפי התפיסה הזאת, אינטואיציה אינה אלא כלי לניתוח נתונים. התצפית מביאה אלינו נתונים, והשכל שלנו מעבד אותם ויוצר מהם הבנה, או תיאוריה. האינטואיציה היא חלק מאותו כושר ניתוח ועיבוד. חשוב להבין שבמובן הזה האינטואיציה שייכת לקטגוריה של חשיבה ולא לקטגוריה של תצפית. אבהיר זאת מעט יותר. הכרה או תצפית אלו כשרים אנושיים שיסודם באינטראקציה שלנו עם העולם. אנחנו צופים בעולם ושואבים ממנו נתונים באמצעות חושינו, וזה מה שמכונה תצפית או הכרה. לעומת זאת, החשיבה היא עיבוד שנעשה כולו בתוכנו פנימה (ללא אינטראקציה עם העולם). האדם מקבל נתונים מהתצפית (ההכרה), ואז החשיבה שלו מעבדת אותם ומסיקה מהם מסקנות. האינטואיציה כפי שמקובל לתאר אותה היא חלק מהחשיבה. היא  מאומנת על ידי התצפיות והסקת מסקנות קודמות, דרך משובים שונים שהיא מקבלת מכל מיני כיוונים, אבל בסופו של דבר נבנה כושר קוגניטיבי שכל כולו שייך לחשיבה.

אני לא מקבל את התזה הזאת. בכמה מקומות טענתי שאינטואיציה היא חשיבה-מכירה, סוג של תצפית שלא נעשית בחושים אלא בשכל. טענתי היא שההבנה של חוק הטבע הכללי מתוך העובדות שצפינו בהן היא הליך שלא יכול להיות מוסבר על ידי חשיבה גרידא, שהרי החשיבה כשלעצמה יכולה לקחת אותנו לאינספור כיוונים ואין שום סבירות שנגיע לכיוון הנכון. המוצא המתבקש הוא שהאינטואיציה היא סוג של התבוננות או תצפית על העולם. אנחנו כביכול 'רואים' את התיאוריה הנכונה דרך העובדות שבהן צפינו בחושים. בטורים 494 – 496 ובטור 502 שממשיך אותם, עמדתי על כך שזו הפתרון הסביר היחיד לבעיית הסינתטי-אפריורי של קאנט, ובטורים 155 – 160 הראיתי שזוהי הנחה הכרחית לכך שתחום הפילוסופיה בכלל קיים במובחן ממדע.[4]

חשוב להבין שה'ראייה' השכלית הזאת יש בה ממד יצירתי. היא אינה תצפית פסיבית (עוד חוש), שכן יש בה גם ממד כעין חשיבתי, אבל יש בה גם ממד הכרתי. בלעדיו אין אינטואיציה. מעצם הגדרתה זו לא יכולה להיות יכולת חישובית, שכן אם היא הייתה כזאת אזי הדרך מהנתונים האמפיריים לתיאוריה או להבנה האינטואיטיבית שלהם, הייתה חשיבתית בלבד. די היה בנתונים בלבד כדי להסיק בצורה מכנית את המסקנה. האינטואיציה עושה משהו מעבר לחישוב שמבוסס על אוסף הנתונים, אחרת באמת היא הייתה חשיבה טהורה. כאמור, יש בה ממד מכיר.

לאור זאת, העלה טירגיץ בטוקבקים לטורים הקודמים (ראו כאן וכאן) שאלה חשובה מאד. אם אכן, יש ממד תצפיתי באינטואיציה, לא נראה שמכונה חושבת תוכל לחקות זאת. מכונה יכולה לעבד את הנתונים שהיא מקבלת ולהגיע למסקנה כלשהי, אבל אין לה יכולת להתבונן באידאות. גם אם נבנה לה חושים כמו אלו שלנו, היא תוכל לצבור עוד נתונים, אבל לא לעבד אותם ולשייך אותם לרעיונות ומושגים מופשטים. תיאורטית אולי ניתן היה לחקות גם את החוש הזה שיש לנו, אבל אם הוא אינו חוש שישי רגיל אלא משהו שכולל גם ממד חשיבתי-יצירתי זה לא יכול לקרות. אם תהיה מכונה שיש לה גם את היכולת הזאת, אזי אנחנו נצטרך לטעת אותה בתוכה. זו לא תתקבל כתוצאה מאימונים של רשת נוירונים על דוגמאות שונות, שכן האימונים רק מעצבים את רשת הנוירונים ויוצרים מכונה חישובית טובה יותר. צעד לא חישובי לא יכול להיעשות על ידי מכונה.

במילים אחרות ניתן אולי לומר שמכונה חושבת לא תוכל ליצור פילוסופיה, שכן אין לה את היכולת לצפות באידאות. היא תוכל כמובן להיות פרופסור לפילוסופיה, וכך באמת נראים המאמרים שנוצרים על ידה (ראו בטורים הקודמים את הגנריות והשבלוניות של התשובות שלה).

דברים אלו נקשרים גם לשאלת העקיבה אחרי כלל (following a rule) של ויטגנשטיין שמוצגת במאמרו של רייס שנדון בטור 591. גם שם הטענה היא שעקיבה אחרי כלל תמיד מניחה סוג של אינטואיציה שלא ניתן להעביר אותה בצורה אלגוריתמית. אמנם אנחנו יכולים ללמד תוכנה לעקוב אחרי כללים, אבל זה נעשה בדרך של אימון שמביא אותה להיות בנויה כמונו בהבנת הכללים. זה לא באמת להעביר ולהנהיר לה את משמעותו של הכלל עצמו. לא ברור האם ניתן להבהיר לה כלל חדש, כלומר כלל שלא הוכנס אליה דרך המבנה שלה או שלא בנוי על בסיס צירוף פשוט של כללים שהוכנסו אליה.

סיכום

אתם יכולים לראות שאין לי טיעון חד משמעי בעד או נגד הניבוי שמכונות יוכלו להחליף אותנו לחלוטין. הראיתי במה תלויה השאלה הזאת ומהן השלכותיה, אבל מהי התשובה איני יודע. השאלה המהותית תלויה בשאלה כיצד אנחנו מבינים את הכושר האנושי שמכונה 'אינטואיציה'. כך, למשל, מי שמאמין שתחום הפילוסופיה מוגדר במובחן מתחומי המדע (זהו תחום של תצפיות שכליות באידאות), בעצם מניח שמכונות לא יוכלו להחליף אותנו כי הן לא יודעות לעשות פילוסופיה אלא רק לאסוף נתונים ולנתח אותם. מי שחושב שבקפיצת הפרדיגמה המדעית מהעובדות לתיאוריה (ובפרט בקפיצות מחשבתיות כמו שרואים בתורות הקוונטים והיחסות) יש ממד יצירתי, גם הוא כנראה יסבור שמכונות לא יוכלו לעשות זאת ברוב המקרים.

ככלל, ראינו שעקרונית תוכנה תוכל אולי לחקות כל הליך חישובי (אף שאין לנו הגדרה ברורה מהו בדיוק הליך כזה). אבל הליכים לא חישוביים, אם בכלל ישנם כאלו, הם ייחודיים לאדם. מעבר לזה, ראינו שגם בהליכים חישוביים האדם לא תמיד פועל בצורה חישובית. לפעמים הוא מקצר את הדרך באמצעות האינטואיציה שלו. אבל זה רק קיצור דרך ולא יצירתיות מהותית. אם כי הערתי שאפילו בזה לא ברור שמכונות יוכלו תמיד להחליף אותנו, שכן הקיצור הזה עצמו הוא פרי יצירתיות כלשהי, ולא ברור האם מכונה תוכל לעשות זאת. נכון שאם מדובר בהליך חישובי המכונה תמיד תוכל לערוך את החישוב על ידי מעבר על כל האפשרויות, אבל זה תלוי במשאבים של חישוב וזמן ולא ברור האם מכונות עתידיות יוכלו לטפל בכל בעיה ללא תלות בכמות של משאבים שדרושים לפתרונה. אבל זהו הבדל לא מאד מעניין ברמה הפילוסופית (אם כי מאד מעניין פרקטית). השאלה הפילוסופית היא האם ישנו הבדל עקרוני ואיכותי בין אדם למכונה, מעבר להבדלים כמותיים לכאן או לכאן.

[1] כבר הזכרתי שתוכנות בינה מלאכותית שפותחו בעמק הסיליקון הן בעלות נטייה שמאלה, שכן הסביבה שמזינה אותן היא בעלת השקפות שנוטות שמאלה. ראיתי לפני כמה חודשים מישהו ששאל את ChatGPT לדעתה על הרפורמה המשפטית, וקיבל את התשובות המצופות מתוכנה שמאומנת בסביבה 'שמאלנית'.

[2] אגב, יש מקום לטענה שאם התוכנה היא שהורגת את האדם האחד אין בזה בעיה מוסרית כי היא מכונה ולא אדם (על מכונה אין איסור רצח), ולכן לגבי מכונות יש להתחשב רק בשיקולי תוחלת הרווח במונחים כמותיים של חיי בני אדם. אמנם יש גם מקום לראות את המתכנת או המשתמש במכונית כאחראי (ראו בטור הנ"ל את ההבדל בין כטב"מ לכטמ"מ בז'רגון הצבאי).

[3] זו אינה בעיה ממשפחת ה-NP-Complete  הידועה, שכן שם בבירור מדובר בבעיות חישוביות, אלא שכוח וזמן החישוב הדרושים לפתור אותן הם עצומים (אקספוננציאליים ומעלה). זה מה שקרוי בעיות לא חישוביות במדעי המחשב. ככל שאני מבין, חוקרים במדעי המחשב אינם יודעים להגדיר חישוביות במובן המהותי שעליו אני מדבר כאן (זהו אחד האתגרים בטיפול שיטתי בתזה של צ'ירץ'-טיורינג שהוזכרה בטור הקודם). אני מדבר על משהו שלא ניתן בכלל 'לחשב' אותו (ייתכן שאפילו לא בזמן אינסופי ממש, עד כמה שניתן בכלל להגדיר קטגוריה כזאת).

[4] ראו גם בטור 268 הערה 10, שם הערתי שאינטואיציה אינה תוצר של ניסיון.