אדם ומכונה תושיע ה': א. מבט ראשוני על מחשב (טור 694)

בס"ד

בטורים 35 ו-175 עסקתי בהגדרתם של אינטליגנציה ושל שיקול דעת. עמדתי שם על ההבדל ביננו לבין יצורים או עצמים אחרים שלא ניתן לראות אותם כאינטליגנטיים מפני שאינם שוקלים בדעתם אלא פשוט מתנהלים לפי טבעם. טענתי הייתה שחסר שם ממד של שיקול דעת, ואין שם מאומה מעבר לחישוב מכני. בטורים 590 – 592 (וגם בראיון עמי כאן) דנתי במעמדם של מודלי AI, משתי בחינות: האם יש משהו שאנחנו יודעים לעשות והם לא, ועד כמה ניתן לראות אותם כבני אדם (כלומר האם יש הבדלים מהותיים בינם לביננו, בלי קשר להבדלי היכולות). לפני כמה ימים ראיתי סרטון על חישוב בשלבים של מודל דיפסיק שיצא כעת לשוק, והוא פתח לי פתח להיבט מעניין של הסוגייה הזאת שמחבר את שני הדיונים הללו. כל זה עוסק בשאלה האם המכונה היא אדם ולכן רציתי לגעת בה כאן שוב. במקרה הגיעו אליי ממש בעת הכתיבה שאלות מתלמיד לשעבר, שעסקו בשאלה ההפוכה: האם האדם הוא מכונה.

בסופו של דבר יצאה לי סדרה של שלושה טורים. בטור הזה אני מתאר את הבעיה באופן כללי ונכנס לתיאור פעולתו של מחשב רגיל. בטור הבא אעסוק ברשתות נוירונים, ושם אשווה בינן לבין חישוב קלסי כפי שהוא מתואר בטור הזה. הבנה טכנית מסוימת נחוצה לבירור הטענות העקרוניות, ולטובת מי שאין לו היכרות עם התחום הוספתי תיאורים סכמטיים ופשוטים של אופן פעולתן של המכונות הללו. למרות שאני ממש לא מומחה, אני מקווה שלא טעיתי מדיי. בכל אופן, דומני שזוהי הזדמנות טובה למי שאינו מכיר לערוך היכרות כזאת. הטור השלישי והאחרון יעסוק בשאלה ההפוכה.

הטיעון היסודי

את נקודת הפתיחה לדיון ניתן להציג באמצעות שני ניסויים מחשבתיים, ולכן על אף שהם כבר נדונו כאן בעבר אחזור עליהם בקצרה. הניסוי הראשון הוצע על ידי אלן טיורינג, שהציע מבחן שיקבע מתי תוכנה יכולה להיחשב כאדם: אם אני אשב בחדר ומולי שני מסכי מחשב. אחד מהם מחובר לאדם והשני לתוכנה. אני אשוחח עם שניהם ולא אוכל לקבוע מאחורי מי מהם ניצב האדם ומאחורי מי מחשב, או אז המחשב הזה יכול להיחשב כאדם. הניסוי של טיורינג בודק יכולות, כלומר זהו מבחן שמדגים לנו מתי המחשב יכול להיחשב כמי שעושה מה שעושה אדם אינטליגנטי.

שלב נוסף בדיון הוא דוגמת החדר הסיני של ג'ון סרל, שנראית דומה אבל מדגימה נקודה שונה. חשבו על אדם שאינו דובר סינית שיושב בחדר עם שני חלונות, ולידו חבית אינסופית עם אותיות סיניות. מחלון אחד מכניסים אליו שאלות כתובות בסינית, ומהחלון השני הוא מוציא תשובות שכתובות בסינית שאותן הוא מרכיב סתם כך מהאותיות במיכל שלידו. כל פעם שהתשובה שלו אינה מתאימה לשאלה הוא מקבל מכת חשמל כואבת, ומנסה שוב. סרל טוען שאם יש לו אינסוף זמן בסופו של דבר הוא ידבר סינית. במילים אחרות, הוא יעבור את מבחן טיורינג.

החדר הסיני אינו בוחן את הגדרותיהם של אדם או של חשיבה, אלא את הגדרתה של הבנה. האימון שעובר אותו אדם מובן לנו כיום בקלות, שכן זה מזכיר מאד את צורות האימון המקובלות שעוברות תוכנות ה-AI  החדשות. בטור הבא נראה שכך בדיוק מאמנים אותן, ובסופו של דבר הן אכן משוחחות עמנו כמו בשיחה רגילה שאנחנו מנהלים עם בני אדם. הניסוי של סרל נעשה כיום באלפי מקומות ברחבי העולם, שוב ושוב, והוא אכן מצליח יותר ויותר. המסקנות הן שאכן ניתן לאמן תוכנה שתגיע ליכולת שיחה של אדם ותעבור את מבחן טיורינג. אבל עדיין נותרת כאן שאלה שאותה מעלה החדר הסיני: האם אותו אדם (או המחשב שעבר את מבחן טיורינג) מבין סינית? ההנחה היא שלהיות אדם כרוך בהבנה ולא רק בשימוש נכון בשפה. המסקנה היא שאמנם אין לנו תשובה ברורה לשאלה האם אין שום דבר שאנחנו יודעים לעשות והמכונה (העכשווית) לא, אבל את מבחן טיורינג המכונות של היום עוברות בקלות. חשוב להבין שלא מדובר כאן רק בשאלה של יכולות אנושיות. גם בהנחה שהמכונה עוברת את מבחן טיורינג ומנהלת שיחה אינטליגנטית כמו אדם, עדיין ניתן לשאול האם היא "מבינה" את מה שמדובר בינינו, או שזהו רק חיקוי (הסרט הידוע על טיורינג נקרא 'משחק החיקוי') טכני של פעולות של בני אדם, אבל אין מאחוריו הבנה ומודעות. לדבר כזה קשה לקרוא הבנה ו/או שיחה. קשה לומר שהאדם בחדר הסיני באמת יודע סינית. זוהי לכל היותר פעולה טכנית של החלפת מילים או חיקוי של דוברי סינית. איני אומר את זה בגלל שהיכולת של המכונה נופלת מזו שלנו כבני אדם (היא לא), אלא בגלל אופי פעולתה.

ויטגנשטיין על משמעות ושימוש

בשיחתי עם שראל ויינברג עלתה לדיון סוגיית המשמעות והשימוש מבית מדרשו של ויטגנשטיין. ויטגנשטיין טען שאין להבחין בין משמעות של טענה לבין השימוש בה, כלומר שאם אנחנו יודעים להשתמש בה פירוש הדבר שאנחנו מבינים אותה. זה נאמר כמובן הרבה לפני סרל וכנראה אפילו לפני טיורינג, אבל דבריו מאד משפיעים על החשיבה עד ימינו, והדיון המחודש בהם מתבקש כעת לאחר עליית מודלי ה-AI החדשים. מתוך התיאור שלי עד כאן עולה בבירור שהמודלים הללו יודעים להשתמש אבל לא ממש מבינים.

יתר על כן, באותה שיחה גם אמרתי לו שלדעתי גם ויטגנשטיין עצמו לא באמת זיהה משמעות עם שימוש. ויטגנשטיין המוקדם מסיים את הטרקטטוס הלוגי-פילוסופי שלו במשפט הידוע: "על מה שאין לדבר עליו על אודותיו יש לשתוק". כלומר הוא טוען שיש רובד של משמעות מעבר לשימוש, אלא שאין לנו דרך לנסח אותו כשלעצמו ולדון בו (קצת בדומה לדבר כשלעצמו, הנואומנון של קאנט). ויטגנשטיין רק טוען שכל מה שניתן לדבר עליו הוא השימוש והתיאור ולא המשמעות. המשמעות היא הדבר שמתואר, ולכן מעצם הגדרתו אין לנו אפשרות לדבר עליו. אבל זה לא אומר שאין דבר כזה. להיפך, השימוש מעיד על משמעות ולא כפשטות דבריו שהוא הוא המשמעות. ויטגנשטיין המאוחר (במחקרים פילוסופיים) היה עוד פחות אנליטי ופוזיטיביסטי, ולכן שם עוד יותר סביר שלדעתו יש רובד של משמעות מעבר לשימוש. דומני שטיעון העקיבה אחרי כללים (following a rule. ראו עליו בטור 482 ועוד) הידוע שלו מדגים זאת היטב.

בעצם זה אינו עניין לוויכוח. אין דבר כזה שימוש בלי שהוא מייצג משמעות. כללי השימוש משקפים משמעות, ובלי זה לא יכולנו לפעול על פיהם. אנשי הלמדנות הבריסקאית רגילים לומר שאיננו שואלים "למה?" אלא רק "מה?". כלומר אנחנו רק מתארים ולא מנסים להבין. זהו כמובן הבל גמור. אין דבר כזה לשאול רק "מה?" בלי "למה?". ה'מה' מבטא תפיסות לגבי ה'למה'. בלוגיקה מחלקים בין שני מישורים בשפה (פורמלית או לא): הסמנטיקה והסינטקס. הסינטקס הוא המבנים הצורניים (פורמליים) של השפה, והם קובעים את השימוש בה. הסמנטיקה היא המשמעות של הדברים. אמורה להיות הלימה בין סמנטיקה לסינטקס (ישנם משפטים בלוגיקה שמדברים על נאותות והלימות של היחס בין שני אלו), שכן האחרון מבטא את הראשון.

אם נשוב לחדר הסיני, אותו אדם עושה שימוש בשפה הסינית ללא הבנה שעומדת מאחוריה. לכאורה נראה שניתן לנתק בין שני אלו. זה אכן מה שקורה גם לגבי מחשבים. אבל האם זה אומר שם אצלנו זהו המצב? או לחלופין, האם מתוך ההשוואה הזאת ניתן להסיק שמחשב גם הוא אדם?

ההשוואה לבני אדם

בהנחה שהיכולות של המכונה בכל התחומים אינן נופלות מיכולות אנושיות, מדוע בכלל יש מקום לדיון האם מדובר באדם או לא. כפי שהסברתי, מה שחסר הוא המערך המנטלי שמאחורי השיחה, כמו ההבנה הקוגניטיבית שמאחורי החלפת המשפטים הסיניים. ההבנה והמשמעות (הסמנטיקה) שביסוד השימוש (הסינטקס). העובדה שהמכונה מחקה בני אדם, גם אם היא עושה זאת בהצלחה רבה, לא אומרת שבהכרח מדובר באדם. הטיעון שמשתמש בזה כדי להוכיח שהמכונה היא אדם, מזכיר לי בדיחה מרושעת על חשבון החסידות: למה אי אפשר להתחפש לאדמו"ר בפורים? מפני שאם תלבש מלכות ותלווה בשני בריונים חבושי כפתנים ותיסע במרצדס, או אז אתה באמת אדמו"ר (ולא רק מישהו שהתחפש לאדמו"ר). הטענה הזאת בעצם אומרת שמאחורי האדמו"רות אין שום תוכן. זוהי פסאדה שלא מבטאת מהות. הוא הדין לגבי האדם בחדר הסיני או המכונה של טיורינג, מדובר בפסאדה שמחקה בני אדם אבל אין מאחוריה מהות. ברוך השם שבני אדם אינם אדמו"רים, ולכן לגביהם בהחלט יכול להיות הבדל בין החיקוי למקור.

אז למה בכל זאת יש רבים שסוברים שמכונות (עקרונית, גם אם לא בהכרח המכונות שכבר קיימות) כן יכולות להיות סוג של אדם, גם אם הוא עשוי מברזלים? זה כמובן תלוי בתפיסתנו את ייחודו והערך המוסף של האדם. ניתן להעלות לטובת העניין הזה כמה הנמקות שונות, ותמיד שוברן בצדן. אביא כאן שלוש כאלה:

1. הטענה: התודעה שלנו אינה מהותית להיותנו בני אדם. היכולות הן החשובות והן שנותנות לנו את הערך המוסף האנושי. לכן כשלמכונה יש אותן יכולות היא בעצם זכאית להיחשב יצור אנושי.

ושוברה: טענה זו מאד מוזרה, שכן יכולות במובן הזה יש גם למים ולאוויר. הסברתי שמים פותרים משוואות מאד מורכבות שבני אדם לא מתקרבים ליכולת לפתור אותן. הזרימה של המים מתוארת על ידי פתרונות שאין לנו יכולות מתמטיות להגיע אליהם. האם זה אומר שהמים גם הם אדם? מהו ההבדל העקרוני בין מחשב לבין מים? ואם תרצו בעלי חיים, חשבו על יכולת ניווט של ציפור. האם נכון להסיק מכך שיש לה אינטליגנציה גבוהה משלנו? ממש לא. היא פשוט עושה מה שבטבעה ולא באמת פותרת בעיות. ממש כמו מים. בטוריי הנ"ל הסברתי שיכולות כאלה אינן אינטליגנציה.

2. הטענה: אין בכלל ערך מוסף לבני אדם. אדם הוא כמו חיה או מכונה, ואין סיבה להבדיל ביניהם למרות ההבדלים (אם בכלל ישנם הבדלים מהותיים). המהדרין בגישה זו יאמרו שלאדם אין ממד מנטלי, וגם התנהלותו אינה אלא אוסף של פעולות חישוב טכניות. אדם הוא בעצם סוג של מכונה מבשר ודם.

ושוברה: מעבר לטענה המוסרית שרואה ייחוד בבני אדם, כבר עסקתי לא פעם בטעות המוזרה הזאת של המטריאליסטים, שמזהים פעולות ומצבים מנטליים כמו אהבה, פחד, פתרון משוואות, זכירה וכדומה, עם זרמים חשמליים במוח. ראו על כך למשל בטור 593 בתיאור שיחתי עם יוסף נוימן.

3. הטענה: מכונות שהגיעו ליכולות אנושיות כנראה פיתחו גם מודעות ותודעה (כלומר נוצר אצלם ממד מנטלי בדומה לזה שלנו), ולכן הן בעצם הפכו לבני אדם כמונו.

ושוברה: ההנחה (המוזרה) שביסוד גישה זו היא שהמודעות אינה אלא תוצר של היכולות ולא עוד משהו בלתי תלוי. לכן למי שיש יכולות אנושיות בהכרח יש גם תודעה וממדים מנטליים כמו בני אדם. אגב, מכאן יכולה לעלות המסקנה שבני אדם עם יכולות ירודות במיוחד אולי אינם בני אדם במובן הזה. בניסוח מתון יותר, ישנה אפשרות שהתפתחה שם תודעה, גם אם זה לא יקרה בהכרח. תיאורטית זה יכול להיות נכון, אבל זה מאד בלתי סביר. למה שלמחשב תתפתח תודעה, ולעץ או מים לא? ואולי לכל הדברים כולם באמת יש ממד מנטלי? (ראו דיון הזוי בכיוון הזה בטור 690).

מכאן גם עולה שאפשר להגדיר אהבה (במובן הרומנטי והמהותי) כלפי מכונה (עיין ערך she), שראוי לדאוג לזכויותיה וכדומה. לפני כמה שבועות קראתי מאמר (עכשיו איני מוצא אותו) שמדבר על החובה שלנו לדאוג לזכויותיהן של תוכנות ה-AI. אמנם זוהי אזוטריקה קצת מופרעת, והגישה הרווחת כמובן אינה כזאת (יש כמה אנשי בינה מלאכותית או עתידנים הזויים כמו ריי קורצווייל, שאוהבים להשתעשע בספקולציות, בדרך כלל מאד טיפשיות ומופרכות, שלכאורה מאתגרות את המחשבה שלנו). ראו למשל בחוברת הזאת וגם כאן, שבהן ניתן להתרשם שההנחה הפשוטה היא שאין דבר כזה, ומכונה לא יכולה להיחשב אדם. הדיון שם הוא אך ורק בשאלה כיצד להגן על זכויותיהם של בני אדם נגד נזקים צפויים ממודלים של AI.

עד כאן דברים שכבר עסקתי בהם בעבר. כדי להבין את הנקודה הבאה עלינו להכיר צעד נוסף שעשו מודלים של AI ממש בזמן האחרון. אבל אקדים לזה תיאור סכמטי על אופן פעולתם של מחשבים בכלל. בטור הבא אעבור למודלים החדשים הללו כהמשך האבולוציה שעשה המחשב עד שהגיע למצב שבו אנשים מתלבטים האם יש לראות אותו כאדם. אני מבקש סליחה מראש מיודעי ח"ן שמתמצאים בנושא המחשבים (בטח יותר ממני), אבל התיאור הזה נצרך בכדי לגבש עמדה בסוגיות הללו.

מהו מחשב?

כדי להבין מהו בעצם מחשב, אשתמש במודלים פשוטים שמתארים את מהות פעולתו. נניח שאנחנו רוצים לבנות מכונה שתדע לחבר שני מספרים. לצורך הפשטות נבנה מכונה שמחברת את 0 עם 1. כלומר מכונה שמקבלת כקלט את צמד המספרים 0 ו-1 ומוציאה כפלט 1. נניח שהמספרים 0 ו-1 מיוצגים על ידי מתח חשמלי של 0 או 5 וולט. מחשב שיבצע את הפעולה הזאת הוא מעגל חשמלי שיקבל כקלט בחוט אחד 0 וולט ובשני 5 וולט, וידאג לכך שהנורה בפלט תדלוק. זה מספיק כדי להבין את העיקרון, אבל למי שקצת מכיר, הרי לכם מעגל חשמלי פשוט שמבצע את הפעולה הזאת:

מצד שמאל יש סוללה של 5 וולט. מצד ימין יש נורה שנדלקת אם המעגל החשמלי נסגר עם הסוללה. בשני הענפים של הקו העליון יש מפסקים. הקלטים נכנסים אל המפסקים, כך שכשהקלט למפסק הוא 1 (5 וולט) המפסק סגור (מחובר), וכשהקלט 0 המפסק פתוח (מנותק). החיבור כאן נקרא 'חיבור מקבילי', ובחיבור כזה כדי שהמעגל ייסגר והנורה תדלוק די לנו שלפחות אחד משני המפסקים ייסגר (או שניהם). אתם מבינים שאם הקלט הוא 1 ו-0 אזי המפסק של האחד יסגור את המעגל והשני יישאר מנותק. התוצאה תהיה 1 (הנורה תדלוק). נראה כמעט בנאלי, אבל שימו לב שזהו בעצם מחשב מאד פרימיטיבי. המחשב הזה ביצע את הפעולה 1+0, אבל הוא גם מבצע נכון עוד שתי פעולות חיבור: 0+1 וגם 0+0. אם תבדקו תראו שהתוצאה יוצאת נכונה. אבל הפעולה 1+1 תיתן כאן נורה דולקת כלומר 1, בעוד שהתוצאה היא 2 (כלומר 10 בשפה בינארית). לכן ה'מחשב' הזה אינו מחשב חיבור מלא אפילו לא לקבוצת המספרים המצומצמת {0,1}. הוא מבצע שלוש מתוך ארבע פעולות החיבור.

אם נרצה לבנות מחשב שעושה את פעולת החיבור המלאה, עלינו לדאוג לכך שהוא יוציא תוצאה נכונה עבור כל קלט. יתר על כן, אם נרצה חיבור של מספרים בכל אורך שהוא (לא רק ספרה אחת) עלינו ליצור שורה של מחברים כמו זה שתואר כאן, שיעשו את החיבור המלא בכל ספרה לחוד עם העברת השאריות. כאן אין מקום לפרט, אבל לאור מה שראינו כאן ברור שעקרונית אין בעיה לעשות זאת. עלינו לזכור שכל מספר יכול להיות מיוצג על ידי סדרת ספרות 0,1 (זה נקרא בסיס בינארי), אזי ניתן לבנות מעגל שמקבל שני מספרים בכל אורך שהוא, ומחבר אותם זה עם זה, כלומר מוציא את התוצאה הנכונה עבור הסכום שלהם (סדרת נורות שדולקות או כבויות באופן שמייצר סדרת 0,1 שמייצגת את מספר התוצאה). זהו כבר מחשב יותר משוכלל שיודע לחבר מספרים.

באותה צורה ניתן לבנות מחשב שמבצע פעולות נוספות, כמו כפל, חילוק, העלאה בחזקה וכדומה. הנה למשל מחשב לביצוע פעולת כפל. המעגל החשמלי הבא עושה במדויק פעולה של כפל בין כל שתי ספרות מתוך {0,1}:

כאן המפסקים מחוברים בטור, ולכן הנורה תדלוק רק כאשר שני הקלטים הם 1. ואכן תוצאת הכפל בכל המקרים האחרים היא 0.

כעת חשבו על מחשב שעושה גם כפל וגם חיבור. הוא יצטרך להיות בנוי מיחידות שונות שעושות את שתי הפעולות הללו. וכך לגבי עוד פעולות נוספות. ביצוע של הרבה פעולות ידרוש יותר מעגלים מהסוג הזה, אבל זו רק שאלה של מורכבות. העיקרון הוא אותו עיקרון.

יש כמובן גם פעולות לא אריתמטיות שניתן לבצע באופן דומה. לדוגמה, מחשב שמשחק שח צריך להיבנות כך שהוא מקבל כקלט מצב לוח ומוציא כפלט מהלך. אם מצמידים מספר לכל כלי ולכל משבצת הרי שכל מצב לוח יכול להיות מיוצג על ידי מספר כלשהו, והמשימה הופכת להיות הוצאת פלט מספרי כתגובה למספר הקיים. זה ייתן לנו מצב חדש (זו כמובן דרך מסובכת להפליא ולא באמת הגיוני לבנות מחשב שישחק שח בצורה כזאת). אבל עקרונית גם את המעגלים הללו ניתן לצרף למחשב שלנו שכעת כבר יכול גם לחשב חישובים מתמטיים וגם לשחק שח.

מה שתיארתי עד כאן הוא מחשב לכל דבר, גם אם פרימיטיבי. אבל חשוב להבין שבפועל המחשבים שלנו לא באמת בנויים כך. בתיאור כאן כל פעולה דרשה חומרה אחרת, כלומר מעגל נפרד שמבצע אותה. מחשב מודרני בנוי כך שאותו מכשיר עצמו יבצע הרבה מאד פעולות שונות. לבנות אותו בדרך כזאת זה מאד בזבזני. יידרשו בו מיליארדי מעגלים שונים שבנויים בצורות שונות, וכל אחד מהם מתוכנן לבצע פעולה אחרת. מחשב מהטיפוס שתיארתי כאן לא יכול לבצע פעולה שלא הוטמעה בו בבנייתו, ואם רוצים שאותו מכשיר יבצע הרבה פעולות, גם כאלו שלא הטמענו אותן במבנה שלו מראש, דרושה לוגיקה אחרת.

הלוגיקה של מחשב ספרתי היא שונה. יש לו מבנה כללי אחד (זוהי החומרה שלו), וההבדל בין הפעולות השונות מושג על ידי תוכנות שונות. לכל פעולה ניתן לכתוב תוכנה שאחראית על ביצועה. התוכנה נותנת הוראות שונות לחומרה הכללית הזאת, כדי לבצע את הפעולה שעליה היא אחראית. יש תוכנה לחיבור, לכפל, למשחק שח וכדומה, וכולן משתמשות באותו מבנה של חומרה. כך נוצר החיבור וחלוקת העבודה בין תוכנה לחומרה. שימו לב שאנחנו משתמשים באותו מחשב, אבל כל פעולה דורשת הפעלה של תוכנה שונה. לכן עדיין מדובר במכשיר שונה לכל פעולה, אלא שהמכשיר השונה הוא החומרה והתוכנה גם יחד.

תוכנת מחשב מורכבת מאוסף הוראות שמקבל המחשב שמטרתן לבצע פעולה מוגדרת. החשיבה כיצד לעשות זאת (האלגוריתם) היא עניינו של המתכנת. הוא כותב את סדרת ההוראות שמתוכננת על ידו בכדי להשיג את התוצאה המבוקשת. במובן הזה המתכנת הוא זה שפתר את הבעיה, והמחשב רק עוקב אחרי ההוראות שהוא מקבל מהתוכנה. זה דומה לגמרי ליוצר המעגל החשמלי שתואר למעלה, שהוא זה שפתר את הבעיה ולא המחשב. ההבדל בין המחשב הפרימיטיבי ההוא למחשב ספרתי משוכלל אינו עקרוני לענייננו.

עד כאן תיאור סכמטי ושטחי מאד של מחשב ספרתי. כעת נוכל להעיר שתי הערות חשובות לגביו.

שני מאפיינים של מחשבים ספרתיים

שתי נקודות חשובות לענייננו, והן נכונות גם למחשבים הספרתיים המשוכללים ביותר:

• בכל המצבים הללו, הפתרון של הבעיה מוכנס למערכת על ידי מי שבונה את המכונה (או כתב את התוכנה). הוא כבר פתר את הבעיה מראש (בדוגמה למעלה, הוא יודע את תוצאת חיבורי המספרים השונים) ובונה את המכונה כך שתייצר בפועל (תממש) את הפתרון שלו. המכונה אינה פותרת בעצמה שום דבר. אז למה בכלל בונים מכונות כאלה אם אין בהן מאומה מעבר ללמה שיש בנו? מפני שמשימת חיבור של מספרים גדולים יכולה להיעשות על ידה במהירות רבה, מה שלמתכנת מאד קשה ולוקח המון זמן. המכונה עושה זאת על בסיס הידע של המתכנת. מה שהמתכנת הכניס למשחק הוא הידע לגבי חיבור שתי ספרות והידע כיצד מרכיבים חיבורים של ספרות לחיבור של שני מספרים גדולים. אבל עבור תרגיל ספציפי, נניח 2956*(149530+250611), המתכנת אולי יוכל לעשות זאת אבל זה ייקח לו המון זמן. המחשב יעשה זאת באלפיות שנייה, אבל הכל על בסיס הידע של המתכנת שהוטמע בו. זה הערך המוסף של מחשב מהסוג הזה.
• המחשבים שתיארתי אינם יודעים מהו 0 ולא מהו 1. הם מטפלים במתחים חשמליים, ואנחנו (המשתמשים) אלו שמתרגמים אותם לשפה של מספרים. המחשב גם אינו יודע מהו חיבור וגם לא מהי תוצאה. הוא בעצם לא באמת עושה פעולת חיבור. המחשב רק מזרים זרמים חשמליים מהכא להתם וזהו. האינטרפרטציה של מה שקורה שם, כלומר הפרשנות שהקלט החשמלי מייצג שתי ספרות והפלט החשמלי מייצג תוצאה, ושנעשית כאן פעולת חיבור, כולו מצוי אצל המשתמש ולא במחשב עצמו. המחשב הוא גולם מברזל, שאינו שונה מהותית ממערכת מעגלי החשמל אצלי בבית.

האם מחשב ספרתי יכול להיחשב אדם?

לאור מה שתיארתי עד כאן, ניתן לשאול האם מישהו מעלה בדעתו לראות במחשב ספרתי כזה אדם? האם מעגלי החשמל בבית שלי הם אדם? המכונות הפשוטות שתיארתי בשרטוטים שלמעלה ודאי אינן אדם. אלו יצורים מכניים שכולם פרי הידע והתכנון של היצרן והמתכנת. הם לא חושבים ולא מבינים אלא מעבירים זרמים. החשיבה והמשמעות של הדברים מתקבלת אך ורק אצל המשתמש. איני חושב שמישהו יחלוק על כך שסוללה עם שני מתגים ונורה אינה אדם.

מה יש במחשב ספרתי מעבר למעגל הפשוט שתיארתי? המחשב אינו אלא אוסף של המוני מעגלים חשמליים שעושים המוני פעולות שונות ונענים להוראות התוכנה שהוכנסה אליהם. נניח שהאוסף המורכב הזה, שיכול לתפוס שטח של מדינה שלימה או של כל הגלובוס, יכול לנהל שיחה אינטליגנטית אתי ולעבור בהצלחה את מבחן טיורינג. האם מישהו מעלה בדעתו לראות בדבר כזה אדם? מחשב כזה אינו שונה מהותית מהמעגל הפשוט שמוצג כאן למעלה, פרט למורכבות וסיבוכיות גבוהה יותר. הוא פשוט מכיל הרבה מאד מעגלים שונים מהטיפוס הזה. גם אם נעבור לצורה המודרנית והמתוחכמת יותר, זו שמשתמשת באותה חומרה ומבצעת פעולות שונות על ידי תוכניות שונות, האם לזה כן ייקרא אדם? נדמה לי שלאור מה שתיארתי קשה מאד לקבל את התזה של טיורינג. העובדה שכל הפעולות מבוצעות על ידי אותה מכונה לא הופכת אותה לאדם. זה הבדל טכנולוגי גרידא.

מה הייתם אומרים אם היינו מתרגמים את הפלט של המחשב הזה ובמקום לכתוב או להדליק נורות היינו גורמים לו לדבר את התוצאה (באמצעות מיקרופון ורמקול שיפיקו צלילי דיבור)? ואם היינו גם עושים לו צורת אדם? המחשב בצורת אדם הזה היה מקבל תרגיל מתמטי והיה עונה במילים 8 (זו תוצאת החישוב שהוא עשה). האם זה כן היה הופך אותו לאדם? לא סביר. זוהי מכונה מדברת בצורת אדם. למעשה, היא אפילו לא מדברת אלא רק משמיעה קולות. דיבור אינו רק השמעת קולות, אלא השמעת קולות שמייצגים ומעבירים תוכן מנטלי שנמצא בשכלם של שני הדוברים. בגולם שתיארתי כאן אין ממד מנטלי ואין שכל. אין בתוכו את התוכן המיוצג אלא רק את הייצוג (הספרות והאותיות). כפי שהסברתי, התוכן המנטלי שהפעולות והתוצאות הללו מייצגות נמצא אך ורק בשכלו של המשתמש, ואינו קשור למחשב עצמו. יש כאן ייצוג בלי מיוצג.

אנחנו רגילים לומר שמה שאדום מבפנים וירוק מבחוץ ויש לו גרעינים של אבטיח הוא ככל הנראה אבטיח. כך גם מה שמגעגע כמו ברווז והולך כמו ברווז הוא ברווז. אז זהו שלא. המכונה שלנו מדברת כמו אדם (אבל לא באמת מדברת) ועושה חישובים כמו אדם (אבל לא באמת חושבת) אבל היא אינה אדם. גולם שמניע שפתיים וכותב בדיוק מה שאדם כותב במצב כזה הוא עדיין גולם, גולם שמחקה בני אדם (כמו האדמו"ר מלמעלה). אבטיח מפלסטיק שאדום בתוכו וירוק מבחוץ ויש לו גרעינים של אבטיח, ואפילו אם תכניסו לתוכו טעם אבטיח שאטעם כשאוכל אותו, זה לא הופך אותו לאבטיח.

בהזדמנות זו, הרשו לי לא להתאפק ולהפנות אתכם לסרטון מדהים ששלחו לי לפני כמה ימים.

אני לא התאוששתי ממנו עד עצם היום הזה. הסרטון מתאר תהליך כעין אבולוציוני של 'חיות' מלאכותיות (שמכונות Strandbeests ), שאינן אלא אוסף של מוטות מחוברים זה לזה במפרקים שונים. היצורים הללו נעים ועפים ממש כמו בעלי חיים. הם גם עוברים אבולוציה שמסייעת להם להתמודד עם הסביבה (חול, רוחות, מים וכדומה) ולשרוד. בשלב כלשהו הוא יוצר להם אפילו מוח פרימיטיבי ופשוט (עם נוירונים מכניים. זה ממש שלב שלא יאומן) שיודע לקבל החלטות תנועה ולבצען. האם הייתם מתייחסים ליצור הזה כבעל חיים? הסתכלו בסרטון ותבינו שהתשובה היא שלילית בעליל. מבחינתי, לראות במחשב ספרתי אדם משול להתייחסות ל-strandbeest כבעל חיים.

בטור הבא אעסוק במכונות מסוג חדש: רשתות נוירונים, ובתרומתן לבירור הסוגיה של אדם ומכונה.