מה יהיה שונה ללא נשמה/בחירה חופשית

אוקי, תודה.
זה אומר שהיינו פועלים ללא רצון חופשי (כמו מכונות), בוחרים אותן בחירות, ומרגישים כאילו אנחנו בוחרים חופשית ויש לנו נשמה.
אז איך אפשר להסתמך על האינטואיציה שיש לנו בחירה, אם אנחנו מודעים לזה שהאינטואיציה קיימת גם שאין בחירה?

ושאלה תיאורטית נוספת דומה. אם אלהים היה "נעלם". האם העולם ללא אלהים היה מתנהג אותו הדבר כמו עולמנו? או אולי העולם לא היה ממשיך להתקיים?

מי אמר שהיינו מרגישים שיש לנו בחירה? אני לא כתבתי דבר כזה.
השאלה השנייה אינה מוגדרת. לא יכול להיות עולם בלי אלוהים. מעבר לזה, אלוהים הוא הכרח המציאות. ומעל הכל, איך אני יכול לדבר על מציאות היפותטית כזאת?

עכשיו שאנו רואים בבינה מלאכותית , סוג של תבונה ונראות חיצונית של "רצון ובחירה חופשית" "מוסר" (יצא מאמר על מודלים שמרמים) ו"תודעה" (אין לנו מושג איך תודעה נראית מבפנים אבל אם מישהו מתבטא כבעל תודעה – אנו מניחים שיש לו תודעה) – האם נחיל על בינה מלאכותית את כל מה שהסקנו מבחירה אנושית? (לדוגמא: נשמה) או שנגיד שיתכן טוב ורע גם ללא בחירה?

בקיצור איך נראה הדיון על בחירה חופשית ורצון בהינתן בינה מלאכותית יוצרת Generative AI?

לא רואה שום שינוי בדיון. אנחנו יודעים בדיוק מה יש במכונה ההיא וכיצד היא מייצרת את תשובותיה ולכן ברור שאין שם תודעה ולא ממד מנטלי. בני אדם שנוצרו כמוני, נראים כמוני מתנהגים כמוני, כנראה יש אצלם ממד מנטלי כמוני.
העובדה שמשהו מחקה משהו אחר לא אומרת שהם זהים.

> אנחנו יודעים בדיוק מה יש במכונה ההיא וכיצד היא מייצרת את תשובותיה
ועדיין אנו לא יודעים לחזות את התשובות, כך שברור שהידע שלנו חסר ולכן לא נוכל לגזור מסקנות החלטיות מידע זה.

> לכן ברור שאין שם תודעה
בספר החדש של ריי קורצווייל מהשנה – הסינגולריות קרובה יותר הוא לדעתי מוכיח אחרת, אני יכול לחפש את העמודים אם זה רלוונטי. אבל בעקרון חווית התודעה היא סובייקטיבית אין לנו הוכחה אובייקטיבית שלאחר יש תודעה חוץ מטענתו – ולכן מרגע שהמכונה תטען שיש לה תודעה – לא תוכל להוכיח שהיא משקרת.

> בני אדם שנוצרו כמוני, נראים כמוני מתנהגים כמוני, כנראה יש אצלם ממד מנטלי כמוני.
העובדה שמשהו מחקה משהו אחר לא אומרת שהם זהים.
זה לא סתירה? נניח שלי אין ממד מנטלי אבל אני מתנהג כמוך אפילו מחקה אותך, אז זו ההוכחה שיש לי ממד מנטלי? ואם כן אז הרגע הוכחת שלמכונה יש מימד מנטלי …

אני גם לא יודע לחזות את בעיית שלושת הגופים. לכן יש לגופים החומריים נשמה? מה הקשר? גם כאוס אינו ניתן לחיזוי, אז מה?
אנחנו יודעים בדיוק מה יש במכונה וכיצד היא מייצרת את התשובות, בדיוק כמו שאנחנו יודעים את מה שיש במערכת כאוטית למרות שאיננו יודעים לחזות את התוצאות. אז מה?
ריי קורצווייל הוא אחד מגדולי הקשקשנים עלי אדמות. אם תביא לי טיעון כלשהו ניתן יהיה לדון, אבל לעשות אד הומינם על ריי קורצווייל זו בדיחה גרועה.
זה שאין לנו הוכחה לא אומר כלום. אין לנו הוכחה לשום דבר. אז מה? יש שכל ישר והיגיון בריא. כשהמכונה תטען שיש לה תודעה אני אניח שהיא משקרת. נכון, לא אוכל להוכיח זאת. אני גם לא יכול להוכיח שלי יש תודעה או שלך. זה ממש לא מטריד אותי.

שאלתך האחרונה מורכבת ממילים שלא מתחברות לכלל טענה. הסברתי היטב מדוע לדעתי לך יש תודעה ולמכונה לא. אם אתה רוצה לשאול משהו כדאי לנסח אותו היטב.