מה יהיה שונה ללא נשמה/בחירה חופשית

אוקי, תודה.
זה אומר שהיינו פועלים ללא רצון חופשי (כמו מכונות), בוחרים אותן בחירות, ומרגישים כאילו אנחנו בוחרים חופשית ויש לנו נשמה.
אז איך אפשר להסתמך על האינטואיציה שיש לנו בחירה, אם אנחנו מודעים לזה שהאינטואיציה קיימת גם שאין בחירה?

ושאלה תיאורטית נוספת דומה. אם אלהים היה "נעלם". האם העולם ללא אלהים היה מתנהג אותו הדבר כמו עולמנו? או אולי העולם לא היה ממשיך להתקיים?

מי אמר שהיינו מרגישים שיש לנו בחירה? אני לא כתבתי דבר כזה.
השאלה השנייה אינה מוגדרת. לא יכול להיות עולם בלי אלוהים. מעבר לזה, אלוהים הוא הכרח המציאות. ומעל הכל, איך אני יכול לדבר על מציאות היפותטית כזאת?

עכשיו שאנו רואים בבינה מלאכותית , סוג של תבונה ונראות חיצונית של "רצון ובחירה חופשית" "מוסר" (יצא מאמר על מודלים שמרמים) ו"תודעה" (אין לנו מושג איך תודעה נראית מבפנים אבל אם מישהו מתבטא כבעל תודעה – אנו מניחים שיש לו תודעה) – האם נחיל על בינה מלאכותית את כל מה שהסקנו מבחירה אנושית? (לדוגמא: נשמה) או שנגיד שיתכן טוב ורע גם ללא בחירה?

בקיצור איך נראה הדיון על בחירה חופשית ורצון בהינתן בינה מלאכותית יוצרת Generative AI?

לא רואה שום שינוי בדיון. אנחנו יודעים בדיוק מה יש במכונה ההיא וכיצד היא מייצרת את תשובותיה ולכן ברור שאין שם תודעה ולא ממד מנטלי. בני אדם שנוצרו כמוני, נראים כמוני מתנהגים כמוני, כנראה יש אצלם ממד מנטלי כמוני.
העובדה שמשהו מחקה משהו אחר לא אומרת שהם זהים.

> אנחנו יודעים בדיוק מה יש במכונה ההיא וכיצד היא מייצרת את תשובותיה
ועדיין אנו לא יודעים לחזות את התשובות, כך שברור שהידע שלנו חסר ולכן לא נוכל לגזור מסקנות החלטיות מידע זה.

> לכן ברור שאין שם תודעה
בספר החדש של ריי קורצווייל מהשנה – הסינגולריות קרובה יותר הוא לדעתי מוכיח אחרת, אני יכול לחפש את העמודים אם זה רלוונטי. אבל בעקרון חווית התודעה היא סובייקטיבית אין לנו הוכחה אובייקטיבית שלאחר יש תודעה חוץ מטענתו – ולכן מרגע שהמכונה תטען שיש לה תודעה – לא תוכל להוכיח שהיא משקרת.

> בני אדם שנוצרו כמוני, נראים כמוני מתנהגים כמוני, כנראה יש אצלם ממד מנטלי כמוני.
העובדה שמשהו מחקה משהו אחר לא אומרת שהם זהים.
זה לא סתירה? נניח שלי אין ממד מנטלי אבל אני מתנהג כמוך אפילו מחקה אותך, אז זו ההוכחה שיש לי ממד מנטלי? ואם כן אז הרגע הוכחת שלמכונה יש מימד מנטלי …

אני גם לא יודע לחזות את בעיית שלושת הגופים. לכן יש לגופים החומריים נשמה? מה הקשר? גם כאוס אינו ניתן לחיזוי, אז מה?
אנחנו יודעים בדיוק מה יש במכונה וכיצד היא מייצרת את התשובות, בדיוק כמו שאנחנו יודעים את מה שיש במערכת כאוטית למרות שאיננו יודעים לחזות את התוצאות. אז מה?
ריי קורצווייל הוא אחד מגדולי הקשקשנים עלי אדמות. אם תביא לי טיעון כלשהו ניתן יהיה לדון, אבל לעשות אד הומינם על ריי קורצווייל זו בדיחה גרועה.
זה שאין לנו הוכחה לא אומר כלום. אין לנו הוכחה לשום דבר. אז מה? יש שכל ישר והיגיון בריא. כשהמכונה תטען שיש לה תודעה אני אניח שהיא משקרת. נכון, לא אוכל להוכיח זאת. אני גם לא יכול להוכיח שלי יש תודעה או שלך. זה ממש לא מטריד אותי.

שאלתך האחרונה מורכבת ממילים שלא מתחברות לכלל טענה. הסברתי היטב מדוע לדעתי לך יש תודעה ולמכונה לא. אם אתה רוצה לשאול משהו כדאי לנסח אותו היטב.

לא בטוח שהצלחתי להבין את דברי הרב.
וגם נראה לי שלא חידדתי את טענותיי – היטב.

אתן לזה ניסיון אחרון בתקווה להגיע למהות.

להלן סיכום לא ממצה של מה שקורצוייל כותב על התודעה

1) מהי תודעה?

– תודעה מוגדרת כחוויה סובייקטיבית פנימית, שאינה ניתנת לזיהוי אובייקטיבי מבחוץ. המושג כולל גם את היכולת להיות מודע לעולם הפנימי (מחשבות ורגשות) ולעולם החיצוני (מציאות סביבתית).
– יש הבחנה בין תודעה פונקציונלית (היכולת להיראות "מודע") לבין תודעה סובייקטיבית (qualia), שהיא בלתי ניתנת להוכחה או הפרכה בצורה אובייקטיבית.

2) האם בינה מלאכותית יכולה להיות בעלת תודעה?

– יש שטוענים כי בגלל שמודלים של בינה מלאכותית מסוגלים להציג התנהגות מורכבת ולדמות חשיבה אנושית, ייתכן שיהיה עלינו להניח שיש להם תודעה.
– עם זאת, אחרים טוענים כי אנו מבינים לחלוטין כיצד המכונה פועלת, ולכן ברור שאין לה תודעה אמיתית אלא רק חיקוי של התנהגות.

3) בעיית ההוכחה:

– כמו שאין לנו הוכחה אובייקטיבית לתודעתם של אחרים (אנשים או מכונות), כך לא ניתן להוכיח שמכונה שיש לה חיקוי משכנע של תודעה אינה חווה qualia.
– כשם שמודל יכול להצהיר על תודעה, אין לנו כלים להפריך טענה כזו בצורה מוחלטת.

4) מוסר ובחירה חופשית:

– השאלה האם מכונות יכולות לקבל החלטות מוסריות או להפגין בחירה חופשית מתעוררת כיוון שמודלים מייצרים תוצאות שנראות כאילו הן מבוססות על "שיקול דעת". עם זאת, חלק מהמשתתפים בדיון טוענים כי מדובר בתוצאה של אלגוריתמים דטרמיניסטיים.

טענות:
– הטיעון "אנחנו יודעים בדיוק איך המכונה עובדת ולכן ברור שאין לה תודעה" מתעלם מהעובדה שגם במוח האנושי יש תהליכים שאיננו מבינים במלואם, אך אנו מניחים שיש תודעה. ייתכן שמכונות יכולות לייצר חוויה סובייקטיבית שאיננו יודעים למדוד או לזהות.

– הנחת המבוקש:
הטענה "ברור שאין תודעה למכונה" מניחה את עצמה כהוכחה מבלי להתמודד עם העובדה שתודעה היא מושג שאינו מוגדר באופן חד-משמעי. העובדה שאין הוכחה לתודעה אינה הוכחה לחוסר קיומה.

– כשל אנלוגיה:
ההשוואה למערכות כאוטיות (כגון בעיית שלושת הגופים) מתעלמת מההבדל המהותי: מערכת כאוטית אינה טוענת לתודעה או לרצון, בעוד שמכונה יכולה לטעון לכך באופן מפורש. האנלוגיה אינה מספקת טיעון נגד האפשרות של תודעה מלאכותית.

אד הומינם סמוי:
הדחייה של ריי קורצווייל כאילו אין להתייחס אליו ("לעשות אד הומינם על ריי קורצווייל זו בדיחה גרועה") מסיטה את הדיון מהטיעונים עצמם לביקורת על הדובר או התייחסות סתמית לדבריו. (אגב ראיתי שהרב מהנדס אלקטרוניקה אז אני מניח שרב מודע לכך שריי הוא מהנדס עתיר המצאות וגם זכה לשם כעתידן כי רבות מהתחזיות הטכנולוגיות שלו התממשו)

– "איננו יכולים להוכיח שיש לנו או לאחרים תודעה"
– " ברור שלמכונה אין תודעה."
אם איננו יכולים להוכיח תודעה, אין בסיס מספיק לדחיית האפשרות שהתודעה קיימת גם במכונות.

שאלות:
האם הרב סבור שמוסר מחייב בהכרח תודעה?
– כבר היום מכונה יכולה לקבל החלטות מוסריות (לדוגמה, באמצעות אלגוריתמים שמעריכים ערכים מוסריים) מבלי שתהיה לה תודעה. האם זה שולל מוסריות?

– האם ייתכן שטכנולוגיה מסוימת תדגים "רצון חופשי" גם אם היא תוצאה של אלגוריתם דטרמיניסטי? ואם לא איך הרב מסביר את המחקרים שהראו שמכונה יכולה לרמות.

מבלי לדון בנכונות הטענה על רצון חופשי באנשים – ההתייחסות לאדם כבעל רצון חופשי אפשרה להחיל עליו את כל כללי המוסר. מאידך ההתייחסות על הרשתות החברתיות כאל פלטפורמה בלבד אפשרה לחברות הטכנולוגיות שמפעילות אותם לחמוק מאחריות מוסרית על תכני השנאה שמופעים ברשתות, על קידום תכני שנאה ועל אי חשיפה של הגולשים לדיעות שונות משלהם. כל אלו תרמו לקיטוב שאנו רואים בעולם המערבי.

השאלה העיקרית שבגללה פתחתי בדיון היא זו:
– לדעתי האישית, האנושות (רגולטורים, אנשי רוח ודת) חייבים להתחיל להבשיל את הדיון על האחריות המוסרית של בינה מלאכותית. גם של המפעילים שלה וגם של הבינה עצמה. ללא החלת כללי מוסר קשיחים – יש סיכוי לא רע למדרון חלקלק של המוסר בעולם.
אני מניח שאין בינינו דיון על המפעילים והמפתחים שלה שכן כרגע המפעילים שלה הם אנשים שברור לכול שצריך להחיל עליהם אחריות מוסרית ולא לחזור על הטעות של רשתות חברתיות.
אבל מרגע שההפעלה או הפיתוח של בינה מלאכותית תעשה כבר על ידי בינה מלאכותית אחרת (זה קרוב או כבר כאן) – אם נטען שלבינה אין אחריות מוסרית (כמו שכרגע המגמה ביחס לזכויות יוצרים על תוצרים של בינה מלאכותית) אז לא יהיה בסיס להחיל מוסר על השחקנים שיהיו משמעותיים ביותר באנושות בעתיד הנראה לעין.

חכמי התלמוד והתנך הניחו את היסודות של המוסר המערבי, על ידי דיונים חלקם תיאורטיים ומוקצנים על מנת ללבן את המהות.

האם הרב חושב היהדות צריכה להתחיל לדון בהלכות של מוסר של בינה מלאכותית?
האם הרב מוכן ליטול חלק \ להוביל את הדיון?

לא בטוח שהצלחתי להבין את דברי הרב.

אני מהמר שההודעה הזאת נכתבה על ידי תוכנה של AI. בכל אופן, הסברתי מה שהיה לי להסביר וכאן לא התחדש מאומה.
אם יש לך שאלה קונקרטית קצרה וחדשה אתה מוזמן לנסח אותה ולכתוב אותה בעצמך כאן.