מודעות לבינה מלאכותית

למה אתה נוטה לחשוב שלא? כי זה לא יצור ביולוגי? או בגלל שזה לא בן אדם (ואין לזה נשמה)?
והאם אתה חושב שיש תאורטית בדיקה שניתן לעשות, גם אם אתה לא מכיר אותה? או שנגיד שלא משנה מה יקרה ומה יגלו, נסיק שאין לזה מודעות?

נכון. אבל לא רק זה, אלא גם יצור ביולוגי אין לו תודעה אלא אם יש בתוכו נשמה.
אין לי מושג. כרגע איני רואה שום דרך לבדוק זאת.

האם יש קשר בין תודעה לבין בחירה חופשית?

לא הכרחי. תודעה בלי בחירה ודאי אפשרי. בחירה בלי תודעה יותר בעייתי, כי בחירה היא תוצר של שיקול דעת

אם יורשה לי לזרוק את שנקלי אוסיף את זאת. קודם כל שאלת על מודעות כאשר השאלה המדויקת יותר לגבי טיב ההבדל בין בעלי תודעה למכונה צריכה לקחת בחשבון גם את עיקרון התודעה העצמית.

הלאה, ההנחה הדואליסטית (קיומה של נפש בצד גוף באדם) מבוססת על שיקול מורכב ובעיניי מוצדק. אני לא רואה איך ניתן להשתמש באותו שיקול כדי להצדיק את האמונה בתודעה (ותודעה עצמית) אצל מכונה. יכול להיות שבעתיד המכונות יהיו ככ מפותחות ולכן אז יהיה מוצדק לתהות האם הן עומדות במבחן ולכן נוכל להכליל גם אותן בדואליזם שלנו. לדעתי אנחנו רחוקים משם.

למה תודעה בלי בחירה ודאי אפשרי? האם יש דוגמאות שאתה מכיר של יצורים כאלה?

מי אמר משהו על בחירה?

הגבתי למה שהרב מיכאל כתב. בקשר למה שאתה כתבת דורון, איזה התנהגות עתידית אתה יכול לצפות ממכונות שיגרום לך לחשוב שיש להם נפש?

התשובה בקצרה, לפחות אחת התשובות, היא שאם המכונות יפתחו היסטוריה חומרית ורוחנית כמו בני האדם נוכל אולי לחשוב שיש להן מכנה משותף איתנו (או למעשה, ואולי יותר סביר, נוכל לחשוב שאנחנו בסהכ כמוהן – מכונות מתוחכמות ואין לנו "נפש" ריאלית). בשביל זה אותן מכונות יצטרכו להתאמץ קצת יותר מהיום: לבנות מוסדות דתיים, בתי משפט, לעשות אמנות וכלכלה, להילחם זה בזה (או בנו), להעמיד צאצאים, ליצור מדע וספרות, ובאופן כללי לעשות מלא מלא שטויות שאינן מסתדרות עם האלגוריתמים המניעים אותן. כשכל זה יקרה יכול להיות שאשתכנע שהמטריאליזם נכון וממילא אין משמעות למושג התודעה.

אהה… וגם אולי שהן יצליחו ליצור במעבדה יצורים אנושיים זהים לנו. כאלה שלא באמת מאמינים שלמכונות יש תודעה.

איך אני יכול להכיר יצורים כאלה אם אין דרך לדעת למי יש תודעה? זה עולה מניתוח מושגי. אין שום הכרח שלמי שיש מודעות תהיה גם בחירה.

שמעתי לא מעט ממך על מה זה בחירה חופשית. אבל איך אתה מגדיר תודעה?

אתה שאלת אותי שאלות על תודעה. אז תגדיר אתה מה זה. על מה שאלת?

מדוע להניח שלבינה מלאכותית תהיה תודעה? מי אמר שתודעה קשורה למורכבות? האם מישהו יכול להניח את האצבע על השלב שמחייב שיצור תודעה? ואם לא אז מדוע לכרוך אותם יחד?

פאפאגיו,
לדעתי הצגת השאלה שלך חסרה.
בגדול אין כל שאלה פילוסופית או מדעית לגבי עצם קיומה של התודעה (כולם מסכימים שהיא קיימת או יכולה להתקיים). הויכוח העיקרי הוא בין מטריאליסטים לדואליסטים כשהראשונים טוענים שמכיוון שהכל הוא חומר (ואנרגיה) יש להעמיד את התודעה האנושית על הקטגוריות האלו בלבד. לפיכך התודעה האנושית תוגדר על ידם רק דרך תפקודה ותוצריה מתוך שלילת קיומו של מצע מטפיזי ו"רוחני" שכביכול משמש כמעין עוגן של אותם תפקודים ותוצרים (בעיני יריביהם הדואליסטים).
ביחס לשאלתך (היכן להניח את האצבע על שלב היווצרותה של תודעה?) נראה לי שהתשובה מתפצלת לפי שני האגפים שהזכרתי: המטריאליסט יניח שהתודעה שלובה באופן אינהרנטי בחומר; הכוונה כמובן לאובייקט חומרי מורכב ומשוכלל מאד כמו מחשב (אם כי יתכן שאנחנו מדברים רק על מחשבי העתיד…). "התודעה" של המחשב נוצרה – או תיווצר – רק כשהוא נוצר. לכל הפחות היא נוצרה כפוטנציאל (תחשוב למשל על מחשב שזה עתה יוצר במפעל אבל טרם חובר לחשמל – יש לו תודעה פוטנציאלית בלבד).
לעומת זאת הדואליסט יהיה חייב להניח, לדעתי, שהתודעה (או לפחות המצע הנושא אותה) יכולה להתקיים גם בלי החומר. זה בהחלט רמז לגבי מעמדה העל-זמני (אם כי לא בהכרח חמור). לשיטתו היא לא כרוכה בחומר.

הי דורון.
1-א"כ יוצא שלפי הדואליסט אין מקום כלל לדיון, משום שאין כלל קשר לוגי בין ההנחה שיש תודעה ובין הפונקציות שהחומר מתפקד גם בלעדיה. וע"כ אין סיבה להניח שלבינה תהיה תודעה (אגב, יש דברים שבהם מחשבים משוכללים הרבה יותר מאדם אפי בלעדי תודעה).
2- אגב, כבר הרבה זמן שיש לי טיעון לכאורה מוחץ נגד אלו שטוענים שתודעה נוצרת מחומר- שעד כמה שאתה מניח שיש תודעה אך אינך מצליח להסביר איזה פונקציה היא ממלאת (שהרי ניתן לתכנת בינה לבצע כל פונקציה שאדם מסוגל), אז ע"כ שהתודעה אינה קשורה לחומר והיא עצם רוחני מופשט, מה דעתך?

אין מקום לדיון? הגזמת קצת. אני דואליסט אבל תמיד יכול להיות שאני טועה. אולי התפתחות טכנולוגית מרחיקת לכת או שיקולים פילוסופיים שלא חשבתי עליהם ישנו את דעתי? למה לסגור את הדיון מראש?
נדמה לי שפה אתה מדבר על מה שקורים הפצעה או הגחה, עמדה שגם לי נראית כושלת. המפציענים למינהם מניחים שסובסטנציה אחת, רוחנית, יכולה איכשהו להגיח מתוך סובסטנציה אחרת – חומרית. אלא שאז הם צריכים להחזיק במקל בשני קצותיו: איכשהו תכונות שיש רק לרוח (כמו אינטנציונליות) קיימות איכשהו בכוח בחומר ובמין דרך מסתורית הן מצליחות להתממש רק מחוץ לחומר (כלומר בתודעה). מודה שלא העמקתי בפרטים של העמדה המפציענית אבל נדמה לי שזה עיקר מגמתה.

אם תודעה היא מה שאנחנו קוראים דעת ( או ידיעה. יותר מדויק אוסף של ידיעות שמהוות מארג שלם שיוצרת ידיעה של בעל התודעה ) כעצם נפרד משאר העולם) אזי היא גם מזקיקה בחירה חופשית. משום שאין דעת או ידיעה מבלי התבוננות לפניה. והתבוננות היא היא עניין של בחירה . יש לאדם בחירה אם להתבונן או ל "עצום" את עיניו. מראה עיניים אינו תודעה . את זה יש גם לבעלי חיים. בשביל שמראה העיניין יאמר משהוא למישהוא צריך איזשהוא תהליך למידה שהופך את נתוני החושים למושגים ולידיעות היא התבוננות שהיא כאמור עניין שבבחירה.

הרב מיכי,
אני הנחתי שיש לך הגדרה לתודעה, כי אמרת שתודעה בלי בחירה ודאי אפשרי מניתוח מושגי, משמע שאתה יכול להגדיר את שני המושגים.
בכל מקרה, אני חושב שבשביל שליצור יהיה תודעה, צריך להיות איזשהו "אני" שיכול להתייחס ולהכיר את עצמו. אני חושב שה"אני" הזה חייב להיות חיצוני ולא נשלט לגמרי מהמערכת הדטרמיניסטית, כי זה נשמע לי כמו סתירה שמערכת תכיר את עצמה. בהנחה שזה נכון, יכול להיות שיש קשר בין תודעה לבחירה, אם ה"אני" החיצוני הזה (שאולי אפשר לקרוא לו "נשמה") הוא השולט על היצור הפיזי.
בכל מקרה, זה מושג חלקלק ולא נראה לי שהשקעתי מספיק מאמץ כדי להגדיר אותו כמו שצריך.