מודעות לבינה מלאכותית

שו"תקטגוריה: פילוסופיהמודעות לבינה מלאכותית
אלי שאל לפני 2 חודשים

האם לבינה מלאכותית יכולה להיות מודעות? והאם יש איזשהי מבחן שיכול לבדוק את זה? 

השאר תגובה

1 Answers
mikyab צוות ענה לפני 2 חודשים

נטיית לבי היא שלא. איני מכיר דרך לבדוק זאת. הטענות והבדיקות שראיתי עד כה לא שכנעו אותי.

אלי הגיב לפני 2 חודשים

למה אתה נוטה לחשוב שלא? כי זה לא יצור ביולוגי? או בגלל שזה לא בן אדם (ואין לזה נשמה)?
והאם אתה חושב שיש תאורטית בדיקה שניתן לעשות, גם אם אתה לא מכיר אותה? או שנגיד שלא משנה מה יקרה ומה יגלו, נסיק שאין לזה מודעות?

mikyab צוות הגיב לפני 2 חודשים

נכון. אבל לא רק זה, אלא גם יצור ביולוגי אין לו תודעה אלא אם יש בתוכו נשמה.
אין לי מושג. כרגע איני רואה שום דרך לבדוק זאת.

אלי הגיב לפני 2 חודשים

האם יש קשר בין תודעה לבין בחירה חופשית?

mikyab צוות הגיב לפני 2 חודשים

לא הכרחי. תודעה בלי בחירה ודאי אפשרי. בחירה בלי תודעה יותר בעייתי, כי בחירה היא תוצר של שיקול דעת

דורון הגיב לפני 2 חודשים

אם יורשה לי לזרוק את שנקלי אוסיף את זאת. קודם כל שאלת על מודעות כאשר השאלה המדויקת יותר לגבי טיב ההבדל בין בעלי תודעה למכונה צריכה לקחת בחשבון גם את עיקרון התודעה העצמית.

הלאה, ההנחה הדואליסטית (קיומה של נפש בצד גוף באדם) מבוססת על שיקול מורכב ובעיניי מוצדק. אני לא רואה איך ניתן להשתמש באותו שיקול כדי להצדיק את האמונה בתודעה (ותודעה עצמית) אצל מכונה. יכול להיות שבעתיד המכונות יהיו ככ מפותחות ולכן אז יהיה מוצדק לתהות האם הן עומדות במבחן ולכן נוכל להכליל גם אותן בדואליזם שלנו. לדעתי אנחנו רחוקים משם.

אלי הגיב לפני 2 חודשים

למה תודעה בלי בחירה ודאי אפשרי? האם יש דוגמאות שאתה מכיר של יצורים כאלה?

דורון הגיב לפני 2 חודשים

מי אמר משהו על בחירה?

אלי הגיב לפני 2 חודשים

הגבתי למה שהרב מיכאל כתב. בקשר למה שאתה כתבת דורון, איזה התנהגות עתידית אתה יכול לצפות ממכונות שיגרום לך לחשוב שיש להם נפש?

דורון הגיב לפני 2 חודשים

התשובה בקצרה, לפחות אחת התשובות, היא שאם המכונות יפתחו היסטוריה חומרית ורוחנית כמו בני האדם נוכל אולי לחשוב שיש להן מכנה משותף איתנו (או למעשה, ואולי יותר סביר, נוכל לחשוב שאנחנו בסהכ כמוהן – מכונות מתוחכמות ואין לנו "נפש" ריאלית). בשביל זה אותן מכונות יצטרכו להתאמץ קצת יותר מהיום: לבנות מוסדות דתיים, בתי משפט, לעשות אמנות וכלכלה, להילחם זה בזה (או בנו), להעמיד צאצאים, ליצור מדע וספרות, ובאופן כללי לעשות מלא מלא שטויות שאינן מסתדרות עם האלגוריתמים המניעים אותן. כשכל זה יקרה יכול להיות שאשתכנע שהמטריאליזם נכון וממילא אין משמעות למושג התודעה.

דורון הגיב לפני 2 חודשים

אהה… וגם אולי שהן יצליחו ליצור במעבדה יצורים אנושיים זהים לנו. כאלה שלא באמת מאמינים שלמכונות יש תודעה.

mikyab צוות הגיב לפני 2 חודשים

איך אני יכול להכיר יצורים כאלה אם אין דרך לדעת למי יש תודעה? זה עולה מניתוח מושגי. אין שום הכרח שלמי שיש מודעות תהיה גם בחירה.

אלי הגיב לפני 2 חודשים

שמעתי לא מעט ממך על מה זה בחירה חופשית. אבל איך אתה מגדיר תודעה?

mikyab צוות הגיב לפני 2 חודשים

אתה שאלת אותי שאלות על תודעה. אז תגדיר אתה מה זה. על מה שאלת?

פאפאגיו הגיב לפני 2 חודשים

מדוע להניח שלבינה מלאכותית תהיה תודעה? מי אמר שתודעה קשורה למורכבות? האם מישהו יכול להניח את האצבע על השלב שמחייב שיצור תודעה? ואם לא אז מדוע לכרוך אותם יחד?

דורון הגיב לפני 2 חודשים

פאפאגיו,
לדעתי הצגת השאלה שלך חסרה.
בגדול אין כל שאלה פילוסופית או מדעית לגבי עצם קיומה של התודעה (כולם מסכימים שהיא קיימת או יכולה להתקיים). הויכוח העיקרי הוא בין מטריאליסטים לדואליסטים כשהראשונים טוענים שמכיוון שהכל הוא חומר (ואנרגיה) יש להעמיד את התודעה האנושית על הקטגוריות האלו בלבד. לפיכך התודעה האנושית תוגדר על ידם רק דרך תפקודה ותוצריה מתוך שלילת קיומו של מצע מטפיזי ו"רוחני" שכביכול משמש כמעין עוגן של אותם תפקודים ותוצרים (בעיני יריביהם הדואליסטים).
ביחס לשאלתך (היכן להניח את האצבע על שלב היווצרותה של תודעה?) נראה לי שהתשובה מתפצלת לפי שני האגפים שהזכרתי: המטריאליסט יניח שהתודעה שלובה באופן אינהרנטי בחומר; הכוונה כמובן לאובייקט חומרי מורכב ומשוכלל מאד כמו מחשב (אם כי יתכן שאנחנו מדברים רק על מחשבי העתיד…). "התודעה" של המחשב נוצרה – או תיווצר – רק כשהוא נוצר. לכל הפחות היא נוצרה כפוטנציאל (תחשוב למשל על מחשב שזה עתה יוצר במפעל אבל טרם חובר לחשמל – יש לו תודעה פוטנציאלית בלבד).
לעומת זאת הדואליסט יהיה חייב להניח, לדעתי, שהתודעה (או לפחות המצע הנושא אותה) יכולה להתקיים גם בלי החומר. זה בהחלט רמז לגבי מעמדה העל-זמני (אם כי לא בהכרח חמור). לשיטתו היא לא כרוכה בחומר.

פאפאגיו הגיב לפני 2 חודשים

הי דורון.
1-א"כ יוצא שלפי הדואליסט אין מקום כלל לדיון, משום שאין כלל קשר לוגי בין ההנחה שיש תודעה ובין הפונקציות שהחומר מתפקד גם בלעדיה. וע"כ אין סיבה להניח שלבינה תהיה תודעה (אגב, יש דברים שבהם מחשבים משוכללים הרבה יותר מאדם אפי בלעדי תודעה).
2- אגב, כבר הרבה זמן שיש לי טיעון לכאורה מוחץ נגד אלו שטוענים שתודעה נוצרת מחומר- שעד כמה שאתה מניח שיש תודעה אך אינך מצליח להסביר איזה פונקציה היא ממלאת (שהרי ניתן לתכנת בינה לבצע כל פונקציה שאדם מסוגל), אז ע"כ שהתודעה אינה קשורה לחומר והיא עצם רוחני מופשט, מה דעתך?

דורון הגיב לפני 2 חודשים

אין מקום לדיון? הגזמת קצת. אני דואליסט אבל תמיד יכול להיות שאני טועה. אולי התפתחות טכנולוגית מרחיקת לכת או שיקולים פילוסופיים שלא חשבתי עליהם ישנו את דעתי? למה לסגור את הדיון מראש?
נדמה לי שפה אתה מדבר על מה שקורים הפצעה או הגחה, עמדה שגם לי נראית כושלת. המפציענים למינהם מניחים שסובסטנציה אחת, רוחנית, יכולה איכשהו להגיח מתוך סובסטנציה אחרת – חומרית. אלא שאז הם צריכים להחזיק במקל בשני קצותיו: איכשהו תכונות שיש רק לרוח (כמו אינטנציונליות) קיימות איכשהו בכוח בחומר ובמין דרך מסתורית הן מצליחות להתממש רק מחוץ לחומר (כלומר בתודעה). מודה שלא העמקתי בפרטים של העמדה המפציענית אבל נדמה לי שזה עיקר מגמתה.

ב הגיב לפני 2 חודשים

אם תודעה היא מה שאנחנו קוראים דעת ( או ידיעה. יותר מדויק אוסף של ידיעות שמהוות מארג שלם שיוצרת ידיעה של בעל התודעה ) כעצם נפרד משאר העולם) אזי היא גם מזקיקה בחירה חופשית. משום שאין דעת או ידיעה מבלי התבוננות לפניה. והתבוננות היא היא עניין של בחירה . יש לאדם בחירה אם להתבונן או ל "עצום" את עיניו. מראה עיניים אינו תודעה . את זה יש גם לבעלי חיים. בשביל שמראה העיניין יאמר משהוא למישהוא צריך איזשהוא תהליך למידה שהופך את נתוני החושים למושגים ולידיעות היא התבוננות שהיא כאמור עניין שבבחירה.

אלי הגיב לפני 2 חודשים

הרב מיכי,
אני הנחתי שיש לך הגדרה לתודעה, כי אמרת שתודעה בלי בחירה ודאי אפשרי מניתוח מושגי, משמע שאתה יכול להגדיר את שני המושגים.
בכל מקרה, אני חושב שבשביל שליצור יהיה תודעה, צריך להיות איזשהו "אני" שיכול להתייחס ולהכיר את עצמו. אני חושב שה"אני" הזה חייב להיות חיצוני ולא נשלט לגמרי מהמערכת הדטרמיניסטית, כי זה נשמע לי כמו סתירה שמערכת תכיר את עצמה. בהנחה שזה נכון, יכול להיות שיש קשר בין תודעה לבחירה, אם ה"אני" החיצוני הזה (שאולי אפשר לקרוא לו "נשמה") הוא השולט על היצור הפיזי.
בכל מקרה, זה מושג חלקלק ולא נראה לי שהשקעתי מספיק מאמץ כדי להגדיר אותו כמו שצריך.

השאר תגובה

Back to top button