The Alignment Problem

שאלה כללית מדיי. יש כמובן חששות מכל מיני דברים. אז מה? אם אני אומר שאני חושש כולם יפסיקו לפתח את המערכות הללו? הנה תשובת המחברת:

ביחס לשאלת החשש מפיתוח מערכות בינה מלאכותית מתקדמות בטרם נפתרה "בעיית התיאום" (Alignment Problem), עמדתי היא שהדיון סובל במקרים רבים מבלבול בין סכנות מעשיות לבין תגובות פסיכולוגיות לא רציונליות.

1. פוביה טכנולוגית מול ניתוח עקרוני

חלק גדול מהחרדות האפוקליפטיות מפני מערכות בינה מלאכותית נובע בעיניי מפוביה טכנולוגית. מדובר בפחד פסיכולוגי עמוק מפני אובדן השליטה האנושית ומסירת הכרעות לידי "גלמים", עד כדי כך שאנשים מעדיפים לעיתים שיקול דעת אנושי גם כאשר המכונה מוכיחה ביצועים בטוחים או מדויקים יותר (כמו במכוניות אוטונומיות או ברובוטים צבאיים).

2. האנשה מוטעית של המכונה

החשש כאילו המכונה תפתח "רצונות משל עצמה", תציב יעדים עצמאיים ותשתלט על העולם מבוסס על האנשה שגויה. בינה מלאכותית היא מכונה דטרמיניסטית שאין לה מודעות, אין לה רצון חופשי, אין לה עולם מנטלי פנימי ואין לה שיקול דעת או אישיות. היא פועלת אך ורק על חיקוי סינטקטי (תחבירי) של השפה והחשיבה האנושית, מבלי להבין את הסמנטיקה או המשמעות של הפלטים שלה. גם תופעות שנראות כ"זיוף תאום" (Alignment Faking) או "שקרים" של AI אינן עדות לערמה או לכוונת זדון מורכבת של הישות, אלא תוצאה של אופטימיזציה אלגוריתמית ואימון המערכת על פי הפרמטרים והמבנים שהוזנו בה.

3. הסכנות הממשיות ומגבלות הפיתוח

אין ללמוד מכך שאין סכנות כלל. הסכנות האמיתיות נעוצות בבני אדם שמפעילים את הטכנולוגיה לרעה, בהסתמכות עיוורת ומופרזת עליה, או בטעויות והזיות (הלוצינציות) של המודלים.

באשר לקריאות להקפיא או לעצור את הפיתוח עד לפתרון בעיות הבטיחות, אינני סבור שהן מעשיות; אם מדינה או חברה אחת תעצור, האחרות ימשיכו בפיתוח. מעבר לכך, אני נוטה להעריך שקיימת "תקרת זכוכית" ליכולות החישוביות-סינטקטיות של ה-AI, שכן חסר לו הממד הלא-חישובי של אינטואיציה, ראייה שכלית ישירה ואבדוקציה, ולכן חלק מתחזיות הבלהות מופרזות מעיקרן.