לוגיקה תלמודית כמקור לאימון מודלים של בינה מלאכותית

שלום כבוד הרב,

אני במקצוע מהנדס בינה מלאכותית במקצוע ובשבועות האחרונות אני מתעניין וחוקר את השאלה של שילוב של לוגיקה ודפוסי חשיבה יהודית מהתלמוד/פסיקות הלכה/מאמרים של ישיבות והמרתם ללוגיקה ודפוסי חשיבה מתמטית / תוכנתית / מדעית, לשם ההכללה "גשמי". במסגרת ההתעניינות שלי מצאתי את The Talmud Logic project ורציתי לשאול את דעתך על מה שאני מנסה לעשות.

קצת רקע
במסגרת המקצועית שלי, אבל השאלה הזאת מגיעה דווקא מתוך עניין אישי, אני מתעסק בעבודתי בתופעות של Model Collapse, כאשר מודל מתאמן על דאט שהוא בעצמו חיזה. אם עושים כמה איטרציות של זה המודל מאבד כל יכולת ונהיה חסר ערך. אין הסכמה גורפת לכמה דאטא סינטטי (דאטא שמודל AI ייצר) מותר לשלב מתכונת האימון של המודל, אבל רוב התעשייה מסכימה שאחוז נמוך יחסית.
אחד הבעיות שכל תעשיית הAI מתמודדת איתו היום הוא שהחל מבערך 2024 קשה מאוד להתאמן על דאטא חדש כי AI "מזהם" כל דאטא קיים בין אם תמונות או טקסט וקוד.
אני בעיקר מתמקד בסטקסט וקוד, ובעיקר בPost Training. כאשר מנסים לאמן ולחזק התנהגויות ולוגיקה ולאו דווקא להתאמן על לחזות את הטוקן הבא.

עולם בתורה
יש לי סיבה להאמין שה"דאטא" שמייצרת היום עולם התורה הוא היחיד בעולם שגם עשיר בלוגיקה, וגם לא מזוהם בAI ו הכי חשוב שהחלק שמוזהם בAI הוא מאוד זניח.
לשם השוואה למה שמהנדס תוכנה יכתוב קוד או אפילו יחשוב על איך לכתוב קוד אם הוא יכול לבקש מהAI לעשות את זה במקומו. ללומדי תורה שיש חשש דתי מכלים כאלו יהיה תשובה לשאלה הזאת לעומת זאת.

התופעה הזאת מקנה לעולם התורה העכשווי ערך עצום (במובנים גשמיים) לכל העולם שלא היה קיים לפני שנתיים. אם רוצים להמשיך וללמד מודלים דפוסי חשיבה חדשים שהוא לא נחשף אליהם, יכול מאוד להיות שזה המקור המשמעותי הכי גדול היום.

דוגמא
דוגמה למה שאני מנסה לעשות, לקוחה מ "The Talmudic Logic Project, Ongoing Since 2008" דוגמא 6.1. המחברים שם נתנו את הדוגמה של The paradox of the heap (sorites). בתלמוד מסכת עבודה זרה הפרדוקס מופיע בשאלה של מזיגה של יין לא כשר ליין כשר. חז"ל פתרו את העניין על ידי הכנסה של פרמטר זמן לשאלה, כלומר מה קרה ליין הכשר לפני שנהיה כשר, האם כבר נזמג בו יין לא כשר?
אני רוצה להמיר שאלה שכזאת לשאלה דומה גשמית. נגיד אתה מנהל מפעל למחזור נייר ואתה צריך להבין למה הנייר שלך יוצא גרוע. התשובה הוא אולי שהנייר שאותו מחזרת הוא בעצמו נייר ממוחזר. הפתרון הוא אותו פתרון אם מקבילים נייר טרי ליין כשר ונייר ממוחזר ליין לא כשר. אפשר ליצור דוגמית דאטא שמודל LLM מתאמן עליו שהוא דומה לשאלה על הנייר, וזה מלמד אותו דפוסי התנהגות והכללות כאלו לשם מטרות גשמיות כמו מתמטיקה ותוכנה.

בקשה
אני אשמח מאוד לשמוע את דעתך בנושא, או אם אתה יכול להכווין אותי למאמר שלך (או של עמיתך לפרוייקט) שהכי רלוונטי ליצירה או למחקר של מיפוי שכזה.

תודה,