שימי דביר
מודלי שפה
19/3/2024

אתם יכולים בבקשה להפסיק להגיד בבקשה?

כולנו שמענו כבר על המחקר החדש שהוכיח שלא כדאי לרשום ״ בבקשה" כאשר אנחנו רושמים פרומפט ל- צ׳אט ג׳יפיטי- אבל מישהו עצר לשאול את עצמו רגע למה? בדיוק על זה אנחנו רוצה לדבר.

במודלי השפה הראשוניים (ג׳יפיטי 3.0 וכו״) היה מומלץ למחוק ״מילות קישור" מהפרומפט שלנו על מנת לשפר את ביצועי המודל ואת התשובה שנקבל.כשאומרים מילות ״ מילות קישור" מתכוונים למילים כמו ״ על", "הוא", "ו".

וזה מכיוון, שמדובר במילים שחוזרות בפרומפט בתדירות גבוהה ולא מוסיפות דבר למשמעות הסמנטית של הפרומפט. היו ממליצים להסיר את המילים האלה מהפרומפט מכיוון שהן היו נחשבות ל״לכלוך״ בתוך הדאטא שלנו, שמונע מהמודל להתמקד במילות המפתח שחשובות באמת.

אם נקח את אותו העקרון, נוכל להבין שגם המילה ״בבקשה״ לא מוסיפה דבר למשמעות הפרומפט. מבחינת המודל התשובה שהוא צריך לספק לנו היא אותה התשובה ככה או ככה, ולכן אין משמעות אמיתית למילה ״בבקשה״- אלא להיפך, היא מוסיפה לנו לכלוך לשורת הפרומפטים שלנו.

עד כמה זה באמת משפיע? פעם זה השפיע יותר, היום יש לזה השפעה קטנה יותר כי המודלים הרבה יותר מתקדמים- ועדיין,בואו ננסה לשמור על שורת הפרומפטים שלנו נקיה.

אז לכל המנומסים בקהל: אתם יכולים להפסיק בבקשה?

כתבות נוספות