שימי דביר
מודלי שפה
14/3/2024

למה מומלץ לוודא עם הצ׳אט האם הוא הבין אותנו?

כאשר אנחנו רושמים פרומפט למודל השפה (במיוחד אם הוא מורכב), כדאי לנו לבקש ממנו לעבור איתנו שלב אחר שלב על דרכי הפעולה שהוא עומד לנקוט, או לחלופין שיסביר לנו מה הוא הבין לפני שהוא יוצא לדרך.

הדעה הרווחת היתה שזה עוזר לדייק אותו ונותן לנו הזדמנות לתקן אותו במידה והוא לא הבין אותנו כשורה, שזה נכון, אבל ברשותכם אני רוצה לצלול רגע מתחת למכסה המנוע כדי להסביר בדיוק למה.

כדי להסביר את הנקודה הזאת, אנחנו רוצה לדבר בכמה מילים על ״קונטקסט״. קונטקסט זה ממש החמצן של מודלי השפה, כאשר נספק קונטקסט נכון ועשיר למודל השפה, נוכל לקבל תשובה יותר מדוייקת ורלוונטית למה ששאלנו.

איך זה קשור לנושא? בואו נדבר שניה על התהליך שמתקיים לאחר שאנחנו רושמים את הפרומפט:

לאחר ששלחנו למודל השפה את הפרומפט שלנו, הוא מפרק את הפרומפט לטוקנים (יחידות), מנתח את המשמעות שלהם ומצליח להפיק שני דברים עיקריים:

  1. אינטנט (כוונה)
  2. קונטקסט (הקשר)

מרבית האנשים חושבים שמודל השפה מסתמך אך ורק על הקונטקסט שאנחנו הגדרנו לו בפרומפט שלנו- אבל זה בכלל לא נכון. מכיוון שהקונטקסט שמודל השפה מסתמך עליו הוא:

הקלט (מה שאני רושם) + הפלט (מה שהוא רושם) = הקונסטקסט המתקבל

זאת אומרת שכאשר מודל השפה רושם עבורינו את התשובה, הוא יוצר שכבת קונטקסט נוספת (ע״ב התשובה שלו) שעוזרת לו לחדד את הקונטקסט הכללי ולהפיק תשובה הרבה יותר טובה ומדוייקת.

עכשיו, בואו נחבר את זה לנושא שלנו:בתחילת הפוסט אמרנו שאם נבקש מהצ׳אט לוודא איתנו שהוא הבין את הבקשה זה ישפר וידייק את התשובה שלו.

עכשיו אנחנו יכולים להבין שזה ידייק את התשובה שנקבל מכיוון שאנחנו עוזרים לדייק את שכבת הקונטקסט הנוספת שהצ׳אט מפיק לקונטקסט הכללי שלנו, ובכך אנחנו יוצרים קונטקסט איכותי ואחיד שישפר משמעותית את הסיכוי שנקבל את התשובה שאנו רוצים לקבל.

לסיכום, תגידו: האם הבנתם אותנו?

כתבות נוספות