שימי דביר
מודלי שפה
22/5/2024

לרכוש מנוי או להישאר במנוי החינמי?: כמה שיקולים שכדאי לקחת בחשבון כשעובדים עם מודלי שפה

האם לעשות מנוי בתשלום, או לא לעשות, זאת השאלה. האמת היא שהתשובה לגמרי אצלכם מכיוון שמדובר בסוגייה מאד סוביקטיבית, בשביל לעזור לכם לקבל החלטה, פישטנו כמה מהשיקולים המרכזיים.

כבר תקופה ארוכה שאנחנו מלווים עסקים ומנגישים להם את העולם החדש והמדהים שאנחנו נמצאים בו כיום- או במילים פחות מפוצצות: מנגישים להם איך לשלב בינה מלאכותית בעבודה שלהם. ושמנו לב שבזמן הלימוד וההטמעה של מודלי שפה כמו Chat GPT, הנושא של האם לבצע מנוי בתשלום מעט מערער אותם, בעיקר מכיוון שקשה לגבש לגבי זה החלטה חד משמעית ללא היכרות והתנסות רציפה עם הכלי.

ולכן, רצינו לסקר רגע את הנושא הזה ולשתף בשיקולים שכדאי לכם לקחת בחשבון כאשר שוקלים לעשות מנוי בתשלום, מה היתרונות של מנוי בתשלום ומה המגבלות של המנוי החינמי. מדובר בסוגייה מאד סוביקטיבית שאין לה אמת אחת, מכיוון שבהכי פשוט: זה משתנה לפי צורת השימוש והיקף הצריכה שלכם. וזה לוקח אותנו לשאלה הראשונה שאתם צריכים לשאול את עצמכם:

מהי תדירות השימוש שלכם במודל השפה?

היום השאלה הזאת היא אחת השאלות הראשונות שאתם צריכים לשאול את עצמכם כאשר אתם שוקלים האם לעשות מנוי בתשלום או לא, ולא בהכרח שיקולים של פיטצ׳רים חדשים ואפשרויות שעד עכשיו היו שמורות רק למנויים המשלמים- ולמה זה? מכיוון שכיום ישנה מגמה שמפחיתה בצורה משמעותית את ההגבלות של המנויים החינמיים בכל מה שנוגע לפיטצ׳רים חדשים, אפשרויות נוספות, מודלים מתקדמים, אפשרות להעלות קבצים וכו״...- למשל: ממש לאחרונה חברת OpenAI השיקה את המודל החדש שלהם GPT 4.0 o (Omni) והם הודיעו שהם משחררים את המודל החדש והמתקדם לכל סוגי המנויים, כן, גם למנוי החינמי. הצעד הזה צמצם בצורה מאד משמעותית את שורת ההגבלות שהמנויים החינמיים ״סבלו״ מהם עד היום, וכיום בזכות זה גם משתמשים חינמיים יכולים להנות ממודל חכם יותר, ממודל שמאפשר להם להעלות מסמכים, מגישה ל- GPT's ועוד..

בנוסף למודל החדש של Chat GPT, גם מודל השפה Claude שחרר את המודלים המתקדמים ביותר שלו גם למנויים החינמיים, כך שאת המגמה הזאת לא התחילה רק עכשיו אצל Chat GPT- אבל רגע רגע, זה השלב שאתם צריכים לשאול את עצמכם: אז מה ההבדל בין מנוי משלם למנוי לא משלם?

אחת ההגבלות העיקריות: הגבלת כמות ההודעות

הנושא של הגבלת השימוש בכלים של בינה מלאכותית, זאת סוגיה גורפת לגבי מרבית כלי הבינה המלאכותית, ולא רק למודלי שפה. בניגוד לכלים ולתוכנות ״רגילות״, שימוש בכלים של בינה מלאכותית מצריכות יכולות עיבוד מאד מתקדמות ויקרות, דבר שעולה המון כסף לחברה שמתחזקת את הכלי- ומעבר להוצאות העיבוד היקרות, מדובר בכלים שמכילים מספר משתמשים עצום שיוצר עומס על המערכות, ולכן, כלים של בינה מלאכותית ומודלי שפה בפרט צריכים להגביל את המשתמשים שלהם.

לפי מה מודלי השפה מגבילים את המשתמשים שלהם? זה פשוט מאד: ככל שאתם תשתמשו במודל מתקדם יותר, כך ההגבלה תיהיה משמעותית יותר. מהסיבה הפשוטה שהשימוש במודל הוא יקר יותר ולכן אין מנוס מלהגביל את השימוש במודל באופן דרסטי יותר. זאת אומרת שאם אתם תרצו להשתמש במודל הפשוט של Chat GPT, שזה GPT 3.5 , לא תיהיה לכם הגבלת הודעות מכיוון שזה מודל הבסיס והוא מאד זול, אבל אם תרצו להשתמש במודל החדש שלהם GPT 4.0 o אתם תוכלו לשלוח רק 5 הודעות כל 4 שעות. וכנ״ל לגבי שימוש במודל השפה קלוד, גם שם אתם תקבלו מכסת הודעות נמוכה יותר ככל שתשתמשו במודל מתקדם יותר.

מגבילים גם את המנוי המשלם, אבל הרבה פחות

גם למנוי המשלם יש מכסת הודעות מוגבלת שהוא לא יכול לחצות, אבל המכסה הזאת גדולה באופן דיי ניכר ביחס למנוי החינמי. בדרך כלל מנוי משלם יכול להנות ממכסה של 40 הודעות לכל 3-4 במגוון המודלים המתקדמים של מודלי השפה השונים, שזו מכסת הודעות הרבה יותר משמעותית שמאפשרת רציפות עבודה מתמשכת עם מינימום קטיעות.

ולכן השאלה שאתם צריכים לשאול את עצמכם זה ״עד כמה אני משתמש/ת במודל השפה?״, האם השימוש שלי הוא לשאול אותו שאלה פעם ביום, או שאני רוצה להשתמש בו כדי ליצור תכנים לעסק שלי. נוכחנו לגלות שאין כאן תשובה אחת נכונה, מכיוון שישנם אנשים שיכולים להישאר במנוי החינמי ולא להרגיש שינוי גדול, ולכן כדאי לכם לעשות רגע בירור פנימי עם עצמכם ולהבין את תדירות השימוש, הצרכים והציפיות שלכם ממודלי השפה.

וכמובן יש את השיקול הכלכלי, אבל בתכלס, זה לגמרי שווה את זה

מנוי פרו בכל אחד ממודלי השפה השונים עולה 20$ לחודש, כמובן שלגבי הוצאה כלכלית אנחנו לא יכולים לייעץ ומדובר בשיקול שהתשובה נמצאת אצלכם- אבל אם ננסה לחשוב רגע על מוצרים שונים שאנחנו יכולים לרכוש ב20$, אנחנו ניראה שיש פער עצום בין הערך האינסופי שאנחנו יכולים לקבל ממודל השפה, לעומת מוצרי צריכה כאלו ואחרים שאנחנו מבזבזים עליהם את מיטב כספנו- לצורך ההשוואה: מנוי פרו באחד ממודלי השפה, שווה ערך לארוחת צהריים עסקית. (במקרה הטוב ). ולעומת זאת, מודלי השפה יכולים לספק לנו כמויות עצומות של ערך לחיים האישיים והמקצועיים שלנו.

כמה יתרונות נוספים ששמורים למנויי הפרו

למרות המגמה שמצמצמת את שורת ההגבלות על המנויים החינמיים, עדיין ישנם כמה אפשרויות נחשקות ששמורות רק למנויי הפרו המשלמים.

זה משתנה ממודל שפה למודל שפה, ב- Chat GPT מנויים משלמים יכולים להנות מיצירת תמונות בעזרת Dall-e 3 ואילו במודל השפה ״Copilot" משתמשי פרו יכולים להשתמש בפלאגינים נוספים כמו הפלאגין של ״סונו״ שמאפשר להם ליצור שירים ישירות ממודל השפה. שימו לב שעולם הבינה המלאכותית מתקדם כל כך מהר כך שחלק מהדברים עלולים להשתנות, אז כדאי להמשיך לעקוב ולבדוק אחרי הפיטצ׳רים הנוספים שמקבלים במנויי הפרו.

לסיכום, אין תשובה אחת נכונה לשאלה של ״האם כדאי לרכוש מנוי בתשלום או לא״, מכיוון שהתשובה טמונה אצלכם ובתדירות השימוש שלכם במודלי השפה- ועדיין, אנחנו מאמינים שמודלי שפה צריכים ויכולים להשתלב בחיי היום-יום האישיים והמקצועיים שלכם, מכיוון שלמודלי שפה יש פוטנציאל עצום להפוך אתכם לאנשים הרבה יותר יעילים, לספק לכם יכולות שלא היו לכם עד עכשיו, לעזור לכם לעבוד יעיל יותר, מהר יותר ועם הרבה פחות מגבלות.

*את הנושא של בחירת מודל שפה אנחנו נסקר בכתבה אחרת, אם אתם רוצים להתעדכן מתי שהסיקור הבא ייצא אתם מוזמנים לעקוב אחרי הניוזלטר שלנו.

כתבות נוספות