נסו להשלים את המשפט: ״אנחנו רוצים להיות יותר קרובים…״
מה עלה לכם בראש? אולי קרובים ללקוחות, אולי קרובים לבית, ואולי בכלל קרובים אחד לשני. כל אחת מהאפשרויות יכולה להתאים. כדי לבחור ביניהן, צריך לדעת על מה אנחנו מדברים.
הדוגמה הזו תעזור לנו להבין מהו מודל שפה גדול, או LLM. גם הוא מקבל מילים בתוך הקשר ומייצר להן המשך. אבל מאיפה מגיעות האפשרויות שלו, ומה קורה כשלא סיפרנו לו מספיק? נישאר עם המשפט הזה ונראה.
מאיפה המודל מכיר שפה?
מודל שפה גדול מאומן על כמויות גדולות של מידע. במהלך האימון הוא לומד דפוסים וקשרים שמופיעים בשפה. ה״גדול״ מתייחס בין השאר להיקף המודל והאימון, ולא אומר שהוא קרא כל מה שנכתב בעולם או שבדק עכשיו מקור כלשהו.
כשהמודל מקבל בקשה, הוא משתמש במה שלמד ובמידע שזמין לו באותו רגע כדי ליצור תשובה. התשובה נבנית בהדרגה, ביחידות שנקראות טוקנים. חלקן יכולות להיות חלקי מילים. בכל צעד המודל מעריך אפשרויות להמשך בהתאם להקשר ולמה שכבר נוצר.
נחזור למשפט שלנו
אם כל מה שנתנו למודל הוא ״אנחנו רוצים להיות יותר קרובים״, חסר לו מידע שעוזר לבחור כיוון. קרובים למי? באיזה מצב? אותו משפט יכול להשתלב בכמה בריפים שונים.

שלוש האפשרויות מתקבלות על הדעת, אבל הן מובילות למסרים שונים. בלי לדעת אם מדובר בשירות, במותג או ברשת סניפים, המודל יכול לבחור כיוון שלא התכוונו אליו. זו לא בהכרח בעיה בניסוח התשובה. זו בעיה של מידע שחסר בבקשה.
מה משתנה כשנותנים לו בריף?
נוסיף למשפט שלנו הקשר: אנחנו פותחים סניף חדש בשכונה, פונים למשפחות ורוצים שירגישו שיש להן כתובת קרובה ונגישה. עכשיו כשנבקש להמשיך את המשפט, נתנו למודל בסיס להבחין בין קרבה גאוגרפית לבין קרבה רגשית. הוא עדיין יכול להציע כמה כיוונים, אבל הם מתחילים מנקודת מוצא ברורה יותר.
כאן נמצא החלק שאני אוהב בעבודה עם מודל שפה. הוא יכול להציע ניסוחים שלא חשבנו עליהם ולעזור לנו לבחון חלופות. אבל הוא לא יכול לקבל במקומנו את ההחלטה האסטרטגית על מה אנחנו רוצים לומר ולמי. הבריף שלנו הוא חלק מהחשיבה, לא רק הקדמה לכתיבה.
תשובה שנשמעת טוב עדיין צריך לבדוק
נניח שאחד הניסוחים להזמנת הפתיחה טוען שהסניף פתוח עד עשר בערב. המשפט עשוי להישמע בטוח ומשכנע, אבל אם לא סיפקנו את שעות הפתיחה ולא נבדק מקור עדכני, אין סיבה להניח שהן נכונות. מודל שפה מייצר ניסוח מתוך מה שעומד לרשותו. ניסוח טוב לבדו אינו הוכחה לעובדה.
בכלי השיחה עצמו יכולים להיות גם חיפוש ברשת, גישה לקבצים או כלים נוספים. אלה יכולים לעזור לבסס תשובה, אבל כדאי לבדוק אם הם באמת שימשו למשימה. במקרה של הסניף, נוודא את השעות מול המידע המעודכן לפני שנפרסם.
תרגיל קטן לסיום
קחו בקשה אחת שהניבה לכם תשובה כללית מדי. הוסיפו לה שלושה דברים: למי מיועד התוצר, מה אתם רוצים שיקרה ואיזה מידע צריך לשמש בסיס. אחר כך השוו בין שתי התשובות. לא רק לפי השאלה איזו נשמעת יפה יותר, אלא גם לפי השאלה איזו מתאימה יותר למטרה שהגדרתם.
מודל שפה יכול להמשיך משפט, לפתח רעיון ולעזור לנו לחשוב. ככל שאנחנו מבינים את התפקיד של ההקשר, קל יותר לתת לו כיוון טוב וגם להפעיל שיקול דעת על התוצאה.
מה חשוב לדעת על מודל שפה גדול?
מודל שפה גדול לומד דפוסים מתוך מידע ומייצר תשובות בהתאם לבקשה ולהקשר. ככל שנספק לו מטרה ברורה ומידע רלוונטי, יהיה לו בסיס טוב יותר לכוון את התשובה. גם תשובה שנשמעת מצוין צריך לבדוק כשיש בה עובדות.


מרצה ומומחה לבינה מלאכותית, עם ניסיון של יותר משני עשורים באסטרטגיה, מיתוג ושיווק. בהרצאות, בסדנאות ובליווי ארגונים אני מחבר בין הבנת הטכנולוגיה לבין השימוש המעשי בה, כדי לעזור לאנשים ולעסקים לחשוב, ליצור ולעבוד טוב יותר.
קצת יותר עליי ←