המונח הנדסת פרומפטים (Prompt engineering) עשוי להישמע מרתיע ומסובך, אבל בפועל מדובר בדרך שבה אנחנו מדברים אל הצ’טבוטים הג’נרטיביים שלנו (דוגמת קלוד או ChatGPT). מי שישלוט בטכניקה זו, יצליח להגביר את המהימנות והאמינות של מודלי השפה הגדולים שאיתם הוא עובד, וכך להפוך אותם לכלים מדויקים יותר. הנדסת פרומפטים עוזרת להפחית תשובות לא נכונות או ‘הזיות’ של הבוט. האמרה “נכון לא נכון – חרטט בביטחון” כבר לא יהיה שגור בפיהם של מי שיצליחו להכפיף את מודלי השפה למרותם.
כמו כן, אחת היכולות המדהימות של מודלי שפה היא היכולת ללבוש דמות ולאמץ תפקיד. יכולת זו הופכת מודלי שפה ליועצים, סייענים ולסוכני AI שמבצעים בשבילנו משימות! במאמר זה אתן לכם מספר טיפים שיעזרו ליישם את הטכניקות הללו וכמובן תקבלו גם מאגר פרומפטים שאותם תוכלו להזין בצ’טבוט המועדף עליכם כדי להפוך אותו למפלצת של ייצור תוכן, ניתוח נתונים ועיבוד טקסטים!
אבל לפני הכול – הישארו מעודכנים! הצטרפו לרשימת התפוצה שלנו ולא תפספסו שום עדכון, חידוש או מידע על כלי חדש שיוצא.
ממליצים לכם להצטרף גם לקהילות ה־AI של LetsAI בוואטסאפ ובטלגרם. רוצים לשמוע על הקורסים וסדנאות ה־AI שלנו? לחצו פה.
הנדסת פרומפטים היא תחום חשוב ביותר בעבודה עם מודלי שפה וצ’טבוטים. הפרומפט – או ההנחיה שמוצגת למודל – משפיע באופן מהותי על התשובות והתוצרים שהמודל מייצר. הנדסת פרומפטים מתמקדת בניסוח ההנחיות באופן שיגרום למודל להבין את הדרישות בצורה הטובה ביותר ולספק תוצרים רלוונטיים ואיכותיים.
להלן מספר דגשים בסיסיים לתחילת עבודה:
בשיטה זו אנחנו מבקשים ממודל השפה להגביר את המהימנות והאמינות שלו בהצגת המידע שעליו הסתמך, בין שמדובר בלינק לאתר ספציפי, ובין שמדובר בהפניה לפסקה או למשפט ספציפיים מתוך קובץ נתונים או טקסט שהעלינו למודל.
פרומפט לדוגמה:
כמה טרנזיסטורים היו בחללית אפולו 11. הצג את מקורות המידע שעליהם הסתמכת כדי לבסס את טענותיך.
דוגמה נוספת:
לפניך מאמר אקדמי העוסק בחרדות שהתעוררו אצל ילדים בעקבות השבעה באוקטובר. הצג נתונים מספריים עדכניים מתוך הטקסט. הצג את הפסקה או את המשפט הספציפיים בקובץ שעליו התבססת.
מחקרים מראים שאם אנחנו משלבים בפרומפטים שלנו הנחיות כמו “קח את הזמן ואל תמהר”, גוברת איכות ומהימנות התשובות שנקבל. זה לא תמיד עובד ובטח שלא במטה קסם, אבל שווה להתנסות ולבחון בעצמכם את יעילות השיטה.
שיטה זו היא הרחבה של שיטת ‘צטט כדי לאמת’ ומקורה במאמר של חברת אנטרופיק שעסק בהגברת הדיוק בעבודה עם שליפת מידע מקונטקסט גדול. מטבע הדברים הוא מיועד לשימוש בקלוד אך לא בהכרח (מטסטים שלי הוא עובד גם ב־ChatGPT). מה שצריך לעשות, הוא לשאול את קלוד שאלה המסתמכת על דאטה שנמצא בקובץ שהעליתם לצ’אט. לאחר מכן, אתם מבקשים ממנו להכניס את הדאטה הגולמי שעליו התבסס אל תוך scratchpad (פד זיכרון). אתם מסמנים לו איפה מתחיל ואיפה נגמר אותו פד זיכרון, וכך הוא יודע איפה למקם את הנתונים בתשובה שלו. פעולה זו גורמת לקלוד להתבסס על מידע ספציפי, לאחזר אותו ולהפיק לפיו תובנות ומסקנות נקודתיות ורלוונטיות לאותה פיסת מידע. כך גוברת באופן דרמטי היעילות של המודל.
כך ייראה הפרומפט שלכם:
לפניך מאמר העוסק ב___________________________.
לפי המאמר ענה על השאלה הבאה: _______________________.
שלוף את המידע הרלוונטי שבעזרתו אימתָּ את השאלה ששאלתי והכנס אותו לתוך פד הזיכרון (scratchpad) שלך.
התחלה: <scratchpad>
סיום: </scratchpad>
אחד הטיפים החשובים והטובים הוא לבקש ממודל השפה שלכם לבדוק את התשובות שהוא עצמו כתב. במצב זה הוא משנה את הייעוד שלו באותו רגע נתון. במקום לייצר תוכן, לשלוף מידע מאוחזר או לנתח נתונים ולרשום על בסיסם תשובות הוא עובר ל’מצב’ אחר – מצב של בקרה, ניתוח ו’איתור שגיאות’. מבחינתו הוא מחפש טעויות, מדייק, מרחיב, משנה (ועבורו זה כלל לא משנה אם הוא כתב את הטקסט שאותו הוא מנתח, או מישהו אחר). עצם פעולה זו יכולה להגדיל מאוד את איכות התשובות של הבוט שלכם. כך למעשה אנחנו שולחים את האאוטפוט (התשובה שלו) לאינפוט (פרומפט חדש המתבסס על המידע שהוא עצמו רשם).
אז מה בעצם צריך לעשות? שאלו אותו שאלה, ולאחר שהוא מספק תשובה, רשמו לו:
קרא את התשובה שרשמת למעלה. אם התשובה נכונה ותקינה אל תשנה כלום. אם לדעתך היא שגויה, תקן אותה. בדוק אם יש ביכולתך לשפר את איכות התשובה, להרחיב ולדייק אותה, ואם כן, עשה זאת.
אלימינציה היא שיטה נהדרת לבני אדם וגם למודלי שפה. עצם העובדה שביקשתם ממודל השפה שלכם להציג לכם 3 תשובות אפשריות ואז לציין איזו מבין התשובות היא הטובה או נכונה ביותר (וגם למה), מגבירה את איכות התשובות שתקבלו ממנו.
פרומפט לדוגמה:
ברצוני לשכנע את אשתי שכדאי לנו לאמץ כלב. הצע שלוש טענות משכנעות אפשריות ואז ציין איזו מבין הטענות היא הטובה ביותר לדעתך. הסבר מדוע בחרת דווקא באפשרות זו.
הצגת ה־TOT (או חוט המחשבה) היא פעולה הדומה מאוד לשיטה שמפורטת מעלה. במצב זה אנחנו מבקשים מהבוט להוכיח, לנמק ולבסס את טענותיו בהצגת הלך המחשבה שהוביל לבחירת התשובה הספציפית שבה בחר. פעולה זו מקטינה את הסבירות ל’הזיות’ ולתשובות לא נכונות סטייל “נכון לא נכון – חרטט בביטחון”. דגש: לעיתים הצגת ה־TOT תתבצע בפרומפט נפרד שאותו תרשמו אחרי השאלה הראשונית (אם מודל השפה לא פירט את הסיבה שבגינה בחר בתשובה זו).
דוגמה לפרומפט:
אני מתלבט אם לרכוש אייפון או גלקסי. עזור לי להחליט. הצג את חוט המחשבה שלך (Train of Tought).
אחת היכולות המדהימות והמיוחדות של מודלי שפה גדולים היא הקלות שבה הם יכולים ללבוש דמות או לאמץ תפקיד. אם תבקשו מהם להיות יועץ פיננסי, הם יעשו את זה. אם תבקשו מהם להיות סייען שמסכם עבורכם מאמרים, הם יעשו את זה. אם תבקשו מהם להתנהג כמו ילדה בת 8, הם ידברו ויחשבו כמו ילדה קטנה. משמעות הדבר היא שאנחנו יכולים להפוך את מודל השפה שלנו לסוכן או ליועץ. אפשר לעשות זאת בפתיחת שרשור ייעודי לכל משימה, דמות או תפקיד שניתן לצ’טבוט, או לחלופין אפשר לבנות GPT משלכם ולתכנת אותו להתנהג בצורה מסוימת. אפשר אף לדייק את היכולות שלו בהעלאת דאטה לתוך אותו שרשור ספציפי (קובצי מידע, טקסטים, נתונים וכל דבר שיכול לעזור לו לבצע את תפקידו).
הינה כמה הצעות לסוגי ‘דמויות’ או ‘תפקידים’ שהוא יכול לבצע או לעשות:
דגש: אפשר ‘לאמן’ את הבוט בתוך שרשור שיחה ספציפי, אך יש שיטות ופיצ’רים ייעודיים למשימות אימון וקסטומיזציה (כמו בניית GPTs משלכם). אף על פי ששיטות אלה טובות יותר, הן גם לוקחות זמן רב יותר. פעמים רבות אעדיף לעבוד בתוך שרשור ספציפי ולהקפיד על הנדסת פרומפטים מדויקת (בהתאם לשיטות המפורטות במאמר זה), מה שיוביל לתוצאות טובות ויחסוך בזמן.
פתחו שרשור חדש ורשמו פרומפט ראשוני המגדיר את התפקיד שלו באותו שרשור (אפשר לחלק את ההנחיות גם למספר פרומפטים). הקפידו להתייחס בפרומפט שלכם לכל המרכיבים הבאים:
דוגמה לפרומפט אימוץ דמות:
דוגמה לפרומפט אימוץ דמות. במקרה הזה מדובר ביצירת סייען שמטרתו לכתוב טקסטים לסושיאל ולקידום אינסטגרם של עסק העוסק באימוני קרוספיט
טמפרטורה היא מדד הקובע עד כמה התשובות של הבוט יהיו מדויקות, ועד כמה הן יהיו צפויות או בלתי צפויות. למדד זה יש ערכים בין 0 ל־1. כלומר אם נבקש מהבוט להיות מאוד מדויק וצפוי, נרשום “ענה בטמפרטורה של 0.1”. ואם נרצה שיהיה יצירתי יותר ובלתי צפוי, נרשום “ענה בטמפרטורה של 0.9”.
חוקרים מאוניברסיטת MBZUAI ערכו מחקר שיכול לשנות את האופן שבו אנחנו מנהלים שיחות עם ChatGPT. הם גילו עשרות טכניקות מפתיעות המשפרות מאוד את איכות התשובות של מודלי שפה גדולים (LLMs), כמו דיבור חיובי ולא שלילי (מה כן לעשות ולא מה לא לעשות) או הזהרת הבוט שהוא ייענש אם התשובות שלו לא יהיו טובות 
. כן כן – זה אמיתי. לקריאת המאמר המלא לחצו פה.
מאמר זה מציג את שיטת חמשת ה־’ש’ לכתיבת פרומפטים בחינוך. אומנם הדוגמאות שבו מכוונות לאנשי חינוך והוראה, אבל השיטה שבו בהחלט רלוונטית גם לשימושים אחרים ויכולה ללמד אתכם הרבה על האופן שבו אפשר ‘לדבר’ עם מודלי שפה. לקריאה לחצו פה.
הנדסת פרומפטים היא כלי חשוב לשיפור איכות התקשורת בין אדם ובין הכלים הג’נרטיביים לצד יתרונות רבים כמו הגברת איכות התוצאות של מודלי שפה גדולים כמו ChatGPT וקלוד. ביישום טכניקות כמו ציטוט מקורות וביסוס טענות (ממש כמו אצל בני אדם) אפשר להבטיח את המהימנות, את הדיוק ואת הרלוונטיות של המודלים. ככל שנרכוש מיומנות רבה יותר בהנדסת פרומפטים, כך נוכל למצות את מלוא הפוטנציאל של הטכנולוגיות המתקדמות הללו ולהשתמש בהן באופן יעיל ומושכל לצרכים שונים. זוהי מיומנות חשובה לעתיד שבו מודלי שפה גדולים נעשים כלי עזר נפוץ ושכיח במגוון רחב של תחומים ומקצועות.
בואו ללמוד איתנו בינה מלאכותית בקורס המקיף, העשיר והמבוקש בשוק. הצטרפו לאלפים הרבים שכבר עברו את הקורסים והסדנאות שלנו. פרטים והרשמה באתר.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!
תוצאות נוספות...
תוצאות נוספות...
