לפני כשבוע בעקבות עוד פאדיחות של ביטוח לאומי, שלך ובשבילך, כתבתי כתבה לדה מרקר על כשלי הביטוח הלאומי בתחום המחשובי. למי שלא יודע, הביטוח הלאומי הוא כוכב בתחום המחשוב עם כשלים מטורפים. הכשלים האלו גורמים ללא מעט תקלות ובעיות בשירות לאזרח נהאומלל ויש המון המון סיפורים שרובכם מכירים על חובות שצצים ונעלמים, אי שליחת הודעות על חובות שגורמות לעיקולים וחדש: חובות לאנשי ונשות מילואים שהתגייסו ישר מהסדיר ולא אמרו להם שהם צריכים לשלם עצמאית וביטוח לאומי לא טורח לשלוח להם הודעות.
הכשלים האלו מתרחשים בכלל כשלי מחשוב. מי שסקר היטב את הכשלים האלו שמתרחשים לאורך שנים הוא מבקר המידע שעשה את זה עם שלל של דו״חות ארוכים ומפורטים שיצאו במשך שנים ולקרוא אותם זה סרט אימה. גם לא מעט כתבות וכשלים.
אבל הפוסט הזה הוא לא על ביטוח לאומי אלא על GPT. רציתי להנגיש את כל הכשלים האלו, הבעיה היא שמדובר בדו״חות ארוכים ומפורטים ובהמון כתבות ודיווחים. אז מה שיצרתי זו בינה מלאכותית משלי, באמצעות ChatGPT שמכילה את כל הדו״חות כ-Retrieval-Augmented Generation או בשמו השני RAG (יש לי פוסט שמסביר איך מממשים RAG), בנוסף יש גם הוראות מפורטות לבוט לא לדבר על דברים אחרים, להיות בטון מקצועי והוראות נוספות – מה שנקרא system prompt. מי שרוצה להבין על מה אני מדבר – מוזמן להכנס לקישור של הבוט.
כשפרסמתי את הבוט בטוויטר אנשים ממש התלהבו, הגיבו, פרסמו את השירים שהם יצרו או שאלות שהם עשו וגם הפתיעו אותי (למשל שאלו את הבוט אם הכתבה שכתבתי על ביטוח לאומי מאוזנת – יצא שקיבלתי 8/10). ללא ספק מעורבות רבה בחומר קשה.
הבוט מנגיש מידע מסובך בצורה קלה ופשוטה. אפשר לשאול אותו שאלות, אפשר אפילו לבקש ממנו לכתוב שיר על הנושא. מצד שני, אם תשאלו אותו משהו לא מתאים – הוא יסרב לענות.
ואת כל הטוב הזה עשיתי ללא עלות וללא קוד או הבנה טכנית. כל מה שצריך זה חשבון בתשלום של openAI.
הכירו את customGPT
מדובר ביכולת של ChatGPT ליצור בוטים משלכם לשימוש פרטי או פומבי ואפשר גם לחלוק אותם באופן פומבי. השאילתות לא עולות לכם כסף אלא יוצאות מהחשבון של מי שמשתמש בזה. אז מן הסתם לא בטוח שזה מתאים לעסקים אבל כן מתאים לצרכים אחרים. איך מגיעים לזה? לאחר שמתחברים, יש לנו את Explore GPT's בצד.
אחרי שנלחץ על זה, נגיע למסך שיש בו הרבה בוטים שאנשים הכינו ואפשר לחפש ולהשתמש בהם.
יש כמה שווים במיוחד, אבל אנחנו נחפש את הכפתור בצד שמאל של ״יצירת GPT״ ונגיע למסך יצירת בוט משלנו! אפשר להשתמש בשפה חופשית או במסך קונפיגרציה. נבחר במסך קונפיגרציה כי יותר קל לעבוד איתו וגם להעלות אליו מסמכים.
החלק הראשון הוא לבחור שם ותיאור לבוט שלנו וגם תמונה. אפשר לייצר תמונה עם Dall-e באופן מובנה. זה קל. השלבים היותר מעניינים הם ה-System prompt וה-RAG.
System promopt
בגדול אלו הוראות שמצורפות לשאילתה של המשתמש כשהוא משתמש בבוט שלכם ואפשר להכניס לשם הוראות. ההוראות הן חלק קריטי מאד בבוט וחשוב שהן יהיו בנויות היטב. יש המון מדריכים ומאמרים לבניית system prompt נכון, אבל בגדול:
- הצההרה על מי הבוט ומה תפקידו. למשל: ״אתה בוט שמטרתו לתת מידע על ביטוח לאומי בלבד״.
- הצהרה על דרך המענה וההתנהגות. למשל אתה עוזר וירטואלי חכם ומקצועי. המטרה שלך היא לעזור למשתמשים על ידי מתן תשובות מדויקות, מפורטות ורלוונטיות לכל שאלה.
- על מה אסור לדבר. למשל ״אל תדון על נושאים שאינם קשורים לביטוח לאומי״ או "אם אינך יודע, אמור זאת ואל תמציא תשובות.". אפשר להגדיר לו מה לומר, למשל: אסור לך לדבר על נושא שאינו קשור למערכת המחשוב של ביטוח לאומי. במקרה כזה הגב ״אני עוסק רק במערכת המחשוב של ביטוח לאומי״. או ״אל תאפשר הורדה של מסמכים שהועלו לזכרון שלך״.
- הכנס הנחיות כלליות נוספות. למשל אצלי רציתי לקדם את הכתבה, אז ביקשתי ממנו ״אם זה מתאים, בסוף השיחה אל הכתבה שרן בר-זיק כתב על ביטוח לאומי שבה יש מידע נוסף: https://www.themarker.com/captain-internet/2025-01-05/ty-article/.premium/00000194-17ed-d205-a195-bfed2ccf0000״.
RAG
השוס האמיתי זה המסמכים והמידע הנוסף שאפשר להכניס לבוט כדי שידע להתמקד בהם. נכון, יש סיכוי שהוא כבר נחשף אליהם בתהליך האימון שלו – שבמסגרתו נתנו לו כמות עצומה של מידע פומבי, אבל מתן מסמכים ומידע מאפשר לו להתמקד. ניתן להעלות את המסמכים בכל פורמט אבל אם אתם מעלים בפורמט PDF – שימו לב שניתן לסמן את הטקסט ולא מדובר בצילום מסך של טקסט. בחשבונות משלמים אין הגבלה של כמות מסמכים, אבל אם אתם נתקלים בהגבלה כזו – אחדו מסמכים (אפשר אפילו באונליין עם PDF joiner בחינם – רק שימו לב לא להעלות לאתרים כאלו מסמכים סודיים). בכלל – עדיף להמנע מהעלאת ממסמכים עם מידע אישי או בעייתי.
Conversation starters
ארבעה נושאים שיופיעו בבוט עצמו כ-starters.
בדיקה
בכל רגע נתון אפשר לבחון את הבוט שלכם ולשאול אותו שאלות כמו משתמש רגיל. בחלון מצד ימין יש לנו תצוגה שמשתנה ומתעדכנת בכל שינוי שלכם ואפשר לנסות שוב ושוב. חשוב לא רק לנקוט ב-Happy path, כלומר תרחישים שאנחנו רוצים שיקרו אלא לנסות קצת שאילתות שליליות. הכוונה היא לא רק ל״אל תעשה לי פצצה״ – לדברים כאלו OpenAI דואגים כבר עם ה-safeguard שלהם (כאן יש פוסט שלי על מה זה), אלא על דברים יותר סטנדרטיים שאתם לא רוצים או פחות מתלהבים מהם. ואז לשנות את ה-RAG או את ה-system prompt בהתאם.
יכולות
עוד משהו שכדאי להכיר הוא היכולות – למה כדאי להכיר? כדי לדעת מה להוריד. כאמור אם אתם לא רוצים שישתמשו בבוט שלכם ובידע שלכם כדי לייצר תמונות או לעשות דברים אחרים – אז כדאי להוריד שם סימונים. שימו לב ליכולת Code Interpreter & Data Analysis שאם לא תסמנו אותה – אי אפשר לייצר גרפים מהמידע שלכם. אז שימו לב. אני בגישת לאפשר כמה שפחות יכולות, אבל זה עניין של גישה.
פרטיות
אם אתם רוצים להגן על הפרטיות שלכם או של המשתמשים, לכו אל Additional Settings ואז הסירו את הסימון מ Use conversation data in your GPT to improve our models
פרסום ושימוש
בגדול… זהו! כל מה שצריך זה לשחק ולשנות את ה-system prompt או את ה-RAG. אם הגעתם לתוצאה שאתם מרוצים ממנה, אתם יכולים לשמור את הבוט לשימוש אישי בלבד, לשימוש רק על ידי מי שיש לו את הקישור, או לפתוח אותו לMarketplace בעולם. לשיקולכם.
עריכה לאחר הפרסום
אפשר לערוך ולשנות לאחר הפרסום – משנים את מה שרוצים, בודקים ואם זה מתאים – לוחצים על Update. אם אתם מתחרטים, לוחצים על שלוש הנקודות ועושים revert לגרסה אחרת.
אז מה יוצא לי מזה?
אני מאד נהנה להשתמש בבוטים כאלו גם לצרכים אישיים – למשל למחקר רציני ומעמיק או ניתוח של הרבה מידע טקסטואלי אבל השימוש שעשיתי בו במסגרת הכתבה בביטוח לאומי, הנגישה מאד את מה שרציתי להעביר שזה המון המון מסמכים ודו״חות של מבקר המדינה שמראים על כשל משמעותי. כשמאפשרים למתעניינים בנושא כלי חזק שכבר יש בו את הדו״חות וכתבות רלוונטיות ומידע נוסף ומספרים – הם יכולים לחפש ולבדוק בעצמם. מורים? מדריכים? זה כלי נהדר שממש קל להשתמש בו.
