אבטחת LLM בסיסית: Random Sequence Enclosure או פרומפט SALT
מפתחים מערכת שמשתמשת ב-LLM? השיטה הזו תסייע לכם להתגונן מ prompt injection.
מפתחים מערכת שמשתמשת ב-LLM? השיטה הזו תסייע לכם להתגונן מ prompt injection.
פסק הדין בפרשת תביעת של הדיבה אלקטור הוא קריאת השכמה טכנולוגית ומשפטית: מההגדרה המשפטית ל"פריצה", דרך החשיבות הקריטית של פרוטוקול ביעור נתונים אמיתי, ועד למה שבאמת קורה כשמערכות אבטחה מסתמכות על לוגים חסרים.
וייב קודר כתב אפליקציה נאה, אך לא ידע שיש סכנת דלף מידע מהיסטורית הקומיטים
גישה לכתיבת קוד מאובטח שכדאי מאד להכיר - במיוחד בעידן הבינה המלאכותית
הסבר מקיף וטכני על תוקפים שמריצים קוד על מכונה מרוחקת.
מאמר מבוא המספר בקצרה ובלשון קלה על גוגל דורקינג - טכניקה לביצוע האקינג גם ללא ידע טכני כלל.
איך פרוטוקול HTTP3 הפופולרי עובד מאחורי הקלעים עם UNIC בתהליך החיבור המאובטח.
הסבר פשוט ומוחשי, עם wireshark על פרוטוקול https ותהליך לחיצת היד.
הסבר על חלק חשוב בתקשורת בין מחשבים: פורטים ואיך אפשר למצוא מכשירים ופורטים פתוחים עם שודאן.
שימוש ב-FGSM לשיבוש ML שמשתמש ברשת נוירונים לזיהוי תמונה.
קונספט חשוב כאשר בונים אפליקצית LLM ובמיוחד כזו הנשענת על Agents - כיצד בודקים את הפלט של LLM עם... LLM אחר
כיצד ניתן לבצע התקפות על בינה מלאכותית שלא באמצעים ישירים.
מבוא להתקפה הפופולרית ביותר: prompt injection על LLM.
יש לכם מוצר שיש בו LLM? הכלי הזה יעזור לכם לבצע התקפות עליו כדי לוודא שהוא עמיד להתקפות.
צריכים להעביר מידע של לקוחות הלאה? כדאי לדעת יותר על אנונימזיציה ומה זה אומר.
מאמר שמבוסס על ההרצאה שלי בפייקון 2024 וכן צילום של ההרצאה.
פוסט שימושי שמלווה פודקאסט שלם על אבטחה למפתחי צד לקוח
פוסט בשילוב עם פודקאסט וסרטון על ההגנות שאפשר להציב על LLM בסביבת פרודקשן
מה זה OpenCanary ואיך אפשר להתקין אותה על רספברי פיי ולשדרג את אבטחת הרשת הביתית או המשרדית.
מדוע לפעמים יש צורך בלחשוב על CSP ואבטחה בשלב תכנון האפליקציה בצד הלקוח. ��רצאה ופוסט שמלווה אותה.
כל הזכויות שמורות לרן בר-זיק ולאינטרנט ישראל | מדיניות הפרטיות של אתר אינטרנט ישראל | אתר אינטרנט ישראל נגיש לפי תקן WCAG 2.0 AA | הצהרת הנגישות של האתר | אבטחת מידע ודיווח על בעיית אבטחת מידע
