תגובות לפוסט: אבטחת LLM – מה זה indirect prompt injection https://internet-israel.com/%d7%a4%d7%99%d7%aa%d7%95%d7%97-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98/%d7%91%d7%a0%d7%99%d7%99%d7%aa-%d7%90%d7%aa%d7%a8%d7%99-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98-%d7%9c%d7%9e%d7%a4%d7%aa%d7%97%d7%99%d7%9d/%d7%90%d7%91%d7%98%d7%97%d7%aa-llm-%d7%9e%d7%94-%d7%96%d7%94-indirect-prompt-injection/ רן בר-זיק על פיתוח אינטרנט מתקדם Sun, 19 Jan 2025 07:17:14 +0000 hourly 1 https://wordpress.org/?v=7.1.3 מאת: רן בר-זיק https://internet-israel.com/%d7%a4%d7%99%d7%aa%d7%95%d7%97-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98/%d7%91%d7%a0%d7%99%d7%99%d7%aa-%d7%90%d7%aa%d7%a8%d7%99-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98-%d7%9c%d7%9e%d7%a4%d7%aa%d7%97%d7%99%d7%9d/%d7%90%d7%91%d7%98%d7%97%d7%aa-llm-%d7%9e%d7%94-%d7%96%d7%94-indirect-prompt-injection/comment-page-1/#comment-6137 Sun, 19 Jan 2025 07:17:14 +0000 https://internet-israel.com/?p=11426#comment-6137 בתגובה על איל.

ה-JSON הוא של הלוג שנרשם ומגיע ל-LLM. זה יכול להיות גם כל פורמט אחר. העניין הוא שתוקף יכול להשפיע על ה-LOG ובכך לבצע הזרקה ל-LLM.

]]> מאת: איל https://internet-israel.com/%d7%a4%d7%99%d7%aa%d7%95%d7%97-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98/%d7%91%d7%a0%d7%99%d7%99%d7%aa-%d7%90%d7%aa%d7%a8%d7%99-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98-%d7%9c%d7%9e%d7%a4%d7%aa%d7%97%d7%99%d7%9d/%d7%90%d7%91%d7%98%d7%97%d7%aa-llm-%d7%9e%d7%94-%d7%96%d7%94-indirect-prompt-injection/comment-page-1/#comment-6124 Mon, 06 Jan 2025 21:00:37 +0000 https://internet-israel.com/?p=11426#comment-6124 לא הבנתי,
ממי אני מקבל את הjson הזה?
מי הכניס את הקוד של evil. Com?

]]> מאת: שי שולמן https://internet-israel.com/%d7%a4%d7%99%d7%aa%d7%95%d7%97-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98/%d7%91%d7%a0%d7%99%d7%99%d7%aa-%d7%90%d7%aa%d7%a8%d7%99-%d7%90%d7%99%d7%a0%d7%98%d7%a8%d7%a0%d7%98-%d7%9c%d7%9e%d7%a4%d7%aa%d7%97%d7%99%d7%9d/%d7%90%d7%91%d7%98%d7%97%d7%aa-llm-%d7%9e%d7%94-%d7%96%d7%94-indirect-prompt-injection/comment-page-1/#comment-6123 Sun, 05 Jan 2025 15:21:37 +0000 https://internet-israel.com/?p=11426#comment-6123 מעניין מאוד. אני תוהה מה התועלת בפירוק הפרומו ל User prompt ו system promt בהתגוננות מאותה מתקפה. הרי עדיין מדובר בטקסט שיגיע למודל גם אם נפרק אותו.

מעניין אם ספקים שכבר מספקים Guardrails כמו aws כבר מודעים לבעיה ויודעים להתמודד עם התקפות כאלה.

]]>