הפוסט נכתב בעקבות פרק בפודקאסט אלישע והזוויות שבו השתתפתי ודיברתי בו על בינה מלאכותית ועל פרטיות, אתם מוזמנים להאזין בנוסף לקריאה.
הצפנה והצפנה מקצה לקצה הן שתי תפיסות רלוונטיות בעידן הקריפטוגרפיה שנפוצות למדי והפכו ממש לסטנדרט הן חלק משמעותי מהעולם שלנו ויש להן חשיבות משמעותית במיוחד בעידן מודלי השפה. לא כמפתחים שעובדים עם מודלים כאלו אלא יותר כמשתמשי קצה.
אני חושב שהפרוטוקול שתרם לאבטחה באופן הכי נרחב בעולם הוא HTTPS. היום כבר הוא מאד נפוץ ונדיר שלא לראות אותו באתרים. אפשר לראות את זה בפיירפוקס עם מגן קטן ובכרום – אם אין אינדיקציה אדומה, זה אומר שהתקשורת מוגנת ב-HTTPS.
מה זה אומר בפועל? שכל התקשורת בינינו לבין אתר האינטרנט מוצפנת ואיש, כולל ממשלות, לא יכול לגשת אליה. ההצפנה, שנעשית באמצעות שילוב הצפנה א-סימטרית וסימטרית מאפשר בעצם בטחון שאף אחד בדרך, בין אם הוא למשל בעל הרשת האלחוטית, ספק האינטרנט או מישהו שנמצא באחת התחנות שהמידע עובר בהן מהמחשב שלנו לשרת.
מה הבעיה? הבעיה היא ש-HTTPS זה לא קסם אפל אלא נשען על אמון או יותר נכון, ה-Root certificate authority. רשימת מנפיקי התעודות הראשיות. מדובר ברשימה סגורה של מנפיקים שרק הם רשאים להוציא תעודה. לא סתם הרשימה הזו נשמרת בקפידה ויש הקפדה מלאה על איכות המנפיקים כי אם הם יפשלו או המפתחות שלהם ידלפו, כל התעודות שהם ינפיקו יהיו חסרות ערך = יהיה אפשר להאזין לתקשורת.
אז מה הבעיה? הבעיה היא שאפשר להתקין Root CA במחשבים. מי יכול? לא דרך האוויר אלא אתם. לפעמים מתכנתים עושים את זה כדי לאפשר למחשב שלהם לעבוד עם HTTPS בסביבה לוקלית אבל בגדול מי שמשתמש בזה זה מי שרוצה לנטר את התנועה מהמחשב החוצה. אתרוג/אינטרנט רימון עושות את זה עבור הלקוחות שלהם שמעוניינים בסינון תכנים (הן דורשות מהלקוחות להתקין אצלן, אי אפשר לעשות את זה מרחוק בלי פעולה של בעל המחשב) וכמובן גם מקומות עבודה. באופן עקרוני, אנשי האבטחה/מנהלים של מקום העבודה יכולים לבחון את התקשורת שלכם והיא תהיה לא מוצפנת למרות ה-HTTPS.
למי שמתעניין, יש פוסט שכתבתי שמראה את ה-handshake.
השד לא כל כך נורא
אבל אם אני מתכתב עם אנשים אחרים, למשל בווטסאפ ווב או בצ׳אט אחר או במייל האישי שלי – זה שמקום העבודה יכול טכנית לבחון את התקשורת לא אומר שכדאי לו לעשות את זה כי זה נחשבת האזנת סתר. נכון, בחוזה ההעסקה של כל אחד מאיתנו יש סעיף שאומר שאנחנו מודעים לזה שהמכשיר שלנו מנוטר ועדיין מבחינה חוקית ומשפטית בישראל, עצם קיומה של היכולת הטכנית אינו מתיר למעסיק לעשות בה כרצונו. פסק דין תקדימי והוראות חוק הגנת הפרטיות קובעים בצורה ברורה כי גם אם למעסיק יש יכולת טכנית לנטר, הדבר חייב להיעשות תחת עקרונות של מידתיות ותום לב. יתרה מכך, כאשר מדובר בתקשורת רגישה מול עורך דין או פסיכולוג, בתי הדין לעבודה יתייחסו בחומרה יתרה לכל חדירה למרחב הזה, מכיוון שהציפייה של העובד לפרטיות בגרעין הספציפי הזה היא הגבוהה ביותר.
ההמלצה כמובן היא שאם אני מתכתב עם עורך הדין שלי, עדיף לעשות את זה מהמחשב/טלפון אישי. אבל גם אם לא, יש התייחסות מחמירה ושונה לשיחה בין בני אדם ובטח אם בצד השני יש פסיכולוג או עורך דין. בתי הדין לעבודה בישראל ובתי המשפט בכלל בוחנים סוגיות של פגיעה בפרטיות דרך זוית של "ציפייה סבירה לפרטיות". כאשר עובד מתכתב עם עורך דין או פסיכולוג, הציפייה שלו לסודיות היא בשיאה וסביר להניח שהמשפט מכיר בכך. החוק מעניק מעמד מועדף למקצועות הללו מתוך הבנה שללא סודיות מוחלטת, לא ניתן לקיים טיפול נפשי או ייצוג משפטי הולם. לכן, גם אם עובד עשה טעות והתכתב ממחשב במקום העבודה ומסיבה מסוימת המעסיק יציץ וזה יתגלה, בית המשפט לרוב יתערב, יגנה את המעסיק שיחטט שם, ויפסול שימוש (למשל אם העובד התייעץ בנוגע להתפטרות). יש כאן "הנחת חסינות" חברתית ומשפטית שמגינה על התקשורת האנושית הזו.
אבל בינה מלאכותית זה לא בן אדם
ראשית, אין כאן בעל מקצוע אנושי. מבחינה משפטית, התכתבות עם בינה מלאכותית בנושא רפואי או משפטי אינה נחשבת ל"ייעוץ משפטי" או ל"טיפול פסיכולוגי". היא נחשבת לשימוש בתוכנה. לפחות כרגע. החיסיון הסטטוטורי (כמו חיסיון עורך דין-לקוח) פשוט לא קיים כי אין אדם בצד השני. המעסיק שינטר את התקשורת הזו לא יואשם בהפרת חיסיון מקצועי, משום שמעולם לא היה כזה.
שנית, רמת הציפייה הסבירה לפרטיות צונחת לאפס. כאשר עובד מקליד טקסט לתוך שירות מסחרי צד-שלישי (כמו OpenAI, ג׳מיני, גרוק או אנתרופיק), הוא משתמש בכלי שבתנאי השימוש שלו כתוב מאד בפירוש שהמידע עשוי להיקרא על ידי בוחנים אנושיים או לשמש לאימון המודל. עובד שיטען בבית הדין "ציפיתי שזה יישאר פרטי" עלול להתקל במענה: ברגע שהוצאת את המידע לחברה מסחרית חיצונית שאין לך איתה הסכם סודיות ייעודי, ויתרת מרצונך על הפרטיות שלך.
יותר גרוע מכך, עצם הפנייה לבינה מלאכותית מייצרת עילת ניטור לגיטימית למעסיק, מה שלא קיים בתקשורת אנושית. למעסיק יש אינטרס מובהק, חוקי ומסחרי, לוודא שעובדיו לא מדליפים סודות מסחריים, קוד או מידע פנים לתוך כלי AI חיצוניים (בעיה מוכרת שחברות רבות נלחמות בה). לכן, למערכות הניטור של הארגון יש הצדקה מלאה לסרוק פניות ל-AI. לעומת זאת, אין להן שום הצדקה עניינית לקרוא התכתבות פרטית בווטסאפ שנשלחה לעורך דין, אלא אם יש חשד קונקרטי לגניבה.
רגע, מה? אנשים יכולים לקרוא את מה שכתבתי ל-AI?
התשובה היא כן. זה כתוב בתנאי השימוש וגם בני אדם הם חלק מתהליכי האימון של המודלים, כל מודלים. המידע שאותו אנו כותבים לבינה? נעשה בו שימוש לאימון המודל הבא ובאופן עקרוני בני אדם הם חלק מהאימון, כאשר הם מדרגים את התשובות. אז מידע סודי בהחלט יכול לזלוג. בנוסף לזה, יש ניטור אקטיבי שמתרחש כאשר יש הערכה שמדובר בסיכון לספקית המודל או להתנהגות פלילית או פגיעה עצמית. זה קורה בכל המודלים ובכל הספקיות. בכתבה בדה מרקר סקרתי את עניין הפרטיות למי שמתעניין.
השורה התחתונה
המון אנשים מתכתבים עם בינה מלאכותית גם לצרכים מאד רגישים. אני לא אומר שלא לעשות את זה, אבל צריך לזכור את הסיכונים. אחד מהדברים החשובים הוא לא לעשות את זה ממחשב של העבודה. לפחות עד שתקדימים או חוקים חדשים ייכנסו לתוקף.
