המתכנת אדיר דוכן, מאלמנטור, פרסם לאחרונה טקסט מרתק ונוקב ששווה קריאה – כן, אי איי הולך להחליף אותך. אני יודע כי הוא כבר החליף אותי. שבו הוא מציג עמדה נחרצת: הבינה המלאכותית לא רק מסייעת לנו, אלא ממש בדרך להחליף את עבודת התכנות והפיתוח כפי שאנחנו מכירים אותה. הוא מתאר מציאות שבה המערכות כבר עושות הרבה מעבר לכתיבת טקסטים, ומסוגלות לפתור בעיות מורכבות, להבין הקשרים עסקיים ולהגיע לתוצאות מהירות ומדויקות יותר מהאדם הממוצע ובעתיד גם יותר מאנשים טכניים, ממנהלים ובעצם מבני אדם. לשיטתו, הוויכוח האם המכונה באמת חושבת הוא חסר משמעות, כל עוד היא מגיעה לפתרון הנכון לפנינו. הוא מציג עתיד עגום בו אין כלל מקום למתכנתים או לאנשים טכניים. לא שהתפקיד משתנה, אין בכלל תפקידים.
אדיר מבטל את ההשוואות למהפכות קודמות. הוא מסביר שבעוד שכלים בעבר החליפו עבודה פיזית או ביצועית, המערכות החדשות מחליפות את החשיבה עצמה ואת שכבת קבלת ההחלטות. הוא טוען שהניסיון האנושי לפקח על קצב היצירה של המכונה נדון לכישלון, מכיוון שהמוח שלנו פשוט לא מסוגל להתמודד עם כמות המידע וההחלטות. התוצאה, לדבריו, היא תלות הולכת וגוברת במכונה, שמובילה לניוון היכולות המקצועיות שלנו ולצמצום מהיר של הפער בין מה שהמכונה יכולה לעשות בעצמה לבין התרומה הייחודית של בני האדם. כרגע המכונה לא שם, אבל הוא מתאר עתיד שכן.
בנוסף, הוא מבטל את הטענה שמערכות ענק או אתגרים חדשים מוגנות מפני השינוי הזה. אדיר סבור שהמערכות כבר יודעות לקרוא סביבות שלמות ולבצע שינויים נרחבים, ואף רומז שבעתיד לא נצטרך לשמור על מבני קוד מסורתיים כלל. באשר לשאלת האחריות, הוא מאמין שהצורך באדם שיישא בתוצאות לא יציל את מקצוע הפיתוח, שכן שכבת הפיקוח הזו הולכת ונעשית דקה יותר ואינה דורשת את האנשים שבונים את המוצר. המסקנה שלו היא שהערך של החשיבה האנושית בשוק העבודה הולך ויורד, ועלינו לחפש את המקומות הבודדים שבהם נותר לנו יתרון לפני שגם הם ייעלמו אבל בגדול התחזית שלו היא מאד פסימית.
התפקידים החשובים החדשים
אני כמובן חושב אחרת לגמרי. ראשית, מהניסיון שלי גם כמישהו שעובד עם הכלים האלו אבל גם מניסיון אחר – כמי שאחראי ועובד על מערכות מבוססות בינה מלאכותית (כלומר LLM, ML ומולטי מודל) שפוגשות פרודקשן. כתבתי על האתגרים האלו וגם דיברתי עליהם בפודקאסט של ״עושים תוכנה״ שיצא עכשיו עם עמית בן דור. אפשר ורצוי ממש להאזין לפודקאסט שמכיל באמת את האתגרים החדשים ש-LLM לא מתמודד איתם היטב וגם בעתיד לא יתמודד איתם.
מעבר לכך, היה לי חשוב כן להתייחס לפוסט של אדיר. שהוא סדור ומשכנע על הנייר, אך הוא נשבר ברגע שהוא מתנגש בשני הקירות החזקים ביותר של העולם האמיתי: חוסר היכולת המוחלט של מודל סטטיסטי להמציא קניין רוחני חדש יש מאין, ודרישת הברזל של מערכת המשפט והרגולציה לאחריות של אדם בשר ודם. הטיעון שלו מכיל גם הנחה סמויה משמעותית: שהשיפור ימשיך בקו ישר או אקספוננציאלי אל עבר ה-AGI.
מי אמר שהשיפורים הם בקו ישר?
אז כפי שאמרתי הכשל הראשון והבולט ביותר בטיעון של אדיר הוא ההישענות המוחלטת שלו על רעיון ה"דאוס אקס מאכינה". אדיר מתבונן על קצב השיפור המרשים של השנתיים האחרונות ומותח קו ישר ואקספוננציאלי אל עבר האופק. הוא מניח שכל המגבלות הנוכחיות פשוט יתאדו מעצמן. בעיות כמו קונטקסט נרקב, חוסר יכולת להפריד עיקר מטפל בנפחי מידע עצומים, או עלויות חישוב, כולן נדחקות הצידה לטובת ההנחה שיום אחד המודל פשוט יידע הכל ויזכור כל קומיט מלפני עשור באופן מושלם כדי לקבל החלטות כמו אל. כאשר פיליפוס מלך מוקדון איים על הספרטנים שאם יפלוש לארצם הוא יחריב אותה, הם ענו לו במילה אחת: "אם". המילה הזו תקפה גם כאן. אולי המודלים יגיעו לשלמות הזו, אבל בפועל ממש לא בטוח שזה יקרה. חוק התפוקה השולית הפוחתת לא פוסח על שום טכנולוגיה, וזה חתיכת "אם" ענק להמר עליו את כל עתיד המקצוע.
האחריות לא נעלמת לשום מקום
אבל בואו נניח לרגע לאותו דאוס אקס מאכינה. בואו נדמיין שהחלום מתגשם והמודלים מסוגלים לבלוע מיליוני טוקנים, להבין הכל ולכתוב קוד מושלם. כאן אנחנו נתקלים בקיר המציאות השני, והוא קיר נוקשה במיוחד: שאלת האחריות. אדיר פוטר את עניין ה-Accountability בקלילות, בטענה שגם היום שרשרת שלמה של אנשים לוקחת אחריות, ששירות הלקוחות מוחלף ממילא, ושאין משמעות אמיתית לאחריות של אדם בודד. כמי שעומד לא פעם בבתי משפט וכעד מומחה בוועדות שונות, אני יכול לומר בצורה החד-משמעית ביותר: להגיד "המכונה עשתה את זה" לא מחזיק אפילו חצי מילימטר של מים. כשמערכת קורסת, כשמידע רגיש דולף, או כשחלים נזקים ממשיים ללקוחות, הרגולטור ומערכת המשפט דורשים אדם בשר ודם שיעמוד, יסביר את שיקול הדעת, וישא בתוצאות. מכונה לא יכולה לחתום על תצהיר. האחריות המשפטית תמיד תישאר בידיים אנושיות.
הבעיות החדשות והפתרונות ש-LLM לא מצליח למצוא – סיפור אמיתי
הנקודה השלישית, והיא לב העניין מבחינתי כמי שעובד ביומיום על מוצרים שמשלבים מודלים שונים, היא חוסר ההבנה של ההבדל התהומי בין פתרון בעיות ישנות לבין המצאה של פתרון חדש. המודלים הנוכחיים הם מכונות סטטיסטיות מדהימות של אינטרפולציה. הם יודעים ללעוס מחדש כל בעיה שכבר נפתרה ותועדה. אבל מה קורה כשנתקלים בבעיה שאין לה תקדים? לא מזמן, נתקלנו אצלנו בבעיה ייחודית הקשורה לתהליך עבודה עם גישה מרחוק. הבנו שניתן לאסוף מהפלואו הזה נתונים לטובת מוצר חדש לחלוטין, ברמת התכנון, כזה שלא היה כמותו בשוק ואפילו לא ישב ברואדמאפ של החברה. לקחנו את הנתונים, הזנו אותם למודל וציפינו לתובנות. קיבלנו תוצאות חסרות כל ערך. המודל חיפש פתרונות קודמים, וכשלא מצא כאלה, הוא פשוט שאב אותנו לתוך מחילות ארנב של הזיות. פנינו לעולם המחקר האקדמי ולא מצאנו דבר. המודל עמד חסר אונים מול ואקום של ידע.
הפריצה לא הגיעה משום אלגוריתם, אלא מתוך פינג פונג אנושי של חשיבה מאומצת. ההברקה הגיעה מתוך חיבור לעולם המוחשי: החלטתי לשלב תמונה שבה האצבע שלי מצביעה פיזית על נקודות ספציפיות כדי למקד את תשומת הלב של המערכת. הפעולה הזו, שנשענת על חוויה אנושית טבעית של התמצאות במרחב והפניית קשב, היא משהו ששום ממוצע סטטיסטי לא יכול להמציא פשוט כי אף אחד לא עשה את זה קודם בטקסטים שהוא התאמן עליהם. המודל לא מסוגל להביא מושג זר לחלוטין כדי לפתור בעיה שטרם נוסחה. בזכות הקפיצה המחשבתית הזו, נכתב קניין רוחני מסודר והמוצר יצא לאוויר העולם, ויש לנו היום המון טננטים שמשתמשים בו ונהנים מהערך שלו.
לסיכום
האם המודל כתב את הקוד בסוף התהליך? בהחלט כן. אבל מי הכווין אותו? מי המציא את הקונספט וידע לצאת מהמסגרת? אלה היו בני אדם. המודלים ימשיכו לנקות את השולחן מכל הבעיות הישנות, ואכן יש המון כשלים בדרך שחלקם אולי ייפתרו. אבל בכל פעם שניגע בקצה גבול הידע ונצטרך להמציא משהו באמת חדש, אנחנו נישאר לבד. אדיר מתאר עתיד שבו אנחנו עומדים חסרי מעש, אבל המציאות מראה שאנחנו פשוט נפנה את הזמן שלנו כדי להתמודד מול כמות עצומה של בעיות חדשות לחלוטין. אנחנו לא עומדים בפני בינה מלאכותית כללית, אנחנו רחוקים משם מאוד ועבודת התכנון וההמצאה נשארת אצלנו.
תגובה אחת
לענ"ד ענית על שאלה אחרת מהמאמר המקורי. קראתי את שניהם, ממש כיף.
המאמר המקורי מסביר למה הAI מחליף/יחליף מתכנתים. לא מנהלי מוצר. זה קצת מטושטש לפעמים.
כבר היום (והוא ענה יפה שאין צורך בשיפור – המצב הנוכחי מספיק) ברגע שיש הגדרת בעיה טובה – לAI יש פתרונות טובים.
הגדרת הבעיה כנראה תישאר לנצח תפקיד אנושי – כי הבעיות הן שלנו.
הגדרה טובה של בעיה – היא כבר תלוית כשרון, נסיון, יכולת, מאמץ ועוד.
אם נתמקד בעולם התוכנה – קניין רוחני – הוא בעצם שילוב מקורי של אבני בניין יסודיות (אם נרד במורד הפרמידה – 0/1) ושוב בחזרה להגדרת הבעיה – מי שיגדיר נכון בעיה – גם אם הפתרון יווצר על ידי AI או על ידי מתכנת – זה עדיין קניין רוחני. סביר להניח שמי שישתמש בAI נכון -יפתור את הבעיה מהר יותר, עם פחות משאבים ויוכל לרשום פטנט לפני מי שיקודד הכל ביד.
קלוד ודומיו כנראה יכחידו את מקצוע התכנות כמו שאנחנו מכירים אותו, עדיין יהיה הרבה מקום למחשבה, לתכנון, לדיוק בפרטים, לאיתור האתגרים. פשוט לא צריך מישהו שיהפוך את זה לקוד.
אגב האתגר הגדול לטעמי הוא איך הידע שנצבר בעשרות שנים של תכנות וחיוני כדי להכיר את מרחב האפשרויות מהן הAI בוחר. ממה שראיתי עד עתה – נסיון ויכולות טובים יותר בתכנות מובילים לשימוש יעיל ונכון יותר בAI. איך מכינים את הדור הבא שלא יצטרך לתכנת להבין את היכולות והכלים ולהמשיך ליצור תוכנות טובות בלי לעבור את שלב ההבשלה. – שאלה. אולי גם על זה יהיה גישור של AI.