View Full Transcript
Episode Transcript
[00:00:02] Speaker A: שלום לכולם וברוכים הבאים לפרק חדש של יאללה תודה קלוד, טעיתי בעריכה עוד פעם, אבל בסוף נתרגל, מה המצב מועז?
[00:00:13] Speaker B: בסדר גמור, הכל
[00:00:14] Speaker A: טוב, התחלנו פרק.
יש לי משפט פתיחה פצצה, בואו נראה, כמו פילוסוף, הכל מתחיל בהקשר.
[00:00:25] Speaker B: הכל מתחיל בהקשר, כל החיים שלנו מתחילים בהקשר.
[00:00:30] Speaker A: ואיך זה מתחבר ההקשר הזה לקלוד בבקשה?
[00:00:35] Speaker B: אז אני חושב שכל הנושא הזה של הקשר, קונטקסט, הוא אחד הדברים שאני חושב שמאוד מאוד משנים את החוויה כשאתה עובד עם מודלים ושואל אותם שאלות או עובד איתם.
והרבה מאוד אנשים מתחילים את המסע שלהם בעולם הזה של כלים, כלי AI, וקצת מתעלמים מהדבר הזה. כלומר, שואלים אותו שאלה, והציפייה שלהם, כמו לפעמים בשיחה, כן, אני מדבר איתך, אז יש לנו היסטוריה של כמה שנים. אז אני יכול לשאול אותך שאלה נורא נורא קצרה, ואתה כבר בראש שלך תחבר את זה לגישה שלנו מלפני שבועיים, ולהוא שאנחנו מכירים ביחד, וישבנו איתו לקפה בתל אביב, ותיתן לי תשובה שהיא מאוד מאוד רלוונטית. למה? כי לך יש...
ל-LLMים אין הקשר, LLMים אלה תוכנות מחשב ומודלים שנבנו, הם לא מכירים אותך, הם לא מכירים את התחום שלך, הם לא יודעים שום דבר עליך לפחות לא בהתחלה, זה כמובן משתפר עם הזמן ולכן השיחות איתם חייבות להיות שיחות או הרעות שאנחנו נותנים במקרה של אג'נטים שיש להם הקשר שמכניס אותם לתוך איזשהו עולם מוגדר מאוד שבו ברור לאותו אג'נט לאותו צ'אט, מה אתה רוצה ממנו? וברגע שאין הקשר, אז מקבלים דברים נורא נורא גנריים ולפעמים מאוד מאוד לא נכונים, ואז אתה אומר לו מה פתאום, אתה מדבר שטויות, הוא אומר נכון, אתה צודק, באמת הייתי, כל ההתנצלויות האלה שכולם צוחקים עליהן, אבל בהרבה מאוד מקרים זה מגיע מהקשר.
[00:02:09] Speaker A: אז בסופו של דבר, באמת, וזו שאלה ששואלים, למה באמת התשובות יוצאות כלליות או בהקשר הלא נכון? זה כי אנחנו לא יודעים לשאול את השאלות הנכונות או הם לא יודעים להכווין את קלוד לבוא ולתת לנו את התשובות הנכונות. אני האמת שקיבלתי לפני כמה שבוע, אני חושב שזה גם התחיל חלק מהשיחה שלנו למה אנחנו רוצים באמת לעשות את הקלוד. מנכ״ל של חברה בא ומבקש ממני, אומר, תשמע, אני עוסק שעות בלבוא ולהבין רגע איך לעבוד עם ה... עם הקלוד ואני לא מצליח, אז אמרתי לו טוב אני לא מכיר קלוד כל כך, אני מכיר את הזה, בוא נעשה שיחות עם בועז ואז משם נבין.
[00:02:54] Speaker B: קלוד חשוב להגיד שזה לא קלוד, קונטקסט זה משהו שאופייני לכל כלי, זה רלוונטי, זה גם לא משתנה, אגב בהקשר של הקונטקסט של השאלה או ההוראה, זה לא משתנה בצורה מהותית בין הכלים השונים, זה לא, אם אתם עובדים כלי אחר, סופר רלוונטי מה שאנחנו הולכים לדבר עליו פה גם.
[00:03:13] Speaker A: ברור, מסכים לגמרי, ואני זוכר שבאחד מהשיחות שדיברנו, אמרת לי, יש להשקיע בשאלות ולא בתשובות, מה זה אומר בפועל?
[00:03:28] Speaker B: אז השאלה שאני שואל, ההוראה שאני נותן, תעצרו רגע לפני שאתם מתחילים להקליד, תחשבו באמת מה אתם רוצים להשיג.
כל פעם שאתם נותנים פרומפט, הוראה, שאלה לאחד מהכלים האלה, תגידו לו מה המטרה, תנו לו דוגמה, אם יש לכם דוגמה לאיך התוצאה הטובה בעיניכם נראית, ותגידו לו את הפורמט שאתם רוצים לקבל את התשובה, כן? אם אני יכול עכשיו לתת לקלוד איזושהי משימה של לסכם לי את החשבוניות מפעם שעברה, ולא אמרתי לו שאני רוצה את זה בקובץ אקסל, הוא לא יעשה לי קובץ אקסל, הוא יזרוק לי למסך את הסיכום בטקסט, ואז מה הציפייה? שאני אעשה copy paste לתוך קובץ אקסל?
תוסיפו בסוף, תייצא את הנתונים לקובץ אקסל, וזה נגמר הסיפור, ואז חסכתם את הזמן, את הטוקנים, את כל הדברים האלה.
תשקיעו בשאלה, תחשבו באמת מה אתם רוצים להשיג, מה המטרה הסופית. דוגמאות זה באמת, זה האק מטורף, אם יש לכם דוגמה טובה לאיך התוצאה אמורה להיראות בעיניכם, תוצאה טובה אמורה להיראות בעיניכם, תנו לו את הדוגמה, לינק, מסמך קיים, ציטוט, פסקה, כל דבר, זה מאוד מאוד קריטי כדי לקצר לו את התהליך.
[00:04:38] Speaker A: לדוגמה חיה. אמרנו טוב לכל פרק אנחנו צריכים כותרת ואנחנו צריכים גם מדל נכון? מה עשינו בזמן שעצרנו? בוא אז כאילו אני באתי להתחיל לכתוב, אמרתי לך לכתוב, אמרתי מה אתה בכלל חושב? תשאל, אז שלחתי בסדר, על זה אני עושה עם אינסטינקט, אמרתי לו זה מה שאנחנו רוצים, זה מה שאנחנו צריכים, תסתכל מה עשינו בידע to the cloud, זה האתר, זה הלינקים בפנים, ואחרי זה אני אשלח לך ברורה, הוא כבר אמור לשלוח לך, שתגיד רגע מה דעתך.
[00:05:09] Speaker B: בדיוק, אבל הנה, הנה זו דוגמה מצוינת, נתת לו דוגמה של משהו שכבר אנחנו עושים שנים, יאללה תודה קלאוד התחיל ב-2010, נכון?
[00:05:18] Speaker A: משהו כזה?
[00:05:19] Speaker B: לא, סליחה, 2020, סליחה, לא 2010, 2021. דיברתי בעצור, אבל זה לא נורא.
[00:05:25] Speaker A: בקוביד בניו יורק זה היה הפרק הראשון, היינו הזויים, זה היה ככה שוח הפרק, הוא בחדר, כולו מדוכא.
[00:05:31] Speaker B: זה הכל עם ספוט, זה הכל ביוטיוב. אבל הנה, זו דוגמה מעולה, כי באמת יש שם היסטוריה של מעל 170 פרקים, וכתוב, בצורה שבה אנחנו רוצים לכתוב את המבנה ואת הגודל והכל. כל השאלות של איך לכתוב, באיזה קול לכתוב, מה האורך של זה, נעלמות, כי הנה נתת לנו דוגמה.
אני חושב שזה דוגמה מצוינת.
[00:05:50] Speaker A: אתה יכול להראות לנו אולי את הממשק, בועז, שנראה משהו גם בעיניים?
[00:05:55] Speaker B: אז בואו נעשה באמת איזושהי הדגמה קצרה בשביל לא לדבר סתם, אוקיי? אז זה מה שאני עושה בהדרכות שאני עושה עם מנהלים.
יצרתי מוצר שלא קיים שנקרא ACME X200 Tactical Battery. לא יודע מאיפה הגיע הרעיון הזה, כמובן אני לא יצרתי שום דבר, נתתי לקלוד לייצר.
[00:06:16] Speaker A: אני מבין. אני מבין את ההקשר גם.
[00:06:22] Speaker B: אז אני רוצה לקבל מידע על המוצר הזה, אז אני הולך לקלוד שלי ואני אומר לו, What is the battery life of the ACME X200 Tactical Battery? זהו, אוקיי? האמת פרומפט נוראי אני אשלח אותו שיעבוד קצת אין פה כמעט קונטקסט אני לא שולח אותו לשום מקור למעשה מה שאני אומר לו עכשיו לחפש חפש באינטרנט חפש אולי בהיסטוריה של שיחות קודמות שלנו ואני מקבל תשובה על האמת שדי מתבקש I couldn't find any product called the Acme X200 Battery שזה די הגיוני ואז הוא נותן לי כל מיני דברים שבמקרה שאני לא מכיר את משאת השוק אני אתחיל ללכת לחקור על מה זה Surefire X200 או ACO Power X200, זה רק יגרום לי לבזבז זמן, זה כנראה המצב שיקרה. כשמצד שני, אם יש לי קונטקסט, כן, זה ממשיך פה, אם יש לי קונטקסט ואני באמת יכול לעבוד עליו, אני אעצור רגע את השר, אני אטען רגע משהו לתוך השיחה, אז ברגע שיש לי קונטקסט ואני יכול לחבר אותו לקונטקסט, הסיפור הופך להיות אחר לגמרי, אז לצורך העניין אני הולך עוד שנייה אחת לעלות לפה פייל אחד, הנה זה פה.
[00:07:41] Speaker A: ובזמן שאתה עושה את זה בועז, אני חושב שלתת לפעמים אובר מידע, מיקוד או דברים, אני אומר, הוא לא כל כך נורא כאילו בסוף, כי אנחנו רוצים שהוא ילמד, שהוא יזכור דברים, אז כאילו כל פעם שאנחנו מאכילים אותו בעוד הקשרים ובעוד מידע, בסופו של דבר זה משרת את המטרה הארוכת הטווח. עוד פעם, זה לא ל... עכשיו תגיד לי איזה מסעדות יש בווינה, כי הייתי פעם אחת, אלא דברים שאנחנו ממשיכים לעבוד איתם.
[00:08:12] Speaker B: כן, כן, לגמרי, כאילו במיוחד דברים שאתם עושים לאורך זמן, יש גם את הקונספט של פרויקטים, שאולי נזכיר אותו טיפה יותר מאוחר, פרויקט זה באמת משהו שאתם עושים לאורך זמן ואז הוא זוכר קונטקסט. זוכר מסמכים וכולי, אני העליתי פה מסמך pdf, מסמך pdf שקיבלתי מהיצרן של הסוללות, אני לא יודע שום דבר על הסוללה הזה, שוב גם את המסמך הזה תנחשו, כל עוד יצר לא עשיתי שום דבר, אבל יש פה באמת מפרט מורשים מאוד של סוללה שבחיים שלא שמעתי עליה, ואז אני נותן לו פרומפט אחר, based on the data sheet, אז הנה המקור של הדאטה, תן לי את הנתונים שביקשתי קודם, ועוד שאלה מאוד מאוד ספציפית שמעניינת אותי, אז יש פה גם קונטקסט על מה אני רוצה לקבל, אני לא רוצה לקבל משהו כללי, אלא משהו מאוד מאוד ספציפי. במקרה הזה מה שיקרה זה שעכשיו תוך כדי אותו קונטקסט אני יכול לקבל תשובה הרבה הרבה יותר מדויקת. הייתי יכול לעשות את זה גם בפרומפט הראשון, למשל אם אין לי את המסמך PDF, אז כמובן אני יכול להגיד לו הנה הלינק לאתר, לך תבדוק לי את הדברים האלה באתר, והנה הדוגמה שדיברנו עליה קודם, לא אמרתי לו איך אני רוצה את הדאטה הזו, זרק לי את זה על המסך, אם הייתי אומר לו אני רוצה...
את זה בקובץ אקסל, מן הסתם הוא היה מייצר קובץ אקסל ושולח, או ב-PDF, או צורך ממצגת של הבדלי טעינה תחת עומס של בטריות טקטיות, או כל דבר אחר.
[00:09:32] Speaker A: ושאלה שאני נוהג בזמן האחרון לעשות, ואני אשמח לדעה שלך, כאילו לפעמים אני נותן לו, לפעמים אני מתקשה להסביר את עצמי לעצמי, בסדר? עם הדברים שרצים לי בראש, אז לפעמים אני מקליט, ובעיקר בזמן האחרון לאינסטינקט, ואני בטוח שלא הסברתי נכון, אז אני שואל אותו שאלה, תסכם לי רגע את מה שאמרתי, לראות אם זה ברור לך רגע.
[00:09:59] Speaker B: מה שהבנת.
[00:10:00] Speaker A: את מה שהבנת, ומצד שני, אל תתבייש לשאול אותי עוד שאלות, אל תתחיל לעבוד עד שזה ברור לך באופן מלא מה שאנחנו רוצים לעשות כאילו.
כן, זה...
[00:10:10] Speaker B: לא, לא, הנושא הזה של תשאל אותי שאלות, אני חושב שהוא...
הוא פרקטיקה מאוד מאוד חשובה ואני משתמש בה לא מעט, אני חושב שגם בחלק מהפרויקטים שלי היא ממש מוגדרת כהוראות לפרויקט. אם משהו לא ברור, אם משהו לא הסברתי לא נכון, תוודא שאתה מקבל את האינפורמציה לפני שאתה מבצע את הפעולה ואז מתחילה סדרה של שאלות. נדבר בהמשך בפרקים יותר מתקדמים על נושא של סקילים למשל, שזו פעולה שחוזרת על עצמה. בסקילים אחד מהדברים שהופכים סקיל לשימושי זה ההגדרה של השאלות שהוא צריך לשאול את היוזר. אז הוא לא מתחיל מאפס, אבל הרבה מאוד דאטה על מי מולך, מי הבן אדם שמולך, מה מעניין אותם, מה הוא מחפש, מגיע מהדבר הזה של שאלות ותשובות. אני הייתי מוסיף עוד משהו בהקשר הזה של קונטקסט ושאלות, אז יש לך שלב של שאלות, תשאל אותי את השאלות, יש דברים שחסרים לך, דברים שאתה לא מבין, ולנסות ולמקד אותו לתוך איזשהו דומיין מאוד מאוד מוגדר. ולוודא שהוא מבין את הדומיין, כלומר אם אתה עכשיו נותן לי לינק למשהו, לא לינק, נותן לי עכשיו עובדה כלשהי, תוודא שהיא מגובה בלפחות מקור אחד או שניים. זה אגב, זאת הוראה שיש לי קבועה.
כל פקט שאתה מוציא לי, כל עובדה שאתה מציג לי בתשובות שלך, אני רוצה גיבוי שלה בלפחות שני מקורות אמינים מהאינטרנט.
[00:11:29] Speaker A: והיה תקופה, אני לא יודע אם זה נכון עכשיו או לא, שבעיקר אני בג'מינייק שהייתי משתמש הרבה, אז... תעשה Deep Search, זה עובד או שכאילו אתה אומר הנה אני רוצה עכשיו שיעשה משהו ואני צריך את הפאקט הזה, אתה בא ואומר לו תעשה פאקט או שאתה אומר לו Do a Deep Search או משהו כזה?
[00:11:50] Speaker B: אז אני שוב אני לא יודע להגיד את זה מניסיון כי באמת הדברים מתקדמים נורא נורא מהר, מה שכן אולי שווה להזכיר כבר עכשיו ואני אחזור רגע לחלון של קלוד, השימוש במודל, אז אני משתמש באופוס 5.5, זה המודל האחרון כרגע שאנחנו מקליטים של קלוד, והאפורט הוא למעשה כמה הוא משקיע בזה. אז אתה יכול לראות שאני משתמש באקסטרה, זה אומר שהוא תשקיע הרבה מאוד מאמץ, אתה יכול לעלות גם למקס, שימו לב להערה, הוא צריך פי ארבע טוקנים, כלומר פי ארבע מהתקציב שלכם, ככל שעולים ברמה מן הסתם הוא צריך יותר טוקנים, לפעמים גם התשובות שלו יותר ארוכות, ולפעמים גם הוא זורק אתכם למקומות אחרים, אז... שוב, לא לשים אותו על מקס לדברים שהם טריוויאליים, אלא רק באמת למחקרים.
[00:12:41] Speaker A: יש לי שאלה נוספת בועז, אם יש לי משימה שחוזרת כל שבוע, וכאילו, מה, אני כל פעם צריך להסביר את זה מחדש, או שיש פתרון יותר טוב, בוא נגיד ככה, קצת דגגת בזה, אבל למי שפחות מכיר.
[00:12:55] Speaker B: כן, אז אני חושב שיש פתרון מאוד מאוד פשוט, שוב, יש כל מיני פתרונות, אבל הדברים הפשוטים באמת תיכנסו בקלוד דסקטופ שלכם, בצד שמאל יש תיקון. פקיעה שנקראת פרויקטס או חלון שנקרא פרויקטס, אתם יכולים לייצר פרויקט ולעבוד בתוך הפרויקט הזה לאורך זמן ואז הוא שומר קונטקסט של הפרויקט ואתם לא צריכים להסביר לו הכל מחדש ובאמת אם אתם עושים דברים שחוזרים על עצמם יש עוד דרכים לעשות את זה אבל פרויקטס זאת אחת הדרכים הכי פשוטות לעשות את זה. חשוב מאוד לזכור את הנושא הזה של שיחות ארוכות מדי ויותר מדי דאטה, יש היום עדיין, זה משתפר כל הזמן ומה שנקרא קונטקסט ווינדואו היום הוא מאוד מאוד גדול יחסית למה שהיה לפני רק כמה חודשים, אבל ככל שהשיחה יותר ארוכה וככל שיש בה יותר דאטה ככה הוא מתחיל להתבלבל יותר, אז קחו גם את הדבר הזה בחשבון, בטח כשאתם עוברים לנושא אחר, אז אני חושב שזאת המלצה מאוד מאוד חשובה, עברתם לנושא חדש, תפתחו צ'אט חדש, אל תמשיכו באותו צ'אט, זה פשוט יגרום לתוצאות, לרמה של התשובות, לאיכות של התשובות להיות פחות טובה.
[00:13:55] Speaker A: ואם אני רק כדי לסכם ולהבין שאני הבנתי רגע, בואו עד עכשיו נהגנו ב... בנושאים של הקשרים, דיברנו על צ'אט רגיל, צ'אט שהוא ממשיך ומתפתח ואנחנו רוצים שהוא ישמור עליו, אז זה יותר לכיוון פרויקט, עדיין לא נכנסנו לסקילים, אג'נטים, עוד לא בשיח הזה, בסדר?
[00:14:17] Speaker B: עולם אחר, גם רשום.
נגיע גם לזה, לא לדאוג, אבל זה עולם אחר והוא עולם שבו באמת מתחילים לייצר את ה... סביבה שלנו להתאים אותה לצרכים שלי, להפוך אותה לשלי ולא משהו כזה.
[00:14:32] Speaker A: אמייזינג. אוקיי, מעולה. אז תודה רבה בועז, חייה מאוד מעניין ועוד פעם לקחנו גם שימושים אמיתיים של מנכ"לים של חברות שבאו ושאלו את השאלות האלה, אז אני באמת מודה לך ועד הפרק הבא, נתראות לכולם. יאללה.
