מדריך

בנה מודלי סיווג, רגרסיה או המלצה על מערכי נתונים טבלאיים גדולים ב-BigQuery עבור צוותים בעלי כישורי SQL חזקים.

→השתמש ב-BigQuery ML עם תחביר SQL (לדוגמה, `CREATE MODEL ... OPTIONS(model_type='BOOSTED_TREE_CLASSIFIER')`). אפשר יכולת הסבר עם `EXPLAIN_PREDICT`.

למה: מונע העברת נתונים וממנף כישורי SQL קיימים לפיתוח מהיר. שומר על ניהול נתונים בתוך BigQuery ומספק יכולת הסבר משולבת.

מקור↗

חלץ נתונים מובנים (לדוגמה, שמות, תאריכים, קודים) ממסמכים לא מובנים כמו טפסים או חשבוניות עם מינימום מומחיות ב-ML.

→השתמש ב-Document AI עם מעבד מאומן מראש או מותאם אישית. אמן מעבד מותאם אישית עם מסמכי דוגמה מתויגים עבור פריסות מיוחדות.

למה: שירות מנוהל וייעודי לניתוח מסמכים שמספק ביצועים טובים יותר מבניית OCR מותאם אישית ולוגיקת ניתוח מאפס.

מקור↗

נתח נתונים לא מובנים כמו אודיו או טקסט עבור סנטימנט, ישויות או נושאים ללא אימון מודל מותאם אישית.

→שרשר ממשקי API מאומנים מראש. דוגמה: Speech-to-Text API לתמלול, ולאחר מכן Natural Language API לניתוח ישויות וסנטימנט.

למה: זמן הגעה לשוק המהיר ביותר עבור מקרי שימוש נפוצים. ממנף מודלים שאומנו על ידי Google ללא צורך בתיוג נתונים או אימון מודלים.

בנה מודל תמונה, וידאו או טבלאי מותאם אישית באיכות גבוהה עם נתונים מתויגים אך מומחיות קידוד ML מוגבלת.

→השתמש ב-Vertex AI AutoML (לדוגמה, AutoML Vision Object Detection). ספק נתונים מתויגים ותן לשירות לטפל בחיפוש ארכיטקטורה ובאימון.

למה: מאזן צרכי מודל מותאמים אישית עם קלות שימוש. מספק ביצועים טובים יותר מממשקי API גנריים מאומנים מראש למשימות מותאמות אישית (לדוגמה, זיהוי מוצרים ספציפיים).

מקור↗

בנה AI שיחתי או עוזר ידע שעונה על שאלות בהתבסס על קורפוס מסמכים קנייני גדול.

→יישם תבנית Retrieval-Augmented Generation (RAG). השתמש ב-Vertex AI Vector Search כדי למצוא קטעי מסמכים רלוונטיים והעבר אותם כהקשר למודל Gemini ליצירת תגובה מבוססת.

למה: מבסס תגובות LLM בנתונים עובדתיים, מפחית הזיות ומספק ציטוטים. ניתן להרחיב אותו בקלות רבה יותר ועדכני יותר מאשר כיוונון עדין לידע.

צור צ'אטבוט או מנוע חיפוש ברמה ארגונית עם מינימום קוד, המחובר למקורות נתונים פנימיים כמו Cloud Storage או BigQuery.

→השתמש ב-Vertex AI Agent Builder. הגדר מחברי מאגר נתונים לבסיס הידע שלך והשתמש בכלים (function calling) לחיפושי נתונים בזמן אמת.

למה: פתרון Low-code שמבצע אוטומציה ליצירת צינורות RAG, כולל ניתוח מסמכים, חלוקה ל"חתיכות", הטמעה ואחזור, לפריסה מהירה.

בצע זיהוי פגמים בזמן אמת על זרמי וידאו בנפח גבוה ממצלמות ייצור עם השהיה של פחות משנייה.

→פרוס מודלים ממוטבים למכשירי קצה באמצעות Vertex AI Edge Manager. בצע הסקה מקומית ושלח רק מטא-נתונים של פגמים לענן לצורך ניטור.

למה: מטפל בדרישות רוחב פס גבוה והשהיה נמוכה שאינן ניתנות לביצוע או יקרות מדי בגישה מבוססת ענן בלבד.

נהל מאפייני ML כדי להבטיח עקביות בין אימון באצווה להגשה בזמן אמת, ומונע הטיית אימון-הגשה (training-serving skew).

→השתמש ב-Vertex AI Feature Store. הגדר קבוצות מאפיינים עם לוחות זמנים שונים לסנכרון (אצווה, סטרימינג). השתמש בשאילתות "מסע בזמן" עבור נתוני אימון מדויקים בנקודת זמן מסוימת.

למה: מספק מאגר מאפיינים מרכזי, מבטיח הגדרות מאפיינים עקביות, ופותר את בעיית הדיוק בנקודת זמן מסוימת עבור נתוני אימון.

מקור↗

יישם ממשל מודלים עם ניהול גרסאות, תהליכי עבודה של אישור, והיסטוריית פריסה ניתנת לביקורת.

→השתמש ב-Vertex AI Model Registry לניהול גרסאות ואחסון מודלים. קשר לניסויים ומערכי נתונים. השתמש ב-IAM ובכינויי גרסאות (לדוגמה, "production") לניהול אישורי פריסה.

למה: מרכז את ניהול המודלים, מאפשר ממשל, יכולת שחזור ויכולות החזרה בטוחות. משתלב עם צינורות CI/CD.

עקוב והשווה באופן שיטתי ניסויי ML, כולל היפרפרמטרים, מדדים וחפצים, כדי להבטיח יכולת שחזור.

→השתמש ב-Vertex AI Experiments. רשום אוטומטית פרמטרים ומדדים ממשימות אימון. קשר חפצים ומערכי נתונים למעקב שושלת מלא.

למה: מספק מערכת מובנית וניתנת לשאילתות לניהול ניסויים, ומתקדם מעבר לגיליונות אלקטרוניים או יומנים ידניים לשיתוף פעולה טוב יותר.

אמן והגש מודלים על נתונים רגישים (לדוגמה, PHI, PII) תוך עמידה בדרישות מחמירות של מיקום נתונים ואבטחה.

→הגדר את Vertex AI בתוך היקף VPC Service Controls. השתמש ב-Private Endpoints לבידוד רשת וב-Customer-Managed Encryption Keys (CMEK) לנתונים במנוחה.

למה: יוצר היקף רשת מאובטח המונע דליפת נתונים ומבטיח שכל העיבוד ומעבר הנתונים מתרחשים בתוך גבולות מבוקרים.

בקרת גרסאות של נתוני אימון כדי להבטיח שהניסויים ניתנים לשחזור וניתן לאתר מודלים חזרה לתמונת הנתונים המדויקת ששימשה לאימון.

→השתמש ב-Vertex AI Managed Datasets עם ניהול גרסאות. צור גרסאות חדשות של מערך נתונים עבור שינויי נתונים משמעותיים וקשר גרסאות ספציפיות להרצות אימון.

למה: מספק תמונות נתונים בלתי ניתנות לשינוי ומנוהלות גרסאות עם מעקב שושלת אוטומטי ב-ML Metadata, חיוני לצורך ציות ודיבוג.

תייג מערך נתונים גדול ולא מתויג לאימון מודלים עם תקציב מוגבל לאנוטציה אנושית.

→יישם לולאת למידה אקטיבית. אמן מודל ראשוני על תת-קבוצה קטנה מתויגת, ולאחר מכן השתמש בציוני אי-הוודאות שלו כדי לתעדף את הדוגמאות האינפורמטיביות ביותר לתיוג אנושי.

למה: ממקסם את הערך של כל דוגמה מתויגת על ידי אדם, מפחית עלויות וזמן תיוג בהשוואה לדגימה אקראית או תיוג ממצה.

צמצם את זמן האימון למודל גדול על מערך נתונים עצום על ידי הרחבה על פני מספר GPU או צמתים.

→השתמש באסטרטגיית מקביליות נתונים סינכרונית, כגון `MultiWorkerMirroredStrategy` של TensorFlow. ארוז את קוד האימון ושלח אותו ל-Vertex AI Training עם תצורת ריבוי עובדים.

למה: שיטה סטנדרטית ויעילה להרחבת רוב משימות האימון. Vertex AI מנהל את הגדרת האשכול והסנכרון, ודורש שינויים מינימליים בקוד.

אמן מודל יסוד (LLM) שגדול מכדי להיכנס לזיכרון של מאיץ יחיד (לדוגמה, >50 מיליארד פרמטרים).

→השתמש במקביליות תלת-ממדית: מקביליות טנזורית (מפצלת שכבות בתוך צמתים), מקביליות צינור (מביימת שכבות על פני צמתים), ומקביליות נתונים (משכפלת על פני ה-pod). אמן על TPUs.

למה: הדרך היחידה המעשית לאמן מודלים שחורגים מזיכרון של מכשיר יחיד. כל מימד מקביליות מטפל בצוואר בקבוק שונה של הרחבה (זיכרון, מחשוב, רשת).

מזער עלויות עבור משימות אימון ארוכות טווח ועמידות בפני תקלות (לדוגמה, >12 שעות).

→השתמש ב-Spot VMs (ניתנים להשהיה) לאימון, המציעים חיסכון של עד 80% בעלויות. הטמע שחזור תדיר ל-Cloud Storage והגדר את המשימה להפעלה מחדש אוטומטית.

למה: מפחית באופן דרסטי את עלויות האימון. שחזור מבטיח אובדן התקדמות מינימלי בעת השהיה, מה שהופך אותה לאסטרטגיה אמינה עבור משימות לא דחופות.

מצא ביעילות היפרפרמטרים אופטימליים למודל עם מרחב חיפוש גדול ומורכב.

→השתמש ב-Vertex AI Hyperparameter Tuning (Vizier) עם אופטימיזציה בייסיאנית. הגדר את מרחב החיפוש והמדד האובייקטיבי. אפשר עצירה מוקדמת כדי לקטוע ניסויים לא מבטיחים.

למה: אופטימיזציה בייסיאנית יעילה יותר מבחינת דגימה מחיפוש רשת או אקראי, מוצאת תצורות טובות יותר עם פחות ניסויים, וחוסכת זמן וכסף.

משימת אימון דורשת גרסאות ספריות ספציפיות, קרונלי CUDA מותאמים אישית, או חבילות פרטיות שאינן זמינות במכולות בנויות מראש.

→בנה מכולת Docker מותאמת אישית עם כל התלויות מקובעות. דחף את המכולה ל-Artifact Registry והפנה אליה במשימת Vertex AI Training.

למה: מספק שליטה מלאה על סביבת הביצוע, מבטיח יכולת שחזור ומטפל בתלויות מורכבות שמכולות בנויות מראש אינן יכולות לטפל בהן.

אמן מודל על מערך נתונים גדול מאוד ב-BigQuery ללא ההשהיה או העלות של ייצואו ל-Cloud Storage.

→השתמש ב-BigQuery Storage Read API ישירות ממכולת האימון. זה מאפשר סטרימינג מקבילי ובעל תפוקה גבוהה של נתונים לתוך טועני נתונים של TensorFlow או PyTorch.

למה: הדרך המהירה והיעילה ביותר לקרוא מערכי נתונים גדולים מ-BQ לאימון. מונע אחסון ביניים וצווארי בקבוק בקלט/פלט.

מקור↗

הגש מודל עם תעבורה גבוהה או משתנה (לדוגמה, שיאי 10,000 RPS) תוך שמירה על השהיה נמוכה ואופטימיזציה של עלויות.

→פרוס את המודל ל-Vertex AI Endpoint עם סוג מכונת GPU. הגדר קנה מידה אוטומטי עם ספירת עותקים מינימלית ומקסימלית המבוססת על תעבורה או ניצול.

למה: מרחיב אוטומטית משאבים כדי להתאים לביקוש, מבטיח ביצועים בשיאים וחיסכון בעלויות בזמני שפל. GPU מספקים השהיה נמוכה למודלים מורכבים.

הגש תחזיות מודל לבסיס משתמשים גלובלי עם השהיה מינימלית בכל אזור.

→פרוס את המודל ל-Vertex AI Endpoints אזוריים בכל אזור גיאוגרפי ממוקד (לדוגמה, ארה"ב, האיחוד האירופי, APAC). השתמש ב-Global Load Balancer כדי לנתב משתמשים לנקודת הקצה הקרובה ביותר.

למה: ממזער את השהיית הרשת על ידי הגשת בקשות מתשתית קרובה למשתמש. חיוני עבור יישומים גלובליים הרגישים להשהיה.

פרוס גרסת מודל חדשה בבטחה על ידי העברת תעבורה הדרגתית תוך ניטור ביצועים.

→פרוס את הגרסה החדשה לאותה נקודת קצה של Vertex AI כמו המודל הנוכחי. השתמש בפיצול תעבורה כדי לשלוח אחוז קטן מהתעבורה (לדוגמה, 5%) לגרסה החדשה, והגדל אותה בהדרגה.

למה: מאפשר פריסות קנריות ובדיקות A/B. מאפשר אימות בטוח של מודלים חדשים תחת תעבורת ייצור אמיתית עם יכולת חזרה מיידית.

הגש המלצות בזמן אמת מקטלוג של מיליוני פריטים עם השהיה של פחות מ-50ms.

→יישם ארכיטקטורת שני שלבים: 1) שלב אחזור מהיר באמצעות Vertex AI Vector Search (ANN) למציאת מועמדי Top-K. 2) שלב דירוג מדויק המיישם מודל מורכב יותר על קבוצת המועמדים הקטנה.

למה: מאזן דיוק והשהיה. אחזור ה-ANN המהיר מצמצם את מרחב הפריטים העצום, ומאפשר למדרג היקר חישובית לפעול על תת-קבוצה ניתנת לניהול.

צמצם את השהיית הסקת המודל כדי לעמוד בדרישות זמן אמת מחמירות (<20ms).

→החל טכניקות אופטימיזציה למודלים. קמפל את המודל עם TensorRT עבור GPU או OpenVINO עבור CPU. השתמש בקוונטיזציה (לדוגמה, INT8) כדי להפחית דיוק ולהגדיל תפוקה.

למה: טכניקות אלו מבצעות אופטימיזציה לגרף המודל וממנפות האצת חומרה ספציפית, ולעתים קרובות מספקות הפחתה של פי 2-5 בהשהיה ללא אובדן דיוק משמעותי.

הגש עשרות מודלים עם תעבורה נמוכה באופן חסכוני מבלי להקצות משאבים ייעודיים לכל אחד.

→השתמש בנקודת קצה מרובת מודלים (multi-model endpoint) כדי לארח במשותף מספר מודלים על סט משאבי הגשה משותף. Vertex AI טוען מודלים באופן דינמי בהתבסס על בקשות נכנסות.

למה: מפחית באופן דרמטי עלויות עבור הגשת מודלים רבים עם תעבורה לא תדירה על ידי שיפור ניצול המשאבים בהשוואה לנקודות קצה ייעודיות של מודל יחיד.

צמצם את השהיית יצירת מודלי שפה גדולים (LLM) עבור יישומים אינטראקטיביים.

→יישם פענוח ספקולטיבי (speculative decoding). השתמש במודל "טיוטה" קטן ומהיר יותר ליצירת אסימונים מועמדים, אשר לאחר מכן מאומתים במעבר יחיד על ידי המודל הגדול והמדויק יותר.

למה: מאיץ באופן משמעותי את יצירת האסימונים על ידי החלפת פענוח סדרתי באימות מקבילי, ובכך מצמצם צוואר בקבוק עיקרי בהגשת LLM.

הפוך זרימת עבודה מרובת שלבים של ML לאוטומטית, כולל אימות נתונים, עיבוד מקדים, אימון, הערכה ופריסה מותנית.

→הגדר את זרימת העבודה כ-DAG באמצעות Vertex AI Pipelines עם Kubeflow Pipelines (KFP) SDK. השתמש ברכיבים מובנים מראש או מותאמים אישית עבור כל שלב.

למה: מספק שירות תזמור מנוהל וחסר שרתים עבור ML עם מעקב מובנה אחר חפצים, שושלת, שמירת מטמון וביצוע מותנה.

מקור↗

מנע מנתונים שגויים להיכנס לצינור אימון ולגרום לירידה באיכות המודל.

→הוסף רכיב TensorFlow Data Validation (TFDV) בשלב מוקדם של הצינור. השווה נתונים סטטיסטיים נכנסים מול סכימת בסיס ועצור את הצינור אם זוהו סטיות או חריגות.

למה: משמש כשער איכות אוטומטי, לוכד בעיות נתונים באופן יזום לפני שהן מבזבזות משאבי מחשוב ומובילות למודל פגום.

הפעל אימון מודל מחדש באופן אוטומטי כאשר נתונים חדשים מגיעים או כאשר זוהה סחף מודל.

→השתמש בארכיטקטורה מונעת אירועים. הודעת Pub/Sub (לדוגמה, מעדכון Cloud Storage או התראת סחף) מפעילה Cloud Function או Eventarc trigger שמתחיל הפעלת Vertex AI Pipeline.

למה: יוצר מערכת מגיבה ויעילה המאמנת מחדש מודלים רק בעת הצורך, ומבטיחה רעננות מודל ללא הרצות מתוזמנות בזבזניות.

הפוך את קידום המודל לייצור לאוטומטי רק אם המודל החדש עולה בביצועיו על מודל הייצור הנוכחי במדדים עסקיים מרכזיים.

→ב-Vertex AI Pipeline, הוסף רכיב הערכה המשווה את המודל החדש מול קו בסיס ייצור. השתמש ב-`dsl.Condition` כדי לבצע את רכיב הפריסה רק אם המודל החדש עומד או עולה על סף הביצועים.

למה: מבצע אוטומציה לשער האיכות הסופי בצינור MLOps, מונע רגרסיות ביצועים ומבטיח שרק מודלים עדיפים נפרסים.

תקנן משימות נפוצות (לדוגמה, הנדסת מאפיינים, הערכה) על פני צינורות ML וצוותים מרובים.

→ארוז לוגיקה משותפת לרכיבים מותאמים אישית, מנוהלי גרסאות ובמכולות. אחסן אותם ב-Artifact Registry ושתף אותם בין פרויקטים.

למה: מקדם שימוש חוזר בקוד, מבטיח עקביות ומפשט תחזוקה. צוותים יכולים להרכיב צינורות מורכבים מספרייה של רכיבים אמינים ומתוקננים.

האץ פיתוח צינורות והפחת עלויות על ידי הימנעות מחישובים מיותרים במהלך הרצות חוזרות.

→הפעל שמירת מטמון ביצועים ב-Vertex AI Pipelines. השירות יעשה שימוש חוזר אוטומטי בפלטי רכיב אם הקלטים והיישום שלו לא השתנו.

למה: מאיץ באופן דרמטי פיתוח איטרטיבי על ידי כך שהוא מאפשר לך להריץ מחדש צינור ולהפעיל רק את הרכיבים ששינית.

יישם זרימת עבודה של CI/CD לבדיקה ופריסה אוטומטית של שינויים בקוד צינור ML.

→השתמש ב-Cloud Build המופעל על ידי push למאגר Git. תהליך הבנייה מריץ בדיקות יחידה של רכיבים, מקמפל את הצינור ופורס אותו לסביבת staging או production.

למה: מיישם שיטות עבודה מומלצות בהנדסת תוכנה ל-MLOps, ומאפשר עדכונים מהירים, אמינים ואוטומטיים למערכות ML בייצור.

זהה מתי ביצועי מודל ייצור יורדים עקב שינויים בנתונים הנכנסים או בתוצאות הצפויות.

→הגדר את Vertex AI Model Monitoring. הגדר משימה לזיהוי הטיית אימון-הגשה (שינויים בהתפלגות הקלט מהאימון) וסחף תחזיות (שינויים בהתפלגות הפלט לאורך זמן).

למה: מספק מערכת התרעה מוקדמת אוטומטית לירידת ביצועי המודל, ומאפשר אימון מחדש יזום או התערבות לפני שמדדים עסקיים מושפעים באופן משמעותי.

מקור↗

ביצועי המודל יורדים, אך התפלגויות מאפייני הקלט נראות יציבות (לא זוהה סחף נתונים).

→יישם ניטור של תוצאות תחזית מול תוויות אמת קרקע מושהות. ירידה בדיוק או במדדי הערכה אחרים מצביעה על סחף מושגים (concept drift), שבו הקשר בין מאפיינים למטרה השתנה.

למה: ניטור סחף מאפיינים לבדו אינו מספיק. סחף מושגים דורש הערכת תחזיות מודל מול נתונים בפועל כדי לזהות שינויים בתבניות הבסיסיות.

ספק הסברים לתחזיות מודל בודדות כדי לעמוד בדרישות רגולטוריות או לאמון בעלי עניין.

→הפעל Vertex AI Explainable AI בנקודת הקצה הפרוסה. השתמש בשיטות כמו Sampled Shapley או Integrated Gradients כדי לקבל ייחוס מאפיינים עבור כל תחזית.

למה: מספק הסברים מקומיים, לכל תחזית, המזהים אילו מאפיינים תרמו להחלטה, חיוני לביקורת ודיבוג של מודלים "קופסה שחורה".

ודא שמודל מתפקד באופן שוויוני על פני פלחי משתמשים שונים (לדוגמה, דמוגרפיה) וזהה הטיות נסתרות.

→הגדר ניטור מודל לחישוב ומעקב אחר מדדי ביצועים (לדוגמה, דיוק, שיעורי שגיאה) על פרוסות נתונים המוגדרות על ידי תכונות רגישות.

למה: מדדים מצטברים יכולים להסתיר ביצועים גרועים עבור תת-קבוצות מיעוט. ניתוח פרוסות חיוני לזיהוי והפחתת בעיות הוגנות.

מנע ממודל לבצע תחזיות לא אמינות ובטוחות מדי על קלטים השונים באופן מהותי מנתוני האימון שלו.

→יישם מודל זיהוי out-of-distribution (OOD) (לדוגמה, autoencoder) לצד המודל הראשי. שגיאת שחזור גבוהה מסמנת קלט כ-OOD, ומפעילה לוגיקת חזרה.

למה: מספק מנגנון בטיחות נגד שינוי תחום (domain shift), משפר את חוסן המודל על ידי זיהוי מתי המודל פועל מחוץ לתחום מומחיותו.

תעד את הייעוד, המגבלות, נתוני האימון והערכת ההוגנות של מודל עבור בעלי עניין טכניים ולא טכניים כאחד.

→צור Model Card באמצעות המסגרת של Google. כלול סעיפים על פרטי המודל, ייעוד, שיקולים אתיים, ניתוחים כמותיים (כולל מדדים פרוסים), ומגבלות.

למה: תקן לתיעוד AI אחראי המקדם שקיפות, אחריות ושימוש נכון במודלים ברחבי הארגון.

שמור יומן ניתן לחיפוש וביקורת של כל בקשות ותגובות התחזית לצורך ציות ודיבוג.

→הפעל רישום גישה ב-Vertex AI Endpoint. הגדר יומנים לייצוא ל-BigQuery לאחסון וניתוח מובנים וארוכי טווח.

למה: BigQuery מספק פלטפורמה ניתנת להרחבה ולשאילתות ליצירת מסלולי ביקורת, ניתוח מגמות תחזית, וצירוף תחזיות עם נתוני אמת קרקע.