Лабораторная работа — GAIL Google Cloud Generative AI Leader

Обзор

Предварительные требования

Шаги

1. 1.Провайдер, службы проекта, именование

   Включите API Vertex AI, Discovery Engine (Vertex AI Search), Cloud Notebooks и Cloud Monitoring.

   Копировать

   terraform {
     required_version = ">= 1.5"
   
     required_providers {
       google = { source = "hashicorp/google", version = "~> 6.0" }
     }
   }
   
   provider "google" {
     project = "your-project-id" # REPLACE
     region  = "us-central1"
   }
   
   locals {
     labels = {
       project    = "certlabpro-gail"
       managed_by = "terraform"
     }
   }
   
   resource "google_project_service" "aiplatform" {
     service            = "aiplatform.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "notebooks" {
     service            = "notebooks.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "discoveryengine" {
     service            = "discoveryengine.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "monitoring" {
     service            = "monitoring.googleapis.com"
     disable_on_destroy = false
   }

2. 2.Развертывание экземпляра Vertex AI Workbench для прототипирования

   Создаваемые ресурсы:

   • Vertex AI Workbench

   Vertex AI Workbench — это среда Jupyter в облаке, с которой начинается любой поток прототипирования GenAI в GCP — эквивалент Amazon SageMaker Studio / Azure ML Workbench. Экзамен GAIL тестирует это как “основное место работы специалиста по данным”.

   Мы развертываем небольшой экземпляр Workbench e2-standard-2, предварительно загруженный библиотеками GenAI Python. Workbench работает в управляемой виртуальной машине Compute Engine — вы также увидите его в консоли GCE. Останавливайте экземпляр через консоль Vertex AI Workbench, когда вы его не используете, чтобы избежать затрат около ~$50/месяц в режиме простоя.

   Копировать

   resource "google_workbench_instance" "main" {
     name     = "certlabpro-gail-workbench"
     location = "us-central1-a"
   
     gce_setup {
       machine_type = "e2-standard-2"
   
       boot_disk {
         disk_size_gb = 100
         disk_type    = "PD_STANDARD"
       }
     }
   
     labels = local.labels
   
     depends_on = [google_project_service.notebooks]
   }

3. 3.Создание хранилища данных Discovery Engine (источник для Vertex AI Search)

   Создаваемые ресурсы:

   • Vertex AI Search

   Discovery Engine (ранее Vertex AI Search) — это флагманский примитив RAG экзамена GAIL — направьте его на корпус (корзина GCS, сканирование веб-сайта, набор данных BigQuery или структурированный JSON), он индексирует содержимое, и последующие вызовы Gemini могут основывать свои ответы на этом корпусе.

   Мы создаем хранилище данных типа GENERIC — концептуальный контейнер для индексированного содержимого. Промышленные развертывания заполняют хранилище документами через API Discovery Engine; для лабораторной работы пустое хранилище является демонстрацией того, что ресурс существует и тарифицируется соответствующим образом.

   Экзамен GAIL тестирует этот треугольник хранилище данных → поисковое приложение → обоснованные ответы как стандартный шаблон enterprise-RAG-on-GCP.

   Копировать

   resource "google_discovery_engine_data_store" "main" {
     data_store_id     = "certlabpro-gail-store"
     display_name      = "GAIL lab data store"
     location          = "global"
     industry_vertical = "GENERIC"
   
     content_config = "CONTENT_REQUIRED"
     solution_types = ["SOLUTION_TYPE_SEARCH"]
   
     depends_on = [google_project_service.discoveryengine]
   }

4. 4.Оповещение о частоте ошибок прогнозирования Vertex AI

   Создаваемые ресурсы:

   • Cloud Monitoring

   Рабочие нагрузки GenAI имеют операционный аспект, который постоянно всплывает на экзамене GAIL: ошибки прогнозирования, задержка, стоимость за токен. Мы настраиваем оповещение Cloud Monitoring по метрике ошибок прогнозирования Vertex AI — оно срабатывает, когда частота ошибок превышает 5% за 5 минут.

   С четырьмя установленными блоками (провайдер+API, Workbench для прототипирования, хранилище данных Discovery Engine для обоснования и Cloud Monitoring для операционного здоровья) концептуальный ландшафт GAIL отображается на реально созданную инфраструктуру. Реальные развертывания GenAI надстраивают над этой основой выбор моделей из Model Garden, пользовательское обучение, управление подсказками, создание агентов и средства Model Armor / Responsible AI — но вышеописанная основа — это то, что вы увидите в сценариях экзамена GAIL.

   Копировать

   resource "google_monitoring_alert_policy" "vertex_prediction_errors" {
     display_name = "GAIL lab — Vertex AI prediction error rate"
     combiner     = "OR"
   
     conditions {
       display_name = "Prediction error rate > 5% over 5 minutes"
   
       condition_threshold {
         filter          = "metric.type=\"aiplatform.googleapis.com/prediction/online/error_count\" AND resource.type=\"aiplatform.googleapis.com/Endpoint\""
         duration        = "300s"
         comparison      = "COMPARISON_GT"
         threshold_value = 0.05
   
         aggregations {
           alignment_period   = "60s"
           per_series_aligner = "ALIGN_RATE"
         }
       }
     }
   
     # notification_channels = []  # add channels via console or separate TF resource
   
     depends_on = [google_project_service.monitoring]
   }

Очистка ресурсов