Laboratório prático — GAIL Google Cloud Generative AI Leader

Visão geral

Pré-requisitos

Passos

1. 1.Provedor, serviços do projeto, nomenclatura

   Habilite as APIs do Vertex AI, Discovery Engine (Vertex AI Search), Cloud Notebooks e Cloud Monitoring.

   Copiar

   terraform {
     required_version = ">= 1.5"
   
     required_providers {
       google = { source = "hashicorp/google", version = "~> 6.0" }
     }
   }
   
   provider "google" {
     project = "your-project-id" # REPLACE
     region  = "us-central1"
   }
   
   locals {
     labels = {
       project    = "certlabpro-gail"
       managed_by = "terraform"
     }
   }
   
   resource "google_project_service" "aiplatform" {
     service            = "aiplatform.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "notebooks" {
     service            = "notebooks.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "discoveryengine" {
     service            = "discoveryengine.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "monitoring" {
     service            = "monitoring.googleapis.com"
     disable_on_destroy = false
   }

2. 2.Provisione uma instância do Vertex AI Workbench para prototipagem

   Provisiona:

   • Vertex AI Workbench

   O Vertex AI Workbench é a superfície Jupyter na nuvem de onde todo fluxo de prototipagem GenAI no GCP começa — equivalente ao Amazon SageMaker Studio / Azure ML Workbench. O exame GAIL testa isso como a primitiva do assento do cientista de dados preferencial.

   Provisionamos uma pequena instância e2-standard-2 do Workbench pré-carregada com as bibliotecas Python GenAI. O Workbench é executado em uma VM gerenciada do Compute Engine por baixo dos panos — você também o verá no console do GCE. Pare a instância via console do Vertex AI Workbench quando não a estiver usando ativamente para evitar ~$50/mês enquanto ociosa.

   Copiar

   resource "google_workbench_instance" "main" {
     name     = "certlabpro-gail-workbench"
     location = "us-central1-a"
   
     gce_setup {
       machine_type = "e2-standard-2"
   
       boot_disk {
         disk_size_gb = 100
         disk_type    = "PD_STANDARD"
       }
     }
   
     labels = local.labels
   
     depends_on = [google_project_service.notebooks]
   }

3. 3.Crie um data store do Discovery Engine (fonte de base do Vertex AI Search)

   Provisiona:

   • Vertex AI Search

   O Discovery Engine (anteriormente Vertex AI Search) é a primitiva RAG principal do exame GAIL — aponte-o para um corpus (bucket GCS, rastreamento de site, conjunto de dados BigQuery ou JSON estruturado), ele indexa o conteúdo, e as chamadas subsequentes do Gemini podem fundamentar suas respostas nesse corpus.

   Criamos um data store do tipo GENERIC — o contêiner conceitual para conteúdo indexado. Implantações de produção preenchem o store com documentos via API do Discovery Engine; para o laboratório, o store vazio é a demonstração de que o recurso existe e é cobrado de acordo.

   O exame GAIL testa este triângulo data store → aplicativo de pesquisa → respostas fundamentadas como o formato padrão de RAG empresarial no GCP.

   Copiar

   resource "google_discovery_engine_data_store" "main" {
     data_store_id     = "certlabpro-gail-store"
     display_name      = "GAIL lab data store"
     location          = "global"
     industry_vertical = "GENERIC"
   
     content_config = "CONTENT_REQUIRED"
     solution_types = ["SOLUTION_TYPE_SEARCH"]
   
     depends_on = [google_project_service.discoveryengine]
   }

4. 4.Alerta sobre a taxa de erro de previsão do Vertex AI

   Provisiona:

   • Cloud Monitoring

   Cargas de trabalho GenAI possuem uma dimensão operacional que o exame GAIL continua a abordar: erros de previsão, latência, custo por token. Configuramos um alerta do Cloud Monitoring na métrica de erro de previsão do Vertex AI — ele dispara quando a taxa de erro excede 5% em 5 minutos.

   Com quatro blocos implementados (provedor+APIs, Workbench para prototipagem, data store do Discovery Engine para fundamentação e um alerta do Cloud Monitoring para saúde operacional), o panorama conceitual do GAIL é mapeado para a infraestrutura provisionada real. Implantações GenAI reais adicionam escolhas do model garden, treinamento personalizado, gerenciamento de prompts, construtor de agentes e controles do Model Armor / IA Responsável sobre esta fundação — mas o substrato acima é o formato que você verá nos cenários do exame GAIL.

   Copiar

   resource "google_monitoring_alert_policy" "vertex_prediction_errors" {
     display_name = "GAIL lab — Vertex AI prediction error rate"
     combiner     = "OR"
   
     conditions {
       display_name = "Prediction error rate > 5% over 5 minutes"
   
       condition_threshold {
         filter          = "metric.type=\"aiplatform.googleapis.com/prediction/online/error_count\" AND resource.type=\"aiplatform.googleapis.com/Endpoint\""
         duration        = "300s"
         comparison      = "COMPARISON_GT"
         threshold_value = 0.05
   
         aggregations {
           alignment_period   = "60s"
           per_series_aligner = "ALIGN_RATE"
         }
       }
     }
   
     # notification_channels = []  # add channels via console or separate TF resource
   
     depends_on = [google_project_service.monitoring]
   }

Limpeza