Laboratorio práctico — GAIL Google Cloud Generative AI Leader

Descripción general

Requisitos previos

Pasos

1. 1.Proveedor, servicios del proyecto, nomenclatura

   Habilite las APIs de Vertex AI, Discovery Engine (Vertex AI Search), Cloud Notebooks y Cloud Monitoring.

   Copiar

   terraform {
     required_version = ">= 1.5"
   
     required_providers {
       google = { source = "hashicorp/google", version = "~> 6.0" }
     }
   }
   
   provider "google" {
     project = "your-project-id" # REPLACE
     region  = "us-central1"
   }
   
   locals {
     labels = {
       project    = "certlabpro-gail"
       managed_by = "terraform"
     }
   }
   
   resource "google_project_service" "aiplatform" {
     service            = "aiplatform.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "notebooks" {
     service            = "notebooks.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "discoveryengine" {
     service            = "discoveryengine.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "monitoring" {
     service            = "monitoring.googleapis.com"
     disable_on_destroy = false
   }

2. 2.Aprovisionar una instancia de Vertex AI Workbench para prototipado

   Aprovisiona:

   • Vertex AI Workbench

   Vertex AI Workbench es la superficie de Jupyter en la nube desde la que comienza cada flujo de prototipado de GenAI en GCP — equivalente a Amazon SageMaker Studio / Azure ML Workbench. El examen GAIL evalúa esto como la primitiva estación de trabajo del científico de datos.

   Provisionamos una pequeña instancia de Workbench e2-standard-2 precargada con las bibliotecas de Python de GenAI. El Workbench se ejecuta en una VM administrada de Compute Engine de forma subyacente — también lo verá en la consola de GCE. Detenga la instancia a través de la consola de Vertex AI Workbench cuando no la esté usando activamente para evitar un costo de aproximadamente 50 $/mes mientras está inactiva.

   Copiar

   resource "google_workbench_instance" "main" {
     name     = "certlabpro-gail-workbench"
     location = "us-central1-a"
   
     gce_setup {
       machine_type = "e2-standard-2"
   
       boot_disk {
         disk_size_gb = 100
         disk_type    = "PD_STANDARD"
       }
     }
   
     labels = local.labels
   
     depends_on = [google_project_service.notebooks]
   }

3. 3.Crear un almacén de datos de Discovery Engine (fuente de base para Vertex AI Search)

   Aprovisiona:

   • Vertex AI Search

   Discovery Engine (anteriormente Vertex AI Search) es la primitiva RAG insignia del examen GAIL — apúntelo a un corpus (cubo de GCS, rastreo de sitio web, conjunto de datos de BigQuery o JSON estructurado), indexa el contenido, y las llamadas posteriores de Gemini pueden basar sus respuestas en ese corpus.

   Creamos un almacén de datos de tipo GENERIC — el contenedor conceptual para el contenido indexado. Las implementaciones de producción pueblan el almacén con documentos a través de la API de Discovery Engine; para el laboratorio, el almacén vacío es la demostración de que el recurso existe y se factura en consecuencia.

   El examen GAIL evalúa este triángulo de almacén de datos → aplicación de búsqueda → respuestas fundamentadas como la forma estándar de RAG empresarial en GCP.

   Copiar

   resource "google_discovery_engine_data_store" "main" {
     data_store_id     = "certlabpro-gail-store"
     display_name      = "GAIL lab data store"
     location          = "global"
     industry_vertical = "GENERIC"
   
     content_config = "CONTENT_REQUIRED"
     solution_types = ["SOLUTION_TYPE_SEARCH"]
   
     depends_on = [google_project_service.discoveryengine]
   }

4. 4.Alerta sobre la tasa de error de predicción de Vertex AI

   Aprovisiona:

   • Cloud Monitoring

   Las cargas de trabajo de GenAI tienen una dimensión operativa que el examen GAIL sigue destacando: errores de predicción, latencia, costo por token. Configuramos una alerta de Cloud Monitoring sobre la métrica de error de predicción de Vertex AI — se activa cuando la tasa de error supera el 5% en 5 minutos.

   Con cuatro bloques en su lugar (proveedor+APIs, Workbench para prototipado, almacén de datos de Discovery Engine para fundamentación y un mecanismo de alerta de Cloud Monitoring para la salud operativa), el panorama conceptual de GAIL se mapea a la infraestructura aprovisionada real. Las implementaciones reales de GenAI superponen selecciones de modelos, entrenamiento personalizado, gestión de prompts, constructor de agentes y controles de Model Armor / IA Responsable sobre esta base — pero el sustrato anterior es la forma que verá en los escenarios del examen GAIL.

   Copiar

   resource "google_monitoring_alert_policy" "vertex_prediction_errors" {
     display_name = "GAIL lab — Vertex AI prediction error rate"
     combiner     = "OR"
   
     conditions {
       display_name = "Prediction error rate > 5% over 5 minutes"
   
       condition_threshold {
         filter          = "metric.type=\"aiplatform.googleapis.com/prediction/online/error_count\" AND resource.type=\"aiplatform.googleapis.com/Endpoint\""
         duration        = "300s"
         comparison      = "COMPARISON_GT"
         threshold_value = 0.05
   
         aggregations {
           alignment_period   = "60s"
           per_series_aligner = "ALIGN_RATE"
         }
       }
     }
   
     # notification_channels = []  # add channels via console or separate TF resource
   
     depends_on = [google_project_service.monitoring]
   }

Limpieza