ハンズオンラボ — GAIL Google Cloud Generative AI Leader

概要

前提条件

ステップ

1. 1.プロバイダー、プロジェクトサービス、命名

   Vertex AI、Discovery Engine (Vertex AI Search)、Cloud Notebooks、およびCloud Monitoring APIを有効にします。

   コピー

   terraform {
     required_version = ">= 1.5"
   
     required_providers {
       google = { source = "hashicorp/google", version = "~> 6.0" }
     }
   }
   
   provider "google" {
     project = "your-project-id" # REPLACE
     region  = "us-central1"
   }
   
   locals {
     labels = {
       project    = "certlabpro-gail"
       managed_by = "terraform"
     }
   }
   
   resource "google_project_service" "aiplatform" {
     service            = "aiplatform.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "notebooks" {
     service            = "notebooks.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "discoveryengine" {
     service            = "discoveryengine.googleapis.com"
     disable_on_destroy = false
   }
   
   resource "google_project_service" "monitoring" {
     service            = "monitoring.googleapis.com"
     disable_on_destroy = false
   }

2. 2.プロトタイプ作成用のVertex AI Workbenchインスタンスをプロビジョニングする

   プロビジョニング対象:

   • Vertex AI Workbench

   Vertex AI Workbenchは、GCP上でのあらゆるGenAIプロトタイプ作成フローが開始される、クラウド上のJupyter環境です。これはAmazon SageMaker Studio / Azure ML Workbenchに相当します。GAIL試験では、これを「データサイエンティストのための主要な環境」としてテストします。

   GenAI Pythonライブラリがプリロードされた、小規模な e2-standard-2 Workbenchインスタンスをプロビジョニングします。Workbenchは内部でマネージドなCompute Engine VM上で実行されており、GCEコンソールでも確認できます。アイドル状態での月額約50ドルの費用を避けるため、アクティブに使用していない場合はVertex AI Workbenchコンソールからインスタンスを停止してください。

   コピー

   resource "google_workbench_instance" "main" {
     name     = "certlabpro-gail-workbench"
     location = "us-central1-a"
   
     gce_setup {
       machine_type = "e2-standard-2"
   
       boot_disk {
         disk_size_gb = 100
         disk_type    = "PD_STANDARD"
       }
     }
   
     labels = local.labels
   
     depends_on = [google_project_service.notebooks]
   }

3. 3.Discovery Engineデータストアを作成する (Vertex AI Searchの基盤ソース)

   プロビジョニング対象:

   • Vertex AI Search

   Discovery Engine (旧称: Vertex AI Search) は、GAIL試験の主要なRAGプリミティブです。これをコーパス (GCSバケット、ウェブサイトのクロール、BigQueryデータセット、または構造化されたJSON) に指定すると、そのコンテンツをインデックス化し、ダウンストリームのGemini呼び出しがそのコーパスに基づいて回答を生成できるようになります。

   ここでは、GENERIC タイプのデータストアを作成します。これはインデックス化されたコンテンツの概念的なコンテナです。本番環境のデプロイでは、Discovery Engine APIを通じてストアにドキュメントが投入されます。このラボでは、空のストアはリソースが存在し、それに応じて課金されることを示すデモンストレーションです。

   GAIL試験では、この「データストア → 検索アプリ → 基盤付き回答」という三角形が、GCPにおけるエンタープライズRAGの標準的な形として出題されます。

   コピー

   resource "google_discovery_engine_data_store" "main" {
     data_store_id     = "certlabpro-gail-store"
     display_name      = "GAIL lab data store"
     location          = "global"
     industry_vertical = "GENERIC"
   
     content_config = "CONTENT_REQUIRED"
     solution_types = ["SOLUTION_TYPE_SEARCH"]
   
     depends_on = [google_project_service.discoveryengine]
   }

4. 4.Vertex AI予測エラー率に関するアラート

   プロビジョニング対象:

   • Cloud Monitoring

   GenAIワークロードには、GAIL試験で繰り返し取り上げられる運用の側面があります。それは、予測エラー、レイテンシ、トークンあたりのコストなどです。ここでは、Vertex AIの予測エラーメトリクスにCloud Monitoringアラートを設定します。エラー率が5分間で5%を超えた場合にトリガーされます。

   4つのブロック（プロバイダー+API、プロトタイプ作成用のWorkbench、基盤用のDiscovery Engineデータストア、および運用の健全性監視用のCloud Monitoringトリップワイヤ）が配置され、GAILの概念的なランドスケープが実際のプロビジョニング済みインフラストラクチャにマッピングされます。実際のGenAIデプロイメントでは、この基盤の上にモデルガーデンの選択、カスタムトレーニング、プロンプト管理、エージェントビルダー、Model Armor / 責任あるAIコントロールが層として重ねられますが、上記の基盤はGAIL試験のシナリオで目にする形です。

   コピー

   resource "google_monitoring_alert_policy" "vertex_prediction_errors" {
     display_name = "GAIL lab — Vertex AI prediction error rate"
     combiner     = "OR"
   
     conditions {
       display_name = "Prediction error rate > 5% over 5 minutes"
   
       condition_threshold {
         filter          = "metric.type=\"aiplatform.googleapis.com/prediction/online/error_count\" AND resource.type=\"aiplatform.googleapis.com/Endpoint\""
         duration        = "300s"
         comparison      = "COMPARISON_GT"
         threshold_value = 0.05
   
         aggregations {
           alignment_period   = "60s"
           per_series_aligner = "ALIGN_RATE"
         }
       }
     }
   
     # notification_channels = []  # add channels via console or separate TF resource
   
     depends_on = [google_project_service.monitoring]
   }

クリーンアップ