Guía

Diferenciar entre tipos de IA para un caso de uso de negocio.

→Utilice la IA Generativa para la creación de contenido (texto, imágenes, código). Utilice la IA Tradicional/Discriminativa para la clasificación, predicción y análisis de datos existentes.

Por qué: La IA Generativa *crea* contenido nuevo y original. La IA Tradicional *analiza* o *categoriza* datos existentes. Este es un concepto fundamental.

Decidir si construir un modelo desde cero o utilizar uno preentrenado.

→Aprovechar los modelos fundacionales (p. ej., Gemini) que están preentrenados en conjuntos de datos masivos y diversos y adaptarlos a tareas específicas.

Por qué: Los modelos fundacionales reducen drásticamente el tiempo de desarrollo y los costos de recursos al proporcionar una base potente y de propósito general que puede especializarse mediante prompting o fine-tuning.

Una solución necesita comprender y procesar combinaciones de texto, imágenes, audio o video.

→Utilice un modelo fundacional multimodal como Gemini, que puede razonar de forma nativa a través de diferentes tipos de datos en un único prompt.

Por qué: Los modelos multimodales evitan la complejidad de unir modelos separados para cada tipo de datos, lo que permite una comprensión más sofisticada y multidisciplinar.

Un LLM está generando con confianza información plausible pero fácticamente incorrecta.

→Implementar técnicas de grounding, principalmente la Generación Aumentada por Recuperación (RAG), para conectar el modelo a fuentes de datos verificables.

Por qué: Las alucinaciones son un riesgo inherente. El grounding ancla las respuestas del modelo en una fuente de verdad, convirtiéndola en la estrategia principal para mejorar la precisión factual.

Comprender la tecnología central que permite a los LLM modernos entender el contexto.

→La arquitectura Transformer, con su mecanismo de autoatención, permite al modelo sopesar la importancia de todas las palabras en la entrada en relación entre sí.

Por qué: La autoatención es la innovación clave que permite a los LLM comprender dependencias de largo alcance y el contexto, a diferencia de los modelos secuenciales más antiguos (RNNs).

Construir un sistema de búsqueda que entienda el significado detrás de las consultas, no solo las palabras clave.

→Utilice un modelo de embedding (p. ej., de Vertex AI) para convertir texto en vectores numéricos. Almacene estos vectores y utilice la búsqueda de similitud vectorial para encontrar contenido semánticamente relacionado.

Por qué: Los embeddings capturan el significado semántico. Las consultas pueden encontrar resultados conceptualmente similares incluso si no comparten palabras clave.

Una aplicación creativa necesita salidas variadas, mientras que un chatbot factual necesita respuestas deterministas.

→Aumente el parámetro `temperature` (p. ej., >0.7) para tareas creativas. Disminuya `temperature` (p. ej., <0.3) para respuestas factuales y consistentes.

Por qué: La temperatura controla la aleatoriedad de la salida. Una temperatura baja elige las palabras más probables; una temperatura alta aumenta la variedad.

Procesar un documento grande que excede el límite de tokens del modelo.

→Diseñar una solución utilizando chunking, resumen o un enfoque RAG para procesar el documento en partes manejables que encajen dentro de la ventana de contexto.

Por qué: Los modelos tienen una ventana de contexto finita. Cualquier entrada que exceda este límite se ignora, lo que lleva a la pérdida de información. La arquitectura debe tener esto en cuenta.

Descubrir, probar e implementar una variedad de modelos fundacionales en Google Cloud.

→Utilice Vertex AI Model Garden como catálogo central para los modelos propietarios de Google (Gemini), modelos de código abierto (Llama, Mistral) y modelos de socios.

Por qué: Model Garden es el punto de entrada unificado para acceder a un conjunto curado de modelos fundacionales, simplificando el descubrimiento y la implementación dentro de un entorno de nivel empresarial.

Referencia↗

Un asistente de IA necesita responder preguntas sobre información que cambia con frecuencia, como el inventario de productos o noticias recientes.

→Implementar un patrón de Generación Aumentada por Recuperación (RAG). Conectar el LLM a una base de conocimiento externa y actualizada (p. ej., una base de datos, un almacén de documentos).

Por qué: RAG permite al modelo acceder a información en tiempo real en el momento de la inferencia, superando su límite de conocimiento y proporcionando respuestas precisas y actuales.

Construir un motor de búsqueda empresarial o un agente de IA conversacional basado en datos de la empresa.

→Utilice Vertex AI Search and Conversation (parte de Agent Builder). Apúntelo a sus fuentes de datos (sitios web, documentos) para crear una aplicación de búsqueda o un chatbot.

Por qué: Esta es una solución gestionada y de bajo código para construir aplicaciones de búsqueda y chat de nivel empresarial y basadas en datos, reduciendo significativamente la complejidad del desarrollo.

Un modelo necesita aprender una habilidad altamente especializada, terminología o comportamiento consistente que el prompting por sí solo no puede lograr.

→Realizar un fine-tuning supervisado en un modelo fundacional utilizando un conjunto de datos curado de ejemplos de alta calidad.

Por qué: El fine-tuning adapta los pesos internos del modelo, convirtiéndolo en un experto en un dominio específico. Es más potente que el prompting para una especialización profunda.

Necesidad de personalizar un modelo fundacional para un dominio específico pero careciendo de los recursos para un fine-tuning completo.

→Utilice un método de Fine-Tuning Eficiente en Parámetros (PEFT) como LoRA o adapter tuning disponible en Vertex AI.

Por qué: PEFT ajusta solo una pequeña fracción de los parámetros del modelo, logrando una personalización significativa con un costo computacional y tiempo drásticamente menores.

Un modelo está fallando en tareas que requieren un razonamiento complejo y de varios pasos (p. ej., problemas de matemáticas, rompecabezas de lógica).

→Utilice el prompting de cadena de pensamiento (CoT). Indique al modelo que "piense paso a paso" antes de dar la respuesta final.

Por qué: CoT anima al modelo a desglosar un problema, lo que ha demostrado mejorar significativamente su capacidad de razonamiento y la precisión de la respuesta final en tareas complejas.

El modelo necesita generar consistentemente una salida en un formato específico (p. ej., JSON, un cierto estilo de escritura).

→Utilice el prompting few-shot. Proporcione 2-5 ejemplos del patrón de entrada-salida deseado directamente en el prompt.

Por qué: Proporcionar ejemplos es más efectivo que solo describir el formato. El modelo aprende el patrón y lo aplica a la nueva solicitud.

Elegir la variante de modelo Gemini adecuada para un caso de uso específico.

→Utilice Gemini Pro para razonamiento complejo y de alta calidad. Utilice Gemini Flash para tareas de alto volumen, baja latencia y sensibles al costo. Utilice Gemini Nano para aplicaciones en el dispositivo.

Por qué: Seleccionar el tamaño de modelo correcto es un compromiso crítico entre capacidad, velocidad y costo. Utilizar el modelo más pequeño que cumpla con el requisito es una mejor práctica.

Automatizar la extracción de datos estructurados (p. ej., partidas, fechas, totales) de documentos no estructurados como facturas o recibos.

→Utilice Google Cloud Document AI. Utilice sus procesadores preentrenados para tipos de documentos comunes o construya un procesador personalizado para formatos únicos.

Por qué: Document AI es un servicio construido específicamente que va más allá del simple OCR para comprender la estructura y semántica de los documentos, proporcionando una precisión mucho mayor para las tareas de extracción de datos.

Referencia↗

Aplicar capacidades de IA generativa (p. ej., resumen, análisis de sentimientos) a datos almacenados en un data warehouse de BigQuery.

→Utilice BigQuery ML para llamar directamente a los modelos fundacionales de Vertex AI con comandos SQL. Procese los datos en su lugar sin moverlos.

Por qué: Esto simplifica la arquitectura, mejora la seguridad al mantener los datos dentro de BigQuery y permite a los analistas de datos aprovechar la IA utilizando una sintaxis SQL familiar.

Aumentar la productividad de los usuarios de negocio dentro de sus herramientas existentes como Gmail, Docs y Sheets.

→Integre Gemini para Google Workspace. Esto proporciona asistencia de IA directamente dentro de las aplicaciones de Workspace para tareas como redactar correos electrónicos, resumir documentos y analizar datos.

Por qué: Esto lleva las capacidades de IA a los usuarios en su flujo de trabajo familiar, acelerando la adopción y proporcionando beneficios de productividad inmediatos sin cambiar de contexto.

Mejorar la velocidad del desarrollador y la calidad del código.

→Proporcionar a los desarrolladores Gemini Code Assist, que se integra en los IDEs para ofrecer completado de código, generación, explicación y creación de pruebas.

Por qué: Los asistentes de código de IA reducen el tiempo dedicado al código repetitivo, ayudan a comprender bases de código complejas y mejoran la productividad general del desarrollador.

Elegir la herramienta adecuada para la experimentación y el desarrollo de IA generativa.

→Utilice Google AI Studio para prototipos rápidos y sin costo basados en la web con modelos Gemini a través de una clave de API. Utilice Vertex AI Studio para desarrollo de nivel empresarial con integración con GCP, controles de seguridad y capacidades de MLOps.

Por qué: Google AI Studio es para prototipos rápidos; Vertex AI Studio es el camino hacia la producción, ofreciendo seguridad empresarial, gobernanza de datos y escalabilidad.

Un agente de IA necesita adoptar una personalidad específica, seguir reglas y mantener un tono consistente en las conversaciones.

→Defina el comportamiento del agente utilizando un system prompt. Esta instrucción se proporciona al modelo por separado de la consulta del usuario para guiar su conducta general.

Por qué: Un system prompt es la forma más efectiva de establecer directrices de comportamiento duraderas y consistentes sin tener que repetirlas en cada prompt dirigido al usuario.

Una solución requiere una capacidad de IA común y específica como traducción, voz a texto o texto a voz.

→Utilice las APIs preentrenadas y específicas: Cloud Translation API, Speech-to-Text API o Text-to-Speech API.

Por qué: Estas APIs gestionadas están altamente optimizadas para su tarea específica y son más rentables y sencillas de implementar que usar un LLM de propósito general para la misma función.

Un sistema de IA se utiliza para un proceso de alto riesgo donde los errores son costosos o peligrosos (p. ej., resúmenes médicos, informes financieros).

→Implemente un flujo de trabajo de Human-in-the-Loop (HITL). La IA genera un borrador, que luego es revisado, editado y aprobado por un experto humano.

Por qué: HITL combina la velocidad de la IA con el juicio y la responsabilidad humanos, lo cual es esencial para mitigar riesgos en aplicaciones críticas.

El rendimiento de un modelo de IA se degrada con el tiempo después de ser implementado en producción.

→Implemente un monitoreo continuo para rastrear el rendimiento del modelo y detectar la deriva de datos o la deriva de concepto.

Por qué: El mundo real cambia. La deriva de datos ocurre cuando los datos de producción ya no se parecen a los datos de entrenamiento. El monitoreo es crítico para saber cuándo es necesario reentrenar o actualizar.

Previsión y gestión del costo operativo de un servicio de IA generativa.

→Comprenda que los servicios de Vertex AI GenAI tienen un precio de pago por uso, típicamente por cada 1,000 caracteres o tokens de entrada y salida.

Por qué: El costo está directamente ligado al uso. Los arquitectos deben diseñar sistemas para gestionar las longitudes de los prompts y las respuestas para controlar los gastos operativos.

Una aplicación de IA experimenta alta latencia o errores durante el tráfico de usuarios pico.

→Escale la implementación del modelo. Para los endpoints de predicción de Vertex AI, aumente el número de réplicas de máquinas o utilice tipos de máquinas de mayor rendimiento.

Por qué: El rendimiento de la inferencia no es infinitamente escalable. La infraestructura subyacente debe ser provisionada para manejar el volumen de solicitudes esperado.

Una solución de IA generativa debe procesar datos sensibles que están sujetos a regulaciones de soberanía de datos regionales (p. ej., GDPR).

→Configure Vertex AI para usar endpoints regionales. Integre con Controles de Servicio de VPC para crear un perímetro de servicio que impida la exfiltración de datos.

Por qué: Google Cloud proporciona controles explícitos para asegurar que los datos se procesen dentro de una región geográfica específica y estén aislados de las redes públicas, lo cual es obligatorio para muchos regímenes de cumplimiento.

Una aplicación maneja una mezcla de consultas simples y complejas, y usar un único modelo grande es prohibitivo en costos.

→Implementar un enrutador de modelos. Pre-clasificar los prompts entrantes y enrutar las solicitudes simples a un modelo pequeño, rápido y económico (p. ej., Gemini Flash) y las solicitudes complejas a un modelo potente (p. ej., Gemini Pro).

Por qué: Este patrón optimiza el equilibrio costo-rendimiento al utilizar el recurso más apropiado para cada tarea, reduciendo significativamente los costos operativos generales.

Lanzar una nueva iniciativa de IA generativa dentro de la organización.

→Comience identificando un problema de negocio o caso de uso de alto valor. No empiece con la tecnología y busque un problema.

Por qué: Los proyectos de IA exitosos son aquellos que ofrecen un valor de negocio medible. Una declaración de problema clara asegura el enfoque y alinea el proyecto con los objetivos estratégicos.

Un modelo de IA está mostrando un comportamiento sesgado contra ciertos grupos demográficos.

→Abordar el sesgo a lo largo del ciclo de vida de ML: auditar y curar los datos de entrenamiento para la equidad, probar el modelo en busca de impactos dispares e implementar monitoreo post-despliegue para resultados sesgados.

Por qué: El sesgo se origina principalmente en los datos. No se puede solucionar con una única solución técnica; requiere un proceso integral y continuo de pruebas y mitigación.

Una empresa necesita escalar su uso de la IA de manera responsable en múltiples departamentos.

→Establecer un comité de gobernanza de IA multifuncional. Crear políticas claras para el desarrollo de IA, evaluación de riesgos, revisión ética, implementación y monitoreo.

Por qué: La gobernanza centralizada asegura la consistencia, gestiona el riesgo y promueve el uso responsable de la IA, previniendo un "salvaje oeste" caótico de proyectos de IA no gestionados.

Prevenir que un chatbot de cara al público genere contenido dañino, odioso o inapropiado.

→Habilitar los filtros de seguridad incorporados en Vertex AI. Configure umbrales para categorías como discurso de odio, acoso y contenido peligroso.

Por qué: Estos modelos de clasificación preentrenados proporcionan una primera línea de defensa crítica contra la generación de contenido inseguro, formando una parte central del despliegue responsable de la IA.

Justificar una inversión en IA ante la dirección ejecutiva.

→Mida el ROI de forma holística. Rastree métricas de eficiencia (p. ej., tiempo ahorrado, reducción de costos) y métricas de efectividad (p. ej., aumento de ingresos, mejora de calidad, satisfacción del cliente).

Por qué: Un análisis integral del ROI va más allá del ahorro de costos para capturar el valor empresarial completo, incluyendo mejoras en la calidad y nuevas oportunidades de ingresos.

Desplegar un sistema de IA en una industria regulada (p. ej., finanzas, atención médica) que requiere transparencia en las decisiones.

→Para ML tradicional, use Vertex AI Explainability. Para GenAI, use RAG con atribución de fuente para proporcionar citas y justificaciones para las respuestas generadas.

Por qué: La transparencia genera confianza y es un requisito legal en muchos dominios. Proporcionar citas para las respuestas de GenAI es el método principal para la explicabilidad.

Desarrollar una estrategia corporativa para asegurar los sistemas de IA contra nuevos tipos de amenazas.

→Adoptar los principios del Secure AI Framework (SAIF) de Google, que proporciona recomendaciones para asegurar la cadena de suministro, el modelo y el despliegue de la IA.

Por qué: SAIF ofrece una guía conceptual estructurada para extender las prácticas tradicionales de ciberseguridad a los desafíos únicos de la IA, como la inyección de prompts y el envenenamiento de datos.

Referencia↗

Implementar una nueva herramienta de IA entre la fuerza laboral para asegurar una adopción exitosa.

→Implementar un programa estructurado de gestión del cambio. Asegurar el patrocinio ejecutivo, comunicar claramente el papel de la IA, proporcionar capacitación integral e integrar la IA en los flujos de trabajo existentes de manera gradual.

Por qué: La tecnología es solo una parte de la solución. La adopción exitosa de la IA depende de las personas y los procesos, requiriendo un esfuerzo deliberado para construir habilidades, confianza y nuevas formas de trabajar.

Utilizar datos de clientes para entrenar o ejecutar un modelo de IA generativa.

→Asegurar el estricto cumplimiento de las regulaciones de privacidad de datos (p. ej., GDPR). Utilizar principios de minimización de datos, anonimizar PII donde sea posible y revisar cuidadosamente las políticas de uso de datos del proveedor de IA.

Por qué: Utilizar datos de clientes con IA crea riesgos significativos de privacidad y cumplimiento. La gobernanza de datos y la privacidad deben ser consideraciones de diseño fundamentales desde el principio.