Guide

Différencier les types d'IA pour un cas d'utilisation métier.

→Utiliser l'IA générative pour la création de contenu (texte, images, code). Utiliser l'IA traditionnelle/discriminative pour la classification, la prédiction et l'analyse de données existantes.

Pourquoi: L'IA générative *crée* du contenu nouveau et original. L'IA traditionnelle *analyse* ou *catégorise* des données existantes. C'est un concept fondamental.

Décider s'il faut construire un modèle à partir de zéro ou en utiliser un pré-entraîné.

→Tirer parti des modèles de fondation (par exemple, Gemini) qui sont pré-entraînés sur des ensembles de données massifs et diversifiés et les adapter à des tâches spécifiques.

Pourquoi: Les modèles de fondation réduisent considérablement le temps de développement et les coûts de ressources en fournissant une base puissante et polyvalente qui peut être spécialisée via le prompting ou le fine-tuning.

Une solution doit comprendre et traiter des combinaisons de texte, d'images, d'audio ou de vidéo.

→Utiliser un modèle de fondation multimodal comme Gemini, qui peut raisonner nativement sur différents types de données dans un seul prompt.

Pourquoi: Les modèles multimodaux évitent la complexité d'assembler des modèles distincts pour chaque type de données, permettant une compréhension inter-domaines plus sophistiquée.

Un LLM génère avec confiance des informations plausibles mais factuellement incorrectes.

→Mettre en œuvre des techniques de "grounding", principalement la génération augmentée par récupération (RAG), pour connecter le modèle à des sources de données vérifiables.

Pourquoi: Les hallucinations sont un risque inhérent. Le "grounding" ancre les réponses du modèle dans une source de vérité, ce qui en fait la stratégie principale pour améliorer la précision factuelle.

Comprendre la technologie de base qui permet aux LLM modernes de comprendre le contexte.

→L'architecture Transformer, avec son mécanisme d'auto-attention, permet au modèle de pondérer l'importance de tous les mots de l'entrée les uns par rapport aux autres.

Pourquoi: L'auto-attention est l'innovation clé qui permet aux LLM de saisir les dépendances à longue portée et le contexte, contrairement aux anciens modèles séquentiels (RNNs).

Construire un système de recherche qui comprend le sens derrière les requêtes, pas seulement les mots-clés.

→Utiliser un modèle d'embeddings (par exemple, de Vertex AI) pour convertir du texte en vecteurs numériques. Stocker ces vecteurs et utiliser la recherche par similarité vectorielle pour trouver du contenu sémantiquement lié.

Pourquoi: Les embeddings capturent le sens sémantique. Les requêtes peuvent trouver des résultats conceptuellement similaires même s'ils ne partagent pas de mots-clés.

Une application créative a besoin de sorties variées, tandis qu'un chatbot factuel a besoin de réponses déterministes.

→Augmenter le paramètre `temperature` (par exemple, >0.7) pour les tâches créatives. Diminuer la `temperature` (par exemple, <0.3) pour les réponses factuelles et cohérentes.

Pourquoi: La température contrôle le caractère aléatoire de la sortie. Une basse température choisit les mots les plus probables ; une haute température augmente la variété.

Traiter un grand document qui dépasse la limite de tokens du modèle.

→Concevoir une solution utilisant le "chunking", la résumé, ou une approche RAG pour traiter le document en morceaux gérables qui tiennent dans la fenêtre de contexte.

Pourquoi: Les modèles ont une fenêtre de contexte finie. Toute entrée dépassant cette limite est ignorée, entraînant une perte d'informations. L'architecture doit en tenir compte.

Découvrir, tester et déployer une variété de modèles de fondation sur Google Cloud.

→Utiliser Vertex AI Model Garden comme catalogue central pour les modèles propriétaires de Google (Gemini), les modèles open source (Llama, Mistral) et les modèles partenaires.

Pourquoi: Model Garden est le point d'entrée unifié pour accéder à un ensemble sélectionné de modèles de fondation, simplifiant la découverte et le déploiement dans un environnement de niveau entreprise.

Référence↗

Un assistant IA doit répondre à des questions sur des informations qui changent fréquemment, comme l'inventaire des produits ou les actualités récentes.

→Implémenter un modèle de génération augmentée par récupération (RAG). Connecter le LLM à une base de connaissances externe et à jour (par exemple, une base de données, un magasin de documents).

Pourquoi: RAG permet au modèle d'accéder à des informations en temps réel au moment de l'inférence, surmontant sa limite de connaissances et fournissant des réponses précises et actuelles.

Construire un moteur de recherche d'entreprise ou un agent conversationnel IA basé sur les données de l'entreprise.

→Utiliser Vertex AI Search and Conversation (faisant partie d'Agent Builder). Le pointer vers vos sources de données (sites web, documents) pour créer une application de recherche ou un chatbot.

Pourquoi: C'est une solution gérée, low-code pour la construction d'applications de recherche et de chat de niveau entreprise, réduisant considérablement la complexité du développement.

Un modèle doit acquérir une compétence, une terminologie ou un comportement cohérent très spécialisés que le prompting seul ne peut pas atteindre.

→Effectuer un fine-tuning supervisé sur un modèle de fondation en utilisant un ensemble de données de haute qualité et sélectionné.

Pourquoi: Le fine-tuning adapte les poids internes du modèle, le rendant expert dans un domaine spécifique. Il est plus puissant que le prompting pour une spécialisation approfondie.

Besoin de personnaliser un modèle de fondation pour un domaine spécifique mais manque de ressources pour un fine-tuning complet.

→Utiliser une méthode de fine-tuning efficace en paramètres (PEFT) comme LoRA ou l'adapter tuning disponible dans Vertex AI.

Pourquoi: Le PEFT n'ajuste qu'une petite fraction des paramètres du modèle, obtenant une personnalisation significative avec un coût et un temps de calcul considérablement réduits.

Un modèle échoue à des tâches qui nécessitent un raisonnement complexe en plusieurs étapes (par exemple, problèmes de mathématiques, puzzles logiques).

→Utiliser le prompting "chain-of-thought" (CoT). Demander au modèle de "réfléchir étape par étape" avant de donner la réponse finale.

Pourquoi: Le CoT encourage le modèle à décomposer un problème, ce qui a démontré une amélioration significative de sa capacité de raisonnement et de la précision de la réponse finale sur des tâches complexes.

Le modèle doit générer une sortie de manière cohérente dans un format spécifique (par exemple, JSON, un certain style d'écriture).

→Utiliser le prompting "few-shot". Fournir 2 à 5 exemples du modèle d'entrée-sortie désiré directement dans le prompt.

Pourquoi: Fournir des exemples est plus efficace que de simplement décrire le format. Le modèle apprend le modèle et l'applique à la nouvelle requête.

Choisir la bonne variante du modèle Gemini pour un cas d'utilisation spécifique.

→Utiliser Gemini Pro pour le raisonnement complexe et de haute qualité. Utiliser Gemini Flash pour les tâches à volume élevé, à faible latence et sensibles aux coûts. Utiliser Gemini Nano pour les applications sur appareil.

Pourquoi: Choisir la bonne taille de modèle est un compromis critique entre la capacité, la vitesse et le coût. Utiliser le plus petit modèle qui répond à l'exigence est une bonne pratique.

Automatiser l'extraction de données structurées (par exemple, postes, dates, totaux) à partir de documents non structurés comme les factures ou les reçus.

→Utiliser Google Cloud Document AI. Utiliser ses processeurs pré-entraînés pour les types de documents courants ou créer un processeur personnalisé pour des formats uniques.

Pourquoi: Document AI est un service spécialement conçu qui va au-delà de la simple OCR pour comprendre la structure et la sémantique des documents, offrant une précision bien plus élevée pour les tâches d'extraction de données.

Référence↗

Appliquer des capacités d'IA générative (par exemple, résumé, analyse des sentiments) aux données stockées dans un entrepôt de données BigQuery.

→Utiliser BigQuery ML pour appeler directement les modèles de fondation Vertex AI avec des commandes SQL. Traiter les données sur place sans les déplacer.

Pourquoi: Cela simplifie l'architecture, améliore la sécurité en gardant les données dans BigQuery et permet aux analystes de données de tirer parti de l'IA en utilisant une syntaxe SQL familière.

Augmenter la productivité des utilisateurs professionnels au sein de leurs outils existants comme Gmail, Docs et Sheets.

→Intégrer Gemini pour Google Workspace. Cela fournit une assistance IA directement dans les applications Workspace pour des tâches comme la rédaction d'e-mails, la synthèse de documents et l'analyse de données.

Pourquoi: Cela apporte les capacités de l'IA aux utilisateurs dans leur flux de travail familier, accélérant l'adoption et offrant des avantages immédiats en termes de productivité sans changement de contexte.

Améliorer la vitesse de développement et la qualité du code.

→Fournir aux développeurs Gemini Code Assist, qui s'intègre dans les IDE pour offrir la complétion, la génération, l'explication de code et la création de tests.

Pourquoi: Les assistants de code IA réduisent le temps passé sur le code répétitif, aident à comprendre les bases de code complexes et améliorent la productivité globale des développeurs.

Choisir le bon outil pour l'expérimentation et le développement de l'IA générative.

→Utiliser Google AI Studio pour un prototypage rapide et gratuit basé sur le web avec les modèles Gemini via une clé API. Utiliser Vertex AI Studio pour un développement de niveau entreprise avec intégration GCP, contrôles de sécurité et capacités MLOps.

Pourquoi: Google AI Studio est destiné au prototypage rapide ; Vertex AI Studio est le chemin vers la production, offrant sécurité d'entreprise, gouvernance des données et évolutivité.

Un agent IA doit adopter une persona spécifique, suivre des règles et maintenir un ton cohérent à travers les conversations.

→Définir le comportement de l'agent à l'aide d'un "system prompt". Cette instruction est fournie au modèle séparément de la requête utilisateur pour guider sa conduite générale.

Pourquoi: Un "system prompt" est le moyen le plus efficace d'établir des directives comportementales durables et cohérentes sans avoir à les répéter dans chaque "prompt" destiné à l'utilisateur.

Une solution nécessite une capacité IA commune et spécifique comme la traduction, la reconnaissance vocale ou la synthèse vocale.

→Utiliser les API pré-entraînées et dédiées : Cloud Translation API, Speech-to-Text API ou Text-to-Speech API.

Pourquoi: Ces API gérées sont hautement optimisées pour leur tâche spécifique et sont plus économiques et plus simples à implémenter que d'utiliser un LLM à usage général pour la même fonction.

Un système d'IA est utilisé pour un processus à enjeux élevés où les erreurs sont coûteuses ou dangereuses (par exemple, résumés médicaux, rapports financiers).

→Mettre en œuvre un flux de travail "Human-in-the-Loop" (HITL). L'IA génère un brouillon, qui est ensuite examiné, modifié et approuvé par un expert humain.

Pourquoi: Le HITL combine la vitesse de l'IA avec le jugement et la responsabilité humaine, ce qui est essentiel pour atténuer les risques dans les applications critiques.

Les performances d'un modèle d'IA se dégradent avec le temps après son déploiement en production.

→Mettre en œuvre une surveillance continue pour suivre les performances du modèle et détecter la dérive des données (data drift) ou la dérive des concepts (concept drift).

Pourquoi: Le monde réel change. La dérive des données se produit lorsque les données de production ne ressemblent plus aux données d'entraînement. La surveillance est essentielle pour savoir quand un réentraînement ou une mise à jour est nécessaire.

Prévoir et gérer le coût opérationnel d'un service d'IA générative.

→Comprendre que les services GenAI de Vertex AI sont facturés à l'utilisation, généralement par 1 000 caractères ou tokens d'entrée et de sortie.

Pourquoi: Le coût est directement lié à l'utilisation. Les architectes doivent concevoir des systèmes pour gérer la longueur des prompts et des réponses afin de contrôler les dépenses opérationnelles.

Une application IA subit une latence élevée ou des erreurs lors d'un trafic utilisateur de pointe.

→Mettre à l'échelle le déploiement du modèle. Pour les points de terminaison Vertex AI Prediction, augmenter le nombre de réplicas de machines ou utiliser des types de machines plus performants.

Pourquoi: Les performances d'inférence ne sont pas infiniment évolutives. L'infrastructure sous-jacente doit être provisionnée pour gérer le volume de requêtes attendu.

Une solution d'IA générative doit traiter des données sensibles soumises aux réglementations régionales de souveraineté des données (par exemple, GDPR).

→Configurer Vertex AI pour utiliser des points de terminaison régionaux. Intégrer avec VPC Service Controls pour créer un périmètre de service qui empêche l'exfiltration de données.

Pourquoi: Google Cloud fournit des contrôles explicites pour garantir que les données sont traitées dans une région géographique spécifique et sont isolées des réseaux publics, ce qui est obligatoire pour de nombreux régimes de conformité.

Une application gère un mélange de requêtes simples et complexes, et l'utilisation d'un seul grand modèle est prohibitive en termes de coûts.

→Implémenter un routeur de modèles. Pré-classifier les prompts entrants et acheminer les requêtes simples vers un modèle petit, rapide et économique (par exemple, Gemini Flash) et les requêtes complexes vers un modèle puissant (par exemple, Gemini Pro).

Pourquoi: Ce modèle optimise le compromis coût-performance en utilisant la ressource la plus appropriée pour chaque tâche, réduisant considérablement les coûts opérationnels globaux.

Lancer une nouvelle initiative d'IA générative au sein de l'organisation.

→Commencer par identifier un problème métier ou un cas d'utilisation à forte valeur ajoutée. Ne pas commencer par la technologie et chercher un problème.

Pourquoi: Les projets d'IA réussis sont ceux qui apportent une valeur métier mesurable. Un énoncé de problème clair assure la concentration et aligne le projet sur les objectifs stratégiques.

Un modèle d'IA présente un comportement biaisé envers certains groupes démographiques.

→Aborder le biais tout au long du cycle de vie du ML : auditer et organiser les données d'entraînement pour l'équité, tester le modèle pour les impacts disparates et mettre en œuvre une surveillance post-déploiement pour les résultats biaisés.

Pourquoi: Le biais provient principalement des données. Il ne peut pas être corrigé par une seule solution technique ; il nécessite un processus complet et continu de test et d'atténuation.

Une entreprise doit étendre son utilisation de l'IA de manière responsable à plusieurs départements.

→Établir un comité de gouvernance de l'IA interfonctionnel. Créer des politiques claires pour le développement de l'IA, l'évaluation des risques, l'examen éthique, le déploiement et la surveillance.

Pourquoi: Une gouvernance centralisée assure la cohérence, gère les risques et promeut l'utilisation responsable de l'IA, empêchant un "far west" chaotique de projets d'IA non gérés.

Empêcher un chatbot public de générer du contenu nocif, haineux ou inapproprié.

→Activer les filtres de sécurité intégrés dans Vertex AI. Configurer les seuils pour des catégories telles que les discours de haine, le harcèlement et le contenu dangereux.

Pourquoi: Ces modèles de classification pré-entraînés constituent une première ligne de défense essentielle contre la génération de contenu dangereux, formant une partie fondamentale du déploiement responsable de l'IA.

Justifier un investissement dans l'IA auprès de la direction générale.

→Mesurer le ROI de manière holistique. Suivre les métriques d'efficacité (par exemple, temps gagné, réduction des coûts) et les métriques d'efficacité (par exemple, augmentation des revenus, amélioration de la qualité, satisfaction client).

Pourquoi: Une analyse complète du ROI va au-delà des simples économies de coûts pour capturer la pleine valeur commerciale, y compris les améliorations de qualité et les nouvelles opportunités de revenus.

Déployer un système d'IA dans une industrie réglementée (par exemple, finance, santé) qui exige la transparence des décisions.

→Pour le ML traditionnel, utiliser Vertex AI Explainability. Pour la GenAI, utiliser RAG avec attribution de source pour fournir des citations et des justifications aux réponses générées.

Pourquoi: La transparence construit la confiance et est une exigence légale dans de nombreux domaines. Fournir des citations pour les réponses GenAI est la méthode principale d'explicabilité.

Développer une stratégie d'entreprise pour sécuriser les systèmes d'IA contre de nouveaux types de menaces.

→Adopter les principes du Secure AI Framework (SAIF) de Google, qui fournit des recommandations pour sécuriser la chaîne d'approvisionnement, le modèle et le déploiement de l'IA.

Pourquoi: SAIF offre un guide conceptuel structuré pour étendre les pratiques traditionnelles de cybersécurité aux défis uniques de l'IA, tels que l'injection de prompt et l'empoisonnement des données.

Référence↗

Déployer un nouvel outil d'IA auprès des employés pour assurer une adoption réussie.

→Mettre en œuvre un programme structuré de gestion du changement. Obtenir le parrainage de la direction, communiquer clairement sur le rôle de l'IA, offrir une formation complète et intégrer l'IA progressivement dans les flux de travail existants.

Pourquoi: La technologie n'est qu'une partie de la solution. L'adoption réussie de l'IA dépend des personnes et des processus, nécessitant un effort délibéré pour développer les compétences, la confiance et de nouvelles façons de travailler.

Utiliser les données clients pour entraîner ou exécuter un modèle d'IA générative.

→Assurer une conformité stricte avec les réglementations sur la confidentialité des données (par exemple, GDPR). Utiliser les principes de minimisation des données, anonymiser les PII si possible et examiner attentivement les politiques d'utilisation des données du fournisseur d'IA.

Pourquoi: L'utilisation des données clients avec l'IA crée des risques importants en matière de confidentialité et de conformité. La gouvernance des données et la confidentialité doivent être des considérations de conception essentielles dès le départ.