मार्गदर्शिका

एक AI सेवा के लिए API कुंजी रोटेशन को बिना किसी एप्लिकेशन डाउनटाइम के स्वचालित करें।

→प्राथमिक और द्वितीयक दोनों कुंजियों को स्वचालित रोटेशन के साथ Azure Key Vault में संग्रहीत करें। एप्लिकेशन को कॉन्फ़िगर करें कि यदि प्राथमिक कुंजी विफल हो जाए तो द्वितीयक कुंजी का प्रयास करे।

क्यों: Key Vault रोटेशन जीवनचक्र का प्रबंधन करता है। दोहरी-कुंजी पैटर्न यह सुनिश्चित करता है कि रोटेशन विंडो के दौरान एक कुंजी हमेशा वैध रहे।

सुनिश्चित करें कि AI सेवा ट्रैफ़िक कभी भी VNet से बाहर न जाए और Microsoft सेवा सुधार के लिए ग्राहक डेटा का उपयोग न कर सके।

→AI सेवा को एक Private Endpoint के साथ तैनात करें और सार्वजनिक नेटवर्क पहुंच को अक्षम करें। अलग से, संसाधन पर डेटा प्रोसेसिंग ऑप्ट-आउट सेटिंग सक्षम करें।

क्यों: Private Endpoint नेटवर्क अलगाव प्रदान करता है। डेटा ऑप्ट-आउट डेटा गोपनीयता के लिए एक विशिष्ट सेटिंग है। एक का मतलब दूसरा नहीं है।

Azure Kubernetes Service (AKS) में एक एप्लिकेशन को AI सेवा तक सुरक्षित, क्रेडेंशियल-मुक्त पहुंच प्रदान करें।

→AKS पॉड्स को एक उपयोगकर्ता-असाइन की गई Managed Identity असाइन करें। इस पहचान को AI सेवा संसाधन पर "Cognitive Services User" RBAC भूमिका प्रदान करें।

क्यों: Managed Identity Azure संसाधनों के लिए मानक पासवर्ड रहित प्रमाणीकरण पैटर्न है, जो पॉड कॉन्फ़िगरेशन में रहस्यों को संग्रहीत करने की आवश्यकता को समाप्त करता है।

संदर्भ↗

अलग-अलग सब्सक्रिप्शन का उपयोग किए बिना प्रति विभाग AI सेवा लागत को ट्रैक करें और खर्च सीमाएं लागू करें।

→प्रति विभाग अलग-अलग AI सेवा संसाधन बनाएं। प्रत्येक पर एक "विभाग" संसाधन टैग लागू करें। टैग मान के आधार पर अलर्ट थ्रेशोल्ड के साथ Azure Cost Management बजट कॉन्फ़िगर करें।

क्यों: टैग लागत आवंटन के लिए मानक हैं। Azure बजट को अलर्ट या कार्यों के माध्यम से खर्च सीमाएं लागू करने के लिए टैग पर स्कोप किया जा सकता है।

जब AI सेवा API त्रुटि दर 5% से अधिक हो या विलंबता 2 सेकंड से अधिक हो तो संचालन को अलर्ट करें।

→AI सेवा संसाधन पर Azure Monitor मेट्रिक अलर्ट कॉन्फ़िगर करें। "Failed Requests" और "Latency" मेट्रिक्स का उपयोग उचित एग्रीगेशन अवधि के साथ करें।

क्यों: Azure Monitor प्रदर्शन और विश्वसनीयता के लिए प्रत्यक्ष, प्लेटफ़ॉर्म-स्तरीय मेट्रिक्स प्रदान करता है, जो लॉग क्वेरी देरी के बिना रीयल-टाइम अलर्टिंग को सक्षम करता है।

कम RTO/RPO के साथ कस्टम AI मॉडल (जैसे, Custom Vision, LUIS) के लिए एक आपदा रिकवरी योजना डिज़ाइन करें।

→संसाधनों को युग्मित क्षेत्रों में तैनात करें। भू-अतिरिक्षित संग्रहण (GRS) में दैनिक मॉडल निर्यात को स्वचालित करें। स्वास्थ्य-जांच आधारित स्वचालित फ़ेलओवर के लिए Azure Traffic Manager का उपयोग करें।

क्यों: AI PaaS सेवाएं Azure Site Recovery द्वारा कवर नहीं की जाती हैं। DR के लिए स्पष्ट, स्क्रिप्टेड मॉडल निर्यात/आयात और एक DNS-स्तरीय ट्रैफ़िक रूटिंग सेवा की आवश्यकता होती है।

दीर्घकालिक ऑडिट प्रतिधारण के लिए सभी AI सेवा कॉलों के लिए पूर्ण अनुरोध और प्रतिक्रिया पेलोड लॉग करें।

→AI सेवा के सामने Azure API Management (APIM) लगाएं। APIM नीतियों को पूर्ण अनुरोध/प्रतिक्रिया निकायों को लॉग करने के लिए कॉन्फ़िगर करें। अपरिवर्तनीयता नीति के साथ लॉग को Azure Storage पर भेजें।

क्यों: देशी AI सेवा निदान पूर्ण पेलोड लॉग नहीं करते हैं। APIM लॉगिंग और नीति मुखौटे के लिए मानक पैटर्न है। अपरिवर्तनीय स्टोरेज ऑडिट ट्रेल अखंडता सुनिश्चित करता है।

एक स्वास्थ्य सेवा AI समाधान तैनात करें जो रोगी डेटा को संसाधित करता है और उसे HIPAA का पालन करना चाहिए।

→AI संसाधन को एक अमेरिकी Azure क्षेत्र में तैनात करें जो HIPAA का समर्थन करता है। सब्सक्रिप्शन के लिए Microsoft के साथ एक Business Associate Agreement (BAA) पर हस्ताक्षर करें।

क्यों: HIPAA अनुपालन के लिए तकनीकी नियंत्रण (क्षेत्र चयन) और कानूनी समझौतों (BAA) दोनों की आवश्यकता होती है। दोनों अनिवार्य हैं।

एक सामग्री मॉडरेशन प्रणाली लागू करें जो हानिकारक सामग्री को चिह्नित करती है लेकिन अवरुद्ध करने से पहले मानवीय समीक्षा की अनुमति देती है।

→Azure AI Content Safety API का उपयोग करें। "उच्च" गंभीरता के साथ चिह्नित सामग्री को स्वतः-अवरुद्ध करें। "मध्यम" या "निम्न" के रूप में चिह्नित सामग्री को मानवीय समीक्षा कार्यप्रवाह के लिए कतारबद्ध करें।

क्यों: यह मानव-इन-द-लूप पैटर्न स्वचालित सुरक्षा को मॉडरेशन के लिए आवश्यक सूक्ष्मता के साथ संतुलित करता है, वैध सामग्री के अत्यधिक अवरुद्ध होने को रोकता है।

रिटेल स्टोर शेल्फ पर विशिष्ट, ब्रांडेड उत्पादों का पता लगाएं और गिनें, ऑक्लूज़न और विभिन्न ओरिएंटेशन को संभालते हुए।

→एक Custom Vision ऑब्जेक्ट डिटेक्शन मॉडल को प्रशिक्षित करें। यथार्थवादी शेल्फ वातावरण में उत्पादों का प्रतिनिधित्व करने वाली लेबल वाली छवियों के एक डेटासेट का उपयोग करें।

क्यों: ऑब्जेक्ट डिटेक्शन वर्गीकरण और स्थान (गिनती के लिए) दोनों प्रदान करता है। विशिष्ट उत्पाद SKUs को पहचानने के लिए एक कस्टम मॉडल की आवश्यकता होती है।

संदर्भ↗

अविश्वसनीय इंटरनेट कनेक्टिविटी वाले कारखाने में वास्तविक समय गुणवत्ता नियंत्रण छवि विश्लेषण करें।

→Image Analysis के लिए Azure AI Vision कंटेनर को एक Edge डिवाइस (जैसे, Azure IoT Edge) पर तैनात करें।

क्यों: कंटेनर स्थानीय निष्पादन के लिए क्लाउड AI मॉडल को पैकेज करते हैं, कम विलंबता और ऑफ़लाइन क्षमता प्रदान करते हैं जबकि कनेक्ट होने पर मॉडल अपडेट की अनुमति भी देते हैं।

स्कैन किए गए ऐतिहासिक दस्तावेजों से पाठ निकालें जिनमें मिश्रित प्रिंट, हस्तलिखित पाठ और कई भाषाएं शामिल हैं।

→Azure AI Vision Read API (Image Analysis का हिस्सा) का उपयोग करें। मिश्रित सामग्री पर सर्वश्रेष्ठ प्रदर्शन सुनिश्चित करने के लिए नवीनतम मॉडल संस्करण निर्दिष्ट करें।

क्यों: Read API Azure का सबसे उन्नत OCR इंजन है, जिसे विशेष रूप से दस्तावेज़-केंद्रित, मिश्रित-सामग्री परिदृश्यों के लिए अनुकूलित किया गया है, जो पुराने OCR APIs से बेहतर प्रदर्शन करता है।

स्टोर ऑक्यूपेंसी की निगरानी, ग्राहक आंदोलन पैटर्न को ट्रैक करने और कतार की लंबाई को मापने के लिए वीडियो स्ट्रीम का विश्लेषण करें।

→Azure AI Vision Spatial Analysis कंटेनर को स्टोर कैमरों से जुड़े एक Edge डिवाइस पर तैनात करें।

क्यों: Spatial Analysis वीडियो से वास्तविक समय स्थानिक एनालिटिक्स के लिए एक विशेष रूप से निर्मित, कंटेनरीकृत समाधान है, जो `personcount`, `persondistance`, और `personcrossingline` जैसे संचालन प्रदान करता है।

एक Custom Vision ऑब्जेक्ट डिटेक्शन मॉडल में उच्च परिशुद्धता है लेकिन कम रिकॉल (कई वस्तुओं को छोड़ देता है)।

→छूटे हुए ऑब्जेक्ट्स के अधिक विविध उदाहरणों के साथ प्रशिक्षण डेटासेट को बढ़ाएं, विशेष रूप से विभिन्न प्रकाश व्यवस्था, कोणों, आकारों और आंशिक ऑक्लूज़न वाली छवियों के साथ।

क्यों: कम रिकॉल एक डेटा मात्रा/विविधता की समस्या है। मॉडल ने प्रभावी ढंग से सामान्यीकरण करने के लिए पर्याप्त भिन्नताएं नहीं देखी हैं। विविध उदाहरण जोड़ना प्राथमिक समाधान है।

विशिष्ट उत्पाद सुविधाओं के प्रति भावना की पहचान करने के लिए ग्राहक समीक्षाओं का विश्लेषण करें (उदाहरण के लिए, "बैटरी लाइफ" के लिए सकारात्मक, "स्क्रीन" के लिए नकारात्मक)।

→`opinionMining` पैरामीटर सक्षम के साथ Azure AI Language Sentiment Analysis API का उपयोग करें।

क्यों: ओपिनियन माइनिंग (जिसे Aspect-Based Sentiment Analysis भी कहा जाता है) पाठ के भीतर व्यक्तिगत लक्ष्यों (पहलू) से जुड़ी भावना को निकालने के लिए डिज़ाइन की गई विशिष्ट सुविधा है।

संदर्भ↗

एक FAQ बॉट बनाएं जो कई भाषाओं का समर्थन करता है लेकिन अंग्रेजी में लिखी गई एक ही ज्ञान आधार का उपयोग करता है।

→Azure AI Language की Custom Question Answering सुविधा का उपयोग करें। इसमें अंग्रेजी ज्ञान आधार के विरुद्ध प्रश्नों का मिलान करने के लिए अंतर्निहित क्वेरी अनुवाद है।

क्यों: अंतर्निहित अनुवाद क्षमता प्रत्येक भाषा के लिए अलग-अलग ज्ञान आधार बनाए रखने की आवश्यकता को समाप्त करती है, जिससे सामग्री प्रबंधन बहुत सरल हो जाता है।

एक Conversational Language Understanding (CLU) मॉडल दो समान इरादों (जैसे, "OrderPizza" बनाम "ModifyOrder") को भ्रमित करता है।

→दोनों इरादों में अधिक विविध प्रशिक्षण उच्चारण जोड़ें, उन उदाहरणों पर ध्यान केंद्रित करें जो विशिष्ट कीवर्ड और वाक्यांशों को उजागर करते हैं। अस्पष्ट या अतिव्यापी उदाहरणों की समीक्षा करें और उन्हें हटा दें।

क्यों: मॉडल की सटीकता मुख्य रूप से प्रशिक्षण डेटा की गुणवत्ता और स्पष्टता से प्रेरित होती है। लक्ष्य इरादों के बीच एक स्पष्ट "निर्णय सीमा" बनाना है।

कानूनी दस्तावेजों से "ContractValue" या "TerminationClause" जैसी डोमेन-विशिष्ट संस्थाओं को निकालें।

→Azure AI Language का उपयोग करके एक Custom Named Entity Recognition (NER) मॉडल को प्रशिक्षित करें। अपने दस्तावेजों से लेबल वाले उदाहरण प्रदान करें।

क्यों: पूर्व-निर्मित NER मॉडल केवल सामान्य संस्थाओं (व्यक्ति, स्थान, आदि) को पहचानते हैं। किसी भी डोमेन-विशिष्ट इकाई निष्कर्षण कार्य के लिए Custom NER की आवश्यकता होती है।

पाठ से नामों और फोन नंबरों जैसी व्यक्तिगत पहचान योग्य जानकारी (PII) को स्वचालित रूप से खोजें और संशोधित करें।

→Azure AI Language PII डिटेक्शन API का उपयोग करें। पता लगाने के लिए इकाई श्रेणियों को कॉन्फ़िगर करें और संपादन मोड सेट करें।

क्यों: यह PII के लिए एक विशेष रूप से निर्मित API है, इस विशिष्ट अनुपालन कार्य के लिए रेगुलर एक्सप्रेशन (regex) या जेनेरिक NER से अधिक विश्वसनीय और व्यापक है।

नैदानिक ​​नोट्स से चिकित्सा संस्थाओं, संबंधों और अभिकथन (जैसे, निषेध) को निकालें।

→Azure AI Health Insights का उपयोग करें, विशेष रूप से Text Analytics for Health सेवा का।

क्यों: यह चिकित्सा ऑन्टोलॉजी (जैसे, UMLS) पर प्रशिक्षित एक विशेष, HIPAA-संगत सेवा है, जो नैदानिक ​​पाठ की गहरी समझ प्रदान करती है जो सामान्य NLP मॉडल में नहीं होती है।

तकनीकी दस्तावेजों का अनुवाद करें, यह सुनिश्चित करते हुए कि उद्योग-विशिष्ट शब्दावली और ब्रांड नाम सही ढंग से अनुवादित हों।

→Azure Custom Translator का उपयोग करें। अपने मौजूदा अनुवादित दस्तावेजों (समानांतर दस्तावेजों) के एक कॉर्पस का उपयोग करके एक कस्टम मॉडल को प्रशिक्षित करें।

क्यों: Custom Translator आपके विशिष्ट डोमेन की शब्दावली और शैली के अनुकूल होता है, सामान्य-उद्देश्यीय अनुवाद मॉडल की तुलना में उच्च निष्ठा प्रदान करता है, जो विशिष्ट शब्दों का गलत अनुवाद कर सकता है।

एक बहु-प्रतिभागी बैठक को वास्तविक समय में ट्रांसक्राइब करें और पाठ को प्रत्येक वक्ता को विशेषता दें।

→बातचीत प्रतिलेखन और Diarization सक्षम के साथ Azure AI Speech to Text सेवा का उपयोग करें।

क्यों: Diarization वह विशिष्ट सुविधा है जो ऑडियो को वक्ता द्वारा खंडित करती है, प्रतिलेखन के साथ "किसने क्या कहा" जानकारी प्रदान करती है।

डोमेन-विशिष्ट परिवर्णी शब्द, अपशब्द, या उचित नामों वाले ऑडियो के लिए स्पीच-टू-टेक्स्ट सटीकता में सुधार करें।

→एक कस्टम स्पीच मॉडल को प्रशिक्षित करें। मिलान वाले मानव-लेबल वाले प्रतिलेखों के ऑडियो नमूनों का एक डेटासेट और कस्टम शब्दों के लिए एक उच्चारण फ़ाइल प्रदान करें।

क्यों: कस्टम मॉडल आपके विशिष्ट ऑडियो वातावरण, बोलने की शैलियों और शब्दावली के लिए आधार ध्वनिक और भाषा मॉडल को अनुकूलित करते हैं ताकि काफी अधिक सटीकता प्राप्त हो सके।

एक ई-लर्निंग मॉड्यूल के लिए टेक्स्ट-टू-स्पीच कथन के जोर, पिच, दर और विराम को नियंत्रित करें।

→टेक्स्ट-टू-स्पीच API अनुरोध में Speech Synthesis Markup Language (SSML) का उपयोग करें।

क्यों: SSML W3C मानक है जो स्पीच सिंथेसाइज़र को विस्तृत निर्देश प्रदान करने के लिए है, जो सादे पाठ इनपुट से परे बारीक नियंत्रण की अनुमति देता है।

10M+ दस्तावेजों के लिए एक खोज समाधान डिज़ाइन करें जिसमें समवर्ती क्वेरी की उच्च मात्रा के लिए कम विलंबता की आवश्यकता हो।

→Standard या उच्चतर टियर पर Azure AI Search का उपयोग करें। क्वेरी लोड को संभालने के लिए रेप्लिका के साथ और डेटा वॉल्यूम को संभालने के लिए विभाजन के साथ स्केल आउट करें।

क्यों: रेप्लिका क्वेरी थ्रूपुट (QPS) के लिए हैं। विभाजन इंडेक्स आकार और I/O के लिए हैं। उच्च-स्तरीय, उच्च-प्रदर्शन परिदृश्यों के लिए दोनों की आवश्यकता होती है।

उपयोगकर्ताओं को प्राकृतिक भाषा के प्रश्न पूछने (उदाहरण के लिए, "वापसी नीति क्या है?") और दस्तावेज़ संग्रह से सीधे उत्तर प्राप्त करने में सक्षम करें।

→सिमेंटिक खोज सक्षम के साथ Azure AI Search का उपयोग करें। सिमेंटिक उत्तर और कैप्शन सुविधाओं का उपयोग करें।

क्यों: सिमेंटिक खोज उपयोगकर्ता के इरादे को समझने के लिए कीवर्ड मिलान से आगे जाती है और स्रोत पाठ से प्रत्यक्ष, संक्षिप्त उत्तर निकाल और लौटा सकती है।

संदर्भ↗

एक उत्पाद खोज लागू करें जो मॉडल नंबरों (कीवर्ड) के लिए सटीक मिलान और वैचारिक रूप से समान वस्तुओं (सिमेंटिक) को ढूंढती है।

→Azure AI Search इंडेक्स को खोज योग्य पाठ फ़ील्ड और वेक्टर फ़ील्ड दोनों के साथ कॉन्फ़िगर करें। हाइब्रिड क्वेरी जारी करें जो कीवर्ड (`search`) और वेक्टर (`vectorQueries`) पैरामीटर को जोड़ती हैं।

क्यों: हाइब्रिड खोज BM25 कीवर्ड रैंकिंग की सटीकता को वेक्टर समानता की वैचारिक प्रासंगिकता के साथ जोड़ती है, जो दोनों दुनियाओं में सर्वश्रेष्ठ प्रदान करती है।

Azure AI Search अनुक्रमणिका पाइपलाइन के दौरान कस्टम-स्वरूपित संस्थाओं, जैसे उत्पाद कोड (XX-####) को निकालें।

→एक कस्टम स्किलसेट बनाएं जो एक Azure Function को कॉल करता है। फ़ंक्शन में संस्थाओं को खोजने और निकालने के लिए रेगुलर एक्सप्रेशन (regex) या अन्य कस्टम लॉजिक होता है।

क्यों: कस्टम स्किल्स संवर्धन पाइपलाइन में किसी भी लॉजिक के लिए एक एक्स्टेंसिबिलिटी पॉइंट प्रदान करते हैं जो अंतर्निहित संज्ञानात्मक स्किल्स द्वारा कवर नहीं किया जाता है।

सुनिश्चित करें कि "लैपटॉप", "नोटबुक" और "अल्ट्राबुक" के लिए सभी खोजें संबंधित दस्तावेजों का एक ही सेट लौटाती हैं।

→Azure AI Search में समानार्थक शब्दों को परिभाषित करते हुए एक पर्यायवाची मानचित्र बनाएं। इंडेक्स परिभाषा में पर्यायवाची मानचित्र को संबंधित खोज योग्य फ़ील्ड से संबद्ध करें।

क्यों: पर्यायवाची मानचित्र उपयोगकर्ता-परिभाषित समान शर्तों को शामिल करने के लिए समर्पित सुविधाएँ हैं, जो सीधे खोज रिकॉल में सुधार करती हैं।

Azure AI Search स्किलसेट को अपडेट करते समय, समय और लागत बचाने के लिए केवल उन दस्तावेजों को पुन: संसाधित करें जो परिवर्तनों से प्रभावित हैं।

→इंडेक्सर कॉन्फ़िगरेशन में संवर्धन कैशिंग सक्षम करें। इंडेक्स तब अपरिवर्तित स्किल्स के लिए कैश्ड परिणामों का उपयोग करेगा और केवल नए या संशोधित स्किल्स को फिर से चलाएगा।

क्यों: मध्यवर्ती स्किल आउटपुट को कैश करना कुशल वृद्धिशील संवर्धन को सक्षम करने की कुंजी है, जो पूरे डेटासेट के महंगे पूर्ण पुनर्संसाधन से बचा जाता है।

विभिन्न दस्तावेजों (जैसे, चालान) से डेटा निकालने, व्यापार नियमों के विरुद्ध इसे मान्य करने और संरचित आउटपुट को संग्रहीत करने के लिए एक पाइपलाइन को ऑर्केस्ट्रेट करें।

→निष्कर्षण के लिए Azure AI Document Intelligence में एक Composed Model, कस्टम सत्यापन लॉजिक के लिए एक Azure Function, और स्टोरेज के लिए Azure Cosmos DB का उपयोग करें। Azure Logic Apps के साथ ऑर्केस्ट्रेट करें।

क्यों: यह Serverless आर्किटेक्चर चिंताओं को सही ढंग से अलग करता है: विशेष निष्कर्षण के लिए Document Intelligence, विशिष्ट व्यापार लॉजिक के लिए Functions, और वर्कफ़्लो ऑर्केस्ट्रेशन के लिए Logic Apps।

एक ही लेनदेन में कई फॉर्म प्रकार (जैसे, एक दावा फॉर्म, रसीदें और तस्वीरें) वाले एक दस्तावेज़ पैकेज को संसाधित करें।

→एक Azure AI Document Intelligence Composed Model का उपयोग करें। दस्तावेज़ प्रकार की पहचान करने के लिए एक वर्गीकरण मॉडल को प्रशिक्षित करें और इसे उचित कस्टम या पूर्व-निर्मित निष्कर्षण मॉडल पर रूट करें।

क्यों: Composed Model एक राउटर के रूप में कार्य करते हैं, जो एक ही एंडपॉइंट को दस्तावेज़ प्रकारों के मिश्रण को बुद्धिमानी से संभालने की अनुमति देता है, प्रत्येक को उसके इष्टतम मॉडल द्वारा संसाधित किया जाता है।

Azure AI Search द्वारा अनुक्रमित होने से पहले दस्तावेजों से PII को संशोधित करें, ताकि संवेदनशील डेटा कभी भी खोज इंडेक्स में संग्रहीत न हो।

→इंडेक्सर स्किलसेट में PII Detection संज्ञानात्मक स्किल जोड़ें। PII को मास्क करने के लिए स्किल को कॉन्फ़िगर करें और संशोधित पाठ फ़ील्ड को इंडेक्स से मैप करें।

क्यों: यह अनुक्रमणिका के दौरान "इन-फ़्लाइट" संपादन करता है, यह सुनिश्चित करता है कि खोज योग्य सामग्री शुरू से ही साफ है, जो एक महत्वपूर्ण सुरक्षा और अनुपालन पैटर्न है।

एक दस्तावेज़ की नवीनता (प्रकाशन तिथि) और लोकप्रियता (दृश्य गणना) के आधार पर खोज परिणामों को बढ़ावा दें।

→Azure AI Search में एक कस्टम स्कोरिंग प्रोफ़ाइल परिभाषित करें। दिनांक फ़ील्ड पर एक `freshness` फ़ंक्शन और दृश्य गणना फ़ील्ड पर एक `magnitude` फ़ंक्शन का उपयोग करें।

क्यों: स्कोरिंग प्रोफाइल आपको दस्तावेज़ मेटाडेटा से व्यवसाय-विशिष्ट संकेतों को शामिल करके आधार BM25 प्रासंगिकता स्कोर को संशोधित करने की अनुमति देते हैं।

एक Azure OpenAI चैटबॉट को ग्राहक सेवा परिदृश्य के लिए सुसंगत, केंद्रित और गैर-रचनात्मक प्रतिक्रियाएं प्रदान करने की आवश्यकता है।

→`temperature` पैरामीटर को कम मान पर सेट करें, जैसे 0.1 या 0.2। अधिकांश मॉडलों के लिए इसे ठीक 0 पर सेट करने से बचें।

क्यों: तापमान आउटपुट की यादृच्छिकता को नियंत्रित करता है। इसे कम करने से मॉडल अधिक नियतात्मक हो जाता है और उच्चतम-संभाव्यता टोकन चुनने की अधिक संभावना होती है।

एक RAG समाधान में, सुनिश्चित करें कि जेनरेटिव मॉडल केवल उन दस्तावेजों से उत्तर संश्लेषित करता है जिन्हें विशिष्ट उपयोगकर्ता तक पहुंचने की अनुमति है।

→पुनर्प्राप्ति चरण में सुरक्षा ट्रिमिंग लागू करें। Azure AI Search में, उपयोगकर्ता की AAD पहचान और समूह सदस्यता के आधार पर खोज क्वेरी पर सुरक्षा फ़िल्टर लागू करें।

क्यों: डेटा देखने से पहले LLM पर एक्सेस कंट्रोल लागू किया जाना चाहिए। खोज (पुनर्प्राप्ति) परत पर फ़िल्टरिंग इसे लागू करने का एकमात्र सुरक्षित तरीका है।

Azure OpenAI का उपयोग करके असंरचित पाठ से संरचित डेटा को लगातार एक वैध JSON ऑब्जेक्ट में निकालें।

→एक प्रॉम्प्ट का उपयोग करें जिसमें शामिल हों: 1) एक स्पष्ट भूमिका। 2) केवल JSON लौटाने के लिए स्पष्ट निर्देश। 3) फ़ील्ड नामों और प्रकारों के साथ वांछित JSON स्कीमा। 4) यदि संभव हो तो कुछ-शॉट उदाहरण।

क्यों: अत्यधिक संरचित और स्पष्ट प्रॉम्प्ट LLM से अच्छी तरह से निर्मित, संरचित आउटपुट प्राप्त करने की विश्वसनीयता को काफी बढ़ाते हैं।

एक मिशन-महत्वपूर्ण एप्लिकेशन को Azure OpenAI से गारंटीकृत, सुसंगत थ्रूपुट की आवश्यकता होती है, जिसमें पीक लोड के दौरान कोई थ्रॉटलिंग न हो।

→Provisioned Throughput Units (PTU) का उपयोग करके मॉडल खरीदें और तैनात करें।

क्यों: PTU समर्पित, आरक्षित मॉडल प्रोसेसिंग क्षमता प्रदान करते हैं, मानक पे-एज़-यू-गो डिप्लॉयमेंट के विपरीत जो एक साझा क्षमता मॉडल पर काम करते हैं और थ्रॉटलिंग के अधीन होते हैं।

संदर्भ↗

मॉडल की टोकन सीमा को पार किए बिना एक लंबी चैटबॉट बातचीत में संदर्भ बनाए रखें।

→एक बातचीत सारांशीकरण रणनीति लागू करें। बातचीत के पुराने हिस्सों का सारांश प्रस्तुत करने के लिए समय-समय पर एक अलग LLM कॉल का उपयोग करें, और इस सारांश के साथ-साथ प्रॉम्प्ट में सबसे हाल के मोड़ भी शामिल करें।

क्यों: यह "सारांशित करें और स्लाइड करें" पैटर्न सरल ट्रंकेशन या संपूर्ण (और अंततः बहुत लंबा) इतिहास भेजने की तुलना में दीर्घकालिक संदर्भ को कहीं अधिक प्रभावी ढंग से और आर्थिक रूप से संरक्षित करता है।

एक Azure OpenAI मॉडल को वर्तमान मौसम की जानकारी प्राप्त करने के लिए एक बाहरी API को कॉल करने में सक्षम करें।

→API को मॉडल के लिए एक सटीक JSON Schema प्रारूप का उपयोग करके एक टूल के रूप में परिभाषित करें। एक स्पष्ट फ़ंक्शन `description` और विस्तृत `parameter` विवरण शामिल करें ताकि मॉडल को पता चले कि इसका उपयोग कब और कैसे करना है।

क्यों: मॉडल एक फ़ंक्शन को कॉल करने के लिए एक सूचित निर्णय लेने के लिए पूरी तरह से स्कीमा और विवरण पर निर्भर करता है। विश्वसनीयता के लिए एक अच्छी तरह से वर्णित फ़ंक्शन महत्वपूर्ण है।

Azure OpenAI का उपयोग करके एक दस्तावेज़ का सारांश प्रस्तुत करें जो मॉडल की संदर्भ विंडो से काफी लंबा है।

→एक "मैप-रिड्यूस" या "रिफाइन" रणनीति लागू करें। दस्तावेज़ को खंडित करें, प्रत्येक खंड के लिए एक सारांश उत्पन्न करें (मैप), और फिर खंड सारांशों के संग्रह से एक अंतिम सारांश उत्पन्न करें (रिड्यूस)।

क्यों: यह मनमाने ढंग से लंबे इनपुट पर निश्चित-संदर्भ मॉडल लागू करने का मानक पैटर्न है, यह सुनिश्चित करता है कि पूरे दस्तावेज़ सामग्री पर विचार किया जाए।

AI की प्रतिक्रिया को उत्पन्न होते ही प्रदर्शित करके एक चैट एप्लिकेशन की कथित प्रतिक्रियाशीलता में सुधार करें।

→Chat Completions API को कॉल करते समय, `stream` पैरामीटर को `true` पर सेट करें। प्रतिक्रिया को टोकन दर टोकन बनाने के लिए सर्वर-भेजी गई घटनाओं को उनके आने पर संसाधित करें।

क्यों: Streaming वास्तविक समय के अनुप्रयोगों के लिए एक बेहतर उपयोगकर्ता अनुभव प्रदान करती है, बजाय पूरी प्रतिक्रिया के उत्पन्न होने का इंतजार करने के, जिसमें कई सेकंड लग सकते हैं।

एक AI एजेंट को यह गतिशील रूप से तय करना होगा कि उपयोगकर्ता के अनुरोध को पूरा करने के लिए कई उपकरणों (जैसे, डेटाबेस क्वेरी, वेब खोज, ईमेल प्रेषक) में से किसका उपयोग करना है।

→Semantic Kernel या Azure AI Agent Service जैसे फ्रेमवर्क का उपयोग करें। प्रत्येक क्षमता को एक विशिष्ट टूल/प्लगइन के रूप में परिभाषित करें और एजेंट के प्लानर या ReAct लूप को टूल कॉल्स को ऑर्केस्ट्रेट करने दें।

क्यों: Agentic Frameworks ऑर्केस्ट्रेशन परत (प्लानर/रीजनिंग लूप) प्रदान करते हैं जो एक LLM को साधारण प्रश्नोत्तर से आगे बढ़कर उपकरणों का उपयोग करने वाले एक स्वायत्त अभिनेता बनने में सक्षम बनाता है।

एक स्वायत्त AI एजेंट को बिना निरीक्षण के उच्च-जोखिम वाले कार्य (जैसे, डेटा हटाना, पैसे खर्च करना) करने से रोकें।

→एक मानव-इन-द-लूप पैटर्न लागू करें। जब एजेंट एक उच्च-जोखिम वाले कार्य की योजना बनाता है, तो सिस्टम को रुकना होगा और निष्पादित करने से पहले एक मानव ऑपरेटर से स्पष्ट पुष्टि की आवश्यकता होगी।

क्यों: यह एजेंटिक प्रणालियों के लिए एक महत्वपूर्ण जिम्मेदार AI पैटर्न है, जो स्वायत्तता को सुरक्षा के साथ संतुलित करता है, अपरिवर्तनीय या उच्च-प्रभाव वाले कार्यों को गेट करके।