पुनर्प्राप्ति के लिए Milvus और watsonx Discovery के बीच निर्णय लेना।
अपने द्वारा नियंत्रित कच्चे वेक्टर समानता के लिए Milvus का उपयोग करें; हाइब्रिड पुनर्प्राप्ति के साथ प्रबंधित एंटरप्राइज़ खोज के लिए watsonx Discovery (Elasticsearch-आधारित) का उपयोग करें।
क्यों: Milvus एक वेक्टर DB है जिसे आप संचालित करते हैं; Discovery एक उच्च-स्तरीय खोज सेवा है जिसमें अंतर्ग्रहण और रैंकिंग अंतर्निहित है।
दस्तावेज़ों को तैयार करना ताकि एक फाउंडेशन मॉडल उन पर उत्तरों को आधार बना सके।
दस्तावेज़ों को खंडित करें, watsonx.ai embedding मॉडल के साथ embeddings उत्पन्न करें, और उन्हें Milvus में अनुक्रमित करें।
क्यों: पुनर्प्राप्ति गुणवत्ता समझदार चंकिंग और एक मिलान embedding मॉडल पर निर्भर करती है; बेमेल आयाम इंडेक्स को तोड़ते हैं।
AI सुविधा को कई डेटाबेस और बकेट में फैले डेटा की आवश्यकता है।
watsonx.data में स्रोतों को पंजीकृत करें और इंजन के फेडरेशन के माध्यम से उन्हें वहीं क्वेरी करें।
क्यों: फेडरेशन महंगी डेटा डुप्लीकेशन से बचाता है और एक एकल शासित एक्सेस पॉइंट रखता है।
शासन टीम को मॉडल को फ़ीड करने वाले डेटा पर वंश और पहुंच नियंत्रण की आवश्यकता है।
watsonx.data कैटलॉग में डेटासेट को कैटलॉग करें और IAM/नीति-आधारित पहुंच लागू करें।
क्यों: एक शासित कैटलॉग वह है जो डेटा वंश को बाद में मॉडल फैक्टशीट से जोड़ता है - एड-हॉक बकेट एक्सेस इसे बायपास करता है।
एक watsonx.ai प्रोजेक्ट को RAG के लिए क्यूरेटेड लेकहाउस तालिकाओं को पढ़ना चाहिए।
प्रोजेक्ट में एक watsonx.data कनेक्शन जोड़ें और तालिकाओं को डेटा संपत्ति के रूप में संदर्भित करें।
क्यों: कनेक्शन AI प्रोजेक्ट को शासित लेकहाउस डेटा को कॉपी निर्यात किए बिना उजागर करते हैं।
GenAI समाधानों को परिनियोजित करना और एकीकृत करना
एक काम करने वाला Prompt Lab प्रॉम्प्ट एक पुनः प्रयोज्य, परिनियोजित करने योग्य संपत्ति बनना चाहिए।
इसे प्रोजेक्ट में एक प्रॉम्प्ट टेम्पलेट संपत्ति के रूप में सहेजें, फिर इसे परिनियोजन स्थान पर प्रचारित करें।
क्यों: परिनियोजन स्थान उत्पादन सीमा हैं; प्रॉम्प्ट को सेवा प्रदान करने से पहले वहां प्रचारित किया जाना चाहिए।
एक एप्लिकेशन को एक ट्यून किए गए प्रॉम्प्ट के लिए कम-विलंबता अनुमान एंडपॉइंट की आवश्यकता है।
परिनियोजन स्थान में एक ऑनलाइन परिनियोजन बनाएँ; यह एक स्कोरिंग/उत्पादन REST एंडपॉइंट को उजागर करता है।
क्यों: ऑनलाइन परिनियोजन एक सिंक्रोनस एंडपॉइंट देते हैं; बैच परिनियोजन ऑफ़लाइन स्कोरिंग नौकरियों के लिए होते हैं।