AI मॉडल कैसे प्रशिक्षित किए जाते हैं: सुपरवाइज्ड, अनसुपरवाइज्ड, रीइन्फोर्समेंट, ट्रांसफर लर्निंग, और बहुत कुछ

दस लोगों से पूछिए "एक AI मॉडल कैसे प्रशिक्षित किया जाता है?" और आपको दस अलग-अलग जवाब मिलेंगे, क्योंकि इसका कोई एक तरीका नहीं है। सही तरीका दो सवालों पर निर्भर करता है: आपके पास कौन सा डेटा है, और क्या आप शून्य से एक मॉडल बना रहे हैं या किसी मौजूदा मॉडल को अनुकूलित कर रहे हैं? इन दोनों को स्पष्ट कर लीजिए और शब्दों का पूरा जमावड़ा - सुपरवाइज्ड, अनसुपरवाइज्ड, रीइन्फोर्समेंट, ट्रांसफर लर्निंग, फाइन-ट्यूनिंग, RAG, RLHF - एक सरल नक्शे में बैठ जाता है।

यह मार्गदर्शिका उस नक्शे को शुरू से अंत तक बताती है। यह प्रोवाइडर-न्यूट्रल है (ये अवधारणाएं AWS, Azure, Google Cloud, और हर जगह एक जैसी हैं), लेकिन इसे फाउंडेशनल AI प्रमाणनों को ध्यान में रखकर लिखा गया है - AWS AI Practitioner (AIF-C01), Azure AI Fundamentals, Google Cloud Generative AI Leader, और उनके समकक्ष सभी ठीक इन्हीं विचारों को परखते हैं। जहां कोई परीक्षा किसी अवधारणा पर किसी खास तरीके से जोर देती है, वहां एक "परीक्षा में" नोट दिया गया है। यह लंबी है; इसे एक ऐसे संदर्भ की तरह मानिए जिसे आप सेक्शन-दर-सेक्शन देखते हैं।

दो सवाल जो हर चीज को व्यवस्थित करते हैं

"ट्रेनिंग" के दो अलग-अलग अर्थ हैं जिन्हें लोग आपस में मिला देते हैं:

1. एक मॉडल डेटा से कैसे सीखता है - लर्निंग पैराडाइम। यह आपके डेटा के स्वरूप के बारे में है (लेबल्ड? अनलेबल्ड? एक रिवॉर्ड सिग्नल?) और यह तय करता है कि एल्गोरिदम का कौन सा परिवार लागू होता है। सुपरवाइज्ड, अनसुपरवाइज्ड, सेमी-सुपरवाइज्ड, सेल्फ-सुपरवाइज्ड, और रीइन्फोर्समेंट लर्निंग यहां आते हैं।
2. आप किसी मौजूदा मॉडल को कैसे अनुकूलित करते हैं - कस्टमाइजेशन सीढ़ी। आधुनिक AI शायद ही कभी शून्य से शुरू होता है। आप एक प्री-ट्रेन्ड फाउंडेशन मॉडल लेते हैं और उसे अनुकूलित करते हैं, एक सस्ते प्रॉम्प्ट बदलाव से लेकर महंगी री-ट्रेनिंग तक। प्रॉम्प्ट इंजीनियरिंग, RAG, फाइन-ट्यूनिंग, और कंटीन्यूड प्री-ट्रेनिंग यहां आते हैं।

इन दोनों अर्थों को अलग रखिए। पहला है "यह किस तरह की लर्निंग समस्या है?" दूसरा है "एक मौजूदा मॉडल को देखते हुए, मैं उसे कितना बदलता हूं?" अधिकांश परीक्षा प्रश्न असल में यही पूछ रहे होते हैं कि कोई परिदृश्य किस खाने में आता है।

भाग 1: लर्निंग पैराडाइम

सुपरवाइज्ड लर्निंग

क्या। मॉडल लेबल्ड उदाहरणों से सीखता है - इनपुट के साथ सही जवाब जुड़ा होता है। आप उसे हजारों ईमेल दिखाते हैं जिन पर स्पैम या नॉट-स्पैम का टैग लगा है, और वह ईमेल से लेबल तक की मैपिंग सीख लेता है।

क्यों। जब आपके पास लेबल्ड डेटा हो और अनुमान लगाने के लिए एक स्पष्ट लक्ष्य हो, तो यह सबसे सीधा और सटीक तरीका है। यह प्रोडक्शन में अधिकांश क्लासिक ML को चलाता है।

कैसे। आप जो अनुमान लगाते हैं उसके आधार पर दो उप-प्रकार:

• क्लासिफिकेशन - एक श्रेणी का अनुमान (स्पैम है या नहीं, 20 बीमारी प्रकारों में से कौन सी, धोखाधड़ी है या वैध)।
• रिग्रेशन - एक सतत संख्या का अनुमान (घर की कीमत, कल की मांग, अपेक्षित राजस्व)।

आप अपने लेबल्ड डेटा को बांटते हैं, मॉडल को ज्ञात जवाबों के मुकाबले त्रुटि कम से कम करने के लिए प्रशिक्षित करते हैं, और मापते हैं कि वह अलग रखे गए उदाहरणों पर कितनी अच्छी तरह अनुमान लगाता है।

परीक्षा में। संकेत वाक्यांश है "लेबल्ड डेटा।" अगर कोई परिदृश्य आपको ज्ञात सही आउटपुट के साथ इनपुट देता है और आपसे किसी श्रेणी या मान का अनुमान लगाने को कहता है, तो वह सुपरवाइज्ड लर्निंग है। क्लासिफिकेशन बनाम रिग्रेशन इस बात से तय होता है कि जवाब एक श्रेणी है या एक संख्या।

अनसुपरवाइज्ड लर्निंग

क्या। मॉडल अनलेबल्ड डेटा से सीखता है - कोई सही जवाब नहीं दिया जाता। वह खुद संरचना खोजता है।

क्यों। वास्तविक दुनिया का अधिकांश डेटा अनलेबल्ड है, और लेबलिंग महंगी है। जब आप किसी ज्ञात लक्ष्य का अनुमान लगाने के बजाय पैटर्न खोजना चाहते हैं, तो यही औजार है।

कैसे। मुख्य काम:

• क्लस्टरिंग - समान वस्तुओं को समूहित करना (ग्राहक सेगमेंटेशन, दस्तावेजों को विषय के अनुसार समूहित करना)।
• डाइमेंशनैलिटी रिडक्शन - सिग्नल को बनाए रखते हुए कई फीचर्स को कुछ में संपीड़ित करना (विज़ुअलाइजेशन के लिए या डाउनस्ट्रीम मॉडल को तेज करने के लिए)।
• एनोमली डिटेक्शन - उन बिंदुओं को चिह्नित करना जो सीखे गए पैटर्न में फिट नहीं होते (धोखाधड़ी, घुसपैठ, दोषपूर्ण पुर्जे)।

परीक्षा में। संकेत है "अनलेबल्ड डेटा" के साथ "सेगमेंट करें," "समूहित करें," या "असामान्य खोजें" जैसा कोई लक्ष्य। ग्राहक सेगमेंटेशन के लिए क्लस्टरिंग सबसे आम अनसुपरवाइज्ड उदाहरण है जो आपको दिखेगा।

सेमी-सुपरवाइज्ड लर्निंग

क्या। एक बीच का रास्ता: थोड़ी मात्रा में लेबल्ड डेटा के साथ अनलेबल्ड डेटा का एक बड़ा भंडार।

क्यों। लेबलिंग महंगी होती है; अक्सर आप केवल एक अंश को लेबल करने का खर्च उठा सकते हैं। सेमी-सुपरवाइज्ड लर्निंग उन कुछ लेबल्स का उपयोग बहुत बड़े अनलेबल्ड सेट पर लर्निंग को दिशा देने के लिए करती है, और अकेले लेबल्स से मिलने वाले परिणामों से बेहतर परिणाम पाती है।

कैसे। सामान्य पैटर्न: लेबल्ड उपसमुच्चय पर प्रशिक्षित करें, उस मॉडल का उपयोग अनलेबल्ड डेटा को लेबल करने के लिए करें (स्यूडो-लेबलिंग), फिर संयुक्त सेट पर फिर से प्रशिक्षित करें। यह एनोटेशन लागत घटाती है और जनरलाइजेशन सुधार सकती है।

सेल्फ-सुपरवाइज्ड लर्निंग

क्या। मॉडल कच्चे डेटा से अपने खुद के लेबल बनाता है, इसलिए किसी मानवीय लेबलिंग की जरूरत नहीं होती। क्लासिक उदाहरण: किसी वाक्य में अगला शब्द छिपाकर मॉडल को उसका अनुमान लगाने के लिए प्रशिक्षित करना।

क्यों। इसी तरह आधुनिक फाउंडेशन मॉडल और लार्ज लैंग्वेज मॉडल को प्री-ट्रेन किया जाता है। इंटरनेट पर इतना अधिक कच्चा टेक्स्ट, इमेज, और कोड मौजूद है जिसे कोई कभी लेबल नहीं कर सकता, और नेक्स्ट-टोकन (या मास्क्ड-टोकन) अनुमान उस सब को ट्रेनिंग सिग्नल में बदल देता है।

कैसे। मॉडल को विशाल डेटासेट पर अपने ही इनपुट के हिस्सों को भरने या उनका अनुमान लगाने के लिए प्रशिक्षित किया जाता है। इसका परिणाम व्यापक सामान्य ज्ञान वाला एक बेस मॉडल होता है - धाराप्रवाह, लेकिन अभी तक निर्देशों का पालन करने या मानवीय पसंद से मेल खाने के लिए संरेखित नहीं।

परीक्षा में। आपको "सेल्फ-सुपरवाइज्ड" नाम अक्सर नहीं दिखेगा, लेकिन आपको यह जानना चाहिए कि एक फाउंडेशन मॉडल एक बड़ा मॉडल है जिसे विशाल, ज्यादातर अनलेबल्ड डेटा पर प्री-ट्रेन किया जाता है, और यही प्री-ट्रेनिंग उसे कई डाउनस्ट्रीम कार्यों के लिए अनुकूलनीय बनाती है।

रीइन्फोर्समेंट लर्निंग (और RLHF)

क्या। एक एजेंट किसी वातावरण के साथ अंतःक्रिया करके सीखता है: वह एक क्रिया करता है, एक रिवॉर्ड या दंड पाता है, और दीर्घकालिक रिवॉर्ड अधिकतम करने के लिए खुद को समायोजित करता है। कोई लेबल्ड जवाब-कुंजी नहीं होती - केवल इस पर फीडबैक कि कोई क्रिया कितनी अच्छी थी।

क्यों। यह उन क्रमिक निर्णय समस्याओं के लिए उपयुक्त है जहां "सही" चाल पहले से ज्ञात नहीं होती: गेम खेलना, रोबोटिक्स, अनुशंसा, कंट्रोल सिस्टम।

कैसे। एजेंट एक स्टेट देखता है, एक क्रिया चुनता है, एक रिवॉर्ड पाता है, एक नई स्टेट में जाता है, और यह दोहराता है - धीरे-धीरे एक पॉलिसी (एक रणनीति) सीखता है जो समय के साथ सबसे अधिक रिवॉर्ड कमाती है।

RLHF (रीइन्फोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक) इसका मशहूर अनुप्रयोग है। एक लैंग्वेज मॉडल के प्री-ट्रेन होने के बाद, इंसान उसके आउटपुट को रैंक करते हैं; वे रैंकिंग एक रिवॉर्ड मॉडल को प्रशिक्षित करती हैं; फिर रीइन्फोर्समेंट लर्निंग लैंग्वेज मॉडल को ऐसे आउटपुट देने के लिए ट्यून करती है जिन्हें रिवॉर्ड मॉडल ऊंचा स्कोर देता है। यही एक बड़ा कारण है कि आधुनिक चैट असिस्टेंट केवल धाराप्रवाह होने के बजाय सहायक और संरेखित होते हैं।

परीक्षा में। संकेत है "फीडबैक / रिवॉर्ड / ट्रायल एंड एरर से सीखता है।" एक चैटबॉट जो अच्छे जवाबों के लिए रिवॉर्ड पाकर सुधरता है, वह रीइन्फोर्समेंट लर्निंग है। यह जानिए कि RLHF ही वह तरीका है जिससे LLM को मानवीय पसंद के अनुरूप संरेखित किया जाता है।

भाग 2: ML जीवनचक्र

ट्रेनिंग एक लूप में एक कदम है, पूरी चीज नहीं। मानक जीवनचक्र:

1. समस्या को परिभाषित करें - आप किसका अनुमान लगा रहे हैं, और क्या ML सही औजार भी है? (कभी-कभी एक सरल नियम एक मॉडल से बेहतर होता है।)
2. डेटा इकट्ठा और तैयार करें - जुटाएं, साफ करें, और जरूरत हो तो लेबल करें।
3. एक्सप्लोरेटरी डेटा एनालिसिस (EDA) - मॉडलिंग से पहले वितरण, सहसंबंध, और गुणवत्ता का निरीक्षण करें।
4. फीचर इंजीनियरिंग - इनपुट वेरिएबल बनाने या रूपांतरित करने के लिए डोमेन ज्ञान का उपयोग करें ताकि पैटर्न सीखना आसान हो।
5. प्रशिक्षित करें - ट्रेनिंग डेटा पर मॉडल को फिट करें।
6. मूल्यांकन करें - ऐसे डेटा पर प्रदर्शन मापें जो मॉडल ने नहीं देखा।
7. डिप्लॉय करें - अनुमानों के लिए मॉडल को सर्व करें (इसे इन्फेरेंस कहते हैं)।
8. निगरानी करें - ड्रिफ्ट और गिरावट पर नजर रखें, और जरूरत पड़ने पर फिर से प्रशिक्षित करें।

ट्रेन, वैलिडेशन, और टेस्ट स्प्लिट। आप कभी किसी मॉडल को उसी डेटा पर नहीं आंकते जिस पर उसने प्रशिक्षण लिया। डेटा को बांटिए: ट्रेनिंग सेट मॉडल को फिट करता है, वैलिडेशन सेट सेटिंग्स को ट्यून करता है और उम्मीदवारों की तुलना करता है, और टेस्ट सेट ऐसे डेटा पर अंतिम, ईमानदार अनुमान देता है जो कहीं और उपयोग नहीं हुआ। एक आम स्प्लिट कुछ 80/20 जैसा होता है, जिसमें ट्रेनिंग हिस्से को वैलिडेशन के लिए फिर से बांटा जाता है।

परीक्षा में। यह जानिए कि इन्फेरेंस का मतलब है एक प्रशिक्षित मॉडल का नए डेटा पर उपयोग करना (ट्रेनिंग के विपरीत), और फीचर इंजीनियरिंग का मतलब है डोमेन ज्ञान का उपयोग करके कच्चे डेटा से बेहतर इनपुट बनाना।

भाग 3: फिटिंग और जनरलाइजेशन

पूरा खेल जनरलाइजेशन का है - नए डेटा पर अच्छा प्रदर्शन करना, केवल ट्रेनिंग डेटा पर नहीं।

• ओवरफिटिंग - मॉडल ट्रेनिंग डेटा को (उसके शोर सहित) याद कर लेता है और नए डेटा पर विफल हो जाता है। लक्षण: उच्च ट्रेनिंग सटीकता, खराब प्रोडक्शन सटीकता; या ऐसी सटीकता जो सुधरती है फिर लंबे प्रशिक्षण के साथ बिगड़ती है। समाधान: अधिक (और अधिक विविध) ट्रेनिंग डेटा, रेगुलराइजेशन, अर्ली स्टॉपिंग, ड्रॉपआउट, या एक सरल मॉडल।
• अंडरफिटिंग - मॉडल पैटर्न को पकड़ने के लिए बहुत सरल है और ट्रेनिंग डेटा पर भी खराब प्रदर्शन करता है। समाधान: एक अधिक सक्षम मॉडल, बेहतर फीचर्स, या अधिक प्रशिक्षण।
• बायस-वेरिएंस ट्रेडऑफ - बायस एक बहुत-सरल मॉडल से आने वाली त्रुटि है (अंडरफिटिंग); वेरिएंस एक बहुत-जटिल मॉडल से आने वाली त्रुटि है (ओवरफिटिंग)। अधिक जटिलता बायस कम करती है लेकिन वेरिएंस बढ़ाती है। कला इन दोनों को संतुलित करने में है।

परीक्षा में। "ट्रेनिंग डेटा पर शानदार, प्रोडक्शन में खराब" ओवरफिटिंग का लक्षण है; अपेक्षित जवाब हैं अधिक डेटा, रेगुलराइजेशन, या अर्ली स्टॉपिंग। इसे अंडरफिटिंग (हर जगह खराब) के साथ न मिलाएं।

भाग 4: आप एक मॉडल को कैसे मापते हैं

आप उसे सुधार नहीं सकते जिसे आप माप नहीं सकते, और सही मीट्रिक कार्य पर निर्भर करती है।

क्लासिफिकेशन मीट्रिक।

• एक्युरेसी - अनुमानों का वह अंश जो सही है। तब ठीक जब श्रेणियां संतुलित हों; भ्रामक जब न हों।
• कन्फ्यूजन मैट्रिक्स - ट्रू पॉजिटिव, फॉल्स पॉजिटिव, ट्रू नेगेटिव, और फॉल्स नेगेटिव की पूरी तालिका। बाकी सब कुछ इसी से निकाला जाता है।
• प्रिसिजन - आपने जिन वस्तुओं को पॉजिटिव चिह्नित किया, उनमें से कितनी वास्तव में थीं। (फॉल्स पॉजिटिव को दंडित करती है।)
• रिकॉल (सेंसिटिविटी) - वास्तव में पॉजिटिव वस्तुओं में से आपने कितनी पकड़ीं। (फॉल्स नेगेटिव को दंडित करती है।)
• F1 स्कोर - प्रिसिजन और रिकॉल का हार्मोनिक माध्य, दोनों को संतुलित करती एक संख्या।
• AUC (ROC वक्र के नीचे का क्षेत्र) - थ्रेशोल्ड-स्वतंत्र माप कि मॉडल श्रेणियों को कितनी अच्छी तरह अलग करता है।

रिग्रेशन मीट्रिक।

• RMSE (रूट मीन स्क्वेयर्ड एरर) और MAE (मीन एब्सोल्यूट एरर) - अनुमान वास्तविक संख्याओं से कितनी दूर गिरते हैं।

जनरेटिव और लैंग्वेज मीट्रिक।

• BLEU - मानव संदर्भों के मुकाबले अनुवाद गुणवत्ता।
• ROUGE - सारांशीकरण गुणवत्ता (संदर्भ सारांशों के साथ ओवरलैप)।
• BERTScore - एम्बेडिंग्स का उपयोग करके किसी संदर्भ से अर्थ-संबंधी समानता।
• मानव मूल्यांकन - खुले-सिरे वाले जनरेटिव आउटपुट के लिए अभी भी सबसे उत्तम मानक।

परीक्षा में। व्यावसायिक लागत मीट्रिक चुनती है। जब किसी चूक की कीमत किसी झूठे अलार्म से कहीं अधिक हो (धोखाधड़ी, बीमारी स्क्रीनिंग), तो रिकॉल के लिए अनुकूलित करें। एक्युरेसी संतुलित क्लासिफिकेशन के लिए डिफॉल्ट है; पूरा विवरण चाहिए तो कन्फ्यूजन मैट्रिक्स; अनुवाद/सारांशीकरण के लिए BLEU/ROUGE।

भाग 5: हाइपरपैरामीटर और ट्रेनिंग गतिकी

हाइपरपैरामीटर वे सेटिंग्स हैं जो आप ट्रेनिंग से पहले चुनते हैं (उन वेट्स के विपरीत जो मॉडल सीखता है)। मुख्य वाले:

• एपॉक - मॉडल ट्रेनिंग डेटा पर कितनी बार गुजरता है। बहुत कम अंडरफिट करता है; बहुत अधिक ओवरफिट करता है।
• लर्निंग रेट - मॉडल अपडेट करते समय कितना बड़ा कदम उठाता है। बहुत अधिक हो तो कभी स्थिर नहीं होता; बहुत कम हो तो रेंगता है।
• बैच साइज - प्रति अपडेट कितने उदाहरण।

हाइपरपैरामीटर ट्यूनिंग सबसे अच्छे संयोजन की खोज है; यह अक्सर स्वचालित होती है (उदाहरण के लिए AutoML टूल्स द्वारा)।

ट्रेनिंग हाइपरपैरामीटर को जनरेटिव मॉडल पर इन्फेरेंस-समय की सेटिंग्स के साथ न मिलाएं:

• टेम्परेचर - कम (0 के पास) निर्धारित, दोहराने योग्य आउटपुट देता है; अधिक रचनात्मक, विविध आउटपुट देता है।
• Top-p / top-k - सीमित करते हैं कि मॉडल किन उम्मीदवार टोकन से सैंपल ले सकता है।

परीक्षा में। "मॉडल के जवाबों को अधिक सुसंगत/दोहराने योग्य बनाएं" का मतलब है टेम्परेचर कम करना। "अधिक प्रशिक्षण करके सटीकता सुधारें" अधिक एपॉक की ओर इशारा करता है (ओवरफिटिंग एक चेतावनी के रूप में)।

भाग 6: फाउंडेशन मॉडल का अनुकूलन - कस्टमाइजेशन सीढ़ी

आप शायद ही कभी किसी बड़े मॉडल को शून्य से प्रशिक्षित करते हैं। आप एक प्री-ट्रेन्ड फाउंडेशन मॉडल लेते हैं और उसे अनुकूलित करते हैं। ये तरीके, सबसे सस्ते और तेज से लेकर सबसे महंगे तक क्रमबद्ध, इस पूरी मार्गदर्शिका में सबसे अधिक परीक्षा-प्रासंगिक विचार हैं।

ट्रांसफर लर्निंग (छत्र विचार)

क्या। एक कार्य पर मॉडल द्वारा सीखे गए ज्ञान का किसी संबंधित कार्य के लिए पुन: उपयोग करना। रैंडम वेट्स से शुरू करने के बजाय, आप ऐसे मॉडल से शुरू करते हैं जो पहले से ही भाषा या इमेज समझता है।

क्यों। यह आपको जरूरी डेटा और कंप्यूट में भारी कटौती करता है। यह लगभग नीचे दी गई हर चीज के पीछे का सिद्धांत है - फाइन-ट्यूनिंग ट्रांसफर लर्निंग करने का एक खास तरीका है।

परीक्षा में। "शून्य से बनाने के बजाय किसी नए कार्य के लिए एक प्री-ट्रेन्ड मॉडल को अनुकूलित करें" ट्रांसफर लर्निंग है, और इसका लाभ है कम डेटा, कम समय, कम लागत।

पायदान 1: प्रॉम्प्ट इंजीनियरिंग

क्या। आप मॉडल को दिए जाने वाले निर्देश बदलते हैं, मॉडल को नहीं। कुछ भी फिर से प्रशिक्षित नहीं होता।

कैसे। तकनीकें:

• जीरो-शॉट - बस पूछिए, बिना किसी उदाहरण के।
• वन-शॉट / फ्यू-शॉट (इन-कॉन्टेक्स्ट लर्निंग) - प्रॉम्प्ट में कुछ हल किए हुए उदाहरण शामिल करें ताकि मॉडल पैटर्न भांप ले। यह शून्य पैरामीटर अपडेट के साथ व्यवहार को अनुकूलित करता है।
• चेन-ऑफ-थॉट - कठिन समस्याओं के लिए मॉडल से चरण-दर-चरण तर्क करने को कहें।
• प्रॉम्प्ट टेम्पलेट - मानकीकृत, पुन: उपयोग योग्य प्रॉम्प्ट संरचनाएं।

क्यों। सबसे सस्ता, सबसे तेज, कोई इंफ्रास्ट्रक्चर नहीं। हमेशा पहले यही आजमाएं।

परीक्षा में। फ्यू-शॉट लर्निंग और इन-कॉन्टेक्स्ट लर्निंग एक ही विचार हैं: प्रॉम्प्ट में उदाहरण, कोई री-ट्रेनिंग नहीं। जीरो-शॉट में खराब परिणामों का जोखिम रहता है जब कार्य उससे बहुत दूर हो जो मॉडल ने ट्रेनिंग में देखा।

पायदान 2: रिट्रीवल-ऑगमेंटेड जनरेशन (RAG)

क्या। क्वेरी के समय अपने डेटा से प्रासंगिक तथ्य लाएं और उन्हें प्रॉम्प्ट में जोड़ें, ताकि मॉडल ऐसी मौजूदा, निजी, या आधिकारिक जानकारी से जवाब दे जिस पर उसे कभी प्रशिक्षित नहीं किया गया।

कैसे। अपने दस्तावेजों को एम्बेडिंग्स (अर्थ को पकड़ने वाले संख्यात्मक वेक्टर) में बदलें, उन्हें एक वेक्टर डेटाबेस में संग्रहीत करें, उपयोगकर्ता के प्रश्न के सबसे नजदीकी हिस्सों को पुनर्प्राप्त करें, और उन्हें प्रश्न के साथ मॉडल को दें।

क्यों। यह जवाबों को आपके डेटा में आधार देता है और बिना किसी री-ट्रेनिंग के हैलुसिनेशन को नाटकीय रूप से घटाता है। तब आदर्श जब आपका ज्ञान अक्सर बदलता हो - आप दस्तावेज अपडेट करते हैं, मॉडल नहीं।

परीक्षा में। "मॉडल को कंपनी डेटा में आधार दें / हैलुसिनेशन घटाएं / बिना री-ट्रेनिंग के जवाब मौजूदा रखें" RAG है। एम्बेडिंग्स वे संख्यात्मक निरूपण हैं जो पुनर्प्राप्ति को कारगर बनाते हैं।

पायदान 3: फाइन-ट्यूनिंग

क्या। मॉडल को अपने खुद के लेबल्ड उदाहरणों पर प्रशिक्षित करते रहें ताकि वह किसी कार्य या शैली को आत्मसात कर ले।

कैसे। लेबल्ड डेटा दें - आमतौर पर प्रॉम्प्ट-एंड-कम्प्लीशन जोड़े। इंस्ट्रक्शन फाइन-ट्यूनिंग निर्देशों के रूप में स्वरूपित इनपुट-आउटपुट जोड़ों का उपयोग करती है; डोमेन अनुकूलन विशेष व्यवहार सिखाता है (उदाहरण के लिए, वैज्ञानिक या कानूनी शब्दावली को संभालना)। पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT), जैसे LoRA, मॉडल के पैरामीटरों का केवल एक छोटा हिस्सा अपडेट करती है, जिससे अधिकांश मॉडल को स्थिर रखते हुए लागत घटती है।

क्यों। जब प्रॉम्प्टिंग और RAG पर्याप्त न हों और आपको मॉडल से भरोसेमंद ढंग से किसी खास तरह व्यवहार कराना हो। इसकी लागत ऊपर के पायदानों से अधिक (डेटा, कंप्यूट) होती है।

परीक्षा में। फाइन-ट्यूनिंग को लेबल्ड डेटा (प्रॉम्प्ट-कम्प्लीशन जोड़े) की जरूरत होती है। इसे सुसंगत कार्य व्यवहार या डोमेन अनुकूलन के लिए उपयोग करें; यह मॉडल को बदलती है, जबकि RAG मॉडल को छूए बिना छोड़ती है और क्वेरी के समय संदर्भ प्रदान करती है।

पायदान 4: कंटीन्यूड प्री-ट्रेनिंग

क्या। बेस मॉडल को बड़ी मात्रा में अनलेबल्ड डोमेन टेक्स्ट पर प्री-ट्रेन करते रहें।

क्यों। मॉडल को किसी विशेष क्षेत्र (चिकित्सा, कानूनी, वैज्ञानिक) की शब्दावली और अवधारणाएं बड़े पैमाने पर सिखाने के लिए, या जैसे-जैसे डेटा विकसित होता है उसे मौजूदा रखने के लिए। फाइन-ट्यूनिंग से अधिक महंगी।

परीक्षा में। कंटीन्यूड प्री-ट्रेनिंग शब्दावली और अवधारणा में महारत के लिए बहुत सारे अनलेबल्ड डोमेन टेक्स्ट का उपयोग करती है; इंस्ट्रक्शन फाइन-ट्यूनिंग कार्य व्यवहार के लिए लेबल्ड निर्देश जोड़ों का उपयोग करती है। अलग डेटा, अलग लक्ष्य।

लागत की सीढ़ी, एक पंक्ति में

प्रॉम्प्ट इंजीनियरिंग (सबसे सस्ता, कोई री-ट्रेनिंग नहीं) -> RAG (क्वेरी के समय अपना डेटा जोड़ें) -> फाइन-ट्यूनिंग (लेबल्ड उदाहरणों पर फिर से प्रशिक्षित करें) -> कंटीन्यूड प्री-ट्रेनिंग (अनलेबल्ड डोमेन टेक्स्ट पर फिर से प्रशिक्षित करें) -> शून्य से पूर्ण प्री-ट्रेनिंग (दुर्लभ, सबसे महंगी)। केवल उतना ही ऊपर चढ़ें जितना समस्या मांगती है।

भाग 7: मॉडल को छोटा और तेज बनाना

एक बार मॉडल काम करने लगे, तो आपको अक्सर उसे सस्ता या कम-लेटेंसी वाला चाहिए होता है:

• नॉलेज डिस्टिलेशन - एक बड़े "शिक्षक" की नकल करने के लिए एक छोटे "छात्र" मॉडल को प्रशिक्षित करें, आकार के एक अंश पर अधिकांश गुणवत्ता बनाए रखते हुए।
• क्वांटाइजेशन - मॉडल को छोटा और तेज करने के लिए वेट्स को कम संख्यात्मक परिशुद्धता पर संग्रहीत करें (उदाहरण के लिए 32-बिट के बजाय 8-बिट)।
• प्रूनिंग - उन वेट्स या संरचनाओं को हटाएं जो कम योगदान देती हैं।

भाग 8: आर्किटेक्चर, संक्षेप में

ऊपर के पैराडाइम यह हैं कि मॉडल कैसे सीखते हैं; आर्किटेक्चर वह है जिससे मॉडल बना है। आपको इन नामों को पहचानना चाहिए:

• न्यूरल नेटवर्क / डीप लर्निंग - परतदार नेटवर्क जो अनुक्रमिक फीचर्स सीखते हैं; आधुनिक AI का आधार।
• CNN - इमेज के लिए विशेषीकृत।
• RNN - अनुक्रमों के लिए बनाए गए (काफी हद तक ट्रांसफॉर्मर द्वारा प्रतिस्थापित)।
• ट्रांसफॉर्मर - आधुनिक LLM के पीछे का आर्किटेक्चर; जनरेटिव प्री-ट्रेन्ड ट्रांसफॉर्मर में "GPT" और BERT जैसे मॉडल।
• GAN - यथार्थवादी कृत्रिम डेटा उत्पन्न करने के लिए प्रतिस्पर्धा करते दो नेटवर्क।
• डिफ्यूजन मॉडल - एक नॉइजिंग प्रक्रिया को उलटना सीखकर इमेज उत्पन्न करते हैं।

आपको किसी फाउंडेशनल परीक्षा के लिए इन्हें लागू करने की जरूरत नहीं है, लेकिन आपको जानना चाहिए, उदाहरण के लिए, कि ट्रांसफॉर्मर LLM को शक्ति देते हैं और GAN कृत्रिम डेटा उत्पन्न करते हैं।

30-सेकंड की निर्णय मार्गदर्शिका

• लेबल्ड डेटा, किसी श्रेणी या संख्या का अनुमान -> सुपरवाइज्ड लर्निंग (क्लासिफिकेशन या रिग्रेशन)
• अनलेबल्ड डेटा, समूह या विसंगतियां खोजें -> अनसुपरवाइज्ड लर्निंग (क्लस्टरिंग, एनोमली डिटेक्शन)
• कुछ लेबल्स के साथ बहुत सारा अनलेबल्ड डेटा -> सेमी-सुपरवाइज्ड लर्निंग
• मॉडल कच्चे डेटा से अपने खुद के लेबल बनाता है (फाउंडेशन मॉडल कैसे प्री-ट्रेन करते हैं) -> सेल्फ-सुपरवाइज्ड लर्निंग
• एजेंट रिवॉर्ड / फीडबैक से सीखता है -> रीइन्फोर्समेंट लर्निंग; एक LLM को मानवीय पसंद के अनुरूप संरेखित करना -> RLHF
• किसी संबंधित कार्य के लिए एक प्री-ट्रेन्ड मॉडल का पुन: उपयोग -> ट्रांसफर लर्निंग
• एक फाउंडेशन मॉडल को अनुकूलित करें, पहले सबसे सस्ता -> प्रॉम्प्ट इंजीनियरिंग, फिर RAG, फिर फाइन-ट्यूनिंग, फिर कंटीन्यूड प्री-ट्रेनिंग
• जवाबों को अपने खुद के मौजूदा डेटा में आधार दें, कोई री-ट्रेनिंग नहीं -> RAG
• ट्रेनिंग डेटा पर शानदार, प्रोडक्शन में खराब -> ओवरफिटिंग (अधिक डेटा, रेगुलराइजेशन, अर्ली स्टॉपिंग)
• किसी पॉजिटिव को चूकना बहुत महंगा है (धोखाधड़ी) -> रिकॉल के लिए अनुकूलित करें
• जनरेटिव आउटपुट को अधिक सुसंगत बनाएं -> टेम्परेचर कम करें

संबंधित प्रमाणन

ये लर्निंग-विधि की बुनियादी बातें हर फाउंडेशनल AI परीक्षा के मूल में हैं - यह मार्गदर्शिका उनके प्रत्येक हब पर संबंधित अध्ययन मार्गदर्शिकाओं के अंतर्गत दिखती है:

• AWS Certified AI Practitioner (AIF-C01) - वह परीक्षा जिसके लिए यह मार्गदर्शिका तैयार की गई है; डोमेन 1-3 इन अवधारणाओं पर काफी निर्भर करते हैं।
• AWS Certified Machine Learning Engineer Associate (MLA-C01) - जीवनचक्र, ट्रेनिंग, और मूल्यांकन में अधिक गहराई से जाता है।
• Microsoft Azure AI Fundamentals (AI-900 / AI-901) - उन्हीं लर्निंग पैराडाइम और ML बुनियादी बातों को परखता है।
• Google Cloud Generative AI Leader - फाउंडेशन मॉडल, प्रॉम्प्टिंग, और अनुकूलन।
• NVIDIA-Certified Associate: Generative AI and LLMs (NCA-GENL) - LLM ट्रेनिंग और अनुकूलन।
• IBM watsonx Generative AI Engineer Associate - जनरेटिव AI की बुनियादी बातें।
• Claude Certified Architect - Foundations (CCA-F) - फाउंडेशन-मॉडल अवधारणाएं।

इसका अध्ययन कैसे करें

एक फाउंडेशनल परीक्षा के लिए, एल्गोरिदम याद न करें - क्लासिफिकेशन का अभ्यास करें। हर परिदृश्य को पढ़िए और दो व्यवस्थित करने वाले सवाल पूछिए: मेरे पास कौन सा डेटा है (लेबल्ड, अनलेबल्ड, रिवॉर्ड), और क्या मैं बना रहा हूं या अनुकूलित कर रहा हूं? यह आपको सेकंडों में सही पैराडाइम या कस्टमाइजेशन सीढ़ी के सही पायदान तक पहुंचा देता है। अभ्यास प्रश्न 30-सेकंड की निर्णय मार्गदर्शिका खुली रखकर हल करें, और जब कोई गलत हो, तो यहां उस सेक्शन पर वापस आएं जब तक सीमा स्पष्ट न हो जाए। जो अवधारणाएं पास होने वालों को अलग करती हैं वे वही हैं जिनके किनारे धुंधले होते हैं: सुपरवाइज्ड बनाम अनसुपरवाइज्ड, फाइन-ट्यूनिंग बनाम RAG, ओवरफिटिंग बनाम अंडरफिटिंग, और कस्टमाइजेशन सीढ़ी का लागत क्रम।

स्रोत: AWS Certified AI Practitioner (AIF-C01) परीक्षा मार्गदर्शिका और प्रश्न डोमेन, और मानक मशीन-लर्निंग संदर्भ, सितंबर 2026 तक।