प्रौद्योगिकी साझेदारी

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

गहनशिक्षणे ढाल अवरोह एल्गोरिदमस्य परिचयः

न्यूनतमं अन्वेषणसमस्या

आमुख: यदा वयं कृत्रिमबुद्धिप्रतिरूपं प्रशिक्षयामः तदा सरलतया वक्तुं शक्यते यत् वयं दत्तांशस्य आधारेण प्रतिरूपस्य मापदण्डान् समायोजयामः येन...अस्माकं दत्तांशस्य समानं मूल्यं मॉडल् पूर्वानुमानं करोति .परन्तु आरम्भे निश्चितरूपेण भिन्नम् आसीत्, अतः वयंहानि कार्यस्य परिचयं कुर्वन्तु, कियत् भेदः अस्ति इति गणयितुं तस्य उपयोगं कुर्मः, कियत् भेदः अस्ति इति ज्ञातुं शक्नुमः, मूलप्रतिरूपे च मापदण्डान् कथं समायोजयामः?

किमर्थम्‌! मूलप्रतिरूपस्य मापदण्डानां समायोजनस्य उद्देश्यं पूर्वानुमानितं मूल्यं आवश्यकमूल्येन सह समानं कर्तुं भवति । किं गणितस्य पूर्वानुमानितमूल्यस्य अपेक्षितमूल्यानां च मध्ये अन्तरं न्यूनीकरोति इति आदर्शमापदण्डं अन्वेष्टुं शक्यते? ===》एषा न्यूनतममूल्यं अन्वेष्टुं समस्या अस्ति

अतः मूलतः हानिकार्यस्य न्यूनतमं मूल्यं अन्वेष्टुं भवति ।

गणितीयरूपेण न्यूनतमं मूल्यं ज्ञातव्यम्

विच्छेदननिर्देशाः : १.
लक्ष्य: f(x) न्यूनीकरोति इति उचितं x मूल्यं ज्ञातव्यम् ।
तर्कः

1. कोऽपि बिन्दु x0 चित्वा अस्मिन् बिन्दौ व्युत्पन्नमूल्यं f(x0) गणयन्तु
2. व्युत्पन्नस्य चिह्नानुसारं x0 वर्धनीयं न्यूनीकर्तव्यं वा इति निर्णयं कुर्वन्तु;यदि व्युत्पन्नं धनात्मकं भवति तर्हि x न्यूनीकरोतु यतः यथा यथा वर्धते तथा तथा y अपि वर्धते यदि व्युत्पन्नं ऋणात्मकं भवति तर्हि x वर्धयतु;
3.迭代进行1,2步直到导数为0；或者导数变号了。
व्युत्पन्नं केषु परिस्थितिषु चिह्नं परिवर्तयति ?
那就函数的值，之前在减小，现在在增大了，所以导数就会编号，那么最小值就在其中（救赎之道，就在其中）

ढालः

ढालः : १. प्रत्यक्षतया व्युत्पन्नत्वेन अवगन्तुं शक्यते, परन्तु गहनशिक्षणे प्रायः व्युत्पन्नं न भवति अर्थात् बहुचक्रस्य कार्यस्य व्युत्पन्नं व्युत्पन्नं भवति ।

उदाहरणतया:
एकनारी कार्य : १.

मूल फ़ंक्शन: y=5x^2
व्युत्पन्न फलन: y= 10x
अर्थात् x=1 यदा व्युत्पन्नं मूल्यं 10 भवति

बहु फ़ंक्शन

त्रिगुणात्मक कार्य: y=2x^2 + 6z^2 + 7m^3
व्युत्पन्न फलनम् (अर्थात् त्रयाणां अज्ञातानां कृते आंशिकव्युत्पन्नसमाधानम्): y={4x,12z,21m^2}
[१,१,१] इत्यत्र ढालः [४,१२,२१] अस्ति;

ते सर्वे कार्याणि व्युत्पादयन्ति, भवन्तः ढालम् अवगन्तुं व्युत्पन्नानाम् उपयोगं कर्तुं शक्नुवन्ति ।

ढाल अवरोह एल्गोरिदम

परिभाषा: ग्रेडिएण्ट् डेसेण्ट् एल्गोरिदम् एकः तर्कः अस्ति यः इनपुट् डाटा इत्यत्र मॉडल् इत्यस्य ग्रेडिएण्ट् इत्यस्य गणनां करोति, ततः लर्निंग् रेट् इत्यस्य माध्यमेन मॉडल् इत्यस्य मूल भार पैरामीटर्स् अपडेट् करोति अनेके प्रकाराः एल्गोरिदम्स् प्रयुक्ताः सन्ति, येषां परिचयं वयं करिष्यामः

गहनशिक्षणप्रक्रियायां न्यूनतममूल्यसमस्यायाः अन्वेषणम्

गहनशिक्षणस्य समग्रप्रवाहचित्रम्

निम्नलिखित योजनाबद्धचित्रं गहनशिक्षणस्य प्रवाहचित्रम् अस्ति, यस्मिन् न्यूनतममूल्यसमस्यायाः अन्वेषणस्य मूल्यं तस्य अनुरूपं भवतिहानि कार्य–>अनुकूलक–>मॉडल

हानिकार्यस्य समाधानस्य उद्देश्यम्

1. हानिकार्यं यथा लघु भवति तथा आदर्शः उत्तमः भवति।
2. शिक्षणस्य लक्ष्यं हानिकार्यं न्यूनीकर्तुं भवति
3. मॉडलस्य भारः हानिकार्यं प्रभावितं करोति
4. ढाल-अवरोहणद्वारा इष्टतमं भारं ज्ञातव्यम्

वजन अपडेट

अद्यतन तर्क

1. इनपुट x तथा मॉडलस्य वर्तमानभारस्य आधारेण पूर्वानुमानितमूल्यं y1 गणयन्तु
2. y1 तथा y इत्येतयोः आधारेण हानिः गणयितुं हानिकार्यस्य उपयोगं कुर्वन्तु
3. हानिम् आधारीकृत्य मॉडलस्य भारस्य ढालस्य गणनां कुर्वन्तु
4. अनुकूलकस्य अनुसारं मॉडलस्य भारं समायोजयितुं ढालस्य, शिक्षणदरस्य च उपयोगं कुर्वन्तु

अद्यतनविधिः : १.

1. सर्वे नमूनाः एकत्र ढालस्य (सञ्चयस्य) ढालस्य अवरोहस्य गणनां कुर्वन्ति
2. ढालस्य गणनायै एकैकस्य नमूनायाः उपयोगं कुर्वन्तु Stochastic gradient descent इति
3. ढाल (सञ्चय) लघु-बैच ढाल अवरोहणस्य गणनाय प्रत्येकं समये n नमूनानां उपयोगं कुर्वन्तु