प्रौद्योगिकी साझेदारी

[यन्त्रशिक्षणम्] 12. शीर्षदश एल्गोरिदम्षु अन्यतमस्य समर्थनसदिशयन्त्रस्य (SVM - समर्थनसदिशयन्त्रस्य) एल्गोरिदमसिद्धान्तस्य व्याख्या

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[यन्त्रशिक्षणम्] 12. शीर्षदश एल्गोरिदम्षु अन्यतमस्य समर्थनसदिशयन्त्रस्य (SVM - समर्थनसदिशयन्त्रस्य) एल्गोरिदमसिद्धान्तस्य व्याख्या

१·सारः

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

समर्थनसदिशयन्त्रं (SVM) एकं कुशलं पर्यवेक्षितं शिक्षणं एल्गोरिदम् अस्ति यस्य व्यापकरूपेण वर्गीकरणं प्रतिगमनसमस्यासु च उपयोगः भवति । एतत् विशेषतास्थाने इष्टतमं अतिविमानं अन्विष्य दत्तांशबिन्दुविभिन्नवर्गाणां भेदं करोति लक्ष्यं द्वयोः प्रकारयोः दत्तांशबिन्दुयोः मध्ये अधिकतमं अन्तरं करणीयम्, तस्मात् प्रतिरूपस्य सामान्यीकरणक्षमतायां सुधारः भवति SVM इत्यस्य मुख्यसंकल्पनासु अतिविमानाः, अन्तरालाः, समर्थनसदिशाः, कर्नेलकार्यं च सन्ति । तदतिरिक्तं, दत्तांशस्य अपूर्णरेखीयपृथक्करणस्य निवारणाय मृदुमार्जिनस्य नियमितीकरणस्य च तकनीकानां उपयोगः भवति, तथैव मॉडलजटिलतां नियन्त्रयति, अतिफिटिंग् निवारयति च SVM इत्यस्य कार्यान्वयनस्य समुचितं कर्नेल् फंक्शन् चयनं, उत्तलद्विघातप्रोग्रामिंगसमस्यायाः निर्माणं समाधानं च, प्रशिक्षितस्य प्रतिरूपस्य मूल्याङ्कनं प्रयोक्तुं च अन्तर्भवति अस्य लाभाः सन्ति यत् आदर्शः सरलः, कार्यान्वयनार्थं सुलभः, उत्तमसामान्यीकरणक्षमता च अस्ति, परन्तु अस्य उच्चगणनाजटिलता अस्ति, कर्नेल्-कार्यं, पैरामीटर्-चयनं च प्रति संवेदनशीलं भवति, तथा च बृहत्-परिमाणस्य आँकडा-समूहानां संसाधनकाले कार्यक्षमतायाः अटङ्कानां सामना कर्तुं शक्नोति

2. व्यक्तिगतपरिचयः

🏘️🏘️个人主页:पर्वतानद्यः उपहाररूपेण उपयुज्य
🎖️🎖️:पायथन् क्षेत्रे राइजिंग स्टार निर्माता, CSDN राइजिंग स्टार प्रमाणीकरणं, CSDN सामग्री भागीदारः, अलीबाबा क्लाउड् समुदायविशेषज्ञः ब्लोगरः, राइजिंग स्टार प्रोग्राम मार्गदर्शकः, तथा च कार्यस्थले आँकडा विश्लेषकः।

💕💕悲索之人烈焰加身,堕落者不可饶恕。永恒燃烧的羽翼,带我脱离凡间的沉沦。

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

🐘 希望大家能持续支持,共同向前迈进!😁
यदि लेखः बहुमूल्यः इति मन्यते तर्हि
欢迎留言💬,点赞👍,收藏🔖并关注我们➕🤝。
🪐💫💫💫💫💫💫💫热门专栏💫💫💫💫💫💫💫🪐
प्रकारःस्तम्भ
पायथन मूलभूत बातेंपायथन् मूलभूतविषयाणां परिचयः—विस्तृतसंस्करणम्
पायथन् उन्नतवान्पायथन मूलभूतविषयाणां परिचयः—मॉड्यूल संस्करणम्
पायथन उन्नतPython网络爬虫从入门到精通🔥🔥🔥
जाल पूर्ण ढेर विकासDjango Basics इत्यनेन सह आरम्भः
जाल पूर्ण ढेर विकासHTML तथा CSS मूलभूतविषयाणां परिचयः
जाल पूर्ण ढेर विकासजावास्क्रिप्ट् मूलभूतविषयेषु आरम्भः
पायथोण्डाटा विश्लेषणPython数据分析项目🔥🔥
यन्त्रशिक्षणम्机器学习算法🔥🔥

3. मूलभूतसंकल्पना

समर्थनसदिशयन्त्रम् (SVM) एकः शक्तिशाली यन्त्रशिक्षण एल्गोरिदम् अस्ति यस्य उपयोगः मुख्यतया वर्गीकरणस्य प्रतिगमनसमस्यानां समाधानार्थं भवति । इदं सांख्यिकीयशिक्षणसिद्धान्ते संरचनात्मकजोखिम न्यूनीकरणसिद्धान्ते आधारितं भवति तथा च विशेषतास्थाने इष्टतमनिर्णयसीमा अर्थात् अतिविमानं अन्विष्य भिन्नदत्तांशवर्गाणां भेदं करोति अस्य अतिविमानस्य चयनस्य उद्देश्यं भवति यत् दत्तांशबिन्दुभ्यः अतिविमानपर्यन्तं लघुतमं दूरं अधिकतमं करणीयम्, यत् मार्जिनम् इति कथ्यते । अन्तरालः यथा बृहत् भवति तथा सामान्यतया आदर्शस्य सामान्यीकरणक्षमता उत्तमः भवति ।

SVM इत्यस्य कोरः समर्थनसदिशः अस्ति, यः अतिविमानस्य स्थितिं दिशां च निर्धारयितुं महत्त्वपूर्णाः दत्तांशबिन्दवः सन्ति यदि दत्तांशः रेखीयरूपेण पृथक्करणीयः नास्ति तर्हि SVM मूलदत्तांशं कर्नेल् फंक्शन् परिचययित्वा उच्चतर-आयामी-अन्तरिक्षे मैप् करोति तथा च अस्मिन् नूतने स्थाने रेखीयरूपेण पृथक्करणीयं हाइपरप्लेन् अन्वेषयति सामान्यतया प्रयुक्ताः कर्नेल्-कार्यं रेखीय-कर्नेल्, बहुपद-कर्नेल्, रेडियल-आधार-फंक्शन् (RBF)-कर्नेल् इत्यादयः सन्ति ।

दत्तांशेषु शोरस्य, बहिर्मुखस्य च निवारणार्थं एसवीएम मृदुमार्जिनस्य अवधारणां प्रवर्तयति, यत् उत्तमसामान्यीकरणप्रदर्शनस्य विनिमयरूपेण केषाञ्चन दत्तांशबिन्दून् दुर्वर्गीकरणं कर्तुं शक्नोति तस्मिन् एव काले अतियोग्यतां परिहरितुं नियमितीकरणपदानां माध्यमेन प्रतिरूपस्य जटिलता नियन्त्रिता भवति । एसवीएम इत्यस्य प्रशिक्षणप्रक्रियायां प्रायः इष्टतमं अतिविमानमापदण्डं ज्ञातुं उत्तलद्विघातप्रोग्रामिंगसमस्यायाः समाधानं भवति ।

अधोलिखितं चित्रं पश्यन्तु द्विमात्रिकवातावरणे मध्यकृष्णरेखायाः समीपस्थाः अन्ये बिन्दवः समर्थनसदिशरूपेण गणयितुं शक्यन्ते ते वर्गीकरणस्य विशिष्टमापदण्डान् अर्थात् कृष्णवर्णस्य निर्धारणं कर्तुं शक्नुवन्ति पंक्ति।
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

4. समर्थन सदिशः अतिविमानाः च

समर्थनसदिशः, अतिविमानं च समर्थनसदिशयन्त्रस्य (SVM) एल्गोरिदम् इत्यस्मिन् मूलसंकल्पनाः सन्ति । अधः एतयोः अवधारणायोः विस्तरेण व्याख्यास्यामि ।

४.१ अतिविमानम्

गणितशास्त्रे अतिविमानं रेखीयं उपअन्तरिक्षं भवति यस्य एकः आयामः यस्मिन् अन्तरिक्षे निवसति तस्मात् एकः परिमाणः न्यूनः भवति । यथा, द्विविध-अन्तरिक्षे अतिविमानं ऋजुरेखा भवति;

SVM इत्यस्मिन् दत्तांशस्य वर्गीकरणं भिन्नवर्गेषु कर्तुं hyperplane इत्यस्य उपयोगः भवति । द्विमात्रिकस्य अन्तरिक्षस्य कृते भवन्तः अतिविमानं ऋजुरेखारूपेण कल्पयितुं शक्नुवन्ति यत् अन्तरिक्षं द्वयोः भागयोः विभजति, प्रत्येकं भागे एकः दत्तांशबिन्दुवर्गः भवति उच्चतर-आयामी-अन्तरिक्षाणां कृते अतिविमानः उच्चतर-आयामी-रेखीयसीमा भवति या दत्तांशबिन्दून् अपि पृथक् करोति ।

४.२ समर्थनसदिशः

समर्थनसदिशः ते दत्तांशबिन्दवः सन्ति ये अतिविमानस्य समीपे एव स्थिताः सन्ति । ते एव मुख्यदत्तांशबिन्दवः सन्ति येषां उपयोगः एसवीएम-द्वारा प्रशिक्षणकाले अतिविमानस्य स्थानं निर्धारयितुं भवति । यदि भवान् एतेषु कञ्चित् बिन्दुषु निष्कासयति तर्हि अतिविमानस्य स्थानं अभिमुखीकरणं च परिवर्तयति ।

समर्थनसदिशाः महत्त्वपूर्णाः सन्ति यतोहि ते दत्तांशबिन्दुयोः मध्ये सीमां (अर्थात् अन्तरालम्) परिभाषयन्ति । SVM इत्यस्य लक्ष्यं एकं अतिविमानं अन्वेष्टुम् अस्ति यत् समीपस्थसमर्थनसदिशानां (अर्थात् अतिविमानस्य समीपस्थदत्तांशबिन्दवः) अतिविमानस्य च मध्ये दूरं (अन्तरालं) अधिकतमं करोति अस्य अन्तरालस्य आकारः प्रतिरूपस्य सामान्यीकरणक्षमतायाः महत्त्वपूर्णः सूचकः अस्ति ।

४.३ कर्नेल् युक्तिः

व्यावहारिकप्रयोगेषु दत्तांशः रेखीयरूपेण पृथक्करणीयः न भवेत् । अस्मिन् समये SVM ​​अरैखिकसमस्यानां निवारणाय कर्नेल्-तकनीकानां उपयोगं कर्तुं शक्नोति । कर्नेल् फंक्शन् मूलदत्तांशं उच्चतर-आयामी-अन्तरिक्षे मैप् कर्तुं शक्नोति तथा च नूतन-अन्तरिक्षे रेखीयरूपेण पृथक्करणीयं अतिविमानं अन्वेष्टुं शक्नोति । सामान्यतया प्रयुक्ताः कर्नेल्-कार्यं रेखीय-कर्नेल्, बहुपद-कर्नेल्, रेडियल-आधार-फंक्शन् (RBF)-कर्नेल् इत्यादयः सन्ति ।

४.४ मृदुमार्जिनं नियमितीकरणं च

वास्तविकदत्तांशैः सह व्यवहारं कुर्वन् सर्वान् दत्तांशबिन्दून् पूर्णतया पृथक् कृत्वा सम्यक् अतिविमानं अन्वेष्टुं न शक्यते । अस्मिन् समये एसवीएम इत्यनेन मृदुमार्जिनस्य अवधारणा प्रवर्तते, येन उत्तमसामान्यीकरणक्षमतायाः विनिमयरूपेण केचन दत्तांशबिन्दवः दुर्वर्गीकरणं कर्तुं शक्यते । तस्मिन् एव काले अतिसङ्गतिं परिहरितुं नियमितीकरणपदस्य (प्रायः सामान्यसदिशस्य मानदण्डः) माध्यमेन प्रतिरूपस्य जटिलता नियन्त्रिता भवति

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

5. SVM एल्गोरिदम् इत्यस्य सिद्धान्तः

५.१ बिन्दुतः अतिविमानपर्यन्तं दूरसूत्रम्

बिन्दुतः अतिविमानपर्यन्तं दूरतासूत्रस्य उपयोगः बिन्दुतः दत्तस्य अतिविमानपर्यन्तं लघुतमं दूरं गणयितुं भवति । अतिविमानं n-आयामी-अन्तरिक्षे निम्नलिखितसमीकरणेन व्यक्तं कर्तुं शक्यते ।
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु
इत्यस्मिन्‌:
w एकः n-आयामी सामान्यः सदिशः अस्ति, यः अतिविमानस्य लम्बः अस्ति ।
x अन्तरिक्षे स्थितः n-आयामी बिन्दुः अस्ति ।
ख अतिविमानस्य पूर्वाग्रहपदम् अस्ति ।
x बिन्दुतः अस्य अतिविमानपर्यन्तं ऊर्ध्वाधरदूरता d निम्नलिखितसूत्रेण गणयितुं शक्यते ।
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु
这个公式的几何意义是:从点 𝑥 向超平面作垂线,垂足到点 𝑥的距离就是𝑑这个距离也代表了点 𝑥到超平面的“间隔”。在支持向量机中,间隔的大小是非常重要的,因为它与模型的泛化能力有关。SVM的目标是找到这样一个超平面,使得间隔最大化,即所有数据点到这个超平面的距离之和最大。

५.२ अधिकतमान्तरस्य अनुकूलनप्रतिरूपम्

रेखीयरूपेण पृथक्करणीयप्रकरणे अनुकूलनप्रतिरूपम्
यदा दत्तांशः रेखीयरूपेण पृथक्करणीयः भवति, अर्थात् एकः अतिविमानः अस्ति यः दत्तांशबिन्दुनां भिन्नवर्गान् सम्यक् पृथक् कर्तुं शक्नोति, तदा SVM इत्यस्य लक्ष्यं भवति यत् एतादृशं अतिविमानं अन्वेष्टव्यं यत् समीपस्थौ दत्तांशबिन्दुद्वयं (अर्थात् समर्थनसदिशः) अतिविमानस्य समीपे भवति दूरं अधिकतमं कुर्वन्तु। एतत् दूरं मार्जिनम् इति उच्यते ।
अतिविमानं यथा व्यक्तं कर्तुं शक्यते- १.
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु
अधिकतम मार्जिन अनुकूलन समस्या
SVM इत्यस्य उद्देश्यकार्यं अन्तरालस्य अधिकतमं करणं भवति, यत् यथा व्यक्तं कर्तुं शक्यते:
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तुलैग्रेन्ज गुणकानाम् परिचयः
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु
द्वैतसमस्या
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

6. शिथिलचराः

समर्थनसदिशयन्त्रेषु (SVM) स्लैक् चराः (Slack Variables) एकं तन्त्रं भवति यत् आँकडासमूहेषु अरैखिकपृथक्करणीयस्थितीनां निवारणाय प्रवर्तते । आदर्शस्थितौ यदि दत्तांशः रेखीयरूपेण पृथक्करणीयः भवति तर्हि SVM एकं अतिविमानं अन्वेष्टुं शक्नोति यत् मार्जिनं अधिकतमं कुर्वन् दत्तांशबिन्दुविभिन्नवर्गान् पूर्णतया पृथक् करोति परन्तु वास्तविकजगति अनेके दत्तांशसमूहाः पूर्णतया रेखीयरूपेण पृथक्करणीयाः न भवन्ति, येन केषाञ्चन दत्तांशबिन्दून् दुर्वर्गीकरणं कर्तुं शिथिलचरानाम् उपयोगः आवश्यकः भवति, येन प्रतिरूपस्य सामान्यीकरणक्षमतायां सुधारः भवतिअत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

6.1 शिथिलचरानाम् परिभाषा

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

6.2 अनुकूलनप्रतिरूपस्य परिवर्तनम्

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु
这里的 𝐶是一个正的调节参数,用于控制模型对误分类的惩罚程度。𝐶的值越大,模型对误分类的惩罚越重,越倾向于找到没有误分类的解;𝐶的值越小,模型对误分类的容忍度越高,越容易找到间隔更大的解,即使这意味着更多的误分类。

६.३ मृदुमार्जिनं कठिनं च मार्जिनम्

  • हार्ड मार्जिन: SVM यत् स्लैक् चरं न प्रवर्तयति तस्य सर्वेषां दत्तांशबिन्दून् मार्जिनस्य बहिः वा सीमायां वा भवितुं आवश्यकं भवति, अर्थात् कोऽपि दुर्वर्गीकरणस्य अनुमतिः नास्ति
  • मृदुमार्जिनः : SVM स्लैक् चरानाम् परिचयं करोति, येन केचन दत्तांशबिन्दवः मार्जिनसीमायाः अन्तः भवितुं शक्नुवन्ति, अर्थात् दुर्वर्गीकरणस्य निश्चितं प्रमाणं भवति कर्नेल् ट्रिक्स् तथा स्लैक् वैरिएबल्स्।

6.4 कर्नेल् ट्रिक्स् तथा स्लैक् वैरिएबल्स्

अरैखिकपृथक्त्वस्य सन्दर्भे अपि, शिथिलचरैः सह संयुक्तरूपेण, उच्च-आयामी-अन्तरिक्षे दत्तांशस्य नक्शाङ्कनार्थं कर्नेल्-युक्त्याः उपयोगेन, SVM अद्यापि अधिकतम-मार्जिन-युक्तं हाइपरप्लेन् अन्वेष्टुं शक्नोति

7. कर्नेल् फंक्शन्

कर्नेल् फंक्शन् समर्थनसदिशयन्त्रे (SVM) महत्त्वपूर्णं साधनं भवति, यत् SVM उच्च-आयामी-अन्तरिक्षे अरैखिकसमस्यानां प्रभावीरूपेण निबन्धनं कर्तुं शक्नोति । कर्नेल् फंक्शन् इत्यस्य मूलविचारः अस्ति यत् मूलदत्तांशस्य नक्शाङ्कनस्य माध्यमेन निम्न-आयामी-अन्तरिक्षात् उच्च-आयामी-अन्तरिक्षं प्रति नक्शाङ्कनं करणीयम्, तथा च अस्मिन् उच्च-आयामी-अन्तरिक्षे दत्तांशस्य रेखीय-पृथक्करणं अन्वेष्टव्यम्
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

७.१ कर्नेल् फंक्शन् इत्यस्य मूलभूताः अवधारणाः

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

७.२ सामान्यतया प्रयुक्तानि कर्नेल् कार्याणि

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

७.३ कर्नेल् फंक्शन् इत्यस्य भूमिका

  1. अरैखिकसमस्याः नियन्त्रयन्तु : उच्च-आयामी-अन्तरिक्षे मैपिंगं कृत्वा, कर्नेल्-कार्यं निम्न-आयामी-अन्तरिक्षे मूलतः रेखीयरूपेण अविभाज्य-दत्तांशं उच्च-आयामी-अन्तरिक्षे रेखीयरूपेण पृथक्करणीयं करोति
  2. मॉडलस्य अभिव्यञ्जकक्षमतायां सुधारः : भिन्नाः कर्नेल् कार्याणि दत्तांशस्य भिन्नानि लक्षणानि गृहीतुं शक्नुवन्ति तथा च मॉडलस्य अभिव्यञ्जकक्षमतायां सुधारं कर्तुं शक्नुवन्ति।
  3. गणनाजटिलतां न्यूनीकरोतु : कर्नेल् फंक्शन्स् इत्यस्य उपयोगेन उच्च-आयामी-अन्तरिक्षे प्रत्यक्षगणना परिहर्तुं शक्यते, तस्मात् गणनाजटिलता न्यूनीभवति ।