प्रौद्योगिकी साझेदारी

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

अयं कोडस्निपेट् दर्शयति यत् PyTorch इत्यस्य उपयोगेन तंत्रिकाजालस्य भारस्य आरम्भः कथं भवति, ट्रंकटेड् सामान्यवितरणस्य उपयोगेन । कटितसामान्यवितरणस्य अर्थः अस्ति यत् उत्पन्नमूल्यानि चरममूल्यानि निवारयितुं परिधिमध्ये कटितानि भवन्ति ।अत्र प्रयुक्तःtorch.fmod एतत् प्रभावं प्राप्तुं कार्यपरिहाररूपेण ।

विस्तृत व्याख्या

1. सामान्यवितरणं कटितम्

कटितम् सामान्यवितरणं सामान्यवितरणस्य परिवर्तनं भवति यत् जनितमूल्यानि निश्चितपरिधिमध्ये पतन्ति इति सुनिश्चितं करोति । विशेषतः, २.torch.fmod फंक्शन् इनपुट् टेन्सरस्य शेषं 2 इत्यनेन विभक्तं (अर्थात्, यथा परिणामी मूल्यं -2 तः 2 पर्यन्तं भवति) प्रत्यागच्छति ।

2. भार आरम्भीकरण

संहितायां चतुर्णां भार-तानकानां गणना भिन्न-भिन्न-मानक-विचलनानां अनुसारं भवति (init_sd_first, init_sd_middle, init_sd_last ) एकस्मात् कटितसामान्यवितरणात् उत्पद्यते । विशिष्टाः आयामाः सन्ति : १.

• प्रथमस्तरस्य भारटन्सरस्य आकारः भवति (x_dim, width n_double)
• मध्यमस्तरस्य द्वयोः भारतानकस्य आकारः अस्ति (width, width n_double)
• अन्तिमस्तरस्य भार-टेन्सरस्य आकारः अस्ति (width, 1)

एते भार-तानकाः निम्नलिखितरूपेण उत्पद्यन्ते ।

initial_weights = [
    torch.fmod(torch.normal(0, init_sd_first, size=(x_dim, width   n_double)), 2),
    torch.fmod(torch.normal(0, init_sd_middle, size=(width, width   n_double)), 2),
    torch.fmod(torch.normal(0, init_sd_middle, size=(width, width   n_double)), 2),
    torch.fmod(torch.normal(0, init_sd_last, size=(width, 1)), 2)
]

                    上一篇
                    下一篇