Κοινή χρήση τεχνολογίας

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Πολυδιάστατα χαρακτηριστικά

Μεταβλητές και Όροι

τύπος

$\vec{w}$ = [β₁ w₂ w₃ …]
$\overrightarrow{{\rm X}}$ = [χ₁ Χ₂ Χ₃ …]

${\phi ά}_{\vec{w},\sigma \iota }(\overrightarrow{{\rm X}})=\vec{w}\ast \overrightarrow{{\rm X}}+\sigma \iota =w_1{{\rm X}}_1+w_2{{\rm X}}_2+\dots +w_n{{\rm X}}_n+\sigma \iota$

πολλαπλή γραμμική παλινδρόμηση

import numpy
f = np.dot(w, x) + b
1
2

Σημείωση: Είναι πολύ γρήγορο όταν το n είναι μεγάλο (παράλληλη επεξεργασία)

μέθοδος κανονικής εξίσωσης

1. Πάνω από 1000 είναι αναποτελεσματικό
2. Δεν μπορεί να γενικευτεί σε άλλους αλγόριθμους όπως η λογιστική παλινδρόμηση, τα νευρωνικά δίκτυα ή άλλοι.
3. καμία επανάληψη

$w_n=w_n-\alpha \frac{1}{{\rm M}}\sum _{{\rm E}\gamma ώ=1}^{{\rm M}}{\phi ά}_{\vec{w},\sigma \iota }({\overrightarrow{{\rm X}}}^{({\rm E}\gamma ώ)}-y^{({\rm E}\gamma ώ)}){{\rm X}}_n^{({\rm E}\gamma ώ)}$

$\sigma \iota =\sigma \iota -\alpha \frac{1}{{\rm M}}\sum _{{\rm E}\gamma ώ=1}^{{\rm M}}({\phi ά}_{\vec{w},\sigma \iota }({\overrightarrow{{\rm X}}}^{({\rm E}\gamma ώ)}-y^{({\rm E}\gamma ώ)})$

Το βάρος που αντιστοιχεί σε ένα μεγαλύτερο εύρος ανεξάρτητων μεταβλητών τείνει να είναι μικρότερο και το αντίστοιχο βάρος σε ένα μικρότερο εύρος ανεξάρτητων μεταβλητών τείνει να είναι μεγαλύτερο.

Μέση κανονικοποίηση

Διαιρέστε με τη μέγιστη τιμή του εύρους για να βρείτε το βάρος έναντι [0, 1] της ανεξάρτητης μεταβλητής

Τετμημένη:${{\rm X}}_1=\frac{{{\rm X}}_1-{\mu }_1}{2000-300}$ Άξονας Υ:${{\rm X}}_2=\frac{{{\rm X}}_2-{\mu }_2}{5-0}$

$-0.18\le {{\rm X}}_1\le 0.82$ $-0.46\le {{\rm X}}_2\le 0.54$

Ομαλοποίηση βαθμολογίας Z

$300\le {{\rm X}}_1\le 2000$ $0\le {{\rm X}}_2\le 5$

${\rm X}1=\frac{{{\rm X}}_1-{\mu }_1}{{\sigma }_1}$ $-0.67\le {{\rm X}}_1\le 3.1$

Προσπαθήστε να διατηρήσετε τις τιμές όλων των χαρακτηριστικών εντός παρόμοιου εύρους μέσω κλιμάκωσης, έτσι ώστε η επίδραση των αλλαγών τους στις προβλεπόμενες τιμές να είναι κοντά στο (-3,3)

Εάν η συνάρτηση κόστους J γίνει μεγάλη, σημαίνει ότι το μέγεθος του βήματος (ποσοστό εκμάθησης) είναι ακατάλληλο ή ο κωδικός είναι λάθος.

Σημείωση: Ο αριθμός των επαναλήψεων διαφέρει από μηχανή σε μηχανή

Εκτός από τη σχεδίαση καμπυλών για τον προσδιορισμό του σημείου επανάληψης, μπορεί επίσης να χρησιμοποιηθεί η αυτόματη δοκιμή σύγκλισης
Έστω ε ίσο$10^{-3}$, αν η μείωση του J είναι μικρότερη από αυτόν τον μικρό αριθμό, θεωρείται ότι συγκλίνει.

Ορίστε έναν κατάλληλο ρυθμό εκμάθησης

1. Κατά τη δοκιμή, μπορείτε να ορίσετε μια πολύ μικρή τιμή για να δείτε εάν το J μειώνεται.
2. Ο ρυθμός εκμάθησης κατά την επανάληψη δεν πρέπει να είναι πολύ μεγάλος ή πολύ μικρός.
3. Κάθε φορά * 3 κατά τη διάρκεια της δοκιμής, επιλέξτε έναν ρυθμό εκμάθησης όσο το δυνατόν μεγαλύτερο ή ελαφρώς μικρότερο από μια λογική τιμή

Μηχανική χαρακτηριστικών

Δημιουργήστε τη μηχανική χαρακτηριστικών μέσω μετασχηματισμών ή συνδυασμών για να σας δώσουμε περισσότερες επιλογές

${\phi ά}_{\vec{w},\sigma \iota }(\overrightarrow{{\rm X}})=w_1{{\rm X}}_1+w_2{{\rm X}}_2+w_3{{\rm X}}_3+\sigma \iota$

Σημείωση: Η πολυωνυμική παλινδρόμηση μπορεί να χρησιμοποιηθεί για γραμμική και μη γραμμική προσαρμογή