Condivisione della tecnologia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Caratteristiche multidimensionali

Variabili e termini

formula

$\overrightarrow{io}$ = [la₁ io₂ io₃ …]
$\vec{X}$ = [x₁ X₂ X₃ …]

$F_{\overrightarrow{io},B}(\vec{X})=\overrightarrow{io}\ast \vec{X}+B={io}_1{X}_1+{io}_2{X}_2+\dots +{io}_N{X}_N+B$

regressione lineare multipla

import numpy
f = np.dot(w, x) + b
1
2

Nota: è molto veloce quando n è grande (elaborazione parallela)

metodo delle equazioni normali

1. Più di 1000 è inefficiente
2. Non può essere generalizzato ad altri algoritmi come la regressione logistica, le reti neurali o altri.
3. nessuna iterazione

${io}_N={io}_N-\alpha \frac{1}{M}\sum _{ioooooooo=1}^M{F}_{\overrightarrow{io},B}({\vec{X}}^{(ioooooooo)}-e^{(ioooooooo)})X_N^{(ioooooooo)}$

$B=B-\alpha \frac{1}{M}\sum _{ioooooooo=1}^M(F_{\overrightarrow{io},B}({\vec{X}}^{(ioooooooo)}-e^{(ioooooooo)})$

Il peso corrispondente a un intervallo più ampio di variabili indipendenti tende ad essere inferiore, mentre il peso corrispondente a un intervallo più ristretto di variabili indipendenti tende ad essere maggiore.

Normalizzazione media

Dividere per il valore massimo dell'intervallo per trovare il peso rispetto a [0, 1] della variabile indipendente

Ascissa:$X_1=\frac{X_1-{\mu }_1}{2000-300}$ Asse Y:$X_2=\frac{X_2-{\mu }_2}{5-0}$

$-0.18\le X_1\le 0.82$ $-0.46\le X_2\le 0.54$

Normalizzazione del punteggio Z

$300\le X_1\le 2000$ $0\le X_2\le 5$

$X1=\frac{X_1-{\mu }_1}{{\sigma }_1}$ $-0.67\le X_1\le 3.1$

Cercare di mantenere i valori di tutte le caratteristiche entro un intervallo simile attraverso il ridimensionamento, in modo che l'impatto delle loro modifiche sui valori previsti sia vicino a (-3,3)

Se la funzione di costo J diventa grande, significa che la dimensione del passo (tasso di apprendimento) è inappropriata o il codice è sbagliato.

Nota: il numero di iterazioni varia da macchina a macchina

Oltre a disegnare curve per determinare il punto di iterazione, è possibile utilizzare anche il test di convergenza automatico
Sia ε uguale$10^{-3}$, se la diminuzione di J è inferiore a questo piccolo numero, si considera convergente.

Imposta un tasso di apprendimento appropriato

1. Durante il test, puoi impostare un valore molto piccolo per vedere se J diminuisce.
2. Il tasso di apprendimento durante l'iterazione non dovrebbe essere né troppo grande né troppo piccolo.
3. Ogni volta * 3 durante il test, scegli una velocità di apprendimento quanto più ampia possibile o leggermente inferiore a un valore ragionevole

Ingegneria delle caratteristiche

Costruisci l'ingegneria delle funzionalità attraverso la trasformazione o la combinazione per offrire più opzioni

$F_{\overrightarrow{io},B}(\vec{X})={io}_1{X}_1+{io}_2{X}_2+{io}_3{X}_3+B$

Nota: la regressione polinomiale può essere utilizzata per l'adattamento lineare e non lineare