Compartir tecnología

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Características multidimensionales

Variables y términos

fórmula

$\overrightarrow{el}$ = [en₁ el₂ el₃ …]
$\vec{X}$ = [x₁ X₂ X₃ …]

$F_{\overrightarrow{el},b}(\vec{X})=\overrightarrow{el}\ast \vec{X}+b={el}_1{X}_1+{el}_2{X}_2+\dots +{el}_{norteorteorteorteorte}{X}_{norteorteorteorteorte}+b$

regresión lineal múltiple

import numpy
f = np.dot(w, x) + b
1
2

Nota: es muy rápido cuando n es grande (procesamiento paralelo)

método de ecuación normal

1. Más de 1000 es ineficiente
2. No se puede generalizar a otros algoritmos como la regresión logística, las redes neuronales u otros.
3. sin iteración

${el}_{norteorteorteorteorte}={el}_{norteorteorteorteorte}-\alpha \frac{1}{metroetroetroetro}\sum _{i=1}^{metroetroetroetro}{F}_{\overrightarrow{el},b}({\vec{X}}^{(i)}-y^{(i)})X_{norteorteorteorteorte}^{(i)}$

$b=b-\alpha \frac{1}{metroetroetroetro}\sum _{i=1}^{metroetroetroetro}(F_{\overrightarrow{el},b}({\vec{X}}^{(i)}-y^{(i)})$

La ponderación correspondiente a un rango mayor de variables independientes tiende a ser menor, y la ponderación correspondiente a un rango menor de variables independientes tiende a ser mayor.

Normalización de la media

Divida por el valor máximo del rango para encontrar el peso versus [0, 1] de la variable independiente

Abscisa:$X_1=\frac{X_1-{\mu }_1}{2000-300}$ Eje Y:$X_2=\frac{X_2-{\mu }_2}{5-0}$

$-0.18\le X_1\le 0.82$ $-0.46\le X_2\le 0.54$

Normalización de la puntuación Z

$300\le X_1\le 2000$ $0\le X_2\le 5$

$X1=\frac{X_1-{\mu }_1}{{\sigma }_1}$ $-0.67\le X_1\le 3.1$

Intente mantener los valores de todas las características dentro de un rango similar mediante el escalado, de modo que el impacto de sus cambios en los valores predichos sea cercano a (-3,3)

Si la función de costo J se vuelve grande, significa que el tamaño del paso (tasa de aprendizaje) es inapropiado o que el código es incorrecto.

Nota: El número de iteraciones varía de una máquina a otra.

Además de dibujar curvas para determinar el punto de iteración, también se pueden utilizar pruebas de convergencia automática.
Sea ε igual$10^{-3}$, si la disminución de J es menor que este pequeño número, se considera convergente.

Establecer una tasa de aprendizaje adecuada

1. Al realizar la prueba, puede establecer un valor muy pequeño para ver si J disminuye.
2. La tasa de aprendizaje durante la iteración no debe ser ni demasiado grande ni demasiado pequeña.
3. Cada vez que * 3 durante la prueba, elija una tasa de aprendizaje lo más grande posible o ligeramente menor que un valor razonable

Ingeniería de características

Cree ingeniería de funciones mediante transformación o combinación para brindar más opciones.

$F_{\overrightarrow{el},b}(\vec{X})={el}_1{X}_1+{el}_2{X}_2+{el}_3{X}_3+b$

Nota: La regresión polinómica se puede utilizar para ajuste lineal y no lineal.