Compartilhamento de tecnologia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Recursos multidimensionais

Variáveis ​​e Termos

Fórmula

$\vec{c}$ = [em₁ c₂ c₃ …]
$\vec{x}$ = [x₁ x₂ x₃ …]

$e_{\vec{c},b}(\vec{x})=\vec{c}\ast \vec{x}+b=c_1{x}_1+c_2{x}_2+\dots +c_e{x}_e+b$

Regressão linear múltipla

import numpy
f = np.dot(w, x) + b
1
2

Nota: É muito rápido quando n é grande (processamento paralelo)

método de equação normal

1. Mais de 1000 é ineficiente
2. Não pode ser generalizado para outros algoritmos, como regressão logística, redes neurais ou outros.
3. sem iteração

$c_e=c_e-\alpha \frac{1}{eu}\sum _{eu=1}^{eu}{e}_{\vec{c},b}({\vec{x}}^{(eu)}-e^{(eu)})x_e^{(eu)}$

$b=b-\alpha \frac{1}{eu}\sum _{eu=1}^{eu}(e_{\vec{c},b}({\vec{x}}^{(eu)}-e^{(eu)})$

O peso correspondente a uma gama maior de variáveis ​​independentes tende a ser menor, e o peso correspondente a uma gama menor de variáveis ​​independentes tende a ser maior.

Normalização média

Divida pelo valor máximo do intervalo para encontrar o peso versus [0, 1] da variável independente

Abscissa:$x_1=\frac{x_1-{\mu }_1}{2000-300}$ Eixo Y:$x_2=\frac{x_2-{\mu }_2}{5-0}$

$-0.18\le x_1\le 0.82$ $-0.46\le x_2\le 0.54$

Normalização do escore Z

$300\le x_1\le 2000$ $0\le x_2\le 5$

$x1=\frac{x_1-{\mu }_1}{{\sigma }_1}$ $-0.67\le x_1\le 3.1$

Tente manter os valores de todos os recursos dentro de uma faixa semelhante por meio de escalonamento, para que o impacto de suas alterações nos valores previstos seja próximo de (-3,3)

Se a função de custo J ficar grande, significa que o tamanho do passo (taxa de aprendizagem) é inadequado ou o código está errado.

Nota: O número de iterações varia de máquina para máquina

Além de desenhar curvas para determinar o ponto de iteração, o teste automático de convergência também pode ser usado
Seja ε igual$10^{-3}$, se a diminuição de J for menor que este pequeno número, é considerado convergido.

Defina uma taxa de aprendizagem apropriada

1. Ao testar, você pode definir um valor muito pequeno para ver se J diminui.
2. A taxa de aprendizagem durante a iteração não deve ser muito grande ou muito pequena.
3. Cada vez *3 durante o teste, escolha uma taxa de aprendizado tão grande quanto possível ou um pouco menor que um valor razoável

Engenharia de recursos

Crie engenharia de recursos por meio de transformação ou combinação para oferecer mais opções

$e_{\vec{c},b}(\vec{x})=c_1{x}_1+c_2{x}_2+c_3{x}_3+b$

Nota: A regressão polinomial pode ser usada para ajuste linear e não linear