多元线性回归涉及多个自变量,假设有n个自变量,x_1,x_2,x_3,\cdots,x_n
多元线性回归方程为:
y=w_1x_1+w_2x_2+\cdots+w_nx_n+b
如果有m个样本,则会有m个这样的方程:
\begin{cases}
y_1=w_1x_{11}+w_2x_{12}+\cdots+w_nx_{1n}+b \\
y_2=w_1x_{21}+w_2x_{22}+\cdots+w_nx_{2n}+b\\
\cdots\\
y_m=w_1x_{m1}+w_2x_{m2}+\cdots+w_nx_{mn}+b
\end{cases}
把它写成矩阵的形式:
y=w^TX+b
其中X是一个矩阵,
X=\begin{bmatrix}
x_{11}&x_{12}&\cdots&x_{1n}\\
x_{11}&x_{12}&\cdots&x_{1n}\\
\cdots&\cdots&\cdots&\cdots\\
x_{11}&x_{12}&\cdots&x_{1n}\\
\end{bmatrix}
有时候,为了方便后续运算,将参数w和自变量x扩充一下,即
w=(w_1,w_2,\cdots,w_n,b)
对于第一个样本来说,
(x_{11},x_{12},\cdots,x_{1n})
变成
(x_{11},x_{12},\cdots,x_{1n},1)
则多元线性回归的矩阵形式为:
y=w^TX