多元线性回归

多元线性回归模型 multivariable linear regression model 在实际经济问题中，一个变量往往受到多个自变量的影响。例如，公司利润的计算，除了受销售额的影响外，还受诸如公司产品或服务的成本、人员开支、运营费用，销售费用等等多种因素的影响。

当我们要处理的自变量有多个（特征向量大于 1），如果要拟合线性回归模型，则使用的模型称之为多元线性回归模型。与一元回归相比，除多了些自变量外，其本质没有什么区别。

多元线性回归模型的一般表达形式为

Yi=β0+β1X1i+β2X2i+…+βkXki+μi i=1,2,…,n

一元线性回归的目标函数可以通过优化算法去寻找让目标函数最小的参数。在一元线性回归中求最优解,首先需要把导数设置为 0,之后在求解它的极值点。 而在多元线性回归中，由于有多个自变量，在处理参数时就变成了向量,需要用到向量或者矩阵的求导法则。但是，向量和矩阵的求导会比较复杂。

而且，并不是所有的矩阵都具有逆矩阵,有些矩阵是无法计算出逆矩阵的。

逆矩阵

设 A 是一个 n 阶矩阵，若存在另一个 n 阶矩阵 B，使得： AB=BA=E ，则称方阵 A 可逆，并称方阵 B 是 A 的逆矩阵。

没有逆矩阵的矩阵

矩阵的行列式 Determinant 的值为 0 的时候,也就时矩阵为非满秩 not full rank 的时候，因为其特征之间是线性相关!