回归分析是研究自变量与因变量之间数量变化关系的一种分析方法，它主要是通过因变量Y与影响它的自变量Xi（i1,2,3…）之间的回归模型，衡量自变量Xi对因变量Y的影响能力的，进而可以用来预测因变量Y的发展趋势。

回归分析包括：线性回归和非线性回归

线性：两个变量之间的关系是一次函数关系——图象是直线，每个自变量的最高次项为1

线性回归又分为：一元线性回归、多元线性回归（自变量x的个数的不同）

2 线性回归

2.1 线性回归的适用条件

2.11 线性回归是一个回归问题

与回归相对的是分类问题，分类问题要预测的变量 y 输出集合是有限的，预测值只能是有限集合内的一个。当要预测的变量 y 输出集合是无限且连续，我们称之为回归。比如，天气预报预测明天是否下雨，是一个二分类问题；预测明天的降雨量多少，就是一个回归问题。

2.12 变量之间是线性关系

线性通常是指变量之间保持等比例的关系，从图形上来看，变量之间的形状为直线，斜率是常数。这是一个非常强的假设，数据点的分布呈现复杂的曲线，则不能使用线性回归来建模。

2.13 误差服从均值为零的正态分布

误差可以表示为误差 = 实际值 - 预测值。可以这样理解这个假设：线性回归允许预测值与真实值之间存在误差，随着数据量的增多，这些数据的误差平均值为0；从图形上来看，各个真实值可能在直线上方，也可能在直线下方，当数据足够多时，各个数据上上下下相互抵消。如果误差不服从均值为零的正态分布，那么很有可能是出现了一些异常值。