• 预测函数

• 线性回归

（Linear regression）统计学概念，是一种利用线性函数对自变量（特征）和因变量之间的关系进行建模的方法。线性回归是机器学习中一种广泛使用的基本回归算法。含有有多个特征的线性回归称为多元线性回归。

• 最小二乘法

（Least Squares Method）是一种数学优化技术，主要用于估计模型参数，它通过最小化误差的平方和来寻找数据的最佳函数匹配。这种方法在统计学、系统辨识、数据拟合等多个领域有着广泛的应用。

• 代价函数

预测函数经过最小二乘法就得到代价函数，求代价函数0值就是要解决的问题

• 损失函数

代价函数就是损失函数

• 梯度下降

梯度下降是求代价函数0值的解决方案，可得到一组概率分布数据

• 过拟合

过拟合（Overfitting）是指在机器学习中，模型在训练集上表现较好，但在测试集或实际应用中表现较差的现象。过拟合发生时，模型过于复杂地学习了训练集中的噪声、异常值或特定模式，从而导致对新样本的泛化能力下降。 参考 机器学习中的过拟合现象及其解决方法