XGBoost

  XGBoost (eXtreme Gradient Boosting) 算法是在 CART 基础上对 Boosting 算法的一个改进,内部决策树采用回归树。由于 Boosting 算法在损失函数选择时有较大区别,例如选择平方损失函数,就是 Boosting Tree 的方式,每轮拟合残差。对于使用一般损失函数而言,可以采用 Gradient Boosting 的方式,根据梯度下降来拟合伪残差的近似值。 [Read More]

Adaboost

  Adaboost (Adaptive Boosting) 是一个通过逐步聚焦于基学习器犯错的样本、减少集成偏差的方法,其利用多个弱学习器的线性组合来达到一个强分类器的效果。Adaboost 的思想是:在算法中会对每一个样本赋予一个权重,在后续的训练中会提高前一轮被误分类的样本权重,而降低被正确分类的样本权重。既可以处理分类,也可以处理回归任务。对于弱学习器的分类任务,结合策略可以利用加权多数表决的方法,对于回归任务可以采用加权平均。 [Read More]

Neural Network

神经网络

  神经网络(Neural Network)是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 [Read More]