Boosting是一个将弱学习(weak learn)算法融合为强学习算法(strong)的方法。Ada-Boost算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。将每次训练得到的分类器最后融合起来，作为最后的决策分类器。目前在人脸侦测的领域，就有人将Ada-Boost + cascade 作为一个很有效的运算法。Boost是一种常用来增进learning algorithm正确率的方法。使用boost分类器可以排除一些不必要的特徵，并将关键放在关键的特徵上面。在下面将介绍Ada-Boost。

Ada-Boost

Ada-Boost的理论由1995年提出[1]，并且解决了当时许多在boosting实作上的困难。图1.所表示的是pseudocode 。在输入的方面是一组训练集合()，……()。其中是属於事件空间X，而标签则是属於一个标签的集合Y。此处为方便假设Y={-1,+1}也就是仅将事件分为两种。Ada-Boost重覆执行t=1，……，T次weak 或 base learning algorithm。主要的目的就是要去维持分布以及在训练集合中集合的权重。在这里我们以表示事件i在周期t时权重的分布。初始时下所有的权重皆相同，但每经过一次次训练后被分类错误的事件其权重会一直增加，也就是经由这个训练，我们会将焦点放在较难分类的事件上面。
参考资料：http://140.113.87.114/cvrc/edm/vol_6/tech1.htm