首先声明，LightGBM是针对大规模数据（样本量多，特征多）时，对XGBoost算法进行了一些优化，使得速度有大幅度提高，但由于优化方法得当，而精度没有减少很多或者变化不大，理论上还是一个以精度换速度的目的。如果数据量不大，那就对XGBoost没有什么优势了。
我认为有四点：
1.GOSS(Gradient-based One-Side Sampling),基于梯度的单侧采样，对训练样本的采样。
如原始训练数据100w，高梯度数据有1w，那么会计算 1w+随机选择b%*余下的99w数据，然后把后部分数据进行加倍（*（1-a)/b),基于这些数据来得到特征的切分点。
2.EFB(Exclusive Feature Bundling),排斥特征整合，通过对某些特征整合来降低特征数量。
上面两点是在原论文中多次提到的，主要的不同。
参考原论文：https://papers.nips.cc/paper/6907-lightgbm-a-highly-efficient-gradient-boosting-decision-tree.pdf
其它的我认为还有两点：
3.查找连续变量 切分点 的方法
XGBoost默认使用的是pre-sorted algorithm,即先将连续变量排序，然后计算每个可能切分点后的信息增益。好像也可以支持使用histogram。
LightGBM使用的是histogram-based algorithms，即将连续值先bin,然后再求切分点，但这样会有一些精度损失。
4.树的生长方式
XGBoost是level(depdh)-wise,即左右子树都是一样深的，要生长一块生长，要停一块停。
LightGBM是leaf-wise,即可能左右子树是不一样深的，即使左子树已经比右子树深很多，但只要左子树的梯度划分仍然比右子树占优，就继续在左子树进行划分。
