100字范文,内容丰富有趣,生活中的好帮手!
100字范文 > 深度学习核心技术精讲100篇(九)-Catboost算法原理解析及代码实现

深度学习核心技术精讲100篇(九)-Catboost算法原理解析及代码实现

时间:2021-10-28 12:15:41

相关推荐

深度学习核心技术精讲100篇(九)-Catboost算法原理解析及代码实现

前言

今天博主来介绍一个超级简单并且又极其实用的boosting算法包Catboost,据开发者所说这一boosting算法是超越Lightgbm和XGBoost的又一个神器。

catboost 简介

在博主看来catboost有一下三个的优点:

它自动采用特殊的方式处理类别型特征(categorical features)。首先对categorical features做一些统计,计算某个类别特征(category)出现的频率,之后加上超参数,生成新的数值型特征(numerical features)。这也是我在这里介绍这个算法最大的motivtion,有了catboost,再也不用手动处理类别型特征了。catboost还使用了组合类别特征,可以利用到特征之间的联系,这极大的丰富了特征维度。catboost的基模型采用的是对称树,同时计算leaf-value方式和传统的boosting算法也不一样,传统的boosting算法计算的是平均数,而catboost在这方面做了优化采用了其他的算法,这些改进都能防止模型过拟合

catboost 实战

这里博主采用的是之前参加一个CTR点击率预估的数据集,首先通过pandas读入数据。

from catboost import CatBoostClassifierimport pandas as pdfrom sklearn.model_selection import train_test_spliti

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。