poteman 2c232250c6 update README.md: 模型可解释		2 years ago
.idea	增加文本类型.	2 years ago

autox	update 模型可解释demo.	2 years ago

demo	auto_label_encoder改成auto_encoder: 增加ordinal_encoder功能.	2 years ago

img	更新二维码.	2 years ago

test	first commit	2 years ago

.DS_Store	first commit	2 years ago

.gitignore	增加ventilator和Santander上分点总结；更新ventilator结果；	2 years ago

LICENSE	add license file	2 years ago

README.md	update README.md: 模型可解释	2 years ago

README_EN.md	update README.md: 模型可解释	2 years ago

run.py	编辑当前数据集.	2 years ago

run_oneclick.py	first commit	2 years ago

setup.py	所需安装包增加img2vec_pytorch.	2 years ago

submit.py	debug submit.py	2 years ago

English | 简体中文

AutoX是什么？

AutoX一个高效的自动化机器学习工具，它主要针对于表格类型的数据挖掘竞赛。
它的特点包括:

效果出色: AutoX在多个kaggle数据集上，效果显著优于其他解决方案(见效果对比)。
简单易用: AutoX的接口和sklearn类似，方便上手使用。
通用: 适用于分类和回归问题。
自动化: 无需人工干预，全自动的数据清洗、特征工程、模型调参等步骤。
灵活性: 各组件解耦合，能单独使用，对于自动机器学习效果不满意的地方，可以结合专家知识，AutoX提供灵活的接口。
比赛上分点总结：整理并公开历史比赛的上分点。

快速上手

使用以下函数一键获取预测结果:

autox.get_submit  # 回归或分类问题
autox.get_submit_ts  # 时间序列数据集

Demo

二分类问题

Kaggle_Santander-AutoX解决方案:

2021神州信息极客大赛-贷款反欺诈-AutoX解决方案:

datafountain notebook

回归问题

DC租金预测-AutoX解决方案:

colab
DClab

时序预测问题(多表)

2021阿里云供应链大赛-AutoX解决方案:

表格数据集中包含图片数据

kaggle petfinder-AutoX解决方案:

automl for petfinder:预测宠物照片的流行度

使用以下函数一键获取topk重要特征:

autox.get_top_features  # 回归或分类问题
autox.get_top_features_ts  # 时间序列数据集

Demo

kaggle-Allstate获取topk重要的特征:

autox_get_top_features_Allstate

模型可解释Demo

AutoX内置的模型可解释功能包括:

代表性样本和非代表性样本

安装

1. git clone https://github.com/4paradigm/autox.git
2. cd autox
3. python setup.py install

架构

├── autox
│   ├── ensemble
│   ├── feature_engineer
│   ├── feature_selection
│   ├── file_io
│   ├── join_tables
│   ├── metrics
│   ├── models
│   ├── process_data
│   └── util.py
│   ├── CONST.py
│   ├── autox.py
├── run_oneclick.py
└── demo
└── test
├── setup.py
├── README.md

效果对比：

data_type	data_name(link)	metric	single-table or multi-table	AutoX	AutoGluon	H2o
binary classification	single-table	Springleaf	auc	0.78865	0.61141	0.78186
binary classification	single-table	stumbleupon	auc	0.87177	0.81025	0.79039
binary classification	single-table	santander	auc	0.89196	0.64643	0.88775
binary classification	single-table	Titanic	accuracy	0.77751	0.78229	0.79186
binary classification	multi-table	IEEE	accuracy	0.920809	0.724925	0.907818
binary classification	single-table	categorical_feature_encoding_challenge	auc		0.66070	0.79609
regression	single-table	ventilator	mae	0.755	8.434	4.221
regression	single-table	Allstate Claims Severity	mae	1137.07885	1173.35917	1163.12014
regression	single-table	zhidemai	mse	1.0034	1.9466	1.1927
regression	single-table	Tabular Playground Series - Aug 2021	rmse	7.87731	10.3944	7.8895
regression	single-table	House Prices	rmse	0.13043	0.13104	0.13161
regression	single-table	Restaurant Revenue	rmse	2133204.32146	31913829.59876	28958013.69639
regression	multi-table	Elo Merchant Category Recommendation	rmse	3.72228	3.80801	22.88899
regression-ts	single-table	Demand Forecasting	smape	13.79241	25.39182	18.89678
regression-ts	multi-table	Walmart Recruiting	wmae	4660.99174	5024.16179	5128.31622
regression-ts	multi-table	Rossmann Store Sales	RMSPE	0.13850	0.20453	0.35757

加入社区

TODO

功能开发完成后，发布相应的使用demo

多个label预测
多分类任务
环境制作: docker, pip等
保存模型，支持inference上线
提供特征重要性接口，返回构造好的特征，以及构造该特征的方法
支持导出特征工程的结果，用户使用自定义模型进一步训练

若有其他希望AutoX支持的功能，欢迎提issue!
欢迎填写用户调研问卷，让AutoX变得更好!

数据类型

cat: Categorical，类别型无序变量
ord: Ordinal，类别型有序变量
num: Numeric，连续型变量
datetime: Datetime型时间变量
timestamp: imestamp型时间变量

表关系

"relations": [ # 表关系(可以包含为1-1, 1-M, M-1, M-M四种)
        {
            "related_to_main_table": "true", # 是否为和主表的关系
            "left_entity": "overdue",  # 左表名字
            "left_on": ["new_user_id"],  # 左表拼表键
            "right_entity": "userinfo",  # 右表名字
            "right_on": ["new_user_id"], # 右表拼表键
            "type": "1-1" # 左表与右表的连接关系
        },
        {
            "related_to_main_table": "true",
            "left_entity": "overdue",
            "left_on": ["new_user_id"],
            "left_time_col": "flag1",
            "right_entity": "bank",
            "right_on": ["new_user_id"],
            "right_time_col": "flag1",
            "type": "1-M"
        },
        {
            "related_to_main_table": "true",
            "left_entity": "overdue",
            "left_on": ["new_user_id"],
            "left_time_col": "flag1",
            "right_entity": "browse",
            "right_on": ["new_user_id"],
            "right_time_col": "flag1",
            "type": "1-M"
        },
        {
            "related_to_main_table": "true",
            "left_entity": "overdue",
            "left_on": ["new_user_id"],
            "left_time_col": "flag1",
            "right_entity": "bill",
            "right_on": ["new_user_id"],
            "right_time_col": "flag1",
            "type": "1-M"
        }
    ]

pipeline的逻辑

1.初始化AutoX类

1.1 读数据
1.2 合并train和test
1.3 识别数据表中列的类型
1.4 数据预处理

2.特征工程

特征工程包含单表特征和多表特征。
每一个特征工程类都包含以下功能：
    一、自动筛选要执行当前操作的特征；
    二、查看筛选出来的特征
    三、修改要执行当前操作的特征
    四、执行特征数据的计算，返回和主表样本条数以及顺序一致的特征

3.特征合并

将构造出来的特征进行合并，行数不变，列数增加，返回大的宽表

4.训练集和测试集的划分

将宽表划分成训练集和测试集

5.特征过滤

通过train和test的特征列数据分布情况，对构造出来的特征进行过滤，避免过拟合

6.模型训练

利用过滤后的宽表特征对模型进行训练
模型类提供功能包括：
    一、查看模型默认参数；
    二、模型训练；
    三、模型调参；
    四、查看模型对应的特征重要性；
    五、模型预测

7.模型预测

AutoX类

AutoX类自动为用户管理数据集和数据集信息。
初始化AutoX类之后会执行以下操作：
一、读数据；
二、合并train和test；
三、识别数据表中列的类型；
四、数据预处理。

属性

info_: info_属性用于保存数据集的信息。

info_['id']: List，用于标识样本的唯一Key
info_['target']: String，用于标识数据表的标签列
info_['shape_of_train']: Int，train数据集的数据样本条数
info_['shape_of_test']: Int，test数据集的数据样本条数
info_['feature_type']: Dict of Dict，标识数据表中特征列的数据类型
info_['train_name']: String，用于训练集主表表名
info_['test_name']: String，用于测试集主表表名

dfs_: dfs_属性用于保存所有的DataFrame，包含原始表数据和构造的表数据。

dfs_['train_test']: train数据和test数据合并后的数据
dfs_['FE_feature_name']:特征工程所构造出的数据，例如FE_count，FE_groupby
dfs_['FE_all']:原始特征和所有特征工程合并后的数据集

方法

concat_train_test: 将训练集和测试集拼接起来，一般在读取数据之后执行
split_train_test: 将训练集和测试集分开，一般在完成特征工程之后执行
get_submit: 获得预测结果(中间过程执行了完成的机器学习pipeline，包括数据预处理，特征工程，模型训练，模型调参，模型融合，模型预测等)

AutoX的pipeline中的操作对应的具体细节：

读数据

读取给定路径下的所有文件。默认情况下，会将训练集主表和测试集主表进行拼接，
再进行后续的数据预处理以及特征工程等操作，并在模型预测开始前，将训练集和测试进行拆分。

数据预处理

- 对时间列解析年, 月, 日, 时、星期几等信息
- 在每次训练前，会对输入到模型的数据删除无效(nunique为1)的特征
- 去除异常样本，去除label为nan的样本

特征工程

1-1拼表特征

1-M拼表特征

- time diff特征
- 聚合统计类特征

count特征

对要操作的特征列，将全体数据集中，和当前样本特征属性一致的样本计数作为特征

target encoding特征
统计类特征

使用两层for训练提取统计类特征。
第一层for循环遍历所有筛选出来的分组特征(group_col)，
第二层for循环遍历所有筛选出来的聚合特征(agg_col)，
在第二层for循环中，
若遇到类别型特征，计算的统计特征为nunique，
若遇到数值型特征，计算的统计特征包括[median, std, sum, max, min, mean].

shift特征

模型训练

AutoX目前支持以下模型：
1. Lightgbm
2. Xgboost
3. TabNet

模型融合

AutoX支持的模型融合方式包括一下两种，默认情况下，使用Bagging的方式进行融合。
1. Stacking；
2. Bagging。

比赛上分点总结：

比赛	magics
kaggle criteo	对于nunique很大的特征列，进行分桶操作。例如，对于nunique大于10000的特征，做hash后截断保留4位，再进行label_encode。
zhidemai	article_id隐含了时间信息，增加article_id的排序特征。例如，groupby(['date'])['article_id'].rank()。
kaggle StumbleUpon	以文本列特征作为输入，使用Bert模型进行训练。
kaggle ventilator	对breath_id聚合的shift、diff、cumsum特征
kaggle Santander	识别出fake test，剔除之后再和train合并，构造全局的count特征。识别的方法：真实的样本至少有一个特征对应的值是全局唯一的，而fake的样本没有全局唯一的特征值。参考: List of Fake Samples and Public/Private LB split
kaggle Allstate Claims Severity	label取log1p后训练模型，获得结果后取expm1，mae能降低35+

错误排查

错误信息	解决办法

AutoX is an efficient automl tool, which is mainly aimed at data mining tasks with tabular data.

机器学习

Jupyter Notebook CSV Python Markdown Pickle other

How to access data resources in code

README.md

AutoX是什么？

快速上手

使用以下函数一键获取预测结果:

Demo

二分类问题

回归问题

时序预测问题(多表)

表格数据集中包含图片数据

使用以下函数一键获取topk重要特征:

Demo

模型可解释Demo

全局代理模型

局部代理模型

影响力样本

代表性样本和非代表性样本

目录

安装

架构

效果对比：

加入社区

TODO

数据类型

表关系

pipeline的逻辑

AutoX类

属性

info_: info_属性用于保存数据集的信息。

dfs_: dfs_属性用于保存所有的DataFrame，包含原始表数据和构造的表数据。

方法

AutoX的pipeline中的操作对应的具体细节：

读数据

数据预处理

特征工程

模型训练

模型融合

比赛上分点总结：

错误排查

Contributors (1) All

Contributors (1)
All