17 自动机器学习(AutoML)教程系列：特征工程自动化之使用工具实现特征工程

查看大图

工具能帮你生成特征，但不能替你判断特征是否有业务含义。自动化结果要有命名、来源和版本。

查看大图

我会抽查自动生成的字段名和计算逻辑。解释不出来的特征，即使涨分也要谨慎。

在上一篇中，我们探讨了特征工程的关键步骤，包括特征生成与转换。而在本篇中，我们将聚焦于如何利用一些有效的工具来实现特征工程的自动化。这不仅能提高工作效率，还能在处理复杂数据集时减少人工干预的需求。

特征工程自动化的必要性

特征工程是机器学习中至关重要的一步，它直接影响到模型的性能。通过自动化这一过程，我们能够更快地探索数据，识别重要特征，并且降低人为错误的概率。工具的使用能够显著提高特征工程的效率，使数据科学家能将更多的时间专注于模型选择与评估。

常用特征工程工具

在这一部分，我们将介绍几种流行的特征工程自动化工具及其功能：

1. Featuretools
   Featuretools 是一个强大的特征工程库，支持自动化特征生成。其核心思想是通过“嵌套聚合”来交互式创建新特征。

   案例：
   假设我们有一个用户行为的表格数据，包括点击记录。我们可以使用 Featuretools 来从这些记录中提取用户的累计行为次数和平均点击间隔。

   import featuretools as ft
   
   # 加载数据
   clicks = ft.demo.load_clickstream()
   
   # 创建一个 EntitySet
   es = ft.EntitySet(id='clickstream_data')
   es = es.entity_from_dataframe(entity_id='clicks', dataframe=clicks, 
                                  index='click_id', time_index='time')
   
   # 生成特征
   features, feature_defs = ft.dfs(entityset=es, target_entity='clicks')
   

   运行上述代码，我们将得到一组新特征，这些特征可能对模型的预测能力有很大帮助。

2. TSFresh
   对于时间序列数据， TSFresh 是一款非常实用的工具。它能够从时间序列数据中自动提取有意义的特征，适用于机器学习中的预测任务。

   案例：
   假设我们正在分析传感器数据，想要提取可以帮助预测故障的特征。

   from tsfresh import extract_features
   import pandas as pd
   
   # 创建一个模拟的时间序列 DataFrame
   df = pd.DataFrame({
       'id': [1] * 10 + [2] * 10,
       'time': list(range(10)) * 2,
       'value': [1.0, 2.3, 3.1, 4.5, 3.6, 2.9, 3.0, 4.5, 5.1, 6.0] +
                [2.1, 2.2, 2.5, 3.3, 3.8, 4.0, 4.5, 5.2, 5.8, 6.5, 7.0]
   })
   
   # 提取特征
   features = extract_features(df, column_id='id', column_sort='time')
   

   使用 TSFresh 的特征提取功能，我们可以轻松获得时间序列数据的统计特征，这对于后续的建模非常有利。

3. AutoFeat
   AutoFeat 是一个用于自动特征构建的库，能够从原始特征中生成新的复合特征。

   案例：
   假设我们有一组房屋售价的数据，要从现有的特征中创建新的组合特征。

   from autofeat import AutoFeatRegressor
   import pandas as pd
   
   # 加载数据
   X = pd.DataFrame({
       'size': [1500, 1600, 1700],
       'bedrooms': [3, 3, 4],
       'age': [10, 15, 20],
       'price': [300000, 350000, 400000]
   })
   
   # 初始化并拟合模型
   model = AutoFeatRegressor()
   model.fit(X.drop('price', axis=1), X['price'])
   
   # 获取生成的特征
   X_new = model.transform(X.drop('price', axis=1))
   

   运行此代码后，我们将获得一组新特征，这些特征能够提高后续回归模型的性能。

特征工程工具的选择

选择合适的特征工程工具时，应考虑以下几个因素：

查看大图

使用工具实现特征工程时，先看输入字段、转换规则、生成特征数量、泄漏风险、重要性排序和交叉验证表现。

• 数据类型：某些工具更适合处理特定类型的数据（如时间序列、文本等）。
• 操作简单性：工具的易用性影响使用效率。
• 社区支持与文档：活跃的社区和完善的文档能够提供更好的支持。

查看大图

复习《自动机器学习(AutoML)教程系列：特征工程自动化之使用工具实现特征工程》时，建议把关键概念、操作步骤和可见结果放在同一页里回看。

查看大图

练习《自动机器学习(AutoML)教程系列：特征工程自动化之使用工具实现特征工程》时，建议把输入条件、处理动作和可见结果写在一起，方便下次复查。

小结

在本篇中，我们深入探讨了现代特征工程自动化的工具和它们在实际案例中的应用。这些工具的使用可以显著提升我们构建机器学习模型的效率和效果。在下一篇中，我们将继续探讨“超参数优化之超参数调优的方法”，请继续关注！

查看大图

看完《自动机器学习(AutoML)教程系列：特征工程自动化之使用工具实现特...》后，建议用一分钟复盘：关键概念是否分清、练习步骤是否可复现、结论能不能换成自己的话。

通过结合不同的特征工程工具，可以灵活处理各种数据集，以提取到更具数据价值的特征，推动模型性能的提升和业务目标的实现。