线性回归中的特征选择技巧大全

文章预览

在本文中，我们将探讨各种特征选择方法和技术，用以在保持模型评分可接受的情况下减少特征数量。通过减少噪声和冗余信息，模型可以更快地处理，并减少复杂性。 我们将使用所有特征作为基础模型。然后将执行各种特征选择技术，以确定保留和删除的最佳特征，同时不显著牺牲评分（R2 分数）。使用的方法包括： 相关性矩阵 检查方差膨胀因子（VIF） Lasso作为特征选择方法 Select K-Best（f_regression 和 mutual_info_regression） 递归特征消除（RFE） 顺序前向/后向特征选择 数据集 我们将从汽车数据集开始，该数据集包含七个特征，并将“mpg”（每加仑行驶英里数）列设置为我们的目标变量。  import pandas as pd  pd.set_option( 'display.max_colwidth' , None)  # Show full content of each column    url =  "https://archive.ics.uci.edu/ml/machine-learning-databases/auto-mpg/auto-mpg.data" ………………………………