Python如何实现拆分数据集
作者:SunnyRivers
这篇文章主要介绍了Python如何实现拆分数据集问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
前言
训练模型之前一般需要把数据集拆分为训练集和测试集,使用python代码如何拆分的关键就是如何更方便的选择出自变量X和因变量Y。
加载数据
# 导入第三方模块 import pandas as pd # 读入数据 df = pd.read_csv(r'splitfeatures.csv') df.head()
如何选择出X和Y
最简单的方式一个一个选择
X = df[['age','sex','income','profession']] y = df['is_buy']
用iloc和loc选择
X1 = df.iloc[:,[0,1,2,4]] y1 = df.iloc[:,[3]] X2 = df.loc[:,['age','sex','income','profession']] y2 = df.loc[:,['is_buy']]
用drop选择
X3 = df.drop(['is_buy'],axis=1) y3 = df.is_buy
使用dataframe的colunms方法
col = df.columns[[0,1,2,4]] X4 = df.loc[:,col] X5 = df.iloc[:, df.columns != 'is_buy'] y5 = df.iloc[:, df.columns == 'is_buy']
使用model_selection拆分数据集
from sklearn import model_selection # 将数据集拆分为训练集和测试集 X_train, X_test, y_train, y_test = model_selection.train_test_split(X, y, test_size = 0.2, random_state = 1234)
后记
看完上面的内容,应该对拆分数据集有了一个基本认识。
下面写一个较为完整的案例:
引入必要的库
在开始之前,我们需要引入一些必要的Python库,包括numpy和sklearn。
Numpy库用于处理数组和矩阵,而sklearn库则提供了数据集拆分的函数。
import numpy as np from sklearn.model_selection import train_test_split
加载数据集
首先,我们需要加载我们的数据集。
这里以一个简单的鸢尾花数据集为例。
from sklearn.datasets import load_iris iris = load_iris() X = iris.data y = iris.target
数据集
拆分使用sklearn库的train_test_split函数可以很方便地拆分数据集。
该函数会将数据集按一定的比例拆分为训练集和测试集。
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
这里的test_size参数表示要分割测试集所占的比例,通常约定为0.2或0.3。
而random_state参数用于设置随机种子,保证每次运行代码时得到的拆分结果是相同的。
拆分结果的验证
在完成数据集拆分后,我们可以验证拆分的结果是否正确。
这可以通过打印训练集和测试集的长度来实现。
print("训练集长度:", len(X_train)) print("测试集长度:", len(X_test))
拆分结果的应用
最后,我们可以将拆分后的数据集用于模型的训练和测试。
# 在训练集上训练模型 model.fit(X_train, y_train) # 在测试集上测试模型性能 accuracy = model.score(X_test, y_test) print("模型准确率:", accuracy)
总结
通过使用sklearn库的train_test_split函数,我们可以很方便地将数据集拆分为训练集和测试集。
同时,我们还提到了调整拆分比例和设置随机种子的一些技巧。希望这些技巧能帮助你更好地进行模型训练和测试,也希望大家多多支持脚本之家。