1.PCA降维
不是每个数据特征对分析的问题都有用。即使有用，对问题的重要程度也不一样。而我们需要过滤和筛选一些特征，去除冗余。
数据降维是指采取某种映射方法，把高维空间中可能包含冗余信息和噪声的数据点映射到低维空间，在低维空间重新表示高维空间中的数据，挖掘数据内部本质结构特征，提高识别精度、减少计算量和空间复杂度。
PCA主成分分析，通过对矩阵进行奇异值分解，并期望在投影后的维度上方差最大，使得投影后的维度尽可能少，同时保留尽可能多的原数据特征。
pca = PCA(n_components=None, whiten=False, svd_solver='auto', iterated_power='auto', random_state=None)
其中：
· n_components指定要保留的成分的数量。
· svd设置奇异值分解的方法，如auto, full, arpack, randomized.
PCA对象的常用属性：
pca.components_：表示特征空间中的主成分，表示数据中最大方差的方向。
常用方法：
· fit(X)：用X训练模型。
· fit_transform(X)：用X拟合模型，并对X降维。
· transform(X)：对X进行降维。
2.交叉验证 CV
确定模型后，应该设置合适的模型参数。
为了对模型进行评估，不同的数据集划分会影响结果。因此可以使用不同的划分评估并求平均值。
crossvalidation交叉验证，会反复划分数据集并评估模型。//相当于就直接train了然后直接求score。
cross_val_score(estimator, X, y=None, cv=None)
其中：
· estimator指定被评估的模型。
· X和y指定数据集和对应的label。
· cv指定划分策略，设置为整数时表示把数据集拆成几个部分对模型进行训练和评分、设置为None默认使用3折叠交叉验证。
scores = cross_val_score(..., cv=shuffleSpilt(test size=, train size=, n_splits=)) //交叉验证 随机拆分
3.网格搜索
代替多次交叉验证取得最优参数的过程。
gscv = GridSearchCV(estimator, paramgrid, scoring=None, fit_params=None, cv=None, refit=True)
其中：
· estimator用来设置待选择参数的模型。
· param设置待测试和选择的参数。
· scoring设置选择参数的评分函数。
· cv同上。
· refit设置是否使用在整个数据集上发现的最佳参数对模型进行重新拟合。
GridSearchCV类对象的属性：
· cv_results：交叉验证结果。
· best_estimator：得分最高的模型。
· best_score：最佳模型的平均得分。
· best_params：最佳参数。
· scorer：使用的评分函数。
· n_splits：交叉验证时折叠的数量。
~的方法：
· fit(X, y=None)：使用所有参数拟合模型。
· predict(X)：使用最佳参数调用模型的predict()方法。
· score(X, y=None)：返回模型在指定数据上的得分。
· transform(X)：使用最佳参数调用模型的transform()方法。