当前位置 博文首页 > 清风紫雪:机器学习7-模型保存&无监督学习

    清风紫雪:机器学习7-模型保存&无监督学习

    作者:清风紫雪 时间:2021-01-30 18:48

    模型保存和加载

    sklearn模型的保存和加载API

    • from sklearn.externals import joblib
      • 保存:joblib.dump(rf, 'test.pkl')
      • 加载:estimator = joblib.load('test.pkl')

    线性回归的模型保存加载案例

    def linear3():
        """
        岭回归的优化方法对波士顿房价预测
        """
        #获取数据
        boston=load_boston()
        #划分数据集
        x_train,x_test,y_train,y_test=train_test_split(boston.data,boston.target,random_state=22)
        #标准化
        transfer=StandardScaler()
        x_train=transfer.fit_transform(x_train)
        x_test=transfer.transform(x_test)
        #预估器
        # estimator=Ridge(alpha=0.0001, max_iter=100000)
        # estimator.fit(x_train,y_train)
    
        #保存模型
        # joblib.dump(estimator,"my_ridge.pkl")
    
        #加载模型
        estimator=joblib.load("my_ridge.pkl")
    
        #得出模型
        print("岭回归-权重系数为:\n",estimator.coef_)
        print("岭回归-偏置为:\n",estimator.intercept_ )
    
        #模型评估
        y_predict = estimator.predict(x_test)
        print("预测房价:\n", y_predict)
        error = mean_squared_error(y_test, y_predict)
        print("岭回归-均方差误差:\n", error)
        return None
    
    
    if __name__ == '__main__':
        # linear1()
        # linear2()
        linear3()

    保存:保存训练完结束的模型

    加载:加载已有的模型,去进行预测结果和之前的模型一样

    无监督学习-K-means算法

    K-means原理

    我们先来看一下一个K-means的聚类效果图

    K-means聚类步骤

    • 随机设置K个特征空间内的点作为初始的聚类中心
    • 2、对于其他每个点计算到K个中心的距离,未知的点选择最近的一个聚类中心点作为标记类别
    • 3、接着对着标记的聚类中心之后,重新计算出每个聚类的新中心点(平均值)
    • 4、如果计算得出的新中心点与原中心点一样,那么结束,否则重新进行第二步过程

    我们以一张图来解释效果

     

     

    K-meansAPI

    • sklearn.cluster.KMeans(n_clusters=8,init=‘k-means++’)
      • k-means聚类
      • n_clusters:开始的聚类中心数量
      • init:初始化方法,默认为'k-means ++’
      • labels_:默认标记的类型,可以和真实值比较(不是值比较)

    案例:k-means对Instacart Market用户聚类

     

     如何评估聚类的效果?

    Kmeans性能评估指标

    轮廓系数

    轮廓系数值分析

     

     

    分析过程(我们以一个蓝1点为例)

    • 1、计算出蓝1离本身族群所有点的距离的平均值a_i

    • 2、蓝1到其它两个族群的距离计算出平均值红平均,绿平均,取最小的那个距离作为b_i

    • 根据公式:极端值考虑:如果b_i >>a_i: 那么公式结果趋近于1;如果a_i>>>b_i: 那么公式结果趋近于-1

    结论

    如果b_i>>a_i:趋近于1效果越好, b_i<<a_i:趋近于-1,效果不好。轮廓系数的值是介于 [-1,1] ,越趋近于1代表内聚度和分离度都相对较优。

    轮廓系数API

    • sklearn.metrics.silhouette_score(X, labels)
      • 计算所有样本的平均轮廓系数
      • X:特征值
      • labels:被聚类标记的目标值

    案例-聚类评估

     

     

    K-means总结

    • 特点分析:采用迭代式算法,直观易懂并且非常实用
    • 缺点:容易收敛到局部最优解(多次聚类)

    回归与聚类整体算法总结

     

     

     

    bk