課程描述INTRODUCTION
Python數(shù)據(jù)建模
日程安排SCHEDULE
課程大綱Syllabus
Python數(shù)據(jù)建模
【課程目標】
本課程主要講解如何利用Python進行數(shù)據(jù)建模,建立數(shù)學模型,來擬合業(yè)務的各個要素之間的關系,來模擬業(yè)務的未來發(fā)展和變化。
基于真實的業(yè)務問題,在數(shù)據(jù)建模的標準過程指導下,從模型選擇到特征工程,從訓練模型到算法實現(xiàn),從模型評估到模型優(yōu)化,再到模型解讀及模型應用,帶領大家一步步實現(xiàn)一個回歸預測模型。
通過本課程的學習,達到如下目的:
1、掌握數(shù)據(jù)建模的標準流程。
2、掌握數(shù)據(jù)預處理常用的方法,包括特征篩選、變量合并等。
3、掌握回歸模型的原理,以及算法實現(xiàn)。
4、熟練使用模型的評估指標,評估方法,以及過擬合的評估。
5、掌握模型優(yōu)化的基本措施,學會欠擬合的解決方法。
6、學會過擬合評估,學會使用有正則項來解決過擬合問題。
7、熟練使用sklearn庫的常用回歸類。
8、學會超參優(yōu)化的常用方法,能夠設置最優(yōu)超參。
【授課對象】
業(yè)務支持部、數(shù)據(jù)分析部、系統(tǒng)設計部、系統(tǒng)開發(fā)部、網(wǎng)絡運維部等相關技術人員。
【課程大綱】
一、預測建?;A
1、數(shù)據(jù)建模六步法
-選擇模型:基于業(yè)務選擇恰當?shù)臄?shù)據(jù)模型
-屬性篩選:選擇對目標變量有顯著影響的屬性來建模
-訓練模型:采用合適的算法,尋找到最合適的模型參數(shù)
-評估模型:進行評估模型的質量,判斷模型是否可用
-優(yōu)化模型:如果評估結果不理想,則需要對模型進行優(yōu)化
-應用模型:如果評估結果滿足要求,則可應用模型于業(yè)務場景
2、數(shù)據(jù)挖掘常用的模型
-數(shù)值預測模型:回歸預測、時序預測等
-分類預測模型:邏輯回歸、決策樹、神經(jīng)網(wǎng)絡、支持向量機等
-市場細分:聚類、RFM、PCA等
-產(chǎn)品推薦:關聯(lián)分析、協(xié)同過濾等
-產(chǎn)品優(yōu)化:回歸、隨機效用等
-產(chǎn)品定價:定價策略/最優(yōu)定價等
3、屬性篩選/特征選擇/變量降維
-基于變量本身特征
-基于相關性判斷
-因子合并(PCA等)
-IV值篩選(評分卡使用)
-基于信息增益判斷(決策樹使用)
4、訓練模型及實現(xiàn)算法
-模型原理
-算法實現(xiàn)
5、模型評估
-評估指標
-評估方法
-過擬合評估
6、模型優(yōu)化
-優(yōu)化模型:選擇新模型/修改模型
-優(yōu)化數(shù)據(jù):新增顯著自變量
-優(yōu)化公式:采用新的計算公式
7、模型應用
-模型解讀
-模型部署
-模型應用
8、好模型是優(yōu)化出來的
二、回歸模型評估
1、三個基本概念:SST、SSR、SSE
2、三個方面評估:指標、方法、過擬合
3、擬合程度指標
-簡單判定系數(shù):
-調(diào)整判定系數(shù):
4、預測值誤差指標
-平均*誤差:MAE
-根均方差:RMSE
-平均*誤差率:MAPE
5、信息損失準則指標
-赤池信息準則:AIC
-貝葉斯信息準則:BIC
-HQ信息準則:HQIC
6、評估方法
-原始評估法
-留出法(Hold-Out)
-交叉驗證法(k-fold cross validation)
-自助采樣法(Bootstrapping)
7、其它評估
-過擬合評估:學習曲線
-殘差評估:白噪聲評估
三、影響因素分析
問題:如何選擇合適的屬性來進行建模預測?如何做特征選擇/特征降維?
1、屬性篩選/變量降維的常用方法
2、影響因素分析常用方法
-相關分析
-方差分析
-卡方檢驗
3、相關分析(衡量變量間的線性相關性)
問題:這兩個屬性是否會相互影響?影響程度大嗎?
-相關分析簡介
-相關分析的三個種類
-簡單相關分析
-偏相關分析
-相關系數(shù)的三種計算公式
-Pearson相關系數(shù)
-Spearman相關系數(shù)
-Kendall相關系數(shù)
-相關分析的假設檢驗
-相關分析的四個基本步驟
演練:體重與腰圍的關系
演練:營銷費用會影響銷售額嗎
演練:網(wǎng)齡與消費水平的關系
-偏相關分析
-偏相關原理:排除不可控因素后的兩變量的相關性
-偏相關系數(shù)的計算公式
-偏相關分析的適用場景
4、方差分析(衡量類別變量與數(shù)據(jù)變量的相關性)
問題:哪些才是影響銷量的關鍵因素?主要因素是哪些?次要因素是哪些?
-方差分析的應用場景
-方差分析原理
-方差分析前提:齊性檢驗
-方差分析的三個種類
-單因素方差分析
-多因素方差分析
-協(xié)方差分析
-方差分析的四個步驟
-分析結果解讀要點
演練:終端擺放位置與終端銷量有關嗎
演練:客戶學歷對消費水平的影響分析
演練:廣告形式和價格是影響終端銷量的關鍵因素嗎
演練:營業(yè)員的性別、技能級別對產(chǎn)品銷量有影響嗎
演練:尋找影響產(chǎn)品銷量的關鍵因素
-多因素方差分析原理
-多因素方差分析的作用
-多因素方差結果的解讀
演練:廣告形式、地區(qū)對銷量的影響因素分析
-協(xié)方差分析原理
-協(xié)方差分析的適用場景
演練:排除收入后,網(wǎng)齡對消費水平的影響大小分析
5、列聯(lián)分析/卡方檢驗(兩類別變量的相關性分析)
-卡方檢驗應用場景
-交叉表與列聯(lián)表
-計數(shù)值與期望值
-卡方檢驗的原理
-卡方檢驗的幾個計算公式
-列聯(lián)表分析的適用場景
案例:套餐類型對客戶流失的影響分析
案例:學歷對業(yè)務套餐偏好的影響分析
案例:行業(yè)/規(guī)模對風控的影響分析
6、屬性重要程度排序/篩選
7、主成份分析(PCA)
-因子分析的原理
-因子個數(shù)如何選擇
-如何解讀因子含義
案例:提取影響電信客戶流失的主成分分析
四、線性回歸模型
問題:如何預測產(chǎn)品的銷量/銷售金額?
1、常用數(shù)值預測的模型
-通用預測模型:回歸模型
2、線性回歸應用場景
3、線性回歸模型種類
-一元線性回歸
-多元線性回歸
4、線性回歸建模過程
5、帶分類變量的回歸建模
6、回歸模型的質量評估
7、回歸方程的解讀
五、回歸算法實現(xiàn)
1、基本概念
-損失函數(shù)
2、普通最小二乘法OLS
-數(shù)學推導
-OLS存在的問題
3、梯度下降算法
-梯度概念
-梯度下降/上升算法
-批量梯度/隨機梯度/小批量梯度
-學習率的影響
-早期停止法
4、牛頓法/擬牛頓法
-泰勒公式(Taylor)
-牛頓法(Newton)
-擬牛頓法(Quasi-Newton)的優(yōu)化
-DFP/BFGS/L-BFGS
5、算法比較-優(yōu)缺點
六、回歸模型優(yōu)化
6、回歸分析的基本原理
-三個基本概念:總變差、回歸變差、剩余變差
-方程的顯著性檢驗:是否可以做回歸分析?
-因素的顯著性檢驗:自變量是否可用?
-擬合優(yōu)度檢驗:回歸模型的質量評估?
-理解標準誤差的含義:預測的準確性?
7、欠擬合解決:多項式回歸
-剔除離群值
-剔除非顯著因素
-非線性關系檢驗
-相互作用檢驗
-共線性檢驗
-檢驗誤差項
案例:銷量預測模型優(yōu)化示例
8、過擬合解決:正則項
-嶺回歸(Ridge)
-套索回歸(Lasso)
-彈性網(wǎng)絡回歸(ElasticNet)
9、超參優(yōu)化
-手工遍歷cross_val_score
-交叉驗證RidgeCV/LassCV/ElasticNetCV
-網(wǎng)格搜索GridSearchCV
-隨機搜索RandomizedSearchCV
七、自定義模型
1、自定義回歸模型
2、模型參數(shù)最優(yōu)法方法
-全局優(yōu)化/暴力破解brute
-局部優(yōu)化fmin
-有約束優(yōu)化minimize
3、好模型都是優(yōu)化出來的
案例:餐廳客流量進行建模及模型優(yōu)化
4、基于回歸季節(jié)模型
-季節(jié)性回歸模型的參數(shù)
-相加模型
-相乘模型
-模型解讀/模型含義
案例:*航空旅客里程的季節(jié)性趨勢分析
5、新產(chǎn)品預測與S曲線
-產(chǎn)品累計銷量的S曲線模型
-如何評估銷量增長的上限以及拐點
-珀爾曲線
-龔鉑茲曲線
案例:預測IPAD的銷售增長拐點,以及銷量上限
八、案例實戰(zhàn)
1、客戶消費金額預測模型
2、房價預測模型及優(yōu)化
結束:課程總結與問題答疑。
Python數(shù)據(jù)建模
轉載:http://www.jkyingpanluxiangji.com/gkk_detail/265680.html
已開課時間Have start time
- 傅一航