課程描述INTRODUCTION
Python數(shù)據(jù)建模
· 系統(tǒng)工程師· 高層管理者· 中層領(lǐng)導(dǎo)
日程安排SCHEDULE
課程大綱Syllabus
Python數(shù)據(jù)建模
【課程目標(biāo)】
本課程主要講解如何利用Python進(jìn)行數(shù)據(jù)建模,建立數(shù)學(xué)模型,來擬合業(yè)務(wù)的各個要素之間的關(guān)系,來模擬業(yè)務(wù)的未來發(fā)展和變化。
基于真實(shí)的業(yè)務(wù)問題,在數(shù)據(jù)建模的標(biāo)準(zhǔn)過程指導(dǎo)下,從模型選擇到特征工程,從訓(xùn)練模型到算法實(shí)現(xiàn),從模型評估到模型優(yōu)化,再到模型解讀及模型應(yīng)用,帶領(lǐng)大家一步步實(shí)現(xiàn)一個回歸預(yù)測模型。
通過本課程的學(xué)習(xí),達(dá)到如下目的:
1、掌握數(shù)據(jù)建模的標(biāo)準(zhǔn)流程。
2、掌握數(shù)據(jù)預(yù)處理常用的方法,包括特征篩選、變量合并等。
3、掌握回歸模型的原理,以及算法實(shí)現(xiàn)。
4、熟練使用模型的評估指標(biāo),評估方法,以及過擬合的評估。
5、掌握模型優(yōu)化的基本措施,學(xué)會欠擬合的解決方法。
6、學(xué)會過擬合評估,學(xué)會使用有正則項(xiàng)來解決過擬合問題。
7、熟練使用sklearn庫的常用回歸類。
8、學(xué)會超參優(yōu)化的常用方法,能夠設(shè)置最優(yōu)超參。
【授課對象】
業(yè)務(wù)支持部、數(shù)據(jù)分析部、系統(tǒng)設(shè)計(jì)部、系統(tǒng)開發(fā)部、網(wǎng)絡(luò)運(yùn)維部等相關(guān)技術(shù)人員。
【課程大綱】
一、預(yù)測建?;A(chǔ)
1、數(shù)據(jù)建模六步法
-選擇模型:基于業(yè)務(wù)選擇恰當(dāng)?shù)臄?shù)據(jù)模型
-屬性篩選:選擇對目標(biāo)變量有顯著影響的屬性來建模
-訓(xùn)練模型:采用合適的算法,尋找到最合適的模型參數(shù)
-評估模型:進(jìn)行評估模型的質(zhì)量,判斷模型是否可用
-優(yōu)化模型:如果評估結(jié)果不理想,則需要對模型進(jìn)行優(yōu)化
-應(yīng)用模型:如果評估結(jié)果滿足要求,則可應(yīng)用模型于業(yè)務(wù)場景
2、數(shù)據(jù)挖掘常用的模型
-數(shù)值預(yù)測模型:回歸預(yù)測、時序預(yù)測等
-分類預(yù)測模型:邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等
-市場細(xì)分:聚類、RFM、PCA等
-產(chǎn)品推薦:關(guān)聯(lián)分析、協(xié)同過濾等
-產(chǎn)品優(yōu)化:回歸、隨機(jī)效用等
-產(chǎn)品定價:定價策略/最優(yōu)定價等
3、屬性篩選/特征選擇/變量降維
-基于變量本身特征
-基于相關(guān)性判斷
-因子合并(PCA等)
-IV值篩選(評分卡使用)
-基于信息增益判斷(決策樹使用)
4、訓(xùn)練模型及實(shí)現(xiàn)算法
-模型原理
-算法實(shí)現(xiàn)
5、模型評估
-評估指標(biāo)
-評估方法
-過擬合評估
6、模型優(yōu)化
-優(yōu)化模型:選擇新模型/修改模型
-優(yōu)化數(shù)據(jù):新增顯著自變量
-優(yōu)化公式:采用新的計(jì)算公式
7、模型應(yīng)用
-模型解讀
-模型部署
-模型應(yīng)用
8、好模型是優(yōu)化出來的
二、回歸模型評估
1、三個基本概念:SST、SSR、SSE
2、三個方面評估:指標(biāo)、方法、過擬合
3、擬合程度指標(biāo)
-簡單判定系數(shù):
-調(diào)整判定系數(shù):
4、預(yù)測值誤差指標(biāo)
-平均*誤差:MAE
-根均方差:RMSE
-平均*誤差率:MAPE
5、信息損失準(zhǔn)則指標(biāo)
-赤池信息準(zhǔn)則:AIC
-貝葉斯信息準(zhǔn)則:BIC
-HQ信息準(zhǔn)則:HQIC
6、評估方法
-原始評估法
-留出法(Hold-Out)
-交叉驗(yàn)證法(k-fold cross validation)
-自助采樣法(Bootstrapping)
7、其它評估
-過擬合評估:學(xué)習(xí)曲線
-殘差評估:白噪聲評估
三、影響因素分析
問題:如何選擇合適的屬性來進(jìn)行建模預(yù)測?如何做特征選擇/特征降維?
1、屬性篩選/變量降維的常用方法
2、影響因素分析常用方法
-相關(guān)分析
-方差分析
-卡方檢驗(yàn)
3、相關(guān)分析(衡量變量間的線性相關(guān)性)
問題:這兩個屬性是否會相互影響?影響程度大嗎?
-相關(guān)分析簡介
-相關(guān)分析的三個種類
-簡單相關(guān)分析
-偏相關(guān)分析
-相關(guān)系數(shù)的三種計(jì)算公式
-Pearson相關(guān)系數(shù)
-Spearman相關(guān)系數(shù)
-Kendall相關(guān)系數(shù)
-相關(guān)分析的假設(shè)檢驗(yàn)
-相關(guān)分析的四個基本步驟
演練:體重與腰圍的關(guān)系
演練:營銷費(fèi)用會影響銷售額嗎
演練:網(wǎng)齡與消費(fèi)水平的關(guān)系
-偏相關(guān)分析
-偏相關(guān)原理:排除不可控因素后的兩變量的相關(guān)性
-偏相關(guān)系數(shù)的計(jì)算公式
-偏相關(guān)分析的適用場景
4、方差分析(衡量類別變量與數(shù)據(jù)變量的相關(guān)性)
問題:哪些才是影響銷量的關(guān)鍵因素?主要因素是哪些?次要因素是哪些?
-方差分析的應(yīng)用場景
-方差分析原理
-方差分析前提:齊性檢驗(yàn)
-方差分析的三個種類
-單因素方差分析
-多因素方差分析
-協(xié)方差分析
-方差分析的四個步驟
-分析結(jié)果解讀要點(diǎn)
演練:終端擺放位置與終端銷量有關(guān)嗎
演練:客戶學(xué)歷對消費(fèi)水平的影響分析
演練:廣告形式和價格是影響終端銷量的關(guān)鍵因素嗎
演練:營業(yè)員的性別、技能級別對產(chǎn)品銷量有影響嗎
演練:尋找影響產(chǎn)品銷量的關(guān)鍵因素
-多因素方差分析原理
-多因素方差分析的作用
-多因素方差結(jié)果的解讀
演練:廣告形式、地區(qū)對銷量的影響因素分析
-協(xié)方差分析原理
-協(xié)方差分析的適用場景
演練:排除收入后,網(wǎng)齡對消費(fèi)水平的影響大小分析
5、列聯(lián)分析/卡方檢驗(yàn)(兩類別變量的相關(guān)性分析)
-卡方檢驗(yàn)應(yīng)用場景
-交叉表與列聯(lián)表
-計(jì)數(shù)值與期望值
-卡方檢驗(yàn)的原理
-卡方檢驗(yàn)的幾個計(jì)算公式
-列聯(lián)表分析的適用場景
案例:套餐類型對客戶流失的影響分析
案例:學(xué)歷對業(yè)務(wù)套餐偏好的影響分析
案例:行業(yè)/規(guī)模對風(fēng)控的影響分析
6、屬性重要程度排序/篩選
7、主成份分析(PCA)
-因子分析的原理
-因子個數(shù)如何選擇
-如何解讀因子含義
案例:提取影響電信客戶流失的主成分分析
四、線性回歸模型
問題:如何預(yù)測產(chǎn)品的銷量/銷售金額?
1、常用數(shù)值預(yù)測的模型
-通用預(yù)測模型:回歸模型
2、線性回歸應(yīng)用場景
3、線性回歸模型種類
-一元線性回歸
-多元線性回歸
4、線性回歸建模過程
5、帶分類變量的回歸建模
6、回歸模型的質(zhì)量評估
7、回歸方程的解讀
五、回歸算法實(shí)現(xiàn)
1、基本概念
-損失函數(shù)
2、普通最小二乘法OLS
-數(shù)學(xué)推導(dǎo)
-OLS存在的問題
3、梯度下降算法
-梯度概念
-梯度下降/上升算法
-批量梯度/隨機(jī)梯度/小批量梯度
-學(xué)習(xí)率的影響
-早期停止法
4、牛頓法/擬牛頓法
-泰勒公式(Taylor)
-牛頓法(Newton)
-擬牛頓法(Quasi-Newton)的優(yōu)化
-DFP/BFGS/L-BFGS
5、算法比較-優(yōu)缺點(diǎn)
六、回歸模型優(yōu)化
6、回歸分析的基本原理
-三個基本概念:總變差、回歸變差、剩余變差
-方程的顯著性檢驗(yàn):是否可以做回歸分析?
-因素的顯著性檢驗(yàn):自變量是否可用?
-擬合優(yōu)度檢驗(yàn):回歸模型的質(zhì)量評估?
-理解標(biāo)準(zhǔn)誤差的含義:預(yù)測的準(zhǔn)確性?
7、欠擬合解決:多項(xiàng)式回歸
-剔除離群值
-剔除非顯著因素
-非線性關(guān)系檢驗(yàn)
-相互作用檢驗(yàn)
-共線性檢驗(yàn)
-檢驗(yàn)誤差項(xiàng)
案例:銷量預(yù)測模型優(yōu)化示例
8、過擬合解決:正則項(xiàng)
-嶺回歸(Ridge)
-套索回歸(Lasso)
-彈性網(wǎng)絡(luò)回歸(ElasticNet)
9、超參優(yōu)化
-手工遍歷cross_val_score
-交叉驗(yàn)證RidgeCV/LassCV/ElasticNetCV
-網(wǎng)格搜索GridSearchCV
-隨機(jī)搜索RandomizedSearchCV
七、自定義模型
1、自定義回歸模型
2、模型參數(shù)最優(yōu)法方法
-全局優(yōu)化/暴力破解brute
-局部優(yōu)化fmin
-有約束優(yōu)化minimize
3、好模型都是優(yōu)化出來的
案例:餐廳客流量進(jìn)行建模及模型優(yōu)化
4、基于回歸季節(jié)模型
-季節(jié)性回歸模型的參數(shù)
-相加模型
-相乘模型
-模型解讀/模型含義
案例:*航空旅客里程的季節(jié)性趨勢分析
5、新產(chǎn)品預(yù)測與S曲線
-產(chǎn)品累計(jì)銷量的S曲線模型
-如何評估銷量增長的上限以及拐點(diǎn)
-珀?duì)柷€
-龔鉑茲曲線
案例:預(yù)測IPAD的銷售增長拐點(diǎn),以及銷量上限
八、案例實(shí)戰(zhàn)
1、客戶消費(fèi)金額預(yù)測模型
2、房價預(yù)測模型及優(yōu)化
結(jié)束:課程總結(jié)與問題答疑。
Python數(shù)據(jù)建模
轉(zhuǎn)載:http://santuchuan.cn/gkk_detail/265680.html
已開課時間Have start time
- 傅一航
IT相關(guān)內(nèi)訓(xùn)
- 軟件安全意識加強(qiáng)與技能提高 張勝生
- 互聯(lián)網(wǎng)新技術(shù)在銀行的應(yīng)用 武威
- 大模型技術(shù)與應(yīng)用培訓(xùn) 葉梓
- 滲透測試與攻防實(shí)戰(zhàn)高級課程 張勝生
- Python高效辦公自動化 張曉如
- Fine BI 數(shù)據(jù)分析與 張曉如
- 電力信息化:價值和建設(shè)分析 劉宇佳
- 網(wǎng)安管理崗培訓(xùn) 張勝生
- IT崗位數(shù)智化能力提升路徑 甄文智
- 信息安全風(fēng)險評估與加固技能 張勝生
- CISSP認(rèn)證培訓(xùn)課程 張勝生
- 云計(jì)算的應(yīng)用領(lǐng)域和實(shí)踐 武威