【培訓(xùn)對象】
業(yè)務(wù)支持部、IT系統(tǒng)部、大數(shù)據(jù)系統(tǒng)開發(fā)部、大數(shù)據(jù)分析中心、網(wǎng)絡(luò)運(yùn)維部等相關(guān)技術(shù)人員。

【培訓(xùn)收益】

第一部分：預(yù)測建模基礎(chǔ)
1、數(shù)據(jù)建模六步法
選擇模型：基于業(yè)務(wù)選擇恰當(dāng)?shù)臄?shù)據(jù)模型
屬性篩選：選擇對目標(biāo)變量有顯著影響的屬性來建模
訓(xùn)練模型：采用合適的算法，尋找到最合適的模型參數(shù)
評估模型：進(jìn)行評估模型的質(zhì)量，判斷模型是否可用
優(yōu)化模型：如果評估結(jié)果不理想，則需要對模型進(jìn)行優(yōu)化
應(yīng)用模型：如果評估結(jié)果滿足要求，則可應(yīng)用模型于業(yè)務(wù)場景
2、數(shù)據(jù)挖掘常用的模型
數(shù)值預(yù)測模型：回歸預(yù)測、時(shí)序預(yù)測等
分類預(yù)測模型：邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等
市場細(xì)分：聚類、RFM、PCA等
產(chǎn)品推薦：關(guān)聯(lián)分析、協(xié)同過濾等
產(chǎn)品優(yōu)化：回歸、隨機(jī)效用等
產(chǎn)品定價(jià)：定價(jià)策略/最優(yōu)定價(jià)等
3、屬性篩選/特征選擇/變量降維
基于變量本身特征
基于相關(guān)性判斷
因子合并（PCA等）
IV值篩選（評分卡使用）
基于信息增益判斷（決策樹使用）
4、訓(xùn)練模型及實(shí)現(xiàn)算法
模型原理
算法實(shí)現(xiàn)
5、模型評估
評估指標(biāo)
評估方法
過擬合評估
6、模型優(yōu)化
優(yōu)化模型：選擇新模型/修改模型
優(yōu)化數(shù)據(jù)：新增顯著自變量
優(yōu)化公式：采用新的計(jì)算公式
7、模型應(yīng)用
模型解讀
模型部署
模型應(yīng)用
8、好模型是優(yōu)化出來的

第二部分：分類模型評估
1、三個(gè)方面評估：指標(biāo)、方法、過擬合
2、兩大矩陣
混淆矩陣
代價(jià)矩陣
3、六大指標(biāo)
正確率Accuracy
查準(zhǔn)率Precision
查全率Recall
特異度Specify
F度量值（/）
提升指標(biāo)lift
4、三條曲線
ROC曲線和AUC
PR曲線和BEP
KS曲線和KS值
5、多分類模型評估指標(biāo)
宏指標(biāo)：macro_P, macro_R
宏指標(biāo)：micro_P, micro_R
6、模型評估方法
原始評估法
留出法（Hold-Out）
交叉驗(yàn)證法（k-fold cross validation）
自助采樣法（Bootstrapping）
7、其它評估
過擬合評估：學(xué)習(xí)曲線
殘差評估：白噪聲評估

第三部分：邏輯回歸
問題：如何評估客戶購買產(chǎn)品的可能性？如何預(yù)測客戶行為？
如何預(yù)測客戶流失？銀行如何實(shí)現(xiàn)欠貸風(fēng)險(xiǎn)控制？
1、邏輯回歸模型簡介
2、邏輯回歸的種類
二項(xiàng)邏輯回歸
多項(xiàng)邏輯回歸
3、邏輯回歸方程解讀
4、帶分類自變量的邏輯回歸
5、邏輯回歸的算法實(shí)現(xiàn)及優(yōu)化
迭代樣本的隨機(jī)選擇
變化的學(xué)習(xí)率
6、邏輯回歸+正則項(xiàng)
7、求解算法與懲罰項(xiàng)的互斥關(guān)系
8、多元邏輯回歸處理
ovo
ovr
9、邏輯回歸建模過程
案例：用sklearn庫實(shí)現(xiàn)銀行貸款違約預(yù)測
案例：訂閱者用戶的典型特征（二元邏輯回歸）
案例：通信套餐的用戶畫像（多元邏輯回歸）

第四部分：決策樹
1、分類決策樹簡介
演練：識別銀行欠貨風(fēng)險(xiǎn)，提取欠貸者的特征
2、決策樹的三個(gè)關(guān)鍵問題
最優(yōu)屬性選擇
熵、基尼系數(shù)
信息增益、信息增益率
屬性最佳劃分
多元?jiǎng)澐峙c二元?jiǎng)澐?br /> 連續(xù)變量最優(yōu)劃分
決策樹修剪
剪枝原則
預(yù)剪枝與后剪枝
3、構(gòu)建決策樹的算法
C5.0、CHAID、CART、QUEST
各種算法的比較
4、決策樹的超參優(yōu)化
5、決策樹的解讀
6、決策樹建模過程
案例：商場酸奶購買用戶特征提取
案例：客戶流失預(yù)警與客戶挽留
案例：識別拖欠銀行貨款者的特征，避免不良貨款
案例：識別電信詐騙者嘴臉，讓通信更安全
案例：電力竊漏用戶自動(dòng)識別
第五部分：人工神經(jīng)網(wǎng)絡(luò)
1、神經(jīng)網(wǎng)絡(luò)簡介（ANN）
2、神經(jīng)元基本原理
加法器
激活函數(shù)
3、神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)
隱藏層數(shù)量
神經(jīng)元個(gè)數(shù)
4、神經(jīng)網(wǎng)絡(luò)的建立步驟
5、神經(jīng)網(wǎng)絡(luò)的關(guān)鍵問題
6、BP算法實(shí)現(xiàn)
7、MLP多層神經(jīng)網(wǎng)絡(luò)
案例：評估銀行用戶拖欠貨款的概率
案例：神經(jīng)網(wǎng)絡(luò)預(yù)測產(chǎn)品銷量
第六部分：線性判別分析（LDA）
1、判別分析簡介
基本思想
2、判別分析種類
3、判別分析算法
類間散席
類內(nèi)散席
4、LDA線性判別模型
5、多分類判別分析
案例：MBA學(xué)生錄取判別分析
案例：上市公司類別評估
第七部分：最近鄰分類（KNN）
1、KNN的基本原理
2、K近鄰的關(guān)鍵問題
3、K近鄰的實(shí)現(xiàn)算法
Brute暴力計(jì)算
Kd_tree
Ball_tre
第八部分：樸素貝葉斯分類（NBN）
1、貝葉斯簡介
2、貝葉斯分類原理
先驗(yàn)概率和后驗(yàn)概率
條件概率和類概率
3、常見貝葉斯網(wǎng)絡(luò)
4、計(jì)算類別屬性的條件概率
5、估計(jì)連續(xù)屬性的條件概率
6、預(yù)測分類概率（計(jì)算概率）
7、拉普拉斯修正
案例：評估銀行用戶拖欠貨款的概率

第九部分：支持向量機(jī)（SVM）
1、支持向量機(jī)簡介
適用場景
2、支持向量機(jī)原理
支持向量
最大邊界超平面
3、線性不可分處理
松弛系數(shù)
4、非線性SVM分類
5、常用核函數(shù)
線性核函數(shù)
多項(xiàng)式核
高斯RBF核
核函數(shù)的選擇原則
6、SMO算法
第十部分：模型集成優(yōu)化篇
1、模型的優(yōu)化思想
2、集成模型的框架
Bagging
Boosting
Stacking
3、集成算法的關(guān)鍵過程
弱分類器如何構(gòu)建
組合策略：多個(gè)弱學(xué)習(xí)器如何形成強(qiáng)學(xué)習(xí)器
4、Bagging集成算法
數(shù)據(jù)/屬性重抽樣
決策依據(jù)：少數(shù)服從多數(shù)
隨機(jī)森林RandomForest
5、Boosting集成算法
基于誤分?jǐn)?shù)據(jù)建模
樣本選擇權(quán)重更新
決策依據(jù)：加權(quán)投票
AdaBoost模型
6、GBDT模型
7、XGBoost模型
8、LightGBM模型

第十一部分：案例實(shí)戰(zhàn)
1、客戶流失預(yù)測和客戶挽留模型
2、銀行欠貸風(fēng)險(xiǎn)預(yù)測模型

結(jié)束：課程總結(jié)與問題答疑。