本課程從實際的業(yè)務需求出發(fā)，對數據分析及數據挖掘技術進行了全面的介紹，將數據挖掘標準流程、分析思路、分析方法、分析模型，全部落地在SPSS工具中，通過大量的工具操作和演練，幫助學員熟練掌握SPSS工具的使用，并能夠將SPSS工具在實際的業(yè)務數據分析中滿地，實現“知行合一”。

通過本課程的學習，達到如下目的：

1、  了解大數據挖掘的標準過程和挖掘步驟

2、  掌握常用的統計分析方法，以及可視化

3、  掌握常用的影響因素分析方法，學會根因分析

4、  理解數據挖掘的常見模型，原理及適用場景。

5、  熟練掌握SPSS基本操作，能利用SPSS解決實際的商業(yè)問題。

第一部分：  數據挖掘標準流程

1、         數據挖掘概述

2、         數據挖掘的標準流程（CRISP-DM）

‐  商業(yè)理解

‐  數據準備

‐  數據理解

‐  模型建立

‐  模型評估

‐  模型應用

案例：客戶流失預測及客戶挽留

3、         數據集概述

4、         SPSS工具介紹

5、         數據挖掘常用模型

第二部分：  數據預處理

如何整理數據，了解數據，對數據進行預處理？

1、數據預處理的四大任務

‐  數據集成：多個數據集合并

‐  數據清洗：異常值的處理

‐  樣本處理：樣本篩選、樣本抽樣、樣本平衡

‐  變量處理：變量變換、變量派生、變量精簡

2、數據集成（數據集合并）

‐  樣本追加（添加數據行）：橫向合并

‐  變量合并（添加變量列）：縱向合并

3、數據清洗（異常數據處理）

‐  取值范圍限定

‐  重復值處理

‐  無效值/錯誤值處理

‐  缺失值處理

‐  離群值/極端值處理

‐  數據質量評估

4、樣本處理：行處理

‐  樣本篩選：指定條件篩選指定樣本集（減少樣本數量）

‐  樣本抽樣：隨機抽取部分樣本集（減少樣本數量）

‐  樣本平衡：正反樣本比例均衡

5、變量處理：列處理

‐  變量變換：原變量取值更新，比如標準化

‐  變量派生：根據舊變量生成新的變量

‐  變量精簡：變量刪除/降維，減少變量個數

‐  類型轉換：數據類型的相互轉換

6、變量精簡/變量降維常用方法

‐  常用降維方法

‐  如何確定降維后變量個數

‐  特征選擇：選擇重要變量，剔除不重要變量

◢    基于變量本身特征來選擇屬性

◢    基于數據間的相關性來選擇屬性

◢    利用IV值篩選

◢    基于信息增益來選擇屬性

‐  因子合并：將多個變量進行合并

◢    PCA主成分分析

◢    判別分析

7、類型轉換

8、因子合并/主成分分析

‐  因子分析的原因

‐  因子個數選擇原則

‐  如何解讀因子含義

案例：提取影響電信客戶流失的主成分分析

9、數據探索性分析

‐  常用統計指標分析

‐  單變量：數值變量/分類變量

‐  雙變量：交叉分析/相關性分析

‐  多變量：特征選擇、因子分析

演練：描述性分析（頻數、描述、探索、分類匯總）

第三部分：  數據可視化

1、數據可視化的原則

2、常用可視化工具

3、常用可視化圖形

‐  柱狀圖、條形圖、餅圖、折線圖、箱圖、散點圖等

4、圖形的表達及適用場景

演練：各種圖形繪制

第四部分：  影響因素分析篇

營銷問題：哪些因素是影響業(yè)務目標的關鍵要素？比如，產品在貨架上的位置是否對銷量有影響？價格和廣告開銷是如何影響銷量的？影響風控的關鍵因素有哪些？如何判斷？

1、 影響因素分析的常見方法

2、 相關分析（衡量兩數據型變量的線性相關性）

‐  相關分析簡介

‐  相關分析的應用場景

‐  相關分析的種類

◢    簡單相關分析

◢    偏相關分析

◢    距離相關分析

‐  相關系數的三種計算公式

◢    Pearson相關系數

◢    Spearman相關系數

◢    Kendall相關系數

‐  相關分析的假設檢驗

‐  相關分析的四個基本步驟

演練：營銷費用會影響銷售額嗎？影響程度如何量化？

演練：哪些因素與汽車銷量有相關性

演練：影響用戶消費水平的因素會有哪些

‐  偏相關分析

◢    偏相關原理：排除不可控因素后的兩變量的相關性

◢    偏相關系數的計算公式

◢    偏相關分析的適用場景

‐  距離相關分析

3、 方差分析（衡量類別變量與數值變量間的相關性）

‐  方差分析的應用場景

‐  方差分析的三個種類

◢    單因素方差分析

◢    多因素方差分析

◢    協方差分析

‐  單因素方差分析的原理

‐  方差分析的四個步驟

‐  解讀方差分析結果的兩個要點

演練：擺放位置與銷量有關嗎

演練：客戶學歷對消費水平的影響分析

演練：廣告和價格是影響終端銷量的關鍵因素嗎

演練：營業(yè)員的性別、技能級別對產品銷量有影響嗎

演練：尋找影響產品銷量的關鍵因素

‐  多因素方差分析原理

‐  多因素方差分析的作用

‐  多因素方差結果的解讀

演練：廣告形式、地區(qū)對銷量的影響因素分析

‐  協方差分析原理

‐  協方差分析的適用場景

演練：排除產品價格，收入對銷量有影響嗎？

4、 列聯分析/卡方檢驗（兩類別變量的相關性分析）

‐  交叉表與列聯表：計數值與期望值

‐  卡方檢驗的原理

‐  卡方檢驗的幾個計算公式

‐  列聯表分析的適用場景

案例：套餐類型對客戶流失的影響分析

案例：學歷對業(yè)務套餐偏好的影響分析

案例：行業(yè)/規(guī)模對風控的影響分析

5、 相關性分析方法總結

第五部分：  回歸預測模型

營銷問題：如何預測未來的產品銷量/銷售額？如果產品跟隨季節(jié)性變動，該如何預測？

1、 回歸分析簡介和原理

2、 回歸分析的種類

‐  一元回歸/多元回歸

‐  線性回歸/非線性回歸

3、 常用回歸分析方法

‐  散點圖+趨勢線（一元）

‐  線性回歸工具（多元線性）

‐  規(guī)劃求解工具（非線性回歸）

演練：散點圖找營銷費用與銷售額的關系

4、 線性回歸分析的五個步驟

演練：營銷費用、辦公費用與銷售額的關系（線性回歸）

5、 線性回歸方程的解讀技巧

‐  定性描述：正相關/負相關

‐  定量描述：自變量變化導致因變量的變化程度

6、 回歸預測模型評估

‐  質量評估指標：判定系數R^2

‐  如何選擇最佳回歸模型

演練：如何選擇最佳的回歸預測模型（一元曲線回歸）

7、 帶分類自變量的回歸預測

演練：汽車季度銷量預測

演練：工齡、性別與終端銷量的關系

演練：如何評估銷售目標與資源最佳配置

第六部分：              回歸模型優(yōu)化

1、 回歸分析的基本原理

‐  三個基本概念：總變差、回歸變差、剩余變差

‐  方程的顯著性檢驗：方程可用性

‐  因素的顯著性檢驗：因素可用性

‐  方程擬合優(yōu)度檢驗：質量好壞程度

‐  理解標準誤差含義：預測準確性？

2、 回歸模型優(yōu)化措施：尋找最佳回歸擬合線

‐  如何處理預測離群值（剔除離群值）

‐  如何剔除不顯著因素（剔除不顯著因素）

‐  如何進行非線性關系檢驗（增加非線性自變量）

‐  如何進行相互作用檢驗（增加相互作用自變量）

‐  如何進行多重共線性檢驗（剔除共線性自變量）

演練：模型優(yōu)化演示

3、 好模型都是優(yōu)化出來的

第七部分：     自定義回歸模型

1、 回歸建模的本質

2、 規(guī)劃求解工具簡介

3、 自定義回歸模型

案例：如何對客流量進行建模預測及模型優(yōu)化

4、 回歸季節(jié)預測模型模型

‐  回歸季節(jié)模型的原理及應用場景

‐  加法季節(jié)模型

‐  乘法季節(jié)模型

‐  模型解讀

案例：美國航空旅客里程的季節(jié)性趨勢分析

5、 新產品累計銷量的S曲線

‐  S曲線模型的應用場景（最大累計銷量及銷量增長的拐點）

‐  珀爾曲線

‐  龔鉑茲曲線

案例：如何預測產品的銷售增長拐點，以及銷量上限

演練：預測IPad產品的銷量

第八部分：              回歸模型質量評估

1、定量預測模型的評估

‐  方程顯著性評估

‐  因素顯著性評估

‐  擬合優(yōu)度的評估

‐  估計標準誤差評估

‐  預測值準確度評估

2、模型擬合度評估

‐    判定系數：                                              

‐    調整判定系數：

3、預測值準確度評估

‐  平均絕對誤差：MAE

‐  根均方差：RMSE

‐  平均誤差率：MAPE

4、其它評估：殘差檢驗、過擬合檢驗

第九部分：  時序預測模型

營銷問題：像利率/CPI/GDP等按時序變化的指標如何預測？當銷量隨季節(jié)周期變動時該如何預測？

1、 回歸預測vs時序預測

2、 因素分解思想

3、 時序預測常用模型

‐  趨勢擬合

‐  季節(jié)擬合

‐  平均序列擬合

4、 評估預測值的準確度指標：MAD、RMSE、MAPE

5、 移動平均（MA）

‐  應用場景及原理

‐  移動平均種類

◢    一次移動平均

◢    二次移動平均

◢    加權移動平均

◢    移動平均比率法

‐  移動平均關鍵問題

◢    如何選取最優(yōu)參數N

◢    如何確定最優(yōu)權重系數

演練：平板電腦銷量預測及評估

演練：快銷產品季節(jié)銷量預測及評估

6、 指數平滑（ES）

‐  應用場景及原理

‐  最優(yōu)平滑系數的選取原則

‐  指數平滑種類

◢    一次指數平滑

◢    二次指數平滑（Brown線性、Holt線性、Holt指數、阻尼線性、阻尼指數）

◢    三次指數平滑

演練：煤炭產量預測

演練：航空旅客量預測及評估

7、 溫特斯季節(jié)預測模型

‐  適用場景及原理

‐  Holt-Winters加法模型

‐  Holt-Winters乘法模型

演練：汽車銷量預測及評估

8、 平穩(wěn)序列模型（ARIMA）

‐  序列的平穩(wěn)性檢驗

‐  平穩(wěn)序列的擬合模型

◢   AR(p)自回歸模型

◢   MA(q)移動模型

◢   ARMA(p,q)自回歸移動模型

‐  模型的識別與定階

◢   ACF圖/PACF圖

◢   最小信息準則

‐  序列平穩(wěn)化處理

◢   變量變換

◢   k次差分

◢   d階差分

‐  ARIMA(p,d,q)模型

演練：上海證券交易所綜合指數收益率序列分析

演練：服裝銷售數據季節(jié)性趨勢預測分析

‐  平穩(wěn)序列的建模流程

第十部分：  分類預測模型篇

問題：如何評估客戶購買產品的可能性？如何預測客戶的購買行為？如何提取某類客戶的典型特征？如何向客戶精準推薦產品或業(yè)務？

1、 分類模型概述及其應用場景

2、 常見分類預測模型

3、 邏輯回歸（LR）

‐  邏輯回歸的適用場景

‐  邏輯回歸的模型原理

‐  邏輯回歸分類的幾何意義

‐  邏輯回歸的種類

2  二項邏輯回歸

2  多項邏輯回歸

‐  如何解讀邏輯回歸方程

‐  帶分類自變量的邏輯回歸分析

‐  多項邏輯回歸/多分類邏輯回歸

案例：如何評估用戶是否會購買某產品（二項邏輯回歸）

案例：多品牌選擇模型分析（多項邏輯回歸）

4、 分類決策樹（DT）

問題：如何預測客戶行為？如何識別潛在客戶？

風控：如何識別欠貸者的特征，以及預測欠貸概率？

客戶保有：如何識別流失客戶特征，以及預測客戶流失概率？

‐  決策樹分類簡介

案例：美國零售商（Target）如何預測少女懷孕

演練：識別銀行欠貨風險，提取欠貸者的特征

‐  決策樹分類的幾何意義

‐  構建決策樹的三個關鍵問題

◢   如何選擇最佳屬性來構建節(jié)點

◢   如何分裂變量

◢   修剪決策樹

‐  選擇最優(yōu)屬性生長

◢   熵、基尼索引、分類錯誤

◢    屬性劃分增益

‐  如何分裂變量

◢    多元劃分與二元劃分

◢    連續(xù)變量離散化（最優(yōu)分割點）

‐  修剪決策樹

◢    剪枝原則

◢    預剪枝與后剪枝

‐  構建決策樹的四個算法

◢   C5.0、CHAID、CART、QUEST

◢    各種算法的比較

‐  如何選擇最優(yōu)分類模型？

案例：商場用戶的典型特征提取

案例：客戶流失預警與客戶挽留

案例：識別拖欠銀行貨款者的特征，避免不良貨款

案例：識別電信詐騙者嘴臉，讓通信更安全

‐  多分類決策樹

案例：不同套餐用戶的典型特征

‐  決策樹模型的保存與應用

5、 人工神經網絡（ANN）

‐  神經網絡概述

‐  神經網絡基本原理

‐  神經網絡的結構

‐  神經網絡分類的幾何意義

‐  神經網絡的建立步驟

‐  神經網絡的關鍵問題

‐  BP反向傳播網絡（MLP）

‐  徑向基網絡（RBF）

案例：評估銀行用戶拖欠貨款的概率

6、 判別分析（DA）

‐  判別分析原理

‐  判別分析種類

‐  Fisher線性判別分析

案例：MBA學生錄取判別分析

案例：上市公司類別評估

7、 最近鄰分類（KNN）

‐  KNN模型的基本原理

‐  KNN分類的幾何意義

‐  K近鄰的關鍵問題

第十一部分：        市場細分模型

問題：我們的客戶有幾類？各類特征是什么？如何實現客戶細分，開發(fā)符合細分市場的新產品？如何提取客戶特征，從而對產品進行市場定位？

1、 市場細分的常用方法

‐  有指導細分

‐  無指導細分

2、 聚類分析

‐  如何更好的了解客戶群體和市場細分？

‐  如何識別客戶群體特征？

‐  如何確定客戶要分成多少適當的類別？

‐  聚類方法原理介紹

‐  聚類方法作用及其適用場景

‐  聚類分析的種類

◢    K均值聚類

◢    層次聚類

◢    兩步聚類

‐  K均值聚類（快速聚類）

案例：移動三大品牌細分市場合適嗎？

演練：寶潔公司如何選擇新產品試銷區(qū)域？

演練：如何自動評選優(yōu)秀員工？

演練：中國各省份發(fā)達程度分析，讓數據自動聚類

‐  層次聚類（系統聚類）：發(fā)現多個類別

‐  R型聚類與Q型聚類的區(qū)別

案例：中移動如何實現客戶細分及營銷策略

演練：中國省市經濟發(fā)展情況分析（Q型聚類）

演練：裁判評分的標準衡量，避免“黑哨”（R型聚類）

‐  兩步聚類

3、 客戶細分與PCA分析法

‐  PCA主成分分析的原理

‐  PCA分析法的適用場景

演練：利用PCA對汽車客戶群進行細分

演練：如何針對汽車客戶群設計汽車

第十二部分：        客戶價值評估

營銷問題：如何評估客戶的價值？不同的價值客戶有何區(qū)別對待？

1、 如何評價客戶生命周期的價值

‐  貼現率與留存率

‐  評估客戶的真實價值

‐  使用雙向表衡量屬性敏感度

‐  變化的邊際利潤

案例：評估營銷行為的合理性

2、 RFM模型（客戶價值評估）

‐  RFM模型，更深入了解你的客戶價值

‐  RFM模型與市場策略

‐  RFM模型與活躍度分析

演練：“雙11”淘寶商家如何選擇價值客戶進行促銷

演練：結合響應模型，宜家IKE實現最大化營銷利潤

案例：重購用戶特征分析

第十三部分：        假設檢驗

1、 參數檢驗分析（樣本均值檢驗）

問題：如何驗證營銷效果的有效性？

‐  假設檢驗概述

◢   單樣本T檢驗

◢   兩獨立樣本T檢驗

◢   兩配對樣本T檢驗

‐  假設檢驗適用場景

電信行業(yè)

案例：電信運營商ARPU值評估分析（單樣本）

案例：營銷活動前后分析（兩配對樣本）

金融行業(yè)

案例：信用卡消費金額評估分析（單樣本）

醫(yī)療行業(yè)

案例：吸煙與膽固醇升高的分析（兩獨立樣本）

案例：減肥效果評估（兩配對樣本）

2、 非參數檢驗分析（樣本分布檢驗）

問題：這些屬性數據的分布情況如何？如何從數據分布中看出問題？

‐  非參數檢驗概述

◢   單樣本檢驗

◢   兩獨立樣本檢驗

◢   兩相關樣本檢驗

◢   兩配對樣本檢驗

‐  非參數檢驗適用場景

案例：產品合格率檢驗（單樣本-二項分布）

案例：訓練新方法有效性檢驗（兩配對樣本-符號/秩檢驗）

案例：促銷方式效果檢驗(多相關樣本-Friedman檢驗)

案例：客戶滿意度差異檢驗(多相關樣本-Cochran Q檢驗)

結束：課程總結與問題答疑。