
這裡整理資料分析、統計驗證、特徵工程與機器學習的實務方法。
重點不只是讓程式成功執行,而是知道為什麼這樣分析、結果能不能相信,以及模型是否真的適合眼前的問題。
這個專區適合誰?
- 想把資料分析或機器學習用在真實問題,而不只完成練習題的人。
- 已經學過 Python 與基礎統計,但不知道如何組成完整分析流程的人。
- 做完 EDA 後,不確定下一步要驗證什麼、如何選擇特徵的人。
- 想正確理解模型指標、偏差、變異數與泛化能力的人。
你不需要先記住所有演算法。更重要的是先理解資料、問題與評估方式,再決定要不要使用模型。
你目前卡在哪一個階段?
我還看不懂資料
先從資料結構、缺失值、分布、異常值與欄位定義開始。不要急著建立模型。
EDA 做完後不知道下一步
把探索中看到的現象轉成可以被驗證的問題,區分探索式分析與驗證式分析。
模型分數看起來不錯,卻不知道能不能用
回頭檢查資料切分、評估指標、基準模型、偏差與變異,以及結果是否能泛化到新資料。
建議學習路線:從資料到模型
- 定義問題與資料:確認問題、觀察單位、目標欄位、資料來源與限制。
- 資料理解與探索:檢查資料品質、分布、關係與可能的異常。
- 從探索走向驗證:把觀察轉成假設,選擇合適的統計方法或驗證設計。
- 特徵工程與選擇:根據問題與資料生成特徵,避免只靠相關係數或模型重要度盲目篩選。
- 建立基準與訓練模型:先建立簡單基準,再比較更複雜的方法是否真的改善結果。
- 評估與解釋:選擇符合情境的指標,檢查泛化、誤差來源與實際使用限制。
初學者可以照順序閱讀;正在做專案的人,可以直接從目前卡住的階段開始,再回頭補齊前面的判斷。
精選實戰文章
特徵選擇的科學方法:如何用 Pearson 相關係數找關鍵變數?
理解 Pearson 相關係數能回答什麼、不能回答什麼,以及如何避免把相關性誤當成完整的特徵選擇策略。
適合:正在整理模型輸入特徵與變數關係的讀者。
開始專案前,可以先問這些問題
- 我要解決的是描述、預測、分類,還是因果問題?
- 每一列資料代表什麼?資料是在什麼條件下產生的?
- 目標欄位是否真的能代表我要解決的問題?
- 如果不用機器學習,最簡單的基準方法會是什麼?
- 模型犯哪一種錯誤最嚴重?應該用哪個指標評估?
- 結果交給新資料或不同情境時,還能維持嗎?
這些問題通常比先決定要使用哪個演算法更重要。
推薦學習資源
下面的資源分別適合系統化練習、補足統計觀念與快速實驗。請依照目前缺少的能力選擇,不需要一次全部使用。
- DataCamp:適合透過短課程與練習補齊 Python、資料分析與機器學習基礎。此連結可能屬於聯盟連結。
- Practical Statistics for Data Scientists:適合補足資料科學工作中常用的統計概念。
- Google Colab:適合不想先設定本機環境、希望快速執行 Python 筆記本的人。
常見問題
要先學統計,還是先學 Python?
可以並行。Python 幫助你操作資料,統計幫助你理解結果。先掌握能完成小型分析所需的基礎,再隨著問題逐步補足。
EDA 做完之後應該做什麼?
整理探索中發現的現象,確認哪些只是描述、哪些可以轉成假設,再決定要進行統計驗證、特徵工程或建立模型。
模型準確率很高,就代表可以使用嗎?
不一定。還需要檢查資料洩漏、類別不平衡、評估指標、基準方法與新資料上的表現。實際使用成本也可能比準確率更重要。
延伸閱讀
先從目前最卡住的分析階段開始
不用先學完所有演算法。選一篇與現在專案最接近的文章,確認你能解釋每一個判斷,再繼續往下做。