Home › Roadmap › Supervised Learning › Part 11

LightGBM CatBoost

📘 দ্রুত বুস্টিং লাইব্রেরি।

🌐 Fast gradient boosting libraries.

🎯 সুপারভাইজড লার্নিং🎚 Advanced📍 Part 11 / 11🧩 3 সাব-টপিক
🎯
1

ধারণা · Concept

কী এবং কেন
📘 বাংলা ব্যাখ্যা:
দ্রুত বুস্টিং লাইব্রেরি।
🌐 English:
Fast gradient boosting libraries.

🗂 কোথায় পড়ে

৩. মেশিন লার্নিং → সুপারভাইজড লার্নিং → LightGBM CatBoost

🎯 এই শাখার লক্ষ্য

Train, compare and choose regression/classification models

🧰 টুলস

scikit-learn, XGBoost

🪜

ধাপে ধাপে শিখুন · Step-by-step

কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল
💡 কেন গুরুত্বপূর্ণ?

বড় ডেটায় আরও দ্রুত বুস্টিং; CatBoost ক্যাটাগরি সরাসরি সামলায়।

  1. ধাপ 1
    LightGBM: হিস্টোগ্রাম-ভিত্তিক, leaf-wise বৃদ্ধি—খুব দ্রুত; num_leaves নিয়ন্ত্রণ করুন
  2. ধাপ 2
    CatBoost: cat_features দিলে নিজেই এনকোড, ডিফল্ট সেটিংসে ভালো
  3. ধাপ 3
    তিনটিই (XGB, LGBM, CatBoost) ক্রস-ভ্যালিডেশনে তুলনা করুন
  4. ধাপ 4
    Optuna দিয়ে হাইপারপ্যারামিটার টিউন

🧪 বাস্তব উদাহরণ

১ কোটি সারির ক্রেডিট ডেটায় LightGBM মিনিটে ট্রেন হয় যেখানে সাধারণ GBM ঘণ্টা নেয়।

⚠️ সাধারণ ভুল

ছোট ডেটায় num_leaves অনেক বড়—ওভারফিট।

🔑 মূল শব্দ (Key terms)

LightGBMCatBoostleaf-wisecategorical featuresOptuna

3

সাব-টপিক ও বিস্তারিত · Sub-topics

টপিক → সাব-টপিক → সাব-সাব টপিক
11.1 LightGBM11.1.1 লিফ-ওয়াইজ বৃদ্ধি11.1.2 দ্রুত
11.2 CatBoost11.2.1 ক্যাটাগরি সরাসরি
11.3 ট্যাবুলার ডেটায় সেরা পারফরম্যান্স
🎬

ভিডিও · Videos (বাংলা ও English)

ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত

📺 আরও খুঁজুন

💻

হাতে-কলমে · Try it (Supervised Learning)

এডিট করে Run চাপুন · Ctrl+Enter
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier, GradientBoostingClassifier
from sklearn.neighbors import KNeighborsClassifier
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
X,y=load_breast_cancer(return_X_y=True); Xtr,Xte,ytr,yte=train_test_split(X,y,random_state=1)
for n,m in {"LogReg":make_pipeline(StandardScaler(),LogisticRegression(max_iter=500)),"KNN":make_pipeline(StandardScaler(),KNeighborsClassifier()),
 "RandomForest":RandomForestClassifier(random_state=0),"GradBoost":GradientBoostingClassifier()}.items():
    print(f"{n:13s} accuracy = {m.fit(Xtr,ytr).score(Xte,yte):.3f}")
❓

সেল্ফ-চেক · Self check

1. “লিফ-ওয়াইজ বৃদ্ধি, দ্রুত” — এটি কোন সাব-টপিকের বর্ণনা?

2. “ক্যাটাগরি সরাসরি” — এটি কোন সাব-টপিকের বর্ণনা?

🔗

সংযুক্ত কনসেপ্ট · Connected concepts

← আগের টপিকGradient Boosting XGBoostপরের টপিক →Confusion Matrix
🎬 Video