Home › Roadmap › Supervised Learning › Part 5

KNN

📘 নিকটতম প্রতিবেশীর ভিত্তিতে সিদ্ধান্ত।

🌐 Classify by nearest neighbours.

🎯 সুপারভাইজড লার্নিং🎚 Intermediate📍 Part 5 / 11🧩 3 সাব-টপিক
🎯
1

ধারণা · Concept

কী এবং কেন
📘 বাংলা ব্যাখ্যা:
নিকটতম প্রতিবেশীর ভিত্তিতে সিদ্ধান্ত।
🌐 English:
Classify by nearest neighbours.

🗂 কোথায় পড়ে

৩. মেশিন লার্নিং → সুপারভাইজড লার্নিং → KNN

🎯 এই শাখার লক্ষ্য

Train, compare and choose regression/classification models

🧰 টুলস

scikit-learn, XGBoost

🪜

ধাপে ধাপে শিখুন · Step-by-step

কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল
💡 কেন গুরুত্বপূর্ণ?

প্রশিক্ষণ ছাড়াই কাজ করা সহজ মডেল—"তোমার প্রতিবেশীরা যা, তুমিও তা"।

  1. ধাপ 1
    নতুন বিন্দু থেকে সব ট্রেনিং বিন্দুর দূরত্ব হিসাব
  2. ধাপ 2
    সবচেয়ে কাছের k টি বাছুন
  3. ধাপ 3
    ক্লাসিফিকেশনে সংখ্যাগরিষ্ঠ ভোট, রিগ্রেশনে গড়
  4. ধাপ 4
    k ক্রস-ভ্যালিডেশনে বাছুন (বিজোড়); স্কেলিং অপরিহার্য; weights="distance" দিয়ে কাছেরদের বেশি গুরুত্ব

🧪 বাস্তব উদাহরণ

অজানা এলাকার মাটির ধরন = কাছের ৫টি নমুনা বিন্দুর সংখ্যাগরিষ্ঠ ধরন।

⚠️ সাধারণ ভুল

বড় ডেটায় KNN—পূর্বাভাস ধীর (প্রতিবার সব দূরত্ব)।

🔑 মূল শব্দ (Key terms)

KNNdistancekmajority votelazy learning

3

সাব-টপিক ও বিস্তারিত · Sub-topics

টপিক → সাব-টপিক → সাব-সাব টপিক
5.1 দূরত্ব5.1.1 ইউক্লিডিয়ান5.1.2 ম্যানহাটন
5.2 k নির্বাচন5.2.1 ছোট k = নয়েজি
5.3 স্কেলিং অপরিহার্য
🎬

ভিডিও · Videos (বাংলা ও English)

ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত

📺 আরও খুঁজুন

💻

হাতে-কলমে · Try it (Supervised Learning)

এডিট করে Run চাপুন · Ctrl+Enter
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier, GradientBoostingClassifier
from sklearn.neighbors import KNeighborsClassifier
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
X,y=load_breast_cancer(return_X_y=True); Xtr,Xte,ytr,yte=train_test_split(X,y,random_state=1)
for n,m in {"LogReg":make_pipeline(StandardScaler(),LogisticRegression(max_iter=500)),"KNN":make_pipeline(StandardScaler(),KNeighborsClassifier()),
 "RandomForest":RandomForestClassifier(random_state=0),"GradBoost":GradientBoostingClassifier()}.items():
    print(f"{n:13s} accuracy = {m.fit(Xtr,ytr).score(Xte,yte):.3f}")
❓

সেল্ফ-চেক · Self check

1. “ইউক্লিডিয়ান, ম্যানহাটন” — এটি কোন সাব-টপিকের বর্ণনা?

2. “ছোট k = নয়েজি” — এটি কোন সাব-টপিকের বর্ণনা?

🔗

সংযুক্ত কনসেপ্ট · Connected concepts

← আগের টপিকLogistic Regressionপরের টপিক →Naive Bayes
🎬 Video