Dropout Batch Normalization
📘 প্রশিক্ষণ স্থিতিশীল ও সাধারণীকরণ।
🌐 Stabilise training and generalise better.
🧠
1
ধারণা · Concept
কী এবং কেন📘 বাংলা ব্যাখ্যা:
প্রশিক্ষণ স্থিতিশীল ও সাধারণীকরণ।
প্রশিক্ষণ স্থিতিশীল ও সাধারণীকরণ।
🌐 English:
Stabilise training and generalise better.
Stabilise training and generalise better.
🗂 কোথায় পড়ে
৪. ডিপ লার্নিং ও এআই → ডিপ লার্নিং → Dropout Batch Normalization
🎯 এই শাখার লক্ষ্য
Build, train and regularise neural networks
🧰 টুলস
PyTorch, TensorFlow/Keras
🪜
ধাপে ধাপে শিখুন · Step-by-step
কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল💡 কেন গুরুত্বপূর্ণ?
বড় নেটওয়ার্ক সহজে ওভারফিট করে ও অস্থিরভাবে শেখে—এগুলো সমাধান।
- ধাপ 1Dropout(0.2–0.5): প্রশিক্ষণে এলোমেলো নিউরন বন্ধ—একক নিউরনে নির্ভরতা কমে
- ধাপ 2Batch Normalization: প্রতিটি ব্যাচে ইনপুট স্বাভাবিক—দ্রুত ও স্থিতিশীল
- ধাপ 3Weight decay (L2) ও ডেটা অগমেন্টেশন
- ধাপ 4Early stopping: ভ্যালিডেশন লস বাড়তে শুরু করলে থামুন
🧪 বাস্তব উদাহরণ
ট্রেন ৯৯%/ভ্যাল ৭৫% → Dropout ও অগমেন্টেশন যোগে ৯২%/৮৮%।
⚠️ সাধারণ ভুল
টেস্টের সময়ও Dropout চালু রাখা।
🔑 মূল শব্দ (Key terms)
dropoutbatch normalizationweight decayaugmentationearly stopping
3
সাব-টপিক ও বিস্তারিত · Sub-topics
টপিক → সাব-টপিক → সাব-সাব টপিক7.1 Dropout7.1.1 এলোমেলো নিউরন বন্ধ
7.2 Batch Norm7.2.1 স্থিতিশীল প্রশিক্ষণ
7.3 Weight decay ও Early stopping
🎬
ভিডিও · Videos (বাংলা ও English)
ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত📺 আরও খুঁজুন
💻
হাতে-কলমে · Try it (Deep Learning)
এডিট করে Run চাপুন · Ctrl+Enterimport numpy as np
# 2-layer neural net from scratch learning XOR
rng=np.random.default_rng(0); X=np.array([[0,0],[0,1],[1,0],[1,1]]); y=np.array([[0],[1],[1],[0]])
W1,b1=rng.normal(size=(2,8)),np.zeros(8); W2,b2=rng.normal(size=(8,1)),np.zeros(1); sig=lambda z:1/(1+np.exp(-z))
for ep in range(5000):
h=np.tanh(X@W1+b1); o=sig(h@W2+b2); d2=o-y; d1=(d2@W2.T)*(1-h**2)
W2-=0.1*h.T@d2; b2-=0.1*d2.sum(0); W1-=0.1*X.T@d1; b1-=0.1*d1.sum(0)
if ep%1000==0: print("epoch",ep,"loss",round(float(((o-y)**2).mean()),4))
print("XOR predictions:",o.round(2).ravel())❓
সেল্ফ-চেক · Self check
1. “এলোমেলো নিউরন বন্ধ” — এটি কোন সাব-টপিকের বর্ণনা?
2. “স্থিতিশীল প্রশিক্ষণ” — এটি কোন সাব-টপিকের বর্ণনা?
🔗
সংযুক্ত কনসেপ্ট · Connected concepts
এই শাখার অন্যান্য অংশ
1. Neural Network Basics2. Activation Functions3. Backpropagation4. Gradient Descent Optimizers5. TensorFlow Keras6. PyTorch7. Dropout Batch Normalization8. Transfer Learning