Home › Lectures › Deep Learning & AI

💬 ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং · NLP

মানুষের ভাষা বোঝা ও তৈরি করা।

Understanding and generating human language.

📅 ৪. ডিপ লার্নিং ও এআই⏳ ~3 সপ্তাহ📘 8 টপিক🧩 24 সাব-টপিক🎬 0 ভিডিও💻 রানযোগ্য কোড

🎯 যা শিখবেন / Outcomes

Preprocess text, embeddings, transformers

🧰 টুলস / Tools

NLTK, spaCy, Hugging Face

🏁 প্রজেক্ট / Capstone

Bangla news sentiment classifier

📌 পূর্বশর্ত / Prerequisites

🧠 Deep Learning

📅

সাপ্তাহিক পরিকল্পনা · Weekly plan

~২ ঘণ্টা/দিন ধরে

Week 1

Text Preprocessing
Bag of Words TF-IDF
Word Embeddings Word2Vec

Week 2

Sentiment Analysis
RNN LSTM
Attention & Transformers

Week 3

BERT
Bangla NLP

1

Text Preprocessing

Tokenise, remove stopwords, stem.
Beginner
📘 বাংলা: টোকেনাইজেশন, স্টপওয়ার্ড, স্টেমিং।
🌐 English: Tokenise, remove stopwords, stem.

💡 কাঁচা টেক্সটকে মডেলযোগ্য একক শব্দ/টোকেনে রূপান্তর।

  1. 1
    পরিষ্কার: lowercase (ইংরেজিতে), URL/HTML/বিশেষ চিহ্ন বাদ
  2. 2
    টোকেনাইজেশন: বাক্য → শব্দ বা সাবওয়ার্ড (BPE, WordPiece)
  3. 3
    স্টপওয়ার্ড বাদ (প্রসঙ্গ অনুযায়ী; সেন্টিমেন্টে "না" রাখুন!)
  4. 4
    স্টেমিং (কেটে মূল) বনাম লেমাটাইজেশন (অভিধান রূপ)
টোকেনাইজেশনশব্দ/সাবওয়ার্ড
স্টপওয়ার্ড ও বিরামচিহ্ন বাদ
স্টেমিং বনাম লেমাটাইজেশন
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
2

Bag of Words TF-IDF

Turn text into numbers.
Beginner
📘 বাংলা: টেক্সটকে সংখ্যায় রূপান্তর।
🌐 English: Turn text into numbers.

💡 সহজ, দ্রুত ও ব্যাখ্যাযোগ্য টেক্সট ফিচার—শক্তিশালী বেসলাইন।

  1. 1
    Bag of Words: শব্দভান্ডার বানিয়ে প্রতিটি নথিতে শব্দ গণনা (CountVectorizer)
  2. 2
    TF = নথিতে শব্দের ঘনত্ব; IDF = log(মোট নথি / শব্দযুক্ত নথি)
  3. 3
    TF-IDF: বিরল কিন্তু নথিতে ঘন শব্দে বেশি ওজন
  4. 4
    n-gram (১–২) দিয়ে "ভালো না" ধরনের বাক্যাংশ; max_features দিয়ে আকার সীমিত
Bag of Wordsশব্দ গণনা
TF-IDFগুরুত্বভিত্তিক ওজন
n-gramশব্দজোড়া
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
3

Word Embeddings Word2Vec

Meaningful word vectors.
Beginner
📘 বাংলা: শব্দের অর্থপূর্ণ ভেক্টর।
🌐 English: Meaningful word vectors.

💡 শব্দের অর্থ ও সম্পর্ক সংখ্যায়—অনুরূপ শব্দ কাছাকাছি ভেক্টর।

  1. 1
    ধারণা: একই প্রসঙ্গে ব্যবহৃত শব্দের অর্থ কাছাকাছি
  2. 2
    Word2Vec: CBOW (প্রসঙ্গ → শব্দ), Skip-gram (শব্দ → প্রসঙ্গ)
  3. 3
    GloVe (সহ-উপস্থিতি), FastText (সাবওয়ার্ড—নতুন/বানান ভুল শব্দেও)
  4. 4
    gensim দিয়ে ট্রেন/লোড; most_similar দিয়ে পরীক্ষা
Word2VecCBOW, Skip-gram
GloVe ও FastText
king − man + woman ≈ queen
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
4

Sentiment Analysis

Is an opinion positive or negative?
Intermediate
📘 বাংলা: মতামত ইতিবাচক না নেতিবাচক।
🌐 English: Is an opinion positive or negative?

💡 গ্রাহক মতামত, সোশ্যাল মিডিয়া, জনমত বিশ্লেষণ।

  1. 1
    লেবেলযুক্ত ডেটা সংগ্রহ (পজিটিভ/নেগেটিভ/নিউট্রাল)
  2. 2
    বেসলাইন: TF-IDF + লজিস্টিক রিগ্রেশন
  3. 3
    উন্নতি: BanglaBERT/multilingual BERT fine-tune
  4. 4
    ত্রুটি বিশ্লেষণ: ব্যঙ্গ, মিশ্র ভাষা (বাংলিশ), নেতিবাচক শব্দ
লেবেলযুক্ত ডেটা
TF-IDF + Logistic Regression বেসলাইন
ট্রান্সফর্মার দিয়ে উন্নতি
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
5

RNN LSTM

Neural networks for sequences.
Intermediate
📘 বাংলা: ক্রমিক ডেটার নিউরাল নেটওয়ার্ক।
🌐 English: Neural networks for sequences.

💡 ক্রমিক ডেটার (টেক্সট, সময়) জন্য স্মৃতিযুক্ত নেটওয়ার্ক—ট্রান্সফর্মারের পূর্বসূরি।

  1. 1
    RNN: প্রতিটি ধাপে ইনপুট + আগের hidden state
  2. 2
    দীর্ঘ সিকোয়েন্সে ভ্যানিশিং গ্রেডিয়েন্ট—পুরোনো তথ্য হারায়
  3. 3
    LSTM: input, forget, output গেট দিয়ে কী মনে রাখবে ঠিক করে; GRU সরল সংস্করণ
  4. 4
    Bidirectional: দুই দিক থেকে পড়ে; এখন বেশিরভাগ কাজে ট্রান্সফর্মার এগিয়ে
RNNক্রমিক স্মৃতি
ভ্যানিশিং গ্রেডিয়েন্ট সমস্যা
LSTM/GRUগেট দিয়ে সমাধান
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
6

Attention & Transformers

The foundation of modern NLP and LLMs.
Intermediate
📘 বাংলা: আধুনিক NLP-র ভিত্তি।
🌐 English: The foundation of modern NLP and LLMs.

💡 ChatGPT, Claude, BERT—আধুনিক সব ভাষা মডেলের আর্কিটেকচার।

  1. 1
    প্রতিটি টোকেন থেকে Query, Key, Value ভেক্টর
  2. 2
    attention = softmax(QKᵀ/√d)·V — প্রতিটি শব্দ অন্য সব শব্দের দিকে কতটা "তাকাবে"
  3. 3
    Multi-head: একাধিক সম্পর্ক একসাথে; positional encoding দিয়ে শব্দক্রম
  4. 4
    Encoder (BERT—বোঝা), Decoder (GPT—লেখা), Encoder-Decoder (T5—অনুবাদ)
Self-attentionQuery, Key, Value
Multi-head attention
Positional encoding ও Encoder-Decoder
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
7

BERT

Pre-trained language model.
Advanced
📘 বাংলা: প্রি-ট্রেইনড ভাষা মডেল।
🌐 English: Pre-trained language model.

💡 বোঝার কাজে (ক্লাসিফিকেশন, NER, প্রশ্নোত্তর) শক্তিশালী প্রি-ট্রেইনড মডেল।

  1. 1
    প্রি-ট্রেনিং: masked language modeling (১৫% শব্দ লুকিয়ে অনুমান)
  2. 2
    tokenizer দিয়ে টেক্সট → input_ids, attention_mask
  3. 3
    AutoModelForSequenceClassification লোড করে নিজের ডেটায় fine-tune (Trainer API)
  4. 4
    ভেরিয়েন্ট: DistilBERT (ছোট), RoBERTa, BanglaBERT (বাংলা)
Masked language modeling
প্রি-ট্রেন ও ফাইন-টিউন
BanglaBERTবাংলার জন্য
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
8

Bangla NLP

Challenges and tools for Bangla text.
Advanced
📘 বাংলা: বাংলা টেক্সট প্রসেসিংয়ের চ্যালেঞ্জ ও টুল।
🌐 English: Challenges and tools for Bangla text.

💡 ২৩ কোটি মানুষের ভাষা—কিন্তু ডেটা ও টুল তুলনামূলক কম; সুযোগ বিশাল।

  1. 1
    চ্যালেঞ্জ: যুক্তাক্ষর, ইউনিকোড নর্মালাইজেশন, বাংলিশ, উপভাষা
  2. 2
    টুল: BNLP (টোকেনাইজার, POS, NER), bnlp_toolkit, normalizer (csebuetnlp)
  3. 3
    মডেল: BanglaBERT, BanglaT5, multilingual (XLM-R, mBERT)
  4. 4
    ডেটাসেট: বাংলা সংবাদ, সেন্টিমেন্ট, BanglaNLG; নিজে সংগ্রহ ও লেবেলিং
চ্যালেঞ্জযুক্তাক্ষর, কম ডেটা
টুলBNLP, BanglaBERT
ডেটাসেটবাংলা নিউজ, সেন্টিমেন্ট
📖 বিস্তারিত নোট, ভিডিও ও কুইজ →
💻

হাতে-কলমে কোড · Hands-on code

Run চাপুন — পাইথন আপনার ব্রাউজারেই চলবে (Ctrl+Enter)
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
texts=["খুব ভালো পণ্য","অসাধারণ সার্ভিস","একদম বাজে","খারাপ অভিজ্ঞতা","ভালো লেগেছে","বাজে সার্ভিস"]; y=[1,1,0,0,1,0]
v=TfidfVectorizer(analyzer="char_wb",ngram_range=(2,4)); X=v.fit_transform(texts)
m=LogisticRegression().fit(X,y)
for s in ["সার্ভিস ভালো","বাজে পণ্য"]: print(s,"->","positive" if m.predict(v.transform([s]))[0] else "negative")
📝

অনুশীলন · Practice tasks

  1. বাংলা টেক্সট টোকেনাইজ ও স্টপওয়ার্ড বাদ দিন
  2. TF-IDF + LogReg দিয়ে সেন্টিমেন্ট মডেল
  3. Hugging Face-এ BanglaBERT দিয়ে ফাইন-টিউন (Colab)
  4. ক্যাপস্টোন: Bangla news sentiment classifier
❓

কুইজ · Quick quiz

1. ট্রান্সফর্মারের মূল উপাদান?

2. TF-IDF-এ IDF কী কমায়?

🎬

ভিডিও লাইব্রেরি · Videos

সাইটের ভেতরে ফ্লোটিং প্লেয়ারে চলবে
এই শাখার ভিডিও এখনো সংরক্ষিত হয়নি। যেকোনো টপিক পেজ খুললে ভিডিও স্বয়ংক্রিয়ভাবে খুঁজে MySQL-এ সংরক্ষিত হবে (API key থাকলে)।

📺 Reference channels

🇧🇩 Bangla NLP ↗
🌐 Hugging Face ↗StatQuest ↗
🔗

সংযুক্ত বিষয় · Connected

➡ ✨ Generative AI & LLMs 🕸️ নেটওয়ার্কে দেখুন💻 ল্যাবে খুলুন
← আগের শাখা👁️ Computer Visionপরের শাখা →✨ Generative AI & LLMs
🎬 Video