Home › Roadmap › NLP › Part 7

BERT

📘 প্রি-ট্রেইনড ভাষা মডেল।

🌐 Pre-trained language model.

💬 ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং🎚 Advanced📍 Part 7 / 8🧩 3 সাব-টপিক
💬
1

ধারণা · Concept

কী এবং কেন
📘 বাংলা ব্যাখ্যা:
প্রি-ট্রেইনড ভাষা মডেল।
🌐 English:
Pre-trained language model.

🗂 কোথায় পড়ে

৪. ডিপ লার্নিং ও এআই → ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং → BERT

🎯 এই শাখার লক্ষ্য

Preprocess text, embeddings, transformers

🧰 টুলস

NLTK, spaCy, Hugging Face

🪜

ধাপে ধাপে শিখুন · Step-by-step

কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল
💡 কেন গুরুত্বপূর্ণ?

বোঝার কাজে (ক্লাসিফিকেশন, NER, প্রশ্নোত্তর) শক্তিশালী প্রি-ট্রেইনড মডেল।

  1. ধাপ 1
    প্রি-ট্রেনিং: masked language modeling (১৫% শব্দ লুকিয়ে অনুমান)
  2. ধাপ 2
    tokenizer দিয়ে টেক্সট → input_ids, attention_mask
  3. ধাপ 3
    AutoModelForSequenceClassification লোড করে নিজের ডেটায় fine-tune (Trainer API)
  4. ধাপ 4
    ভেরিয়েন্ট: DistilBERT (ছোট), RoBERTa, BanglaBERT (বাংলা)

🧪 বাস্তব উদাহরণ

csebuetnlp/banglabert দিয়ে বাংলা খবরের বিভাগ শ্রেণিবিন্যাস।

⚠️ সাধারণ ভুল

max_length ছাড়িয়ে যাওয়া দীর্ঘ টেক্সট—কেটে যায়; truncation/chunking ঠিক করুন।

🔑 মূল শব্দ (Key terms)

BERTmasked language modelfine-tuningtokenizerBanglaBERT

3

সাব-টপিক ও বিস্তারিত · Sub-topics

টপিক → সাব-টপিক → সাব-সাব টপিক
7.1 Masked language modeling
7.2 প্রি-ট্রেন ও ফাইন-টিউন
7.3 BanglaBERT7.3.1 বাংলার জন্য
🎬

ভিডিও · Videos (বাংলা ও English)

ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত

📺 আরও খুঁজুন

💻

হাতে-কলমে · Try it (NLP)

এডিট করে Run চাপুন · Ctrl+Enter
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
texts=["খুব ভালো পণ্য","অসাধারণ সার্ভিস","একদম বাজে","খারাপ অভিজ্ঞতা","ভালো লেগেছে","বাজে সার্ভিস"]; y=[1,1,0,0,1,0]
v=TfidfVectorizer(analyzer="char_wb",ngram_range=(2,4)); X=v.fit_transform(texts)
m=LogisticRegression().fit(X,y)
for s in ["সার্ভিস ভালো","বাজে পণ্য"]: print(s,"->","positive" if m.predict(v.transform([s]))[0] else "negative")
❓

সেল্ফ-চেক · Self check

1. “বাংলার জন্য” — এটি কোন সাব-টপিকের বর্ণনা?

🔗

সংযুক্ত কনসেপ্ট · Connected concepts

← আগের টপিকAttention & Transformersপরের টপিক →Bangla NLP
🎬 Video