How LLMs Work
📘 বড় ভাষা মডেলের কাজের ধারা।
🌐 Next-token prediction at massive scale.
✨
1
ধারণা · Concept
কী এবং কেন📘 বাংলা ব্যাখ্যা:
বড় ভাষা মডেলের কাজের ধারা।
বড় ভাষা মডেলের কাজের ধারা।
🌐 English:
Next-token prediction at massive scale.
Next-token prediction at massive scale.
🗂 কোথায় পড়ে
৪. ডিপ লার্নিং ও এআই → জেনারেটিভ এআই ও LLM → How LLMs Work
🎯 এই শাখার লক্ষ্য
Prompting, APIs, RAG, fine-tuning
🧰 টুলস
OpenAI/Claude API, LangChain, Chroma
🪜
ধাপে ধাপে শিখুন · Step-by-step
কেন শিখবেন → কীভাবে শিখবেন → উদাহরণ → সাধারণ ভুল💡 কেন গুরুত্বপূর্ণ?
LLM কীভাবে কাজ করে জানলে তার সীমা (হ্যালুসিনেশন) ও শক্তি বোঝা যায়।
- ধাপ 1টেক্সট → টোকেন (শব্দাংশ); মডেল পরের টোকেনের সম্ভাবনা অনুমান করে
- ধাপ 2প্রি-ট্রেনিং: বিশাল টেক্সটে নেক্সট-টোকেন প্রেডিকশন
- ধাপ 3ইনস্ট্রাকশন টিউনিং (SFT) ও RLHF: নির্দেশ মানা ও সহায়ক হওয়া শেখানো
- ধাপ 4জেনারেশন: temperature (সৃজনশীলতা), top-p, context window (কত টোকেন মনে রাখে)
🧪 বাস্তব উদাহরণ
temperature 0 → একই প্রশ্নে একই উত্তর; 1 → বৈচিত্র্যময় উত্তর।
⚠️ সাধারণ ভুল
LLM-এর উত্তরকে যাচাই ছাড়া তথ্য হিসেবে গ্রহণ।
🔑 মূল শব্দ (Key terms)
LLMtokennext-token predictionSFTRLHFtemperaturecontext window
3
সাব-টপিক ও বিস্তারিত · Sub-topics
টপিক → সাব-টপিক → সাব-সাব টপিক1.1 টোকেন ও নেক্সট-টোকেন প্রেডিকশন
1.2 প্রি-ট্রেনিং, SFT, RLHF
1.3 কনটেক্সট উইন্ডো ও temperature
🎬
ভিডিও · Videos (বাংলা ও English)
ক্লিক করলে সাইটের ভেতরেই ফ্লোটিং প্লেয়ারে চলবে · ভিডিও MySQL-এ সংরক্ষিত📺 আরও খুঁজুন
💻
হাতে-কলমে · Try it (Generative AI & LLMs)
এডিট করে Run চাপুন · Ctrl+Enterimport numpy as np
# Mini RAG retrieval: bag-of-words embeddings + cosine similarity
docs=["Dengue spreads through Aedes mosquitoes","NDVI measures vegetation health","Transformers use self-attention"]
vocab=sorted({w.lower() for d in docs for w in d.split()})
emb=lambda s:np.array([s.lower().split().count(w) for w in vocab],float)
D=np.array([emb(d) for d in docs]); q=emb("what does NDVI measure")
sim=D@q/(np.linalg.norm(D,axis=1)*np.linalg.norm(q)+1e-9)
print("Retrieved context:",docs[sim.argmax()]); print("Prompt -> 'Answer using: "+docs[sim.argmax()]+"'")❓
সেল্ফ-চেক · Self check
1. RAG-এর R মানে?
2. LoRA কী?
🔗
সংযুক্ত কনসেপ্ট · Connected concepts
এই শাখার অন্যান্য অংশ
1. How LLMs Work2. Prompt Engineering3. OpenAI Claude API4. Hugging Face5. RAG Retrieval Augmented Generation6. Vector Databases7. LangChain8. Fine-tuning LLM LoRA9. AI Agents
অন্য শাখার সম্পর্কিত টপিক
💻 How Computers Work🧠 Neural Network Basics👁️ Convolutional Neural Network🌏 Graph Neural Networks for Spatial Data🌏 GeoAI with LLMs