What are LLMs?পড়তে ৯ মিনিট লাগবে

টেম্পারেচার ও প্যারামিটার

এআই (AI)-কে লাইব্রেরি কার্ড দিন — এআই-এর সৃজনশীলতার ডায়াল — কখন শান্ত আর ভরসাযোগ্য, কখন উচ্ছল আর সৃষ্টিশীল, সেটা আপনিই ঠিক করবেন

scope:প্রাথমিক ধারণাdifficulty:শিক্ষানবিস

টেম্পারেচার (Temperature): এআই (AI)-এর সৃজনশীলতার ডায়াল

আপনি কি কখনো ভেবেছেন কেন একই প্রশ্ন করলেও এআই (AI) প্রতিবার একটু আলাদা উত্তর দেয়? এর পেছনে আছে টেম্পারেচার (Temperature) নামের একটি গুরুত্বপূর্ণ সেটিং। এটি হলো এআই (AI)-এর "সৃজনশীলতার ডায়াল" — যা ঘোরালে এআই (AI) কতটা ঝুঁকি নিয়ে নতুন কিছু বলবে তা নির্ধারণ হয়।

কল্পনা করুন একটি রেস্তোরাঁর শেফের কথা। টেম্পারেচার (Temperature) ০ মানে শেফ প্রতিবার হুবহু একই রেসিপি ফলো করবে — একই স্বাদ, একই উপস্থাপন। টেম্পারেচার (Temperature) ১ মানে শেফ মাঝে মাঝে নতুন মসলা যোগ করবে, নতুন পদ্ধতি চেষ্টা করবে — কখনো দারুণ হবে, কখনো হয়তো তেমন ভালো লাগবে না।

টেম্পারেচার (Temperature) কীভাবে কাজ করে?

এলএলএম (LLM) যখন পরবর্তী শব্দ বাছাই করে, তখন সে প্রতিটি সম্ভাব্য শব্দের জন্য একটি সম্ভাব্যতা স্কোর (Probability Score) তৈরি করে। টেম্পারেচার (Temperature) এই স্কোরগুলোকে পরিবর্তন করে:

টেম্পারেচার (Temperature) = ০: মডেল সবসময় সর্বোচ্চ সম্ভাব্যতার শব্দটিই বেছে নেয়। ফলে একই প্রশ্নে একই উত্তর আসে।
টেম্পারেচার (Temperature) = ০.৭: সম্ভাব্যতাগুলো কিছুটা সমান হয়ে যায়, ফলে মডেল মাঝে মাঝে দ্বিতীয় বা তৃতীয় পছন্দের শব্দও বেছে নিতে পারে।
টেম্পারেচার (Temperature) = ১.৫+: সম্ভাব্যতা প্রায় সমান হয়ে যায়, ফলে মডেল এলোমেলো শব্দ বেছে নেয় — এতে লেখা অসংলগ্ন হতে পারে।

Note: সহজ নিয়ম: তথ্যভিত্তিক কাজে (কোড, ডেটা, অনুবাদ) টেম্পারেচার কম রাখুন (০-০.৩)। সৃজনশীল কাজে (গল্প, কবিতা, আইডিয়া) টেম্পারেচার বাড়ান (০.৭-১.০)। কখনোই ১.৫-এর ওপরে যাওয়ার দরকার নেই।

অন্যান্য গুরুত্বপূর্ণ প্যারামিটার (Parameters)

টেম্পারেচার (Temperature) ছাড়াও আরও কিছু প্যারামিটার (Parameters) আছে যা এআই (AI)-এর আচরণ নিয়ন্ত্রণ করে:

টপ-পি (Top-P - Nucleus Sampling): এটি মডেলকে বলে শুধু শীর্ষ কত শতাংশ সম্ভাব্য শব্দ থেকে বাছাই করবে। top_p = ০.৯ মানে শীর্ষ ৯০% সম্ভাব্যতার শব্দগুলো থেকে বাছাই। top_p = ০.১ মানে শুধু সবচেয়ে নিশ্চিত শব্দগুলো থেকে।
ম্যাক্স টোকেনস (Max Tokens): উত্তরের সর্বোচ্চ দৈর্ঘ্য। ১০০ সেট করলে মডেল ১০০ টোকেনসের (Tokens) পর থেমে যাবে, এমনকি কথা অসম্পূর্ণ থাকলেও।
স্টপ সিকোয়েন্স (Stop Sequences): নির্দিষ্ট টেক্সট দেখলে মডেল উত্তর দেওয়া বন্ধ করবে। যেমন "###" দেখলে থামো।
ফ্রিকোয়েন্সি পেনাল্টি (Frequency Penalty): একই শব্দ বারবার ব্যবহার করলে জরিমানা। এটি বাড়ালে মডেল বৈচিত্র্যময় শব্দ ব্যবহার করবে।
প্রেজেন্স পেনাল্টি (Presence Penalty): নতুন বিষয় আনতে উৎসাহিত করে। এটি বাড়ালে মডেল একই কথা ঘুরিয়ে না বলে নতুন পয়েন্ট জানবে।

Temperature বনাম Top-P: কোনটি কখন?

অনেকে দুটো একসাথে ব্যবহার করেন, তবে বেশিরভাগ ক্ষেত্রে একটি পরিবর্তন করাই যথেষ্ট। ওপেনএআই (OpenAI)-এর পরামর্শ হলো — টেম্পারেচার (Temperature) পরিবর্তন করলে টপ-পি (Top-P) ১.০ রাখুন, আবার টপ-পি (Top-P) পরিবর্তন করলে টেম্পারেচার (Temperature) ১.০ রাখুন। দুটো একসাথে পরিবর্তন করলে ফলাফল অনুমানযোগ্য থাকে না।

Python-এ টেম্পারেচার ও প্যারামিটার ব্যবহার

from openai import ওপেনএআই (OpenAI)
client = ওপেনএআই (OpenAI)()

# নিম্ন টেম্পারেচার — তথ্যভিত্তিক উত্তর
factual = client.chat.completions.create(
    model="gpt-4",
    temperature=0.0,       # সবসময় একই উত্তর
    max_tokens=200,        # সংক্ষিপ্ত উত্তর
    messages=[{"role": "user", "content": "পানির রাসায়নিক সংকেত কী?"}]
)

# উচ্চ টেম্পারেচার — সৃজনশীল উত্তর
creative = client.chat.completions.create(
    model="gpt-4",
    temperature=0.9,       # সৃজনশীল ও বৈচিত্র্যময়
    top_p=1.0,             # টেম্পারেচার পরিবর্তন করলে top_p ১.০ রাখুন
    frequency_penalty=0.5, # একই শব্দ বারবার এড়ানো
    max_tokens=500,
    messages=[{"role": "user", "content": "বৃষ্টি নিয়ে একটি কবিতা লেখো"}]
)

Output

# নিম্ন টেম্পারেচার (০.০) এর ফলাফল:
# "পানির রাসায়নিক সংকেত হলো H₂O।"
# (প্রতিবার হুবহু একই উত্তর)

# উচ্চ টেম্পারেচার (০.৯) এর ফলাফল:
# "বর্ষার মেঘ নামে ধীরে, টিনের চালে গান বাজে..."
# (প্রতিবার ভিন্ন কবিতা আসবে)

Challenge

ছোট কুইজ

টেম্পারেচার ০.০ সেট করলে মডেল কী করবে?

পড়া চালিয়ে যান

টোকেন ও কনটেক্সট উইন্ডো

শব্দগুলোকে ছোট ছোট টুকরোয় ভাগ করা হয়, আর এআই একসাথে কেবল নির্দিষ্ট কিছু টুকরোই মনে রাখতে পারে

→

প্রম্পট কৌশলগুলো (Prompt Techniques)

অসাধারণ এআই উত্তর পাওয়ার জন্য পেশাদারদের ব্যবহৃত গোপন কৌশল

→

এলএলএম কীভাবে কাজ করে?

বিড়ালটি ___ এর ওপর বসে আছে। শত শত কোটি উদাহরণ আর গণিতের ম্যাজিকে মেশিন কীভাবে সঠিক শব্দটি খুঁজে পায়?

→

এআই দিয়ে প্রজেক্ট তৈরি

মাত্র কয়েক মিনিটে আইডিয়া থেকে অ্যাপ

→