হ্যালো!

আপনি যেহেতু এখানে এসেছেন, তাই সম্ভবত আপনি ওপেন সোর্স এআই মডেলগুলিকে ফাইন-টিউন করে সেগুলোকে আপনার নিজের ব্যবহারের জন্য (যেমন চ্যাটবট, কোডিং অ্যাসিস্ট্যান্ট, ডোমেইন বিশেষজ্ঞ ইত্যাদি) কাজে লাগাতে চান। নিচে লারাভেল এবং সাধারণ ওয়েব ডেভেলপমেন্টের প্রেক্ষাপটে সরাসরি ব্যবহারযোগ্য একটি সহজবোধ্য, শিক্ষানবিস-বান্ধব ওভারভিউ দেওয়া হলো।

1. "ওপেন সোর্স এআই মডেল ফাইন-টিউন করা" মানে কী?

ফাইন-টিউনিং মানে হলো একটি বিদ্যমান প্রি-ট্রেইনড মডেলকে (যেমন LLaMA‑2, Mistral, অথবা Hugging Face-এর কোনো মডেল) আপনার নিজস্ব ডেটা দিয়ে সামান্য পরিমাণে অতিরিক্ত প্রশিক্ষণ দিয়ে নিম্নলিখিত বিষয়গুলি নিশ্চিত করা:

  • আপনার ডোমেইন (আইন, ফিনান্স, স্বাস্থ্য, গেমিং ইত্যাদি)-এর সাথে মানিয়ে নেওয়া
  • আপনার সুর এবং স্টাইল শেখানো
  • নির্দিষ্ট টাস্ক (QA, কোডিং, শ্রেণীবিভাগ, সহায়তা ইত্যাদি) উন্নত করা

গোড়া থেকে প্রশিক্ষণ দেওয়ার (যা ব্যয়বহুল এবং সময়সাপেক্ষ) পরিবর্তে, একটি শক্তিশালী বেস মডেল পুনরায় ব্যবহার করে সেটাকে বিশেষত্ব দেওয়া হয়।

2. ফাইন-টিউনিংয়ের প্রধান বিকল্প

এখানে আপনি সাধারণত তিনটি প্রধান অ্যাপ্রোচ দেখতে পাবেন:

2.1 ফুল ফাইন-টিউনিং

  • মডেলের সমস্ত ওজন আপডেট করা হয়।
  • সুবিধা: সর্বাধিক নমনীয়তা এবং পারফরম্যান্স।
  • অসুবিধা: প্রচুর GPU, সময় এবং স্টোরেজের প্রয়োজন।

গবেষণা সংস্থা বা বৃহৎ কর্পোরেশন না হলে এটি সাধারণত অতিরিক্ত।

2.2 LoRA / PEFT (প্যারামিটার ইফিসিয়েন্ট ফাইন-টিউনিং)

  • বেস মডেলকে ফ্রিজ করে রাখা হয় এবং শুধুমাত্র ছোট অ্যাডাপ্টার লেয়ার (LoRA ম্যাট্রিক্স) প্রশিক্ষণ দেওয়া হয়।
  • নিম্নলিখিত লাইব্রেরিগুলি ব্যবহার করা হয়:

সুবিধা:

  • VRAM-এর প্রয়োজনীয়তা অনেক কম
  • দ্রুততর
  • সম্পূর্ণ মডেলের পরিবর্তে শুধু অ্যাডাপ্টার শেয়ার করা যায়

অসুবিধা:

  • ফুল ফাইন-টিউনিংয়ের চেয়ে সামান্য কম表現ক্ষম, তবে সাধারণত যথেষ্ট।

2.3 QLoRA (Quantized LoRA)

  • কোয়ান্টাইজেশন (যেমন: 4-বিট) এবং LoRA-এর সমন্বয় করা হয়।
    • কম নির্ভুলতায় (int4 অথবা int8) বেস মডেল লোড করা হয়।
    • এর উপরে LoRA অ্যাডাপ্টার প্রশিক্ষণ দেওয়া হয়।

সুবিধা:

  • সিঙ্গেল GPU (এমনকি 24 GB-এর মতো কনজিউমার GPU-তেও) দিয়ে বড় মডেল ফাইন-টিউন করা যায়।
  • LLaMA স্টাইলের মডেলের জন্য খুবই জনপ্রিয়।

বেশিরভাগ স্বতন্ত্র ডেভেলপারদের জন্য প্রস্তাবিত।

3. ওপেন সোর্স বেস মডেল নির্বাচন

মডেল কোথায় পাবেন:

সাধারণ পছন্দ:

  • চ্যাট/অ্যাসিস্ট্যান্ট:
    • mistralai/Mistral-7B-Instruct-v0.2
    • meta-llama/Llama-3-8b-instruct (যদি লাইসেন্স এবং অ্যাক্সেস আপনার ব্যবহারের ক্ষেত্রে উপযুক্ত হয়)
  • কোড:
    • codellama/CodeLlama-7b-Instruct-hf
    • deepseek-ai/deepseek-coder-6.7b-instruct

যেগুলো নিশ্চিত করতে হবে:

  • লাইসেন্স (বাণিজ্যিক নাকি অ-বাণিজ্যিক)
  • মডেল সাইজ (7B একটি ভাল সূচনা)
  • Instruction‑tuned নাকি base: চ্যাটবটের জন্য, instruct/chat মডেল নির্বাচন করুন।

4. ফাইন-টিউনিংয়ের জন্য ডেটা প্রস্তুতি

ডেটার ফরম্যাট লোকেদের ভাবার চেয়েও বেশি গুরুত্বপূর্ণ।

4.1 কী ধরনের ডেটা ব্যবহার করা উচিত?

উদাহরণ:

  • কাস্টমার সাপোর্ট চ্যাট লগ
  • FAQ ডকুমেন্ট
  • নলেজ বেস আর্টিকেল
  • কোড রিপোজিটরি + বর্ণনা
  • ডোমেইন-নির্দিষ্ট গবেষণাপত্র

ডেটা পরিষ্কার করুন।

  • PII / গোপনীয় তথ্য (API কী, ইমেল, পাসওয়ার্ড) সরান।
  • অনুরূপ টেক্সট ডিডুপ্লিকেট করুন।
  • স্পষ্ট ফরম্যাটিং সমস্যাগুলি ঠিক করুন।

4.2 সাধারণ নির্দেশনার বিন্যাস

চ্যাট মডেলের জন্য, Hugging Face-এর সাধারণ বিন্যাস হল:

{
  "instruction": "ফাইন-টিউনিং কী তা সংক্ষেপে ব্যাখ্যা করুন।",
  "input": "",
  "output": "ফাইন-টিউনিং হলো একটি বিদ্যমান প্রশিক্ষিত মডেল নেওয়া এবং আপনার নিজস্ব ডেটা দিয়ে আরও প্রশিক্ষণ দেওয়া..."
}

অথবা, আরও চ্যাট-এর মতো বিন্যাস:

{
  "messages": [
    {"role": "system", "content": "আপনি অ্যাকাউন্টিং সংক্রান্ত প্রশ্নের জন্য সহায়ক একজন সহকারী।"},
    {"role": "user", "content": "আমি কীভাবে বিল পরিশোধের হিসাব রাখব?"},
    {"role": "assistant", "content": "বিল পরিশোধের হিসাব রাখার জন্য, আপনাকে... করতে হবে।"}
  ]
}

এগুলোকে .jsonl (প্রতি লাইনে একটি JSON অবজেক্ট), .json, অথবা Hugging Face-এর ডেটাসেট হিসাবে সংরক্ষণ করুন।

5. সংক্ষিপ্ত উদাহরণ: Hugging Face + LoRA ব্যবহার করে ফাইন-টিউনিং

সাধারণভাবে, আপনার যা প্রয়োজন হবে:

  • পাইথন 3.10+
  • GPU (আদর্শভাবে 7B-এর জন্য >= 16 GB VRAM, 24 GB আরও সুবিধাজনক)
  • লাইব্রেরি:
    • transformers
    • datasets
    • peft
    • bitsandbytes
    • accelerate

5.1 নির্ভরতা ইনস্টল করা

pip install "transformers>=4.39.0" "datasets" "accelerate" "peft" "bitsandbytes"

5.2 একটি সহজ QLoRA স্ক্রিপ্ট (ধারণা)

from datasets import load_dataset
from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer
from peft import LoraConfig, get_peft_model
import torch

model_name = "mistralai/Mistral-7B-Instruct-v0.2"
dataset_path = "path_or_hf_dataset"  # উদাহরণ: "my-username/my-dataset"

tokenizer = AutoTokenizer.from_pretrained(model_name)
tokenizer.pad_token = tokenizer.eos_token

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    load_in_4bit=True,
    device_map="auto"
)

dataset = load_dataset(dataset_path, split="train")

def format_example(example):
    user = example["instruction"]
    answer = example["output"]
    prompt = f"User: {user}
Assistant:"
    return {"input_ids": tokenizer(prompt, truncation=True, padding="max_length", max_length=512)["input_ids"],
            "labels":    tokenizer(answer, truncation=True, padding="max_length", max_length=512)["input_ids"]}

tokenized = dataset.map(format_example, remove_columns=dataset.column_names)

lora_config = LoraConfig(
    r=16,
    lora_alpha=32,
    target_modules=["q_proj", "v_proj"],
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM"
)

model = get_peft_model(model, lora_config)

training_args = TrainingArguments(
    output_dir="./mistral-finetuned",
    per_device_train_batch_size=2,
    gradient_accumulation_steps=8,
    learning_rate=2e-4,
    num_train_epochs=3,
    fp16=True,
    logging_steps=10,
    save_steps=500,
    save_total_limit=2,
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=tokenized
)

trainer.train()
model.save_pretrained("./mistral-finetuned-lora")
tokenizer.save_pretrained("./mistral-finetuned-lora")

এটি একটি সরলীকৃত রেফারেন্স। প্রোডাকশনে ব্যবহারের জন্য, অনুগ্রহ করে দেখুন:

6. আপনার লারাভেল অ্যাপ্লিকেশনের সাথে ফাইন-টিউনড মডেল ইন্টিগ্রেট করুন

ফাইন-টিউনড মডেল পাওয়ার পরে, আপনাকে এটি পরিবেশন করতে হবে এবং লারাভেল থেকে কল করতে হবে।

6.1 মডেল পরিবেশন করার বিভিন্ন উপায়

  1. FastAPI / Flask মাইক্রোসার্ভিস (পাইথন)
    • transformers বা vLLM দিয়ে অনুমান চালান।
    • /generate এন্ডপয়েন্ট প্রকাশ করুন।
  2. Text Generation Inference (TGI)
    • Hugging Face TGI LLM পরিষেবাগুলির জন্য অপ্টিমাইজ করা হয়েছে।
  3. Ollama (কিছু মডেলের জন্য)
    • Ollama macOS/Linux-এ চলে এবং একটি সাধারণ HTTP API সরবরাহ করে।

6.2 বেসিক অনুমান এন্ডপয়েন্ট (পাইথন + FastAPI উদাহরণ)

from fastapi import FastAPI
from pydantic import BaseModel
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

app = FastAPI()

model_name = "./mistral-finetuned-lora"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.float16,
    device_map="auto"
)

class GenerateRequest(BaseModel):
    prompt: str
    max_new_tokens: int = 256
    temperature: float = 0.7

@app.post("/generate")
def generate(req: GenerateRequest):
    inputs = tokenizer(req.prompt, return_tensors="pt").to(model.device)
    output = model.generate(
        **inputs,
        max_new_tokens=req.max_new_tokens,
        temperature=req.temperature,
        do_sample=True,
        pad_token_id=tokenizer.eos_token_id
    )
    text = tokenizer.decode(output[0], skip_special_tokens=True)
    return {"result": text}

GPU যুক্ত একটি মেশিনে এটি চালান।

6.3 লারাভেল থেকে মডেল কল করা

লারভেলে, পাইথন সার্ভিসের সাথে যোগাযোগ করতে Http::post() (Illuminate\Support\Facades\Http থেকে) ব্যবহার করুন।

use Illuminate\Support\Facades\Http;

$response = Http::post('http://your-python-host:8000/generate', [
    'prompt' => 'ফাইন-টিউনিং কী তা ব্যাখ্যা করুন।',
    'max_new_tokens' => 256,
    'temperature' => 0.7,
]);

$result = $response->json()['result'] ?? null;

আপনি এটিকে একটি সার্ভিস ক্লাস-এর মধ্যে (যেমন: App\Services\AIClient) মুড়ে কন্ট্রোলার থেকে কল করতে পারেন।

7. আরও ভালো ফাইন-টিউনিং ফলাফলের জন্য টিপস

  1. ছোট করে শুরু করুন: 7B মডেল এবং ছোট ডেটাসেট (1k–10k উদাহরণ) দিয়ে শুরু করুন।
  2. প্রম্পটগুলির ধারাবাহিকতা বজায় রাখুন: অনুমানের সময় একই গঠন ব্যবহার করুন।
  3. ঘন ঘন মূল্যায়ন করুন:
    • মূল্যায়নের জন্য ছোট প্রশ্ন তৈরি করুন।
    • প্রতিটি প্রশিক্ষণ চালানোর প্রতিক্রিয়া পরীক্ষা করুন।
  4. ওভারফিটিং এড়িয়ে চলুন:
    • একটি যাচাইকরণ সেট ব্যবহার করুন।
    • মডেল মুখস্থ করতে শুরু করেছে কিনা তা পরীক্ষা করুন।
  5. সেটিংস ডকুমেন্টিং করুন:
    • LoRA র‍্যাঙ্ক, শেখার হার, এপোক, ডেটাসেটের সংস্করণ।
    • এটি ভালো রানগুলি পুনরায় তৈরি করতে সাহায্য করবে।

8. অন্বেষণ করার মতো সাধারণ সরঞ্জাম এবং ফ্রেমওয়ার্ক

9. কখন ফাইন-টিউনিং করার প্রয়োজন নেই

কিছু ক্ষেত্রে, আপনি নিম্নলিখিত উপায়ে আপনার প্রয়োজনীয়তা পেতে পারেন:

  • প্রম্পট ইঞ্জিনিয়ারিং (আরও ভালো নির্দেশনা এবং উদাহরণ)
  • RAG (Retrieval‑Augmented Generation) – প্রশ্নের সময় বাহ্যিক ডকুমেন্ট ফিড করা, কোনো ওজন পরিবর্তন না করা

RAG প্রায়শই ফুল ফাইন-টিউনিংয়ের চেয়ে রক্ষণাবেক্ষণ এবং আপডেট করা সহজ, বিশেষ করে দ্রুত পরিবর্তনশীল জ্ঞানের ক্ষেত্রে।

10. পরবর্তী পদক্ষেপ

আপনি যদি শুরু করে থাকেন:

  1. Hugging Face থেকে একটি instruct মডেল নির্বাচন করুন।
  2. আপনার নিজস্ব ডোমেইন থেকে একটি ছোট instruction dataset তৈরি করুন।
  3. QLoRA + PEFT ব্যবহার করে একটি সংক্ষিপ্ত ফাইন-টিউনিং চালান।
  4. একটি ছোট পাইথন API-এর মাধ্যমে মডেল পরিবেশন করুন।
  5. Http::post() ব্যবহার করে লারাবেল থেকে কল করুন এবং একটি ইন্টারফেস তৈরি করুন।

যদি আপনি আমাকে জানান:

  • আপনার কী ধরনের ব্যবহারের ক্ষেত্র রয়েছে (চ্যাটবট, কোড সহকারী, অভ্যন্তরীণ সরঞ্জাম ইত্যাদি)
  • আপনার কী ধরনের হার্ডওয়্যার (GPU / RAM) অ্যাক্সেস করার সুবিধা আছে

তাহলে আপনার নির্দিষ্ট সেটআপের সাথে সামঞ্জস্য রেখে একটি ধাপে ধাপে ফাইন-টিউনিং পরিকল্পনা তুলে ধরতে পারি।