Iran AI House

مدل رو دوباره آموزش بدیم یا فقط بهتر ازش سؤال کنیم؟ وقتی خروجی یک مدل مناسب نیست، معمولاً اولین راه‌حل، Fine-tuning نیست. خیلی وقت‌ها می‌شه با یک دستور بهتر، چند مثال مناسب، انتخاب مدل قوی‌تر یا اضافه‌کردن اطلاعات مرتبط، کیفیت خروجی رو بالا برد؛ بدون اینکه مدل دوباره آموزش ببینه. در روش Prompting، خود مدل تغییر نمی‌کنه. ما با دستورها، مثال‌ها و محدودیت‌ها، مدل رو به سمت خروجی دلخواه هدایت می‌کنیم. در روش Fine-tuning، مدل با نمونه‌های آموزشی سازگار می‌شه تا یک رفتار مشخص رو با ثبات بیشتری تکرار کنه. البته در روش‌هایی مثل LoRA و PEFT، فقط بخش کوچکی از پارامترها آموزش داده می‌شن. برای انتخاب بین این روش‌ها، اول باید مشخص کنیم مشکل خروجی دقیقاً از کجاست: ▪️اگه مدل با دستورهای دقیق‌تر و چند نمونه مناسب به نتیجه مطلوب می‌رسه، Prompting معمولاً ساده‌ترین و منطقی‌ترین انتخابه. ▪️اگه مدل اطلاعات لازم رو در اختیار نداره یا باید به داده‌های به‌روز و اختصاصی مثل قوانین، قیمت‌ها، اخبار یا اسناد سازمانی دسترسی داشته باشه، RAG گزینه مناسب‌تریه. ▪️اما وقتی با یک وظیفه ثابت و پرتکرار روبه‌رو هستیم، نمونه‌های آموزشی کافی و باکیفیت داریم و Prompting هم نمی‌تونه رفتار، لحن یا قالب موردنظر رو با ثبات لازم ایجاد کنه، وقتشه Fine-tuning رو جدی‌تر بررسی کنیم. بنابراین Fine-tuning زمانی معنا پیدا می‌کنه که دقیقاً بدونیم چه رفتاری از مدل می‌خوایم و با ارزیابی مشخص کرده باشیم که روش‌های ساده‌تر پاسخ‌گو نیستن.