فاین تیون کردن، هزینه ها، منابع و زمان مورد نیاز

برخلاف باور عمومی، فاین تیونینگ (#fine_tuning) به منابع محاسباتی عظیمی نیاز نداره. به شرطی که عوامل مورد نیاز رو خوب بشناسیم مثل نوع مدل، دامنه کاربرد، اندازه داده و قدرت مدل پایه. با این حال، دو عامل اصلی در فاین تیون #LLM ها مدل و داده هستن

این نمودار برآوردهای هزینه، محاسبات و زمان مورد نیاز را بسته به مدل و اندازه داده در سطح بالا برای مدل های #Llama خلاصه کرده

چیزی که در تصویر بالا مشخصه، داده کم/زیاد و مدل کوچک هست. مدل TinyLlama حدود 1.1 میلیارد پارامتر داره، اما میتونیم این مدل رو تنها با یک GPU فاین‌تیون کنیم. به عنوان نمونه، با داده کم (حداکثر 500 هزار توکن)، تنها با 100 دلار میشه این مدل رو فاین‌تیون کرد. و به نظرم این مدل با این هزینه کار خیلی از بیزینس ها رو راه میندازه


🌑 آقای هوش مصنوعی🌑
🎥رسانه هوش مصنوعی دانشگاه تهران

@MrArtificialintelligence