Udemy – Fine-Tune & Deploy LLMs with QLoRA on Sagemaker + Streamlit 2025-7

در تاریخ: 1405/05/16 1:01:40

در: آموزش تصویری،فناوری اطلاعات و نرم افزار

توضیحات

Fine-Tune & Deploy LLMs with QLoRA on Sagemaker + Streamlit، دوره آموزش فین‌تیون و استقرار LLMها با QLoRA در Sagemaker و Streamlit توسط آکادمی Udemy منتشر شده است.مدل‌های زبانی بزرگ (LLMها) در حال بازتعریف امکانات هوش مصنوعی از چت‌بات‌ها تا تولید کد هستند؛ اما مانع ورود به آموزش و استقرار آن‌ها همچنان بالاست. سخت‌افزارهای گران‌قیمت، نیاز شدید به حافظه و زنجیره‌های پیچیده ابزاری اغلب مانع فعالیت متخصصان فردی و تیم‌های کوچک می‌شوند. این دوره برای تغییر این شرایط ساخته شده است. در این آموزش عملی و کد محور، شما نحوه فین‌تیون مدل‌هایی مانند Mixtral-8x7B را با استفاده از QLoRA یاد می‌گیرید — روشی پیشرفته که آموزش بهینه را با ترکیب کوانتایزیشن 4 بیتی، آداپتورهای LoRA و کوانتایزیشن دوگانه ممکن می‌سازد. شما همچنین درک عمیقی از محاسبات کوانتایز شده، فرمت‌های ممیز شناور (مانند bfloat16 و INT8) و تأثیر آن‌ها بر اندازه مدل، پهنای باند حافظه و عملیات ضرب ماتریسی به دست خواهید آورد.

شما کدهای پیشرفته پایتون را برای پیش‌پردازش داده‌ها با استراتژی‌های قطعه‌بندی (Chunking) آگاه از توکن می‌نویسید، لایه‌های قابل کوانتایز را به صورت پویا شناسایی کرده و ماژول‌های آداپتور را با استفاده از کتابخانه PEFT تزریق می‌کنید. شما فرآیندهای آموزش فین‌تیون توزیع‌شده را در AWS SageMaker پیکربندی و اجرا می‌کنید، از اینستنس‌های قدرتمند چند GPU بهره می‌برید و آن‌ها را با Gradient Checkpointing، آموزش با دقت مختلط و کوانتایزیشن bitsandbytes بهینه‌سازی می‌نمایید. پس از آموزش، تا مرحله استقرار پیش خواهید رفت: ادغام وزن‌های آداپتور، ذخیره مدل برای استنتاج و استقرار آن از طریق SageMaker Endpoints. سپس مدل خود را از طریق توابع AWS Lambda و API Gateway در دسترس قرار داده و در نهایت یک برنامه Streamlit برای ساخت یک رابط کاربری فرانت‌اند تمیز و پاسخ‌گو ایجاد می‌کنید. چه مهندس یادگیری ماشین باشید، چه توسعه‌دهنده بک‌اند یا متخصص هوش مصنوعی، این دوره به شما یاد می‌دهد که چگونه با استفاده از ابزارهای مورد اعتماد شرکت‌های برتر، از مدل‌های ساده دانشگاهی به سمت LLMهای واقعی، مقیاس‌پذیر و آماده تولید حرکت کنید.

آنچه خواهید آموخت

آموزش و فین‌تیون LLMها در AWS SageMaker با استفاده از QLoRA و کوانتایزیشن 4 بیتی پیشرفته روی داده‌های اختصاصی خودتان
ایجاد یک برنامه تعاملی Streamlit برای استقرار LLM فین‌تیون شده با SageMaker، توابع Lambda و API Gateway
تسلط بر فین‌تیون با QLoRA — شامل تزریق آداپتور، بهینه‌سازی حافظه، انجماد پارامترها و ریاضیات پشت آن
بهره‌گیری از انواع محاسباتی bfloat16 برای آموزش سریع‌تر و بهینه‌تر روی GPUهای مدرن
درک آموزش با دقت مختلط (Mixed Precision) با QLoRA در SageMaker
استفاده از PEFT برای یافتن و تزریق پویا لایه‌های LoRA
درک کامل پایپ‌لاین فین‌تیون سطح پایین — از داده‌های خام تا مدل آموزش‌دیده
استفاده از کوانتایزیشن دوگانه و دقت nf4 برای فشرده‌سازی مدل‌ها بدون افت عملکرد
کشف نحوه کاهش چشمگیر مصرف VRAM در طول آموزش با استفاده از Gradient Checkpointing
فین‌تیون مدل‌های بزرگ مانند Mixtral در Amazon SageMaker با استفاده از شتاب‌دهنده‌های پیشرفته GPU
درک کدهای قطعه‌بندی (Chunking) سفارشی برای LLMها
ادغام وزن‌های LoRA و خروجی نهایی مدل جهت استقرار
استقرار مدل آموزش‌دیده در SageMaker Endpoints با استفاده از زیرساخت تولیدی آمازون
ساخت APIهای آنی LLM با استفاده از توابع Lambda و API Gateway
راه‌اندازی ایمن فرآیندهای آموزش با نقش‌های IAM
مدیریت بودجه، مدیریت سرور و قیمت‌گذاری در AWS
یادگیری نحوه استفاده از سهمیه‌ها (Quotas) در AWS برای دسترسی به GPUهای قدرتمند

این دوره برای چه کسانی مناسب است

مهندسان یادگیری ماشین
مهندسان بک‌اند و MLOps
پژوهشگران و دانشجویان هوش مصنوعی
هر کسی که می‌خواهد فراتر از مهندسی پرامپت رفته و ساخت، آموزش و استقرار LLMهای آماده تولید خود را آغاز کند.