Vizuara AI Labs – Master LLM Inference (Phase 1: Foundations & Optimization) 2026-8

در تاریخ: 1405/05/26 8:58:07

توضیحات

دوره Master LLM Inference (Phase 1: Foundations & Optimization). این دوره آموزشی یک کارگاه فشرده زنده برای یادگیری عمیق، زیرساخت‌ها و بهینه‌سازی سیستم‌های استنتاج مدل‌های زبانی بزرگ (LLM Inference) است. این کارگاه فشرده ۴ هفته‌ای توسط دکتر Raj Dandekar (فارغ‌التحصیل دکتری از MIT) و با حضور ۹ متخصص برجسته از شرکت‌های Anthropic، NVIDIA، Apple و دیگر مجموعه معتبر برگزار می‌شود. در این آموزش تخصصی، فراگیران تنها به یادگیری مباحث تئوری بسنده نمی‌کنند، بلکه به صورت کاملاً کاربردی با همان فریم‌ورک‌ها و ابزارهایی کار خواهند کرد که در شرکت‌های بزرگ فناوری برای سیستم‌های تولید واقعی استفاده می‌شود. هدف اصلی دوره این است که مهندسان بتوانند فراتر از استفاده ساده از مدل‌های زبانی بزرگ حرکت کنند و به توانایی طراحی، ساخت و بهینه‌سازی زیرساخت‌های پیچیده استنتاج دست یابند. در طول مسیر یادگیری، شرکت‌کنندگان پروژه پایانی عملی و ارزشمندی را پیاده‌سازی می‌کنند که تمام مفاهیم و تکنیک‌های آموخته‌شده را به یکدیگر متصل می‌سازد. همچنین روزهای آزمایشگاهی اختصاصی در این برنامه گنجانده شده است تا برنامه‌نویسان بتوانند مدل‌های واقعی را روی سخت‌افزارهای مختلف اجرا کرده و عملکرد آن‌ها را ارزیابی کنند. از آنجا که هر دستگاه سخت‌افزاری دارای گلوگاه‌های متفاوتی در پردازش است، فراگیران یاد می‌گیرند که چگونه گلوگاه‌های هر سخت‌افزار را به صورت زنده اندازه‌گیری و تحلیل کنند. این آموزش تعادل میان تئوری‌های علمی و مهندسی سیستم‌های کاربردی را فراهم می‌آورد و فرصتی بی‌نظیر برای دریافت دیدگاه‌های شغلی مستقیماً از مهندسان ارشد صنعت فناوری اطلاعات ارائه می‌دهد.

آنچه فرا خواهید گرفت

طراحی سیستم‌های استنتاج: پاسخ به سوالات مصاحبه طراحی سیستم‌های استنتاج از ابتدا تا انتها برای شرکت در مصاحبه‌های شغلی ML.
بهینه‌سازی سرویس‌دهی: ارائه و سرویس‌دهی مدل‌های زبانی بزرگ با تاخیر کم، توان پردازشی بالا و هزینه بهینه‌سازی شده در مقیاس بزرگ.
استقرار روی سخت‌افزار واقعی: استقرار مدل‌های زبانی بزرگ واقعی روی لپ‌تاپ شخصی، Raspberry Pi 4، دستگاه‌های Android و Jetson Orin Nano.
ساخت نمونه کارهای حرفه‌ای: اجرای پروژه‌های پورتفولیو در سطح صنعت بر اساس روزهای آزمایشگاهی و کار با سخت‌افزارهای متنوع.
پاسخ به سوالات کلیدی مصاحبه: توانایی پاسخگویی به سوالات پیچیده شرکت‌های فناوری مانند Anthropic، NVIDIA، Microsoft، Meta و Google DeepMind درباره طراحی سیستم‌های استنتاج با تاخیر کم و توان بالا.
دریافت دیدگاه‌های شغلی: کسب آگاهی و دانش مستقیم درباره مسیر شغلی از زبان مهندسان برجسته در شرکت‌های مطرح دنیا.

این دوره مناسب افرادیست که

مهندسان فناوری اطلاعات: افرادی که می‌خواهند به بخش زیرساخت‌های ML یا مهندسی AI تغییر مسیر دهند.
دانشجویان و پژوهشگران: کسانی که هدف آن‌ها دستیابی به موقعیت‌های شغلی در شرکت‌های Anthropic، NVIDIA، Microsoft، Apple و Amazon است.
توسعه‌دهندگان و مهندسان: برنامه‌نویسانی که می‌خواهند فراتر از به‌کارگیری ساده LLMها رفته و سیستم‌های استنتاج پیشرفته بسازند.
پژوهشگران حوزه هوش مصنوعی: پژوهشگرانی که علاوه بر تئوری علمی، به دانش عمیق در زمینه مهندسی سیستم‌های واقعی نیاز دارند.

مشخصات دوره

ناشر: Vizuara AI Labs
مدرس: Dr. Raj Dandekar, Yash Dixit
سطح آموزش: مقدماتی تا پیشرفته
تعداد دروس: 13
مدت زمان آموزش: 30 ساعت و 31 دقیقه

سرفصل های دوره

The Vizuara Inference Book Phase 1 ( Also your lecture notes!)
Hardware Labs
All Visual Walkthroughs in one place
Lecture 1 Introduction to Inference Engineering
Lecture 2 Good and Evil of KV Cache
Bonus Lecture Inference and YCombinator
Lecture 3 Attention Variants Part 1 (MHA, MQA, GQA, Latent Attention, Sparse Attention)
Lecture 4 Attention Variants Part 2 (Sliding Window, State Space Models and Mamba)
Lecture 5 All about Flash Attention 1, 2, 3
Lecture 6 The anatomy of a vLLM Step
Lecture 7 All about Quantization
Lecture 8 Speculative Decoding
Phase 1 Capstone Project!