Udemy – Build a Mini llama.cpp in Pure C: LLM Inference Engine from 2026-7

در تاریخ: 1405/04/24 5:04:35

توضیحات

Build a Mini llama.cpp in Pure C: LLM Inference Engine from دوره آموزشی نحوه ساخت یک موتور استنتاج مدل زبان بزرگ (LLM) سبک وزن با زبان C می باشد که توسط آکادمی آنلاین یودمی منتشر شده است. این دوره که برای مهندسان نرم‌افزار، توسعه‌دهندگان هوش مصنوعی، برنامه‌نویسان سیستم و علاقه‌مندان به علوم کامپیوتر طراحی شده است، اصول اصلی استنتاج LLM کارآمد را بدون تکیه بر چارچوب‌های یادگیری ماشین سطح بالا توضیح می‌دهد. افراد یاد خواهند گرفت که چگونه مدل‌های تبدیل‌کننده استنتاج را انجام می‌دهند، عملیات تانسور را پیاده‌سازی می‌کنند، وزن‌های مدل را بارگذاری می‌کنند، ورودی را توکنیزه می‌کنند، حافظه را به طور کارآمد مدیریت می‌کنند، محاسبات ماتریس را بهینه می‌کنند و با استفاده از رمزگشایی خودهمبستگی، متن تولید می‌کنند.

شما با کدنویسی اجزای اصلی llama.cpp در زبان C استاندارد، بر استنتاج LLM سطح پایین مسلط خواهید شد. بارگذاری مدل، شتاب‌دهی، کوانتیزاسیون و یک ربات چت کارآمد را پیاده‌سازی خواهید کرد. این کاربردی‌ترین دوره مهندسی LLM سطح پایین برای توسعه‌دهندگانی است که می‌خواهند فراتر از جعبه‌های سیاه چارچوب هوش مصنوعی حرکت کنند و بر برنامه‌نویسی موتور استنتاج واقعی تسلط یابند. در پایان این دوره، شما نه تنها هر الگوریتم کلیدی استنتاج LLM را در سطح کد خواهید فهمید.

آنچه در دوره Build a Mini llama.cpp in Pure C: LLM Inference Engine from یاد خواهید گرفت:

ساخت یک موتور استنتاج کامل Mini llama.cpp از ابتدا با زبان C خالص
فهم و تجزیه فرمت مدل GGUF مورد استفاده توسط همه LLM های ملی
استاد شدن در بارگذاری مدل mmap zero-copy برای راه اندازی سریع LLM
پیاده سازی رمزگذاری موقعیتی چرخشی RMSNorm، SwiGLU و RoPE
کدگذاری خود-توجهی علی چند-سر برای استنتاج LLM
یادگیری نحوه کار KV Cache و دلیل افزایش سرعت تولید به میزان 10 تا 100 برابر
پیاده سازی کوانتیزاسیون و دکوانتیزاسیون INT4 برای فشرده سازی مدل
ساخت سیستم های ضرب تانسور و ماتریس سفارشی از صفر
نوشتن منطق تولید توکن خودرگرسیو و نمونه برداری حریصانه
توسعه یک نسخه آزمایشی چت ترمینال LLM کاملاً تعاملی
کسب مهارت های برنامه نویسی سیستم C سطح پایین واقعی برای استقرار هوش مصنوعی
و …

مشخصات دوره

ناشر: یودمی
مدرس: James Jiang
زبان: انگلیسی
سطح آموزش: مقدماتی
تعداد دروس: 11
مدت زمان آموزش: 2 ساعت و 36 دقیقه

سرفصل های دوره

Build a Mini llama.cpp in Pure C: LLM Inference Engine from Content

پیش نیازهای دوره Build a Mini llama.cpp in Pure C: LLM Inference Engine from

Basic C programming knowledge (structs, pointers, file IO, functions)
Basic understanding of Makefile compilation
Fundamental knowledge of Transformer / LLM concepts
A Mac, Linux, or Windows (WSL2) computer
No prior llama.cpp or inference engine experience required