Oreilly – LLMs in Production, Video Edition 2025-1

در تاریخ: 1404/08/21 3:17:45

توضیحات

دوره LLMs in Production, Video Edition. این دوره آموزشی چگونگی استقرار ایمن و کارآمد برنامه‌های مبتنی بر مدل‌های زبانی بزرگ در محیط تولید و مدیریت چرخه عمر آن‌ها را آموزش می‌دهد. این کتاب عملی با توضیحات واضح و مثال‌های غنی، نحوه عملکرد این مدل‌ها، روش تعامل با آن‌ها و چگونگی یکپارچه‌سازی آن‌ها در برنامه‌های کاربردی را نشان می‌دهد. این دوره به شما کمک می‌کند تا تفاوت مدل‌های زبانی بزرگ با نرم‌افزارهای سنتی و دیگر سیستم‌های یادگیری ماشین را درک کنید، با بهترین روش‌های کاربردی در محیط واقعی آشنا شوید و با توصیه‌های متخصصان از اشتباهات رایج جلوگیری کنید. این آموزش بینش‌های ضروری در زمینه پیاده‌سازی عملیات یادگیری ماشین ارائه می‌دهد تا انتقال یک مدل به محیط عملیاتی به صورت یکپارچه و ساده انجام شود. در این دوره، راهنمایی‌های عملی در مورد موضوعات متنوعی از جمله تهیه مجموعه داده مناسب برای آموزش، ساخت پلتفرم، مدیریت اندازه بزرگ مدل‌ها، مهندسی پرامپت، بازآموزی، تست بارگذاری، کنترل هزینه‌ها و تضمین امنیت ارائه می‌شود. با توجه به هزینه بالای ساخت و دشواری تغییر این مدل‌ها، برنامه‌ریزی دقیق، استانداردهای داده قوی و اجرای فنی حساب‌شده ضروری است. یکپارچه‌سازی این مدل‌ها در محصولات عملیاتی بر تمام جنبه‌های برنامه از جمله چرخه عمر برنامه، پایپ لاین داده، هزینه‌های محاسباتی و مسائل امنیتی تأثیر مستقیم می‌گذارد.

آنچه فرا خواهید گرفت

آشنایی با اصول LLM:
درک اصول اساسی LLMها و فناوری پشت آن‌ها.
ارزیابی و انتخاب LLM:
ارزیابی اینکه چه زمانی باید از یک LLM از پیش ساخته شده استفاده کرد و چه زمانی LLM خود را ساخت.
مقیاس‌گذاری و آموزش:
مقیاس‌گذاری کارآمد پلتفرم ML برای پاسخگویی به نیازهای LLMها.
آموزش مدل‌های بنیادین LLM و تنظیم دقیق (Finetune) یک LLM موجود.
استقرار و معماری‌های پیشرفته:
استقرار LLMها در ابر (Cloud) و دستگاه‌های لبه (Edge Devices) با استفاده از معماری‌های پیچیده‌ای مانند PEFT و LoRA.
ساخت برنامه‌های کاربردی:
ساخت برنامه‌های کاربردی که از نقاط قوت LLMها استفاده کرده و نقاط ضعف آن‌ها را کاهش می‌دهند.
مدیریت عملیاتی:
متعادل‌سازی هزینه و عملکرد.
بازآموزی و تست بارگذاری.
بهینه‌سازی مدل‌ها برای سخت‌افزار عمومی (Commodity Hardware).
استقرار بر روی کلاستر Kubernetes.

این دوره مناسب افرادیست که

دانشمندان داده و مهندسان ML که با پایتون (Python) و مبانی استقرار ابری آشنا هستند.
تیم‌های مهندسی که به دنبال توسعه یک برنامه LLMOps برای انتقال روان یک برنامه هوش مصنوعی از طراحی به تحویل هستند.
متخصصانی که می‌خواهند تکنیک‌هایی برای آماده‌سازی مجموعه داده LLM، هک‌های آموزش کم‌هزینه مانند LORA و RLHF، و معیارهای صنعتی برای ارزیابی مدل را بیاموزند.