Oreilly – Introduction to Transformer Models for NLP, 2nd Edition 2026-8

در تاریخ: 1405/06/18 1:16:05

توضیحات

دوره Introduction to Transformer Models for NLP, 2nd Edition. این دوره آموزشی به بررسی عمیق معماری ترنسفورمرها، مدل‌های زبانی بزرگ (LLMs) و روش‌های پردازش زبان طبیعی (NLP) از مفاهیم پایه تا استقرار در محیط‌های واقعی می‌پردازد. این دوره به گونه‌ای طراحی شده است تا درکی عمیق و کاربردی از نحوه پردازش زبان طبیعی توسط مدل‌های زبانی بزرگ مدرن (LLMs) به فراگیران ارائه دهد. در این دوره، شرکت‌کنندگان یاد می‌گیرند که چگونه مدل‌های برپایه ترنسفورمر را با داده‌های سفارشی تنظیم دقیق (Fine-tune) کرده، آن‌ها را در محیط‌های واقعی عملیاتی سازند و با استفاده از تکنیک‌های مهندسی پرامپت (Prompt Engineering)، بهترین خروجی را از جدیدترین مدل‌های زبانی دریافت کنند. آموزش‌ها از بررسی مکانیزم‌های توجه (Attention Mechanisms) آغاز شده و تا آخرین دستاوردهای فناوری هوش مصنوعی ادامه می‌یابد. در طول درس‌های این دوره، مفاهیم پایه مانند توکن‌سازی (Tokenization)، تعبیه‌سازی (Embeddings)، توجه ضرب نقطه‌ای مقیاس‌شده و توجه چندسری به تفصیل بررسی می‌شوند. همچنین تفاوت‌های میان پیش‌آموزش مدل‌ها، تنظیم پس از آموزش، روش‌های هم‌راستاسازی مانند RLHF و DPO و کاربرد روش‌های بهینه در پارامتر مانند LoRA به صورت کامل شرح داده می‌شوند. علاوه بر موضوعات متنی، این دوره به مدل‌های چندوجهی (Multimodal)، مدل‌های استدلال‌گر پیشرفته، سیستم‌های تولید افزوده با بازیابی (RAG)، عامل‌های هوش مصنوعی (AI Agents) با پروتکل MCP و معماری ReAct می‌پردازد. چالش‌های ارزیابی عملکرد سیستم‌ها، مفاهیم MLOps، کوانتایش برای اجرای محلی و نگاهی به آینده هوش مصنوعی و مدل‌های انتشار متنی از دیگر بخش‌های مهم این آموزش جامع هستند.

آنچه فرا خواهید گرفت

شناخت مدل‌های ترنسفورمر: تشخیص و انتخاب بهترین نوع مدل ترنسفورمر متناسب با نیازهای پروژه و وظایف مشخص.
درک مکانیزم توجه: یادگیری نحوه پردازش متن، ساختار توکن‌سازی، تعبیه‌سازی و پیش‌بینی کلمات توسط ترنسفورمرها.
تنظیم دقیق مدل‌ها: آموزش سفارشی‌سازی و تنظیم دقیق (Fine-tuning) مدل‌های پیش‌آموزش‌دیده با استفاده از داده‌های اختصاصی و روش‌های بهینه مانند LoRA.
استقرار در محیط واقعی: فراگیری نحوه پیاده‌سازی، عملیاتی‌سازی و سرویس‌دهی مدل‌های تنظیم‌شده در محیط‌های تولیدی و واقعی (Production).
مهندسی پرامپت پیشرفته: تسلط بر تکنیک‌های طراحی پرامپت ساختاریافته، زنجیره اندیشه (Chain of Thought) و تنظیم پارامترهای استنتاج برای دریافت بهترین خروجی.
ساخت سیستم‌های RAG و عامل‌ها: پیاده‌سازی خطوط لوله تولید افزوده با بازیابی (RAG) و طراحی عامل‌های هوشمند با استفاده از MCP و ReAct.
ارزیابی و پایش مدل‌ها: استفاده از روش‌های ارزیابی کیفی، معیارها و شاخص‌های تولید مانند هزینه، زمان پاسخ‌دهی و پایداری سیستم.

این دوره مناسب افرادیست که

مهندسان یادگیری ماشین: متخصصان سطح متوسط تا پیشرفته که دارای تجربه در زمینه یادگیری ماشین، شبکه‌های عصبی و NLP هستند.
توسعه‌دهندگان مدل‌های زبانی: افرادی که قصد دارند خروجی‌های بهینه‌تر و باکیفیت‌تری از مدل‌های زبانی بزرگ مدرن دریافت کنند.
علاقه‌مندان به معماری NLP: پژوهشگرانی که تمایل دارند با جدیدترین معماری‌ها و ساختارهای پردازش زبان طبیعی آشنا شوند.
مهندسان استقرار و عملیات: متخصصانی که علاقه‌مند به تنظیم دقیق و عملیاتی‌سازی مدل‌های زبانی بزرگ در محیط‌های صنعتی هستند.
برنامه‌نویسان پایتون: افرادی که با کتابخانه‌های TensorFlow یا PyTorch و مفاهیم جبر خطی و عملیات ماتریسی آشنایی دارند.