توضیحات
کتاب Build a DeepSeek Model (From Scratch) به کالبدشکافی معماری مدل‌های انقلابی دیپ‌سیک (DeepSeek) می‌پردازد که توانسته‌اند با هزینه‌ای بسیار کمتر، عملکردی مشابه غول‌های تجاری ایفا کنند. هدف اصلی اثر، آموزش پیاده‌سازی نوآوری‌های کلیدی این مدل از جمله ساختارهای ترکیبی خبره (MoE) و توجه پنهان چندسره است تا توسعه‌دهندگان بتوانند مدل‌های اختصاصی و کارآمد خود را بسازند.
نویسنده با رویکردی گام‌به‌گام، از مبانی اولیه مدل‌های زبانی شروع کرده و سپس به جزئیات فنی و مهندسی که باعث برتری دیپ‌سیک شده است، نفوذ می‌کند. این کتاب به ویژه برای مهندسان یادگیری ماشین که می‌خواهند مرزهای کارایی و دقت را در مدل‌های منبع‌باز جابه‌جا کنند، نوشته شده و بر جنبه‌های عملیاتی و کاهش هزینه‌های آموزش تمرکز دارد.
ویژگی های کتاب
- آموزش پیاده‌سازی معماری Mixture of Experts (MoE) برای افزایش کارایی.
- بررسی تکنیک Multi-head Latent Attention (MLA) جهت بهینه‌سازی حافظه.
- آموزش روش‌های پیش‌بینی چند‌توکنی (MTP) برای تسریع در فرآیند استنتاج.
- راهنمای تقطیر مدل (Model Distillation) و انتقال دانش از مدل‌های بزرگ به کوچک.
- پیاده‌سازی حلقه‌های یادگیری تقویتی برای بهبود دقت در تسک‌های برنامه‌نویسی.
- ارائه ساختار چهار مرحله‌ای برای بازسازی ویژگی‌های کلیدی دیپ‌سیک در محیط محلی.
مشخصات کتاب
- ناشر: MANNING
- مدرس / نویسنده: Raj Dandekar
- تعداد صفحات: 228
- تعداد فصل ها: 5
- فرمت: PDF
سرفصل‌ها
تصاویر
راهنمای استفاده
فایل را اکسترکت و با نرم افزار مناسب اجرا کنید.
لینک دانلود
گذرواژه فایل(ها): www.downloadly.ir
حجم فایل
22.3 مگابایت
