توضیحات
LLM Token Optimization دوره آموزشی کاهش استفاده از توکن، تأخیر و هزینههای عملیاتی برنامههای کاربردی مبتنی بر مدلهای زبان بزرگ می باشد که توسط آکادمی آنلاین یودمی منتشر شده است. این دوره که برای مهندسان هوش مصنوعی، توسعهدهندگان نرمافزار، مهندسان اعلان و تیمهایی که سیستمهای هوش مصنوعی تولیدی میسازند طراحی شده است، به بررسی چگونگی افزایش کارایی برنامههای LLM بدون کاهش بیمورد کیفیت پاسخ میپردازد. این دوره عملی به مهندسان نشان میدهد که چگونه میتوانند میزان استفاده از توکنها را در یک پشته تولید واقعی اندازهگیری، کاهش و کنترل کنند – بدون اینکه کیفیت را فدا کنند. افراد تکنیکهایی را برای بهینهسازی اعلانها و زمینه، کاهش توکنهای ورودی و خروجی غیرضروری، مدیریت تاریخچه مکالمه، بهبود خطوط لوله بازیابی، انتخاب مدلهای مناسب، استفاده از ذخیرهسازی و طراحی گردشهای کاری کارآمد RAG و agentic کشف خواهند کرد.
شما با ماهیت واقعی توکنها و دلیل نگاشت مستقیم آنها به هزینه و سرعت شروع میکنید، سپس یاد میگیرید که قبل از ارسال درخواست، توکنها را بشمارید. شما به بررسی دقیق محل انفجار توکنها – تولید افزوده شده با بازیابی – خواهید پرداخت و قطعهبندی هوشمند، محدودیتهای بازیابی و رتبهبندی مجدد برای حفظ زمینه را یاد خواهید گرفت. در نهایت یاد خواهید گرفت که هزینه هر پرسوجو را در تولید نظارت کنید و با یک سنگ بنای نهایی که یک برنامه چت واقعی از طریق دادههای شما را از ابتدا تا انتها بهینه میکند، به علاوه یک چک لیست بهینهسازی توکن قابل استفاده مجدد، به پایان خواهید رساند.
آنچه در دوره LLM Token Optimization یاد خواهید گرفت:
- اندازهگیری مصرف توکن قبل و بعد از هر درخواست، و تخصیص هزینه به ازای هر قابلیت و کاربر
- نوشتن پرامپتهای سبک و کنترل خروجی مدل برای کاهش گرانترین توکنها
- مدیریت زمینه و حافظه با بودجهبندی، پنجرههای لغزان و فشردهسازی
- کاهش مصرف توکن RAG با تقسیمبندی هوشمند، top-k پایین و رتبهبندی مجدد
- کسب دستاوردهای سطح سیستم: کش پرامپت و معنایی، مسیریابی مدل، دستهبندی و استریم
- پایش هزینه هر کوئری در محیط تولید و جلوگیری از افزایش هزینه پیش از صورتحساب و بهکارگیری یک راهنمای تکرارپذیر بهینهسازی توکن برای هر اپلیکیشن LLM
- و …
مشخصات دوره
ناشر: یودمی
مدرس: Siddharth Pawar
زبان: انگلیسی
سطح آموزش: مقدماتی تا پیشرفته
تعداد دروس: 21
مدت زمان آموزش: 42 دقیقه
سرفصل های دوره

پیش نیازهای دوره LLM Token Optimization
Basic experience calling an LLM API from any provider
Comfort reading simple Python-style pseudocode
No machine-learning or research background required
تصاویر دوره

فیلم معرفی دوره LLM Token Optimization
راهنمای نصب
پس از Extract، با Player دلخواه خود مشاهده کنید.
زیرنویس: ندارد
کیفیت: 1080p
لینک دانلود
گذرواژه فایل(ها): www.downloadly.ir
حجم فایل
67 مگابایت












































