توضیحات
LLM Observability and Cost Management: Langfuse Monitoring دوره آموزشی چگونه اپلیکیشنهای مبتنی بر LLM را پایش، عیبیابی، ارزیابی و بهینهسازی می باشد که توسط آکادمی آنلاین یودمی منتشر شده است. این دوره بر چالشهای منحصربهفرد سیستمهای هوش مصنوعی مولد تمرکز دارد، از جمله مصرف توکن، هزینههای API، تأخیر، عملکرد خط لولهی RAG، رفتار مدل و خرابیهای دشوار برای ردیابی. فراگیران با Langfuse برای ابزارگذاری اپلیکیشنهای LLM، ساخت trace و span، ثبت متادیتا، پایش مصرف توکن و هزینهها و تحلیل گردشکارهای چندمرحلهای کار میکنند. دوره از یک مسئلهی ساده شروع میشود که هر تیمی که با LLM کار میکند سرانجام با آن روبرو میشود: وقتی یک اپلیکیشن از مرحلهی دمو عبور میکند، به دیدی واقعی از اینکه چه کاری واقعاً انجام میدهد نیاز دارید — نه فقط اینکه آیا پاسخی برمیگرداند، بلکه چرا آن مسیر را طی کرده، چقدر هزینه داشته و کجا کند یا اشتباه است. یاد میگیرید اپلیکیشنها را با Langfuse ابزارگذاری کنید و trace و span بسازید که گردشکارهای چندمرحلهای LLM، از جمله خط لولههای RAG، را واقعاً قابلبررسی میکنند، نه مبهم.
از آنجا، دوره به سراغ هزینه میرود، یکی از ملموسترین نقاط دردناک سیستمهای LLM در تولید. تکنیکهای عملی برای کاهش هزینهی API بین ۵۰ تا ۸۰ درصد از طریق کشگذاری معنایی، مسیریابی هوشمندانهتر مدل و بهینهسازی پرامپت یاد میگیرید، بههمراه نحوهی راهاندازی هشدارهای هزینه و داشبوردهای پایش که مشکلات بودجه را زود تشخیص میدهند، نه پس از یک صورتحساب غافلگیرکننده. عیبیابی توجه یکسانی دریافت میکند: با استفاده از trace ها، span ها و الگوهای ابزارگذاری صحیح، یاد میگیرید در چند دقیقه، نه ساعتها حدسزدن، از «یک چیزی اشتباه است» به علت اصلی برسید. در پایان، یک راهاندازی observability تکرارپذیر خواهید داشت که میتوانید روی هر اپلیکیشن LLM اعمال کنید و دید و کنترل هزینهی لازم برای اجرای مسئولانهی سیستمهای هوش مصنوعی مولد در تولید را به شما میدهد.
آنچه در دوره LLM Observability and Cost Management: Langfuse Monitoring یاد خواهید گرفت:
- پیادهسازی observability سطح تولید برای LLM با استفاده از Langfuse و درک مفاهیم tracing
- کاهش هزینههای API مدل زبانی تا ۵۰ تا ۸۰ درصد با استفاده از کشگذاری معنایی، مسیریابی مدل و بهینهسازی پرامپت
- عیبیابی اپلیکیشنهای LLM در چند دقیقه با استفاده از trace ها، span ها و الگوهای صحیح ابزارگذاری
- راهاندازی هشدارهای هزینه و داشبوردهای پایش که مشکلات بودجه را پیش از تشدید تشخیص میدهند
- و …
مشخصات دوره
ناشر: یودمی
مدرس: Paulo Dichone | Software Engineer, AWS Cloud Practitioner & Instructor
زبان: انگلیسی
سطح آموزش: مقدماتی تا پیشرفته
تعداد دروس: 29
مدت زمان آموزش: 2 ساعت و 35 دقیقه
سرفصل های دوره
پیش نیازهای دوره LLM Observability and Cost Management: Langfuse Monitoring
Basic Python programming skills (variables, functions, classes)
Familiarity with LLM APIs (OpenAI, Anthropic, or similar) – you should have made at least a few API calls before
A code editor (VS Code recommended) and Python 3.9+ installed
تصاویر دوره
فیلم معرفی دوره LLM Observability and Cost Management: Langfuse Monitoring
راهنمای نصب
پس از Extract، با Player دلخواه خود مشاهده کنید.
زیرنویس: ندارد
کیفیت: 1080p
لینک دانلود
گذرواژه فایل(ها): www.downloadly.ir
حجم فایل
1.8 گیگابایت
