توضیحات
AI Cost Optimization، دوره آموزش بهینه سازی هزینه هوش مصنوعی توسط آکادمی ByteByteGo منتشر شده است.دوره بهینهسازی هزینه هوش مصنوعی، یک دوره عملی و زنده است که توسط جرمی هینتز، مدیر مهندسی در شرکت متا و متخصص در حوزه زیرساخت هوش مصنوعی و پژوهش یادگیری ماشین، تدریس میشود. در این دوره یاد میگیرید چگونه هزینه برنامههای هوش مصنوعی و سیستمهای مبتنی بر مدلهای زبانی بزرگ (LLM) را درک، اندازهگیری و کاهش دهید. با بررسی انواع توکنهای ورودی، خروجی، کششده، دستهای و استدلالی و همچنین عوامل هزینهزای جانبی مانند استفاده از ابزارها، تصاویر، صدا، ویدئو و امبدینگها، نحوه تحلیل صورتحسابهای هوش مصنوعی را فرا میگیرید. مباحث دوره شامل اقتصاد استنتاج مدلهای زبانی بزرگ، معیارهای تأخیر مانند TTFT و تأخیر بین توکنها، مصرف توکن در سیستمهای عاملمحور و عوامل افزایش هزینه مانند شِمای ابزارها، اسناد RAG و گردشکارهای چندعاملی است. همچنین یاد میگیرید هزینهها را بر اساس تیم، کاربر و قابلیت تفکیک و ردیابی کنید؛ برنامههای مبتنی بر مدلهای زبانی را با استفاده از گیتویها و ابزارهای مشاهدهپذیری پایش کنید؛ از ردگیریها، بازهها، نمونهبرداری و انتساب هزینه بهره ببرید؛ و اقتصاد واحدهایی مانند هزینه هر مکالمه یا هر وظیفه را ارزیابی کنید. روشهای عملی بهینهسازی شامل کش پاسخ با تطبیق دقیق و معنایی، کش پرامپت ارائهدهندگان، تنظیم آستانه کش، مرتبسازی ورودی پرامپت، فشردهسازی کانتکست، حذف نتایج غیرضروری ابزارها، حذف و کوانتیزهسازی KV-cache، تقطیر پرامپت و مدل و مسیریابی درخواستها به مناسبترین مدل بر اساس هزینه، کیفیت و تأخیر است. این دوره همچنین اقتصاد میزان تلاش استدلالی، زنجیرههای مدل، مسیریابی پیشبینانه و غیربیشبینانه، ارزیابی مسیریابی و طراحی و پایش سیستمهای چندعاملی را بررسی میکند.
در تمرینهای عملی، یک گیتوی مدل زبانی برای بار کاری چندمستاجری میسازید، فراخوانیها را با دادههای مربوط به توکن، تأخیر و انتساب هزینه ثبت میکنید، یک پشته مشاهدهپذیری را به سیستم متصل میکنید، عوامل اصلی هزینه را تشخیص میدهید و اثر یک بهینهسازی را اندازهگیری میکنید. همچنین کش معنایی میسازید و ارزیابی میکنید، کش پیشوندی ارائهدهندگان را شبیهسازی میکنید، الگوهای مختلکننده کش را شناسایی میکنید، راهبردهای فشردهسازی کانتکست را مقایسه میکنید و یک مسیریاب مبتنی بر پرامپت بزرگ را به مدلی سبکتر تقطیر میکنید. علاوه بر این، یک مسیریاب مدل میسازید، مجموعههای ارزیابی را طراحی میکنید، رفتار مسیریابی را اعتبارسنجی میکنید و حلقههای بیپایان عاملها، افت کیفیت کانتکست، مدیریت وضعیت، راهبردهای برنامهریزی و رمزگشایی حدسی را بررسی میکنید. پروژه نهایی دوره به بازطراحی یک عامل پژوهش عمیقِ دارای عملکرد نامطلوب اختصاص دارد که در آن از مجموعه روشهای بهینهسازی آموختهشده در طول دوره استفاده میکنید. داشتن دانش گسترده در زمینه هوش مصنوعی ضروری نیست، اما تجربه کار با ابزارهای هوش مصنوعی به شما کمک میکند تکنیکهای دوره را بهتر به کار بگیرید.
آنچه خواهید آموخت
- صورتحسابهای هوش مصنوعی را با شناسایی هزینه توکنهای ورودی، خروجی، کششده، دستهای و استدلالی و همچنین مصرف جانبی ابزارها، تصاویر، صدا، ویدئو و امبدینگها درک کنید.
- هزینههای هوش مصنوعی را در سطح سازمان و بر اساس تیمها، کاربران و قابلیتها با استفاده از گیتویها، تلهمتری، ردگیریها، بازهها و ابزارهای مشاهدهپذیری ردیابی و تفکیک کنید.
- هزینه مدلهای زبانی بزرگ را با کش پاسخ دارای تطبیق دقیق و معنایی، کش پرامپت ارائهدهندگان، بهینهسازی کش و سازماندهی مؤثر پرامپت کاهش دهید.
- کانتکست عاملها را با فشردهسازی کانتکست، حذف نتایج غیرضروری ابزارها، مدیریت حافظه و بهینهسازی KV-cache کارآمد نگه دارید.
- در موارد مناسب، پرامپتهای پرهزینه و فراخوانیهای پرتعداد مدل را با پرامپتهای تقطیرشده و مدلهای کوچکتر جایگزین کنید.
- مسیریابها و زنجیرههای مدل را با هدف ایجاد تعادل میان هزینه، کیفیت و تأخیر بسازید و با استفاده از معیارها و روشهای ارزیابی، عملکرد آنها را بررسی کنید.
- گردشکارهای عاملمحور را با برآورد هزینه سیستمهای چندعاملی، تشخیص حلقههای بیپایان، بهبود مدیریت وضعیت و برنامهریزی و بازطراحی عاملهای پژوهشی ناکارآمد بهینه کنید.
این دوره برای چه کسانی مناسب است
- مهندسان نرمافزار و مهندسان هوش مصنوعی که برنامههای مبتنی بر مدلهای زبانی بزرگ میسازند.
- مهندسان زیرساخت و پلتفرم هوش مصنوعی که مسئول راهاندازی، پایش و بهینهسازی سیستمهای مبتنی بر مدلهای زبانی بزرگ هستند.
- رهبران فنی و مدیران مهندسی که به درک و کنترل هزینههای زیرساخت هوش مصنوعی نیاز دارند.
- توسعهدهندگانی که عاملهای هوش مصنوعی، سیستمهای چندعاملی و گردشکارهای خودکار پژوهش یا استدلال را طراحی میکنند.
- متخصصانی که از APIهای هوش مصنوعی استفاده میکنند و میخواهند هزینه، کیفیت و عملکرد برنامههای خود را بهبود دهند.
مشخصات دوره AI Cost Optimization
- ناشر : Bytebytego
- مدرس : Jeremy Hintz
- زبان: انگلیسی
- سطح آموزش: تمام سطوح
- تعداد دروس: 3
- مدت زمان آموزش: 6 ساعت
سر فصل های دوره AI Cost Optimization
lesson1
lesson2
lesson3
تصاویر

فیلم نمونه
راهنمای نصب
پس از Extract، با Player دلخواه خود مشاهده کنید.
زیرنویس: ندارد
کیفیت: 1080p
لینک دانلود
گذرواژه فایل(ها): www.downloadly.ir
حجم فایل
1.54 گیگابایت













































