Newline – Responsive LLM Applications with Server-Sent Events 2024-10

در تاریخ: 1403/10/25 11:58:21

توضیحات

دوره Responsive LLM Applications with Server-Sent Events. این دوره به بررسی چالش‌های ادغام مدل‌های زبانی بزرگ (LLM) در رابط‌های کاربری (UI) استریمینگ بلادرنگ می‌پردازد. در این دوره، نحوه ادغام یکپارچه APIهای LLM در اپلیکیشن‌ها و ساخت رابط‌های کاربری متنی و چت مبتنی بر هوش مصنوعی با استفاده از TypeScript، React و Python را یاد خواهید گرفت. گام به گام، یک اپلیکیشن هوش مصنوعی فول استک با کد با کیفیت و پیاده‌سازی بسیار انعطاف‌پذیر را ایجاد خواهیم کرد.

این اپلیکیشن می‌تواند به عنوان نقطه شروع در اکثر پروژه‌ها استفاده شود و در زمان صرفه‌جویی قابل توجهی داشته باشد و انعطاف‌پذیری آن امکان افزودن ابزارهای جدید را در صورت نیاز فراهم می‌کند. در پایان این دوره، شما بر پیاده‌سازی کامل یک اپلیکیشن LLM انعطاف‌پذیر و با کیفیت تسلط خواهید یافت. این دوره همچنین شما را با دانش و مهارت‌های لازم برای ایجاد راه‌حل‌های پیچیده LLM خود مجهز می‌کند.

آنچه فرا خواهید گرفت:

نحوه طراحی سیستم‌ها برای اپلیکیشن‌های هوش مصنوعی
نحوه استریم پاسخ یک مدل زبانی بزرگ
تفاوت‌های بین Server-Sent Events و WebSockets
اهمیت بلادرنگ برای رابط کاربری GenAI
نحوه عملکرد برنامه‌نویسی ناهمزمان در پایتون
نحوه ادغام LangChain با FastAPI
چه مشکلاتی را بازیابی تقویت‌شده می‌تواند حل کند
نحوه ایجاد یک عامل هوش مصنوعی

این دوره مناسب افرادیست که:

این دوره برای حل مشکلات خاصی طراحی شده است که مهندسان هوش مصنوعی هنگام ادغام قابلیت‌های LLM در اپلیکیشن‌های وب با آن مواجه می‌شوند. استریم متن یک چالش منحصر به فرد برای مهندسان است و نیاز به ادغام چندین فناوری و مفهوم دارد. این دوره با موارد زیر به این موضوع می‌پردازد:
بررسی استفاده از Langchain برای تعویض آسان ارائه دهنده LLM. با توجه به توسعه سریع Langchain، درک عملکردهای استریم، ناهمزمان و فراخوانی آن می‌تواند دشوار باشد.
رمزگشایی برنامه‌نویسی ناهمزمان در پایتون که می‌تواند پیچیده‌تر از جاوا اسکریپت باشد. ما تفاوت بین برنامه‌نویسی ناهمزمان و همزمان، مزایای عملیات‌های ناهمزمان و نحوه پیاده‌سازی و ادغام فراخوانی‌های تابع ناهمزمان در یک زمینه استریم را پوشش خواهیم داد.
انتخاب و پیاده‌سازی پروتکلی برای استریم متن از بک‌اند به فرانت‌اند. ما توضیح خواهیم داد که چرا Server-Sent Events (SSE) یک استاندارد ایده‌آل است، اگرچه نسبتاً جدید و برای بسیاری ناآشنا است.
ایجاد یک نقطه پایانی SSE با استفاده از یک فریمورک سرور پایتون مانند FastAPI برای تسهیل استریم داده‌های بلادرنگ.
خواندن استریم در فرانت‌اند با استفاده از رابط ReadableStream API Fetch، اطمینان از رسیدگی کارآمد به داده‌ها.
به‌روزرسانی وضعیت React از اعلان‌ها با در نظر گرفتن رفتار دسته‌ای React برای جلوگیری از مشکلات غیرمنتظره در طول به‌روزرسانی‌های سریع.
ادغام اجزای سفارشی در پاسخ‌های متنی برای فعال کردن رابط‌های کاربری پویا و آنی.