توضیحات
دوره Self-Hosting LLMs Securely: Hardening Ollama and vLLM. این دوره آموزشی یک برنامه پیشرفته و امنیتی است که به مدیران و مهندسان یاد می‌دهد چگونه مدل‌های زبان بزرگ متن‌باز را به صورت امن روی سخت‌افزار شخصی خود راه‌اندازی و محافظت کنند. این دوره آموزشی به صورت ساختاریافته به بررسی نحوه اجرای ایمن و محافظت از مدل‌های هوش مصنوعی متن‌باز روی زیرساخت‌های شخصی می‌پردازد. اجرای یک مدل روی سخت‌افزار اختصاصی باعث حفظ حریم خصوصی داده‌ها و درخواست‌ها می‌شود، اما در عین حال کاربر را به عنوان مسئول یک سرور جدید قرار می‌دهد. در این برنامه آموزشی، یک سرور مدل به عنوان یک سرور واقعی در نظر گرفته می‌شود؛ به این صورت که ابتدا تنظیمات پیش‌فرض بررسی شده، سپس لایه به لایه مقاوم‌سازی روی آن اعمال می‌شود و هر تغییر با اسکریپت‌های بررسی خودکار تایید می‌گردد. فراگیران کار خود را با ارزیابی و نقشه‌برداری از سطح رابط‌های برنامه‌نویسی اولاما و وی‌پایتون آغاز می‌کنند تا نقاط ضعف پیش‌فرض شناسایی شوند. سپس اولاما روی سیستم میزبان از طریق تنظیم آدرس‌های اتصال، محدودسازی دسترسی‌ها، استفاده از کاربر سرویس اختصاصی و سندباکس سیستم‌دی مقاوم‌سازی می‌شود. در مرحله بعد، همین سرویس درون کانتینرهای ایمن با دسترسی محدود و تصاویر تأییدشده اجرا می‌گردد. بخش وی‌پایتون شامل بررسی دقیق توصیه‌های امنیتی، تنظیمات پرچم‌ها و پیکربندی دروازه ارتباطی با گواهی‌نامه‌های امنیتی، کلیدهای اختصاصی برای هر کلاینت، محدودسازی نرخ درخواست‌ها و لایه پروکسی است. همچنین میزبان از طریق دیوارهای آتشین ایزوله شده و فایل‌های مدل پیش از اجرا به دقت اسکن، امضا و بررسی می‌شوند. در بخش‌های پایانی، پایش امنیتی با ابزارهایی نظیر پرومته، گرافانا و فالکو، مدیریت اسرار، شبیه‌سازی حوادث امنیتی و انطباق با استانداردهای معتبر جهانی مانند انیست و استاندارد ایزو بررسی می‌شود تا مهارت‌های دفاعی کامل کسب گردد.
آنچه فرا خواهید گرفت
- ترسیم مدل تهدید یک سرور استنتاج خودمیزبان شامل دارایی‌ها، مرزهای اعتماد و نقاط آسیب‌پذیر پیش‌فرض
- اندازه‌گیری و سنجش وضعیت پیش‌فرض اولاما و وی‌پایتون پیش از اعمال تغییرات و ثبت امتیازات پایه
- قفل کردن اولاما روی لوک‌پک، محدودسازی دسترسی‌های کرس، اجرای آن با کاربر اختصاصی و ایزوله‌سازی با سیستم‌دی
- اجرای اولاما و وی‌پایتون درون کانتینرهای امن به صورت غیرریشه‌ای، فقط‌خواندنی و منتشرشده روی لوک‌پک
- استفاده صحیح از پرچم‌های اختصاصی وی‌پایتون و بستن نقاط پایانی بدون محافظت
- راه‌اندازی یک دروازه احراز هویت در مقابل مدل با پشتیبانی از پروتکل امنیتی، کلیدهای کلاینت و محدودیت نرخ
- مسدود کردن ترافیک ورودی و خروجی با ابزارهای فایروال و دور نگه داشتن سرور مدل از اینترنت عمومی
- اعتبارسنجی فایل‌های مدل پیش از سرویس‌دهی شامل بررسی فرمت‌ها، اسکن امنیتی، امضاها و مانیفست مدل
- ثبت وقایع، نظارت و هشداردهی روی میزبان مدل با پرومته، گرافانا و فالکو و کشف تغییرات غیرمجاز
- پایش منظم، اجرای تمرین‌های مقابله با حوادث و آماده‌سازی مستندات انطباق با استانداردهای امنیتی
این دوره مناسب افرادیست که
- مهندسان زیرساخت، دواپس و امنیت که موظف به اجرای مدل‌های متن‌باز روی زیرساخت‌های سازمانی خود هستند
- تیم‌های امنیتی مسئول بررسی و ممیزی استقرار داخلی اولاما یا وی‌پایتون پیش از ورود به محیط عملیاتی
- اپراتورهای آزمایشگاه‌های شخصی و تیم‌های کوچکی که می‌خواهند یک سرور مدل محلی و کاملاً ایمن داشته باشند
مشخصات دوره Self-Hosting LLMs Securely: Hardening Ollama and vLLM
- ناشر: Udemy
- مدرس: NEXUS ACADEMY
- سطح آموزش: مبتدی تا پیشرفته
- مدت زمان آموزش: 10 ساعت و 33 دقیقه
- تعداد دروس: 109
سرفصل های دوره
پیشنیازهای دوره Self-Hosting LLMs Securely: Hardening Ollama and vLLM
- Comfort with the Linux shell, systemd and Docker basics. No machine-learning background is needed
- A Linux machine or VM that can run Docker. No GPU is needed: every lab runs on CPU with small, openly licensed models
تصاویر دوره
نمونه فیلم دوره
راهنمای نصب
پس از Extract، با Player دلخواه خود مشاهده کنید.
زیرنویس: ندارد
کیفیت: 720p
لینک دانلود
گذرواژه فایل(ها): www.downloadly.ir
حجم فایل
1.7 گیگابایت
