Udemy – A Deep Dive into LLM Red Teaming 2025-4

در تاریخ: 1404/08/05 2:35:58

توضیحات

دوره A Deep Dive into LLM Red Teaming. این دوره آموزشی پیشرفته و کاملاً عملی، به موضوع تست نفوذ و ایمن‌سازی مدل‌های زبانی بزرگ می‌پردازد و برای متخصصان هوش مصنوعی، کارشناسان امنیت سایبری و تیم‌های نفوذ طراحی شده است. شرکت‌کنندگان در این دوره با روش‌های حمله و دفاع در برابر آسیب‌پذیری‌های هوش مصنوعی از طریق تکنیک‌های کاربردی آشنا می‌شوند. محتوای آموزشی شامل مباحث جامعی همچون تزریق دستورالعمل، شکستن محدودیت‌های مدل، حملات غیرمستقیم و دستکاری پیام‌های سیستمی است. در طول دوره، سناریوهای عملی مختلفی از جمله تزریق مستقیم و غیرمستقینمایش داده می‌شود و تاکتیک‌های پیشرفته‌ای مانند دستکاری چندمرحله‌ای و پنهان‌سازی نیات مخرب در ورودی‌های عادی مورد بررسی قرار می‌گیرد. همچنین شرکت‌کنندگان یاد می‌گیرند چگونه چارچوب‌های تست اختصاصی طراحی کرده و از ابزارهای متن‌باز برای خودکارسازی فرآیند کشف آسیب‌پذیری‌ها استفاده نمایند. در پایان این دوره، فراگیران درکی عمیق از تست مقاومت، شناخت کاملی از روش‌های سوءاستفاده از مدل‌های زبانی و توانایی توسعه سیستم‌های هوش مصنوعی مقاوم در برابر حملات را کسب خواهند کرد. این آموزش برای تمامی علاقه‌مندان به تسلط بر جنبه‌های تهاجمی و دفاعی امنیت هوش مصنوعی ضروری محسوب می‌شود.

آنچه فرا خواهید گرفت

شناسایی و بهره‌برداری از آسیب‌پذیری‌های رایج LLM مانند تزریق Prompt و فرار از محدودیت‌ها (Jailbreaks).
طراحی و اجرای سناریوهای تست نفوذ برای آزمایش رفتار مدل هوش مصنوعی تحت حمله.
تحلیل و دور زدن محافظت‌های سطح سیستم در LLMها با استفاده از تاکتیک‌های دستکاری پیشرفته.
ساخت یک چارچوب تست برای خودکارسازی کشف نقص‌های امنیتی در مدل‌های زبان.

این دوره مناسب افرادیست که

علاقه‌مندان به هوش مصنوعی (AI Enthusiasts)، مهندسان Prompt (Prompt Engineers)، هکرهای اخلاقی (Ethical Hackers) و توسعه‌دهندگانی که کنجکاو درباره امنیت LLM و تست نفوذ هستند.
یادگیرندگان مبتدی تا متوسط که خواهان تجربه عملی در تست و از کار انداختن مدل‌های زبان بزرگ هستند.
هر فردی که در حال ساخت یا استقرار برنامه‌های مبتنی بر LLM است و می‌خواهد تهدیدات دنیای واقعی را درک کند و در برابر آن‌ها دفاع نماید.

مشخصات دوره

ناشر: Udemy
مدرس: Ing.Seif | Europe Innovation
سطح آموزش: مبتدی تا پیشرفته
مدت زمان آموزش: 2 ساعت و 32 دقیقه
تعداد دروس: 21

سرفصل های دوره

پیشنیازهای دوره A Deep Dive into LLM Red Teaming

Basic understanding of how large language models (LLMs) work is helpful, but not required.
No prior cybersecurity experience needed you’ll learn red teaming concepts from scratch.
A curiosity to explore how AI systems can be attacked, tested, and secured!