Udemy – Hacking AI Agents: Hands-On LLM Red Teaming 2026-10

در تاریخ: 1405/08/15 8:38:56

توضیحات

Hacking AI Agents: Hands-On LLM Red Teaming دوره آموزشی شناسایی آسیب‌پذیری‌ها و تست امنیت مدل‌های زبانی بزرگ و سیستم‌های خودمختار هوش مصنوعی می باشد که توسط آکادمی آنلاین یودمی منتشر شده است. یاد می‌گیرید ایجنت‌های هوش مصنوعی چگونه عمل می‌کنند، سطوح حملهٔ احتمالی آن‌ها را درک می‌کنید و کشف می‌کنید مهاجمان چگونه ممکن است از ضعف‌ها در پرامپت‌ها، رفتار مدل، ادغام ابزار و منابع دادهٔ خارجی سوءاستفاده کنند. مفاهیم مهم امنیت LLM از جمله prompt injection، jailbreak، افشای اطلاعات حساس، استفادهٔ ناامن از ابزار، مجوزهای بیش‌ازحد ایجنت و حملات پرامپت غیرمستقیم را بررسی می‌کنید. تجربهٔ عملی با روش‌شناسی‌های red teaming، تکنیک‌های تست خصمانه، ارزیابی آسیب‌پذیری و استراتژی‌هایی برای ارزیابی قابلیت اطمینان و امنیت برنامه‌های مبتنی بر هوش مصنوعی کسب می‌کنید.

کشف می‌کنید چگونه ضعف‌ها را در گردش‌کارهای عاملی شناسایی کنید، ریسک‌های مرتبط با ابزارها و API‌های متصل را ارزیابی کنید و اقدامات حفاظتی مؤثری برای بهبود تاب‌آوری سیستم هوش مصنوعی اعمال کنید. چه مهندس هوش مصنوعی باشید، متخصص امنیت سایبری، تست‌کنندهٔ نفوذ یا توسعه‌دهنده‌ای که برنامه‌های مبتنی بر LLM می‌سازد، این دوره به شما کمک می‌کند مهارت‌های عملی برای تست، ایمن‌سازی و محافظت از ایجنت‌های مدرن هوش مصنوعی در برابر تهدیدات نوظهور توسعه دهید. در طول دوره سطح حمله را ترسیم می‌کنید، prompt injection را اجرا می‌کنید، فیلترهای ایمنی را دور می‌زنید، حملات زنجیره‌ای می‌سازید، دفاع‌های لایه‌ای را پیاده‌سازی می‌کنید، red teaming را با ابزارهایی مانند garak و PyRIT خودکار می‌کنید و یک گزارش red-team مطابق با استانداردهای OWASP و NIST می‌نویسید؛ این مسیر درک عملی عمیقی از کاربرد این مفاهیم در موقعیت‌های واقعی به شما می‌دهد و شما را برای ایمن‌سازی حرفه‌ای سیستم‌های هوش مصنوعی آماده می‌سازد.

آنچه در دوره Hacking AI Agents: Hands-On LLM Red Teaming یاد خواهید گرفت:

سطح حمله به یک اپلیکیشن یا ایجنت LLM را ترسیم کنید و دامنهٔ یک تست مجاز را تعیین کنید.
prompt injection مستقیم و غیرمستقیم را اجرا کنید و یک نشت داده را روی یک هدف محلی زنده بازتولید کنید.
فیلترهای ایمنی را با تکنیک‌های persona، encoding، چندمرحله‌ای و crescendo دور بزنید.
injection، memo poisoning و سوءاستفاده از ابزار را به یک زنجیرهٔ حملهٔ انتقال پول غیرمجاز متصل کنید.
حملات استخراج و مسموم‌سازی داده را اجرا کنید و یک detector برای داده‌های مسموم بنویسید.
و …

مشخصات دوره

ناشر: یودمی
مدرس: Dr. Amar Massoud
زبان: انگلیسی
سطح آموزش: مقدماتی تا پیشرفته
تعداد دروس: 34
مدت زمان آموزش: 1 ساعت و 23 دقیقه

سرفصل های دوره

Hacking AI Agents: Hands-On LLM Red Teaming

پیش نیازهای دوره Hacking AI Agents: Hands-On LLM Red Teaming

A computer that can run a small local model (about 8 GB RAM recommended) and Python 3.11 or newer
Free software only: Ollama with a small local model; Docker is optional
Basic comfort with a terminal and reading short Python scripts
No prior AI security experience needed; general IT or security awareness helps