Udemy – AI Guardrails & Cybersecurity-AI Agents, Red Teaming HandsOn 2026-3

در تاریخ: 1405/03/18 5:02:33

توضیحات

AI Guardrails & Cybersecurity-AI Agents, Red Teaming HandsOn، دوره آموزش حفاظ‌های امنیتی و امنیت سایبری در هوش مصنوعی: عامل‌های هوش مصنوعی و تیم قرمز عملی توسط آکادمی Udemy منتشر شده است.با توجه به اینکه 77 درصد از شرکت‌ها با نقض‌های امنیتی هوش مصنوعی مولد مواجه هستند، این دوره عملی به شما یاد می‌دهد که با استفاده از Llama Guard 3، AWS Bedrock و CrewAI، حفاظ‌های امنیتی (guardrails) را برای مقابله با تزریق پرامپت، توهم (hallucination) و حملات سایبری در محیط تولید پیاده‌سازی کنید. شما بر فریمورک‌های متن‌بازی مانند GuardrailsAI، Nemo Guardrails و Haystack برای ایمن‌سازی اپلیکیشن‌های واقعی هوش مصنوعی مسلط خواهید شد. برنامه درسی طیف گسترده‌ای از فریمورک‌های حفاظتی را پوشش می‌دهد، از جمله Nemo برای مدیریت گفتگو، GuardrailsAI برای سیاست‌های اعتبارسنجی، AWS Bedrock برای سیاست‌های محتوای سازمانی، Haystack برای ارزیابی RAG و Llama Guard 3 برای تشخیص جیل‌بریک چندوجهی. همچنین یاد خواهید گرفت که از ابزارهای تست امنیتی مانند Garak برای تیم قرمز، CrewAI با OWASP ZAP برای تست نفوذ وب و Prompt-Guard برای مسدودسازی حملات در زمان واقعی استفاده کنید و با پلتفرم‌هایی مانند Hugging Face و مدل‌هایی مانند Phi-3.5-vision-instruct و phi3-hallucination-judge کار کنید.

از طریق پروژه‌های کلیدی و عملی، شما یک فایروال قصد Nemo برای مسدود کردن کوئری‌های محدود، یک اعمال‌کننده HIPAA با GuardrailsAI برای حذف اطلاعات شخصی قابل شناسایی، یک اسکنر آسیب‌پذیری وب با CrewAI برای تشخیص خودکار XSS/SQLi، یک آشکارساز جیل‌بریک چندوجهی برای جلوگیری از حملات تصویری و محتوای نامناسب و یک داشبورد ممیزی RAG برای امتیازدهی به وفاداری بازیابی خواهید ساخت. این دوره به جزئیات حفاظ‌های ورودی، سیستم‌های اعتبارسنجی خروجی، اسکن آسیب‌پذیری با Garak، امنیت سایبری مبتنی بر هوش مصنوعی با CrewAI، حفاظ‌های پلتفرم سازمانی در AWS Bedrock و امنیت و ارزیابی RAG می‌پردازد. این دوره برای توسعه‌دهندگان هوش مصنوعی، دانشمندان داده و متخصصان امنیت سایبری که مشتاق به افزایش درک خود از شیوه‌های اخلاقی و ایمن هوش مصنوعی و به کارگیری این ملاحظات در پروژه‌های دنیای واقعی هستند، ایده‌آل است.

آنچه خواهید آموخت

درک مبانی حفاظ‌های هوش مصنوعی (AI Guardrails) و اهمیت آن‌ها در توسعه اخلاقی هوش مصنوعی.
یادگیری درباره تولید افزوده با بازیابی (RAG) و پایگاه‌داده‌های برداری.
آشنایی با حفاظ‌های ورودی کاربر، شامل تزریق پرامپت و تعدیل محتوا برای نفرت، خشونت و غیره، و روش‌های تشخیص تخلفات.
یادگیری درباره توهم (Hallucination) و نحوه تشخیص آن با استفاده از مدل‌های متن‌باز از Hugging Face.
درک ارزیاب‌های مختلف مانند ارزیاب وفاداری (LLM-As-A-Judge)، ارزیاب SAS، ارزیاب ارتباط متنی و ارزیاب RAGAS.
آشنایی با فریمورک Haystack و پایپ‌لاین آن.
یادگیری نحوه پیکربندی، استقرار و اجرای حفاظ‌ها در AWS Bedrock.
بررسی مدل‌های حفاظتی واقعی با استفاده از Hugging Face و نوت‌بوک‌های Colab.
یادگیری معماری و کسب بینش در مورد فریمورک‌های متن‌بازی مانند GuardrailsAI و NemoGuardrails با پروژه‌های واقعی هوش مصنوعی.
یادگیری پیاده‌سازی حفاظ‌های هوش مصنوعی و فریمورک Nemo در پروژه‌های هوش مصنوعی برای جلوگیری از سوگیری، تضمین حریم خصوصی و افزایش امنیت.

این دوره برای چه کسانی مناسب است

مهندسان هوش مصنوعی و یادگیری ماشین که به دنبال ادغام دستورالعمل‌های اخلاقی و اقدامات امنیتی در مدل‌های هوش مصنوعی خود هستند.
دانشمندان داده و تحلیلگرانی که قصد دارند اقدامات مربوط به حریم خصوصی و یکپارچگی داده‌ها را در اپلیکیشن‌های هوش مصنوعی درک و به کار گیرند.
متخصصان فناوری اطلاعات و کارشناسان امنیت سایبری که به دنبال گسترش دانش خود در زمینه آسیب‌پذیری‌های هوش مصنوعی و مکانیزم‌های حفاظتی هستند.
مسئولان اخلاق و متخصصان انطباق در بخش‌های فناوری که مایل به درک جنبه‌های فنی اخلاق هوش مصنوعی برای تنظیم‌گری و پیاده‌سازی بهتر هستند.
دانشجویان و علاقه‌مندان به فناوری که در مورد تقاطع هوش مصنوعی، اخلاق و امنیت کنجکاو هستند و قصد ساخت راه‌حل‌های مسئولانه هوش مصنوعی را دارند.

مشخصات دوره AI Guardrails & Cybersecurity-AI Agents, Red Teaming HandsOn

ناشر : Udemy
مدرس : Firstlink Consulting
زبان: انگلیسی
سطح آموزش: تمام سطوح
تعداد دروس: 94
مدت زمان آموزش: 7 ساعت و 6 دقیقه

سر فصل های دوره AI Guardrails & Cybersecurity-AI Agents, Red Teaming HandsOn

AI Guardrails & Cybersecurity-AI Agents, Red Teaming HandsOn

پیش نیاز های دوره

For beginners: This course is structured to welcome learners at various levels. If you’re new to AI, we’ll start with foundational concepts, making it an ideal opportunity to dive into ethical AI development with minimal barriers.
Familiarity with programming, preferably in Python, as it’s commonly used for AI development.
Access to a computer with internet connection, capable of running AI development tools and frameworks.
No prior experience with GuardrailsAI or NemoGuardrails is required; this course is designed to introduce these tools from the ground up.