Maven – AI Red Teaming & AI Security Masterclass 2026-8

در تاریخ: 1405/07/16 7:25:24

توضیحات

AI Red Teaming & AI Security Masterclass، دوره آموزش AI Red Teaming و امنیت هوش مصنوعی توسط آکادمی Maven منتشر شده است.دوره AI Red Teaming & AI Security Masterclass یک برنامه آموزشی حرفه‌ای و کاملاً عملی است که بر شناسایی، ارزیابی و کاهش آسیب‌پذیری‌های سیستم‌های مدرن هوش مصنوعی تمرکز دارد. این دوره توسط سندر شولهوف، بنیان‌گذار Learn Prompting و خالق HackAPrompt، طراحی شده است و به شرکت‌کنندگان آموزش می‌دهد چگونه حملاتی مانند Prompt Injection، Jailbreak، Prompt Hacking و سایر ورودی‌های مخرب می‌توانند سیستم‌های هوش مصنوعی را دچار اختلال کنند. فراگیران تجربه عملی در تحلیل نحوه شکست سیستم‌های هوش مصنوعی، شناسایی نقاط ضعف مدل‌ها، ارزیابی ریسک‌ها و استفاده از روش‌های حرفه‌ای امنیت هوش مصنوعی به دست می‌آورند. محتوای دوره بر اساس سناریوهای واقعی حمله و پژوهش‌های مشترک با سازمان‌هایی مانند OpenAI، Anthropic و Google DeepMind توسعه یافته است. علاوه بر تکنیک‌های تهاجمی، دوره به‌صورت ویژه بر طراحی دفاع‌های مؤثر و استقرار ایمن سیستم‌های هوش مصنوعی تمرکز دارد. شرکت‌کنندگان یاد می‌گیرند چگونه مکانیزم‌های اعتبارسنجی، سیستم‌های فیلترینگ، کنترل‌های امنیتی، راهبردهای پایش و فرایندهای ارزیابی را برای محافظت از سامانه‌های هوش مصنوعی در محیط‌های واقعی پیاده‌سازی کنند. از طریق پروژه‌های عملی، شبیه‌سازی حملات و مطالعات موردی واقعی، فراگیران مهارت‌های لازم برای ایمن‌سازی برنامه‌های مبتنی بر هوش مصنوعی مولد و آمادگی برای گواهینامه AIRTP+ را کسب می‌کنند. در پایان، دانشجویان قادر خواهند بود آسیب‌پذیری‌ها را کشف کنند، ارزیابی‌های AI Red Teaming انجام دهند، کنترل‌های دفاعی را پیاده‌سازی کنند و سطح امنیت سامانه‌های مبتنی بر هوش مصنوعی را ارزیابی نمایند.

آنچه خواهید آموخت

درک نحوه شکست و آسیب‌پذیر شدن سیستم‌های مدرن هوش مصنوعی در برابر حملات خصمانه.
شناسایی تکنیک‌های Prompt Injection، Jailbreak، Prompt Hacking و سایر حملات تهاجمی.
انجام تمرین‌های عملی AI Red Teaming در محیط‌های کنترل‌شده.
تحلیل رفتار مدل‌ها برای کشف آسیب‌پذیری‌ها در پرامپت‌ها، کانتکست و یکپارچه‌سازی‌ها.
به‌کارگیری روش‌های ارزیابی امنیت هوش مصنوعی برای سنجش ریسک و مقاومت مدل‌ها.
طراحی مکانیزم‌های اعتبارسنجی، فیلترینگ و دفاع برای برنامه‌های مبتنی بر هوش مصنوعی.
توسعه فرایندهای تکرارپذیر برای ارزیابی و آزمون امنیت AI.
بررسی، بهره‌برداری و رفع آسیب‌پذیری‌های سیستم‌های مبتنی بر هوش مصنوعی.
یادگیری تکنیک‌های عملی امنیت AI متناسب با محیط‌های واقعی تولید.
آمادگی برای دریافت گواهینامه AIRTP+ در حوزه AI Red Teaming.

این دوره برای چه کسانی مناسب است

متخصصان امنیت سایبری علاقه‌مند به امنیت هوش مصنوعی و آزمون‌های تهاجمی.
مهندسان و توسعه‌دهندگان هوش مصنوعی که محصولات مبتنی بر AI ایجاد می‌کنند.
پژوهشگران امنیت و متخصصان Red Team.
متخصصان حوزه AI Safety و حاکمیت هوش مصنوعی.
فعالان حوزه یادگیری ماشین که قصد افزایش امنیت سیستم‌های AI را دارند.
تمام علاقه‌مندان به Prompt Injection، Jailbreak و روش‌های حمله به هوش مصنوعی.

مشخصات دوره AI Red Teaming & AI Security Masterclass

ناشر : Maven
مدرس : Sander Schulhoff
زبان: انگلیسی
سطح آموزش: تمام سطوح
تعداد دروس: 14
مدت زمان آموزش: 11 ساعت و 42 دقیقه

سر فصل های دوره AI Red Teaming & AI Security Masterclass

001 Lesson 1 Introduction to AI Red-Teaming.mp4
001 Notes Intro to AI Red-Teaming.html
002 Introduction to Prompt Hacking.mp4
002 Notes Classical vs AI Cyber.html
003 Kickoff Project Solutions and Q&A.mp4
003 Notes AI Philosophies.html
004 Guest Speaker Joseph Thacker – Defining Real AI Risks Alignment, Safety, and Security.mp4
004 Notes Real-World Harms.html
005 Kickoff Project Tutorial Track.html
005 Lesson 2 Attacking Gen AI.mp4
006 HackAPrompt 1.0 Project Solutions and Q&A.mp4
006 Resources and Recommended Reading.html
007 Guest Speaker Valen Tagliabue – Nudge, Trick, Break Hacking AI by Thinking Like It.mp4
007 Notes Attack Techniques.html
008 Lesson 3 Defending Gen AI.mp4
008 Notes Tokens.html
009 CBRNE Solutions and Q&A.mp4
009 Notes Cyber Harms.html
010 Guest Speaker David Williams-King – How AI Impacts Traditional Cybersecurity.mp4
010 Notes Harms Companies Care About.html
011 Guest Speaker Leonard Tang, CEO of Haize Labs – Frontiers of Red-Teaming.mp4
011 HackAPrompt 1.0 Project.html
012 Lesson 4 Automatic Approaches to AI Red-Teaming.mp4
012 Resources and Recommended Reading (2).html
013 Guest Speaker Richard Lundeen from Microsoft’s AI Red Team & PyRIT Leader.mp4
013 Notes Prompt-based Defenses.html
014 Guest Speaker Johann Rehberger – SpAIware & More Advanced Prompt Injection.mp4
014 Notes Safety Tuning.html
015 Notes Detection Models.html
016 Notes Why Prompt Hacking Occurs.html
017 Notes Sander’s Thoughts.html
018 Notes Builders & Buyers.html
019 Notes Compliance.html
020 Notes Predictions.html
021 Project CBRNE.html
022 Resources and Recommended Readings.html
023 Notes Advanced Jailbreaking and Prompt Injection.html
024 Notes Attack Surfaces.html
025 Notes Multimodal and Indirect Prompt Injection.html
026 Notes Attack Success Rate (ASR).html
027 Notes Automated AI Red-Teaming.html
028 Resources and Recommended Readings (2).html
Week 1.pdf
Week 1.pptx
Week 2.pdf
Week 2.pptx
Week 3.pdf
Week 3.pptx
Week 4.pdf
Week 4.pptx