Oreilly – Securing Generative AI 2024-11

در تاریخ: 1403/11/21 2:58:31

توضیحات

دوره Securing Generative AI. این دوره جامع به شما آموزش می‌دهد که چگونه سیستم‌های هوش مصنوعی مولد، به ویژه مدل‌های بزرگ زبانی (LLM) و سیستم‌های تولید محتوا با بازیابی اطلاعات (RAG)، را به صورت ایمن طراحی، توسعه و اجرا کنید. شما با تهدیدات مختلفی که هوش مصنوعی را تهدید می‌کنند آشنا خواهید شد و راهکارهای عملی برای مقابله با آن‌ها را فرا خواهید گرفت. از جمله موضوعاتی که در این دوره پوشش داده می‌شوند، می‌توان به تزریق دستورات مخرب، مدیریت خروجی‌های ناامن، مدل‌های ارزیابی نفوذ و امنیت سیستم‌های RAG اشاره کرد. در این دوره، شما با اصول و بهترین روش‌های امنیت هوش مصنوعی آشنا خواهید شد و قادر خواهید بود تا سیستم‌های هوش مصنوعی خود را ایمن‌تر و مقاوم‌تر در برابر حملات سایبری کنید.

آنچه فرا خواهید گرفت:

امنیت در تمام مراحل: یادگیری نحوه ادغام امنیت در تمام مراحل توسعه، استقرار و عملیات هوش مصنوعی
مهارت‌های عملی: کسب مهارت‌های عملی با استفاده از مثال‌های واقعی از هوش مصنوعی و یادگیری ماشین
تهدیدات هوش مصنوعی: آشنایی با تهدیدات رایج در هوش مصنوعی مانند تزریق دستورات مخرب
امنیت مدل‌های بزرگ زبانی: یادگیری نحوه ایمن‌سازی مدل‌های بزرگ زبانی
امنیت سیستم‌های RAG: حفاظت از سیستم‌های تولید محتوا با بازیابی اطلاعات
ابزارها و تکنیک‌ها: آشنایی با ابزارها و تکنیک‌های مختلف برای امنیت هوش مصنوعی
اصول طراحی امن: درک اصول طراحی امن و اهمیت شفافیت در سیستم‌های هوش مصنوعی

این دوره مناسب افرادیست که:

در زمینه هوش مصنوعی و یادگیری ماشین فعالیت می‌کنند
مسئولیت طراحی و توسعه سیستم‌های هوش مصنوعی را بر عهده دارند
به دنبال افزایش امنیت سیستم‌های هوش مصنوعی سازمان خود هستند
می‌خواهند با تهدیدات و راهکارهای امنیتی در حوزه هوش مصنوعی آشنا شوند

مشخصات دوره Securing Generative AI

ناشر: Oreilly
مدرس: Omar Santos
سطح آموزش: مبتدی تا پیشرفته
مدت زمان آموزش: 3 ساعت و 31 دقیقه

سرفصل های دوره

1. Introduction
Securing Generative AI: Introduction
Lesson 1: Introduction to AI Threats and LLM Security
Learning objectives
1.1 Understanding the Significance of LLMs in the AI Landscape
1.2 Exploring the Resources for this Course – GitHub Repositories and Others
1.3 Introducing Retrieval Augmented Generation (RAG)
1.4 Understanding the OWASP Top-10 Risks for LLMs
1.5 Exploring the MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems) Framework
1.6 Understanding the NIST Taxonomy and Terminology of Attacks and Mitigations
Lesson 2: Understanding Prompt Injection Insecure Output Handling
Learning objectives
2.1 Defining Prompt Injection Attacks
2.2 Exploring Real-life Prompt Injection Attacks
2.3 Using ChatML for OpenAI API Calls to Indicate to the LLM the Source of Prompt Input
2.4 Enforcing Privilege Control on LLM Access to Backend Systems
2.5 Best Practices Around API Tokens for Plugins, Data Access, and Function-level Permissions
2.6 Understanding Insecure Output Handling Attacks
2.7 Using the OWASP ASVS to Protect Against Insecure Output Handling
Lesson 3: Training Data Poisoning, Model Denial of Service Supply Chain Vulnerabilities
Learning objectives
3.1 Understanding Training Data Poisoning Attacks
3.2 Exploring Model Denial of Service Attacks
3.3 Understanding the Risks of the AI and ML Supply Chain
3.4 Best Practices when Using Open-Source Models from Hugging Face and Other Sources
3.5 Securing Amazon BedRock, SageMaker, Microsoft Azure AI Services, and Other Environments
Lesson 4: Sensitive Information Disclosure, Insecure Plugin Design, and Excessive Agency
Learning objectives
4.1 Understanding Sensitive Information Disclosure
4.2 Exploiting Insecure Plugin Design
4.3 Avoiding Excessive Agency
Lesson 5: Overreliance, Model Theft, and Red Teaming AI Models
Learning objectives
5.1 Understanding Overreliance
5.2 Exploring Model Theft Attacks
5.3 Understanding Red Teaming of AI Models
Lesson 6: Protecting Retrieval Augmented Generation (RAG) Implementations
Learning objectives
6.1 Understanding the RAG, LangChain, Llama Index, and AI Orchestration
6.2 Securing Embedding Models
6.3 Securing Vector Databases
6.4 Monitoring and Incident Response
Summary
Securing Generative AI: Summary