Pluralsight – Attacking AI Applications 2026-9

در تاریخ: 1405/07/21 10:21:42

توضیحات

دوره Attacking AI Applications. این دوره آموزشی یک برنامه تخصصی و کاربردی در زمینه امنیت سایبری است که نحوه شناسایی، آزمایش و نفوذ به برنامه‌های کاربردی مبتنی بر هوش مصنوعی را از طریق ارزیابی معماری، تزریق دستور و دستکاری سیستم‌های بازیابی اطلاعات آموزش می‌دهد. این دوره آموزشی به عنوان یک راهنمای جامع و عملی برای متخصصان امنیت سایبری و آزمون‌کنندگان نفوذ طراحی شده است تا نحوه ارزیابی و حمله به نرم‌افزارهای مبتنی بر هوش مصنوعی را فرا بگیرند. برنامه‌های هوش مصنوعی معمولاً مدل‌های زبانی را به اسناد، رابط‌های برنامه‌نویسی، داده‌های کاربران و فرآیندهای کاری متصل می‌کنند. این اتصالات گسترده اگرچه کارایی برنامه‌ها را افزایش می‌دهند، اما مسیرهای حمله جدیدی ایجاد می‌کنند که ابزارها و روش‌های تست وب سنتی قادر به کشف آن‌ها نیستند. این دوره به فراگیران آموزش می‌دهد که چگونه نقشه‌های معماری یک برنامه هوش مصنوعی را به تست‌های نفوذ عملی و کارآمد تبدیل نمایند. در طول این دوره آموزشی، شرکت‌کنندگان در ابتدا با استفاده از نقشه سطح حمله یاد می‌گیرند بخش‌هایی را که احتمال وقوع تزریق دستور و دور زدن محدودیت‌ها در آن‌ها بیشتر است شناسایی کنند. سپس نفوذگران آزمایش‌های تزریق دستور مستقیم و غیرمستقیم را اجرا کرده و توانایی تفکیک میان دور زدن‌های عمومی ایمنی و آسیب‌پذیری‌های واقعی امنیتی را به دست می‌آورند. در بخش‌های پایانی، نحوه دستکاری سیستم‌های تولید افزوده با بازیابی با استفاده از روش‌هایی نظیر پرسازی زمینه، هدایت پرس‌وجو، خروجی اجباری و سناریوهای مسموم‌سازی کنترل‌شده از طریق اسناد مخرب آموزش داده می‌شود. در پایان دوره، فراگیران مهارت‌های لازم برای کشف نقاط ضعف برنامه‌های هوش مصنوعی، نمایش شفاف پیامدهای امنیتی و ارائه گزارش‌های حرفه‌ای را کسب خواهند کرد.

آنچه فرا خواهید گرفت

تبدیل نقشه معماری برنامه‌های هوش مصنوعی به آزمایش‌های عملی برای ارزیابی سطح حمله
اجرای تکنیک‌های تزریق دستور مستقیم و غیرمستقیم و بررسی تاثیر جیلبریک در سیستم‌ها
تفکیک دور زدن‌های عمومی ایمنی از آسیب‌پذیری‌ها و تهدیدات واقعی امنیتی
دستکاری سیستم‌های بازیابی اطلاعات با استفاده از تکنیک‌های پرسازی زمینه، هدایت پرس‌وجو و خروجی اجباری
اجرای سناریوهای مسموم‌سازی کنترل‌شده با استفاده از اسناد منبع مخرب
گزارش‌نویسی حرفه‌ای و شفاف‌سازی پیامدهای امنیتی برای ارائه در پروژه‌های ارزیابی واقعی

این دوره مناسب افرادیست که

آزمون‌کنندگان نفوذ و ارزیابان امنیت سایبری که می‌خواهند مهارت‌های خود را در حوزه هوش مصنوعی توسعه دهند
متخصصان امنیت نرم‌افزار که مایلند نقاط ضعف برنامه‌های متصل به مدل‌های زبانی را شناسایی کنند
پژوهشگران امنیتی که علاقه‌مند به بررسی آسیب‌پذیری‌های جدید در سیستم‌های هوش مصنوعی هستند
مهندسان و معماران سیستم‌های هوش مصنوعی که می‌خواهند امنیت برنامه‌های خود را در برابر attacks مقاوم سازند