اعتمادپذیری در یادگیری ژرف
| مدرس: محمدحسین رهبان، امیرنجفی، مهدیه سلیمانی و جمعی از دانشجویان تحصیلات تکمیلی | دوره: هوش مصنوعی |
| زمان ارائه: یکشنبه و سهشنبه ۱۶:۳۰ تا ۱۸:۰۰ | گواهینامه: رسمی |
هدف کلی
هدف از این درس، آشنایی دانشجویان با مفاهیم پیشرفته یادگیری ماشین و یادگیری ژرف است. فرض بر این است که دانشجویان با مقدمهای بر یادگیری ماشین و ژرف آشنا هستند.
سرفصلها
- امنیت در یادگیری ماشین: حملات نمونه خصمانه و روشهای افزایش مقاومت مدل در برابر آنها (۲ جلسه)
- معرفی نمونههای خصمانه
- قابلیت انتقال نمونههای خصمانه
- نمونههای خصمانه در کاربردهای گوناگون
- نمونههای خصمانه در دنیای واقعی
- نمونههای خصمانه جعبه-سیاه
- آموزش خصمانه
- درستییابی مدل
- تشخیص نمونههای خصمانه
- امنیت در یادگیری ماشین: حملات مسموم سازی دادگان آموزش و روشهای دفاعی در برابر آنها (۲ جلسه)
- حملات مسموم سازی دادگان آموزش
- افزایش مقاومت مدل در مقابل حملات مسموم سازی دادگان آموزش
- تشخیص ناهنجاری ( ۲ جلسه)
- کاربرد تشخیص ناهنجاری در صنعت و روشهای پیاده سازی
- معیارهای متداول برای ارزیابی مدلها
- کاربرد شبکههای ژرف برای وظیفهِ تشخیص
- One-class classification, Open-set recognition, Out-of-distribution Detection
- وابستگی جعلی و مفاهیم تعمیم پذیری (۲ جلسه)
- مفهموم تعمیم پذیری در مجموعه دادگان جدید
- تفاوت عملکرد شبکههای عصبی در صورت جا به جایی توزیع
- Spurious Correlation و روشهای پیشنهاد شده برای بهبود عملکرد
- مقاومت در برابر نویزهای خصمانه و غیرخصمانه
ارزیابی
برای اخذ گواهی حضور در دوره، باید قسمتی از تمرینهای هفتگی را حل کنید. در این مورد به محض آماده شدن تمرینها در کانال دوره اطلاعرسانی خواهد شد.
منابع
- C. Bishop. Pattern Recognition and Machine Learning. Springer, 2006.
- A. Ng. Machine Learning Yearning. 2018.
- T. Mitchell. Machine Learning. MIT Press, 1998.
- K. Murphy. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
- T. Hastie, R. Tibshirani, and J. Friedman. The elements of statistical learning. 2nd Edition, 2008.
- Ian Goodfellow, Yoshua Bengio and Aaron Courville, Deep Learning, Book in preparation for MIT Press, 2016.
- Michael Nielsen, Neural networks and deep learning, Preprint, 2016.