ادامه پست انواع اتوانکدر
۲.۲. قیود کمتراکم (Sparsity Constraint)
برای اعمال کمتراکم، معمولاً از یکی از روشهای زیر استفاده میشود:
مجازات L1 (L1 Regularization): افزودن مقدار L1-norm به تابع هزینه برای تشویق فعال شدن تعداد محدودی از نورونها
مجازات KL-Divergence: مقایسه توزیع خروجی نورونهای نهان با یک توزیع هدف کمتراکم.
۲.۳. کاربردها
۳. اتوانکدر مقاوم در برابر نویز (Denoising Autoencoder - DAE)
۳.۱. تعریف و ساختار
در اتوانکدر مقاوم در برابر نویز، داده ورودی عمداً با نویز تخریب شده و مدل باید یاد بگیرد که نسخه اصلی داده را بازسازی کند. این رویکرد باعث افزایش مقاومت مدل در برابر نویز و تغییرات تصادفی در دادهها میشود.
۳.۲. استراتژی کاهش نویز
افزودن نویز گاوسی (Gaussian Noise) به ورودی و تلاش برای بازسازی نسخه تمیز آن
حذف پیکسلهای تصادفی در تصاویر ورودی
حذف برخی از کلمات در ورودیهای متنی برای یادگیری جایگزینی صحیح
۳.۳. کاربردها
بهبود کیفیت تصاویر ویدئویی و حذف نویز
بازسازی دادههای خراب یا ناقص در حوزه پزشکی
افزایش دقت مدلهای یادگیری عمیق در محیطهای دارای نویز
۴. اتوانکدر واریاسیونی (Variational Autoencoder - VAE)
۴.۱. تعریف و ساختار
اتوانکدر واریاسیونی (VAE) نوعی مدل مولد احتمالاتی است که علاوه بر کاهش ابعاد دادهها، توزیع احتمالی دادهها را نیز یاد میگیرد. برخلاف اتوانکدرهای معمولی که نمایش فشرده را بهعنوان یک مقدار ثابت خروجی میدهند، در VAE نمایش فشرده بهعنوان یک توزیع احتمال مدلسازی میشود.
۴.۲. تفاوت کلیدی با اتوانکدر کلاسیک
· VAE ویژگیهای نهان را بهصورت یک بردار میانگین (Mean) و انحراف معیار (Variance) مدل میکند.
· از واگرایی کولبک-لیبلر (KL Divergence) برای تنظیم توزیع نهان استفاده میشود.
· VAE توانایی تولید دادههای جدید با توزیع مشابه دادههای اصلی را دارد.
۴.۳. کاربردها
تولید تصاویر جدید با شباهت بالا به دادههای آموزشی
ساخت چهرههای جعلی در سیستمهای Deepfake
فشردهسازی دادههای تصویری و متنی
۵. اتوانکدر متخاصم (Adversarial Autoencoder - AAE)
۵.۱. تعریف و ساختار
اتوانکدر متخاصم (AAE) ترکیبی از اتوانکدر و شبکههای متخاصم مولد (GANs) است. این مدل تلاش میکند فضای نهان را بهگونهای تنظیم کند که از توزیع دادههای ورودی پیروی کند و در عین حال کیفیت بازسازی را نیز حفظ نماید.
۵.۲. نحوه کارکرد
رمزگذار (Encoder) داده را به فضای نهان فشرده میکند
یک متمایزکننده (Discriminator) توزیع دادههای نهان را بررسی میکند و یاد میگیرد که آیا این توزیع به دادههای اصلی شباهت دارد یا نه.
رمزگشا (Decoder) دادههای اصلی را بازسازی میکند.
۵.۳. کاربردها۶. اتوانکدر متراکم (Contractive Autoencoder - CAE)
۶.۱. تعریف و ساختار
اتوانکدر متراکم (CAE) مدلی است که بهطور خاص برای یادگیری نمایشهای مقاوم در برابر تغییرات جزئی دادهها طراحی شده است. در این مدل، تابع هزینه شامل یک مجازات ژاکوبین (Jacobian Penalty) است که از تغییرات زیاد در فضای نهان جلوگیری میکند.
۶.۲. ویژگیها
مقاوم در برابر نویز و تغییرات کوچک در دادهها
یادگیری نمایشهای کلیتر از دادهها
۶.۳. کاربردها
تشخیص تغییرات کوچک در دادههای پزشکی مانند MRI و CT-Scan
یادگیری نمایشهای فشرده و مقاوم در برابر نویز
مقایسه انواع اتوانکدرها
نوع اتوانکدر | ویژگی اصلی | کاربرد اصلی |
Vanilla Autoencoder | بازسازی داده بدون قید خاص | فشردهسازی و کاهش ابعاد |
Sparse Autoencoder | حفظ ویژگیهای مهم داده | استخراج ویژگیهای مهم |
Denoising Autoencoder | یادگیری بازسازی دادههای تمیز | حذف نویز و بازسازی دادهها |
Variational Autoencoder | مدلسازی توزیع احتمالاتی دادهها | تولید دادههای مصنوعی |
Adversarial Autoencoder | ترکیب با شبکههای متخاصم | تشخیص Deepfake و یادگیری ویژگیها |
Contractive Autoencoder | مقاومسازی نمایشهای یادگیریشده | تشخیص تغییرات کوچک در دادهها |